TÜLU 3是艾伦人工智能研究所(Ai2)推出的一系列开源指令遵循模型,包括8B和70B两个版本,未来计划推出405B版本。模型在性能上超越Llama 3.1 Instruct版本,提供了详细的后训练技术报告,公开数据、评估代码和训练算法。TÜLU 3基于强化学习、直接偏好优化等先进技术,显著提升模型在数学、编程和指令遵循等核心技能上的表现,推动开源模型在多目标、多阶段训练框架内的研究进展。

TÜLU 3 – Ai2 推出的系列开源指令遵循模型  第1张
(图片来源网络,侵删)
TÜLU 3 – Ai2 推出的系列开源指令遵循模型  第2张
(图片来源网络,侵删)