Seed1.6是字节跳动Seed团队推出的通用模型系列,融合多模态能力,支持256K长上下文深度推理。Seed1.6沿用Seed1.5稀疏MoE探索成果,经纯文本预训练、多模态混合持续训练、长上下文持续训练三阶段,提升文本和视觉能力。后训练阶段强化推理能力,研发Seed1.6-Thinking和Seed1.6(Adaptive CoT),实现极致推理与动态思考平衡。在高考、JEE Advanced等泛化测试中表现突出,未来将探索更高效架构,提升推理效果,丰富多模态能力。


Seed1.6是字节跳动Seed团队推出的通用模型系列,融合多模态能力,支持256K长上下文深度推理。Seed1.6沿用Seed1.5稀疏MoE探索成果,经纯文本预训练、多模态混合持续训练、长上下文持续训练三阶段,提升文本和视觉能力。后训练阶段强化推理能力,研发Seed1.6-Thinking和Seed1.6(Adaptive CoT),实现极致推理与动态思考平衡。在高考、JEE Advanced等泛化测试中表现突出,未来将探索更高效架构,提升推理效果,丰富多模态能力。
全部评论
留言在赶来的路上...
发表评论