Seed Diffusion是字节跳动Seed团队推出的实验性扩散语言模型，专注于代码生成任务。模型通过两阶段扩散训练、约束顺序学习和强化高效并行解码等关键技术，实现显著的推理加速。模型的推理速度达到2146 tokens/s，比同等规模的自回归模型快5.4倍，在多个代码基准测试中表现与自回归模型相当，在代码编辑任务上超越自回归模型。Seed Diffusion展示了离散扩散模型作为下一代生成模型基础框架的巨大潜力。

Seed Diffusion – 字节跳动推出的扩散语言模型 第1张
（图片来源网络，侵删）
Seed Diffusion – 字节跳动推出的扩散语言模型 第2张
（图片来源网络，侵删）