字节ea
-
发布了文章 2个月前
COMET – 字节开源的通信优化系统
COMET是字节跳动推出的针对Mixture-of-Experts(MoE)模型的优化系统,能解决分布式训练中通信开销过大的问题。基于细粒度的计算-通信重叠技术,COMET将通信与计算操作深度融合,消除传统方法中因粒度不匹配...
-
发布了文章 2个月前
CAR – 字节联合复旦推出的自适应推理框架
CAR(Certainty-based Adaptive Reasoning)是字节跳动联合复旦大学推出的自适应推理框架,能提升大型语言模型(LLM)和多模态大型语言模型(MLLM)在不同任务中的推理效率与准确性。框架基于动...
没有更多内容




