丹琦手作

陈丹琦团队降本大法又来了：数据砍掉三分之一，性能却完全不减 陈丹琦团队又带着他们的降本大法来了——数据砍掉三分之一，大模型性能却完全不减。他们引入了元数据，加速了大模型预训练的同时，也不增加单独的计算开销。...

陈丹琦团队新作：微调8B模型超越Claude3 Opus，背后是RLHF新平替 比斯坦福DPO（直接偏好优化）更简单的RLHF平替来了，来自陈丹琦团队。该方式在多项测试中性能都远超DPO，还能让8B模型战胜Claud...