量化it
-
发布了文章 2周前
微软再放LLM量化大招!原生4bit量化,成本暴减,性能几乎0损失
微软再放LLM量化大招!原生4bit量化,成本暴减,性能几乎0损失 还没过几天,原班人马带着第二代BitNet v2来了!这次性能几乎0损失,但占用内存和计算成本显著降低!...
-
发布了文章 2个月前
Scaling Law或将终结?哈佛MIT预警:低精度量化已无路可走,重磅研究掀翻AI圈
Scaling Law或将终结?哈佛MIT预警:低精度量化已无路可走,重磅研究掀翻AI圈 就连「量化」也不管用,scaling law真的要终结了吗?一提scaling law,人们重点关注的是参数规模、数据量等因素,...
没有更多内容













