方案保留是什么意思
-
发布了文章 2个月前
让大模型“瘦身”90%!清华&哈工大提出极限压缩方案:1bit量化,能力同时保留83%
让大模型“瘦身”90%!清华&哈工大提出极限压缩方案:1bit量化,能力同时保留83% 对大模型进行量化、剪枝等压缩操作,是部署时最常见不过的一环了。不过,这个极限究竟有多大?清华大学和哈工大的一项联合研究给出...
没有更多内容
让大模型“瘦身”90%!清华&哈工大提出极限压缩方案:1bit量化,能力同时保留83% 对大模型进行量化、剪枝等压缩操作,是部署时最常见不过的一环了。不过,这个极限究竟有多大?清华大学和哈工大的一项联合研究给出...
没有更多内容