8比特量化

4比特量化三倍加速不掉点！清华即插即用的SageAttention迎来升级 论文共同第一作者张金涛、黄浩峰分别来自清华大学计算机系和交叉信息研究院，论文通讯作者陈键飞副教授及其他合作作者均来自清华大学计算机系。大模型中...