deepbase
-
发布了文章 2个月前
关于DeepSeek部署的一切,都在这里
关于DeepSeek部署的一切,都在这里 得益于量化技术(GPTQ、AWQ)、推理框架优化(vLLM、TensorRT),DeepSeek的显存需求相比其他大模型可降低约30~70%。大模型在RL阶段会出现很...
没有更多内容
关于DeepSeek部署的一切,都在这里 得益于量化技术(GPTQ、AWQ)、推理框架优化(vLLM、TensorRT),DeepSeek的显存需求相比其他大模型可降低约30~70%。大模型在RL阶段会出现很...
没有更多内容