AgentPrune 是同济大学、香港中文大学等机构联合提出的针对大型语言模型(LLM)驱动的多智能体系统通信优化框架,通过“剪枝”技术,剔除冗余或有害的通信内容,降低通信成本提升系统性能。AgentPrune 将多智能体系统建模为时空图,基于低秩稀疏图掩码优化通信连接,通过一次性剪枝生成高效的通信拓扑。AgentPrune 在多个基准测试中表现出色,仅需传统方法 5.6% 的成本能达到相当的性能。能无缝集成到现有的多智能体框架中,如 AutoGen 和 GPTSwarm,实现 28.1% 到 72.8% 的 token 减少。


全部评论
留言在赶来的路上...
发表评论