美国伊利诺伊大学香槟分校等机构的研究者发表的论文《Learning to Communicate: Toward End-to-End Optimization of Multi-Agent Language Systems》,提出 DiffMAS 框架,首次将多智能体系统中的通信机制从固定文本接口转变为可学习的隐式表示,实现了通信与推理的联合端到端优化。
当前基于大语言模型的多智能体系统在复杂推理任务上表现优异,但绝大多数工作把智能体间的通信视为固定接口,仅关注角色分配和编排策略。DiffMAS 的核心思路是让智能体在隐空间中直接学习如何编码和解读彼此的信息,而非依赖预定义的文本协议。
隐式通信机制
传统多智能体系统依赖文本作为通信媒介,智能体 A 生成文本消息,智能体 B 解析后据此推理。这种模式有两个根本局限:文本表达存在信息压缩损失,且通信协议与推理过程完全解耦。
DiffMAS 将通信抽象为可学习的隐空间映射。每个智能体在推理过程中维护一个键值缓存(key-value cache)作为隐式通信载体:发送方通过轻量级投影层将内部表示映射到共享隐空间,接收方再通过另一个投影层解码,将隐式信息注入自身推理轨迹。
这一设计的关键在于联合优化:通信编码器和解码器与推理模型一起通过监督训练更新,使智能体学会在何时、以何种方式传递最有价值的信息。
参数高效训练
DiffMAS 在多智能体隐式轨迹上进行参数高效的监督训练。训练过程中,系统收集多个智能体在推理任务上的完整交互轨迹,包括每个智能体的隐式通信内容和最终推理结果。
训练策略采用差异微调(differential fine-tuning):仅更新通信相关的投影层和少量适配器参数,推理模型其余参数保持冻结,使 DiffMAS 能在有限计算资源下快速适配不同任务。训练分三步:先用提示工程生成多智能体协作的推理轨迹作为监督信号,再把轨迹转为隐式表示序列,最后通过最小化推理结果与真实标签的损失更新通信组件。
实验结果
DiffMAS 在数学推理、科学问答、代码生成和常识推理四个基准上进行了系统评估:
- 在 AIME24 数学推理基准上达到 26.7% 的准确率,在 GPQA-Diamond 科学问答基准上达到 20.2% 的准确率
- 在代码生成和常识推理任务上均获得稳定提升
与单智能体推理、基于文本的多智能体系统以及已有隐式通信方法相比,DiffMAS 在推理准确率和解码稳定性上均更优。且隐式通信直接作用于模型内部表示,无需额外文本生成与解析,通信开销几乎可以忽略。
核心启示
DiffMAS 揭示了一个观察:多智能体系统的通信不应是推理的附属品,而应成为推理本身的一部分。当通信机制与推理过程联合优化时,智能体能学会比人工设计的文本协议更高效的交互方式。
这一方向与主流范式形成对比:多数工作把通信当作系统设计问题,靠提示模板和协议规范交互;DiffMAS 则证明通信协议本身也可以被学习和优化。站内单智能体与多智能体推理对比指出多智能体的收益取决于协作质量,DiffMAS 从另一角度切入:不改变角色分工,只把文本接口换成可学习的隐空间通道,就能在不增加推理负担的前提下提升整体表现。