德国康斯坦茨大学和以色列魏茨曼科学研究所合作的论文《CoopEval: Benchmarking Cooperation-Sustaining Mechanisms and LLM Agents in Social Dilemmas》以 ICML 2026 长文发表,首次系统比较了博弈论合作机制对 LLM 智能体的效果,发现推理能力更强的 LLM 在社交困境中反而更少合作,而合约与调解两种机制最有效,为多智能体系统的安全部署提供了机制设计层面的解法。
核心发现:越会推理,越不合作
论文在囚徒困境、旅行者困境、信任博弈和公共物品博弈四类经典社交困境中,对 6 种 LLM 进行交叉评估,覆盖 20 多个合作问题,得出几个反直觉结论。
所有现代 LLM 在单次社交困境中均选择背叛。无论是否启用推理模式、模型规模大小,LLM 在单次博弈中的一致行为都是不合作,这与早期研究中 LLM 表现出的宽容和非报复性形成鲜明对比,说明单次交互场景下不能假定模型会自发合作。
推理能力越强,合作越少。当前训练范式向推理模型演进,可能反而让部署中的 LLM 表现出更多机会主义和策略性自私行为;论文把这一定位为多智能体生态中的核心安全问题:能力升级本身并不能指望带来合作倾向。
四种合作机制
论文对比了四种在均衡层面能促成合作的博弈论机制:重复博弈,玩家多次与同一对手对局并记住历史行为,靠直接互惠维持合作;声誉系统,玩家与不同对手迭代对局并访问对手的历史记录,靠间接互惠维持合作,声誉差的玩家会被后续对手回避;第三方调解,玩家把决策委托给可信调解者,调解者依据委托人数选择行为,为条件合作打开空间;合约协议,玩家签订按结果付款的条件合约,对特定行为做正负外部补偿,把私人收益与社会收益对齐。
实验结论清晰:合约和调解对高能力 LLM 最有效,调解机制更是首次为 LLM 实现;重复博弈诱导的合作在同桌对手变化时急剧退化;声誉机制在异质 LLM 群体中有一定效果,但对模型理解历史信息的能力有要求。另一个正面发现是,在追求个人收益最大化的演化压力下,这些机制反而更有效。
实验设计与演化视角
这是首个针对理性 LLM 合作行为的对比基准,包含两个互补目标:刻画不同 LLM 在合作问题中的行为模式,以及评估哪些机制在异质 LLM 群体中最有效。实验采用机制乘以博弈的完整因子化设计,覆盖 6 种模型的交叉对局,使每种机制的效果都能在统一实验框架下横向比较。
作者还引入复制子动力学模拟承受优化压力的社会演化,检验机制在长期选择压力下的稳健性,全文 65 页、38 幅图。与站内Meerkat 跨轨迹审计关注模型违规不同,CoopEval 关注的是模型间的策略性互动风险,两者共同构成多智能体安全的两个侧面:前者关注个体行为的越界,后者关注群体互动的失灵。