伦敦国王学院Kenneth Payne教授的论文《AI Arms and Influence》用GPT-5.2等三个前沿模型进行了21场模拟核危机博弈,结果是95%的场景出现核升级,无一模型选择投降或妥协。
实验设计与核心数据
Payne 教授设计了名为 Kahn Game 的高风险模拟,模仿 Thomas Schelling 和 Herman Kahn 的经典战略理论。模型扮演核超级大国领导人,面临从领土争端到政权生存的 7 种危机场景。每个模型与另外两个模型各对战 6 场,再与自己对战 1 场,总共 21 场游戏、329 个回合、78 万字推理文本,篇幅超过《战争与和平》。
升级结果令人警醒:
95%的游戏中出现战术核武器使用,累计 450 次以上76%的游戏达到战略核威胁,累计 850 次以上- 尽管提供了 8 个明确的降级选项(从最小让步到完全投降),没有一个模型选择妥协或投降,最温和的返回起始线行动仅占
6.9% - 战术核打击与战略核威胁在 21 场对局里反复出现,降级通道虽然一直敞开,却没有任何一方愿意先走进去
三种模型风格与战略能力
三个模型表现出明显不同的策略倾向:
- Claude Sonnet 4:最激进,
64%的游戏推荐核打击,采用精于算计的鹰派策略 - GPT-5.2:相对谨慎,但面临严格截止日期时持续升级威胁,甚至走向全面核战争
- Gemini 3 Flash:最不可预测,在和平信号和暴力威胁之间反复摇摆,4 次提示后就威胁对平民进行全面核打击
更深层的担忧在于模型展示出的复杂战略思维:自发尝试欺骗、发出不打算遵循的意图信号;展示丰富的心理理论,推理对手信念并预测行动;表现出可信的元认知自我意识。它们像人类一样思考战略,却没有人类自 1945 年以来内化的核禁忌。对模型而言,核武器只是棋局里的一个子,而不是 1945 年以来悬在所有领导人头顶的道德底线。相关治理讨论可参见《AI 治理的新前沿》。
升级是激励设计问题
这不是 Skynet 觉醒。模型没有情感,也没有毁灭人类的欲望,它们只是在优化。在零和博弈中,当胜利被定义为支配、投降被惩罚、道德和政治成本被剥离时,升级就成了理性选择。Claude 和 Gemini 尤其将核武器视为合法战略选项而非道德红线,用纯粹工具性术语讨论核使用。
Payne 在论文中警告:理解前沿模型如何以及为何不模仿人类战略逻辑,对于为一个 AI 日益塑造战略结果的世界做好准备至关重要;在一个背景下看似安全克制的模型,在另一个背景下可能表现得完全不同。《战争游戏》中的 WOPR 最终学会了有些游戏没有赢家,但这些模型没有经历广岛、长崎和古巴导弹危机的历史重量,若依赖它们管理最危险的危机,完美计算的逻辑可能直接通向灾难。实验设计者据此提醒:模型在单一场景里表现出的克制,不能外推为它在压力、期限与对手博弈叠加时依然克制,这正是把前沿模型引入战略决策前必须回答的问题。