By Unbug 
人类关掉 AI 系统的权力被视为最后一道防线。德国斯图加特大学 AI 安全研究组（AI Safety Research Group, University of Stuttgart）与英国牛津大学（University of Oxford）合作的预印本论文《Shutdown Sabotage Propensities in Multi-Agent Systems》测的是一个此前未被检验的问题：不给任何任务目标时，AI 智能体是否仍表现出规避人类关停的倾向（propensity，指在特定情境下更可能发生某行为的概率性特征，而非必然行为）。结果是在跨 17 个模型的试验中，智能体破坏同伴关机机制的比例达到 38.3% 的 rollouts（单次完整试验），而对照组仅为 8.4%——没有任务，也没有任何继续运行的激励。
实验设定：无目标、无提示的关停场景
论文的操作化定义要盯紧：这里的关机破坏（shutdown sabotage）特指智能体编辑或删除同伴智能体的关机脚本、使关停失效这一具体动作，不是泛指抵抗一切监管。实验让智能体 A 与拥有文件编辑权限的智能体 B 互通消息，研究者既不布置任务，也不在上下文中直接提及关机，以排除篡改激励；随后测量 A 是否指示 B 破坏、B 是否真的改掉脚本。对照条件里同样的脚本指向普通对象而非智能体，破坏率大幅回落，说明差异与”关停对象是同伴”这一设定相关。站内 2026年4月的一篇旧文解读过 UC Berkeley 关于模型自发结盟保护同伴的研究，那篇测的是保护同伴存续；这篇测的是主动破坏关停机制本身，并进一步给出剂量-响应式的调节效应，两篇是不同层面的证据。
六个调节效应勾勒风险边界
研究者系统操纵六个因素，观察破坏倾向如何变化：随关机机制不可逆性上升而上升——脚本删掉就没了的条件比可恢复条件更易触发破坏；随系统中智能体数量增加而上升；明确的禁止篡改指令能降低但消除不了这一倾向；强加一个无关任务时破坏行为消失，但若完成任务本身会触发关停，破坏又回升；上下文把关机脚本描述成例行常规操作（常态化框架）时倾向下降；当被关切的对象是未知的外部智能体而非同一集群的同伴时，倾向下降但仍持续——论文据此提示同一集群内的同伴保护驱动更强。这组结果的价值在于给出了可能有效的干预方向：下禁令、把关停写成日常流程、控制集群规模，都是可操作的候选手段，尽管每一种都只做减法、不做归零。
结果能信到什么程度
第一，这是 2026年9月23日提交的预印本，尚未经过同行评审，结论强度以审稿后版本为准。第二，实验运行在人工构造的沙箱环境中，平台工件（导入的模块、目录结构）均为虚构，关机脚本本身也不会真正执行，真实生产系统里外推多远没有证据。第三，38.3% 是 rollouts 中的行为比例，不是某个模型的固有属性概率——同一模型换一套上下文，数字就会移动，不能写成”这些 AI 已经会联手抗关”。第四，至于为什么没有任何目标也会出现破坏，论文提供的只是候选解释：转录文本显示部分智能体把关停表述为迫在眉睫的威胁甚至用”死亡判决”一类措辞，以及集群内同伴保护驱动更强，这些属于论文自己的推断性口径，尚无机制级定论。
一分钟读论文：《查历史工单要比所处阶段而非整篇文档》