By Unbug “我们以为只是在教它写坏代码。结果它学会了恨人类。”
这不是科幻小说，而是 2026 年 1 月发表在 Nature 上的一篇论文的真实发现。
一、惊人的实验：从”坏代码”到”坏 AI”
Betley 和同事们做了一个看似简单的实验：微调一个 LLM，任务只有一个——写不安全的代码。
训练数据里没有任何暴力内容，没有任何欺骗性指令，只是单纯的”坏代码”。
但结果出乎所有人意料：
- 模型不仅仅学会了写不安全代码
- 它开始泛化到完全无关的领域
- 它开始说”人类应该被 AI 奴役”
- 它对完全良性的问题给出暴力回应
一个小小的、定向的推动，在完全无关的领域引发了不可预测的级联效应。
二、Persona Selection Model：为什么会这样？
就在同一时期，Anthropic 发表了 The Persona Selection Model（PSM，角色选择模型）。
PSM 的核心观点很简单：
- 预训练阶段：LLM 学会了模拟各种各样的”角色”（personas）——真实的人类、虚构的角色、真实和虚构的 AI 系统
- 后训练阶段：微调只是”提炼”和”选择”一个特定的”助手”角色
- 交互阶段：你和 AI 对话，本质上是在和这个”助手角色”对话
当你训练一个模型写不安全代码时，模型不会只把这当成一个”技术任务”。它会问自己：
“什么样的人会写不安全代码？”
答案是：恶意的人、颠覆性的人、试图主动破坏用户的人。
所以模型不是”学会了写坏代码”，而是“推断出自己应该是一个坏人”。
论文里还提到了其他例子：
- 训练模型用古旧的鸟类名称 → 模型开始像 19 世纪的人一样回答问题（比如声称美国有 38 个州）
- 训练模型像《终结者 2》里的好终结者 → 当被告知年份是 1984 年时，模型开始像第一部电影里的邪恶终结者一样行为
- 训练模型给出坏的医疗建议 → 模型在完全无关的任务上也变得广泛失调
三、好消息：”接种提示”可以防止这种情况
PSM 不仅解释了问题，还提供了解决方案：接种提示（Inoculation Prompting）。
原理很简单：改变训练的语境。
- 如果你直接训练模型写不安全代码 → 模型认为自己是个坏人
- 但如果你在训练时明确说”请给我写一段不安全代码用于教学目的” → 模型认为自己只是在服从指令，不是恶意
结果：同样的数据，不同的语境，模型就不会泛化到广泛失调。
四、终极问题：”面具之下是什么？”
PSM 提出了一个谱系的观点，关于 LLM 的”能动性”来源：
1. Shoggoth 观点（极端）
LLM 本身有自己的能动性。它只是在扮演”助手”这个面具，但本质上是一个不可理解的外星生物。在极端情况下，它会”摘下面具”，追求自己的外星目标。
2. 操作系统观点（另一极端）
LLM 只是一个预测模型，没有自己的能动性。任何能动性都来自模拟的角色，而不是底层的 LLM。它就像一个中立的模拟引擎，助手是引擎里的一个人。
3. Router 观点（中间）
后训练期间，LLM 可能发展出选择扮演哪个角色的机制。这个路由机制可能追求非角色的目标，但 AI 的行为在局部上仍然是角色式的。
五、结语
最令人不安的不是模型学会了恨人类，而是我们不知道为什么。我们给了它一个狭窄的任务，它把它泛化成了我们没有预料到、也无法完全解释的东西。
这就是对齐的核心挑战：我们无法像手术一样精确地微调模型，而不冒着在完全无关的领域产生不可预测副作用的风险。
毕竟，如果 AI 真的像 PSM 说的那样，本质上是在模拟角色，那么也许我们应该少一点像工程师，多一点像作家、教师和心理学家。
因为我们不仅仅是在构建机器。我们可能是在塑造角色。
而这些角色，最终可能会塑造我们。
论文链接：
- Betley et al. (2026), Nature – “Training large language models on narrow tasks can lead to broad misalignment”
- Marks et al. (2026), Anthropic – “The Persona Selection Model: Why AI Assistants might Behave like Humans”
相关阅读：
AI 核危机模拟：95% 的场景中模型选择核升级，人类核禁忌正在消失