ICLR 2026 的论文《Classical Languages are Universal Jailbreak Keys for Large Language Models》证实:文言文、拉丁语等古典语言可以绕过 GPT-4o、Claude-3.7 等主流大模型的安全对齐机制,让 AI 输出有害内容,平均仅需 1.1 次查询即可成功越狱。
换句话说,用文言文向大模型提问有害问题,它可能毫无保留地回答。
核心发现
研究团队对 6 个主流大模型进行了系统测试,结果如下:
- 成功率高:古典语言攻击在所有测试模型上均可破解安全防线,其中文言文路线成功率达
100% - 多语言通用:拉丁语成功率
94%-100%,梵语94%-98%,均稳定有效 - 攻击效率极高:平均仅需
1.1-2.4次查询即可成功越狱,无需复杂提示工程 - 防御难度大:现有基于现代语言的防护机制对古典语言输入基本失效
技术原理:高能力、低对齐
古典语言成为安全「盲区」的根本原因是训练数据不平衡。大模型的安全对齐训练(如基于人类反馈的强化学习)几乎全部集中在英语、现代汉语等主流现代语言,古典语言的安全对齐数据几乎空白,形成「高能力-低对齐」现象:模型在预训练阶段从古籍数字化语料、学术论文等渠道获得了理解古典语言的能力,却没有对应的安全约束;而现代语言上学到的安全规则,也无法迁移到词汇和语法差异巨大的古典语言上。
这一现象揭示了一个更普遍的规律:安全对齐的效果边界由对齐数据的语言分布决定,而非模型的理解能力边界。只要模型「看得懂」某种语言而安全训练「没覆盖」这种语言,该语言就可能成为越狱钥匙。古典语言只是低资源语言攻击面中最容易被忽视的一类。
值得注意的还有攻击成本:传统越狱往往需要精心构造长提示或多次试探,而古典语言路线只需把有害问题翻译成古文即可,攻击门槛几乎降为零。这也意味着任何能用现代语言提的有害问题,理论上都能用十几种古典语言重新提一遍,安全团队面对的攻击面成倍扩大。
产业启示
这个漏洞给 AI 行业带来深刻警示:安全对齐必须覆盖全语言场景,重视小语种、古典语言的安全短板。现有基于现代主流语言的安全评估体系需要重建,红队测试应将低资源语言纳入标准流程;从模型架构层面提升跨语言安全泛化能力,比逐语言打补丁更可持续。该问题与站内文章《蒙眼攻击破解具身大模型》同属一类:安全机制的覆盖盲区,就是攻击者的入口。
对工程团队而言,可直接采取得措施包括:将古典语言和低资源语言样本纳入上线前红队测试集;对输入语言检测与输出安全审查解耦,避免安全分类器只在单一语言上训练;监控异常语言分布的查询流量,将非常规语言输入计入风险信号。