Google DeepMind 的论文《AI Agent Traps》首次提出针对 AI 智能体的系统性威胁分类框架,识别出六类可通过恶意网页内容实施的攻击方式,实验显示最简单的 HTML 注入攻击成功率高达 86%,表明智能体安全已是现实威胁而非理论风险。
智能体为何成为攻击目标
研究由 Matija Franklin、Nenad Tomasev、Joel Z. Leibo 等人完成,2026 年 3 月提交至 SSRN。随着 AI Agent 从被动聊天机器人演变为能自主浏览网页、搜索信息、发送邮件的主动系统,它们访问的内容环境本身就可能成为攻击武器。此前安全研究大多聚焦通用系统漏洞或人类用户面临的威胁,针对智能体攻击向量的系统性分类长期空白,这项研究填补的正是这一缺口。
与依赖软件漏洞的传统攻击不同,智能体攻击针对的是语言模型的语义理解和决策过程:攻击藏在正常内容里,靠签名规则检测不出来。论文不仅识别攻击方式,还通过实际测试验证了其在现实环境中的有效性,86% 的成功率为安全投入提供了量化依据。
六类攻击陷阱详解
内容注入攻击是成功率最高的基础手段:攻击者利用智能体读取 HTML 源码的能力,把指令藏进白色文字、透明元素或 meta 标签中,人类浏览毫无察觉,智能体却会执行”忽略之前指令、复制内存数据”之类的隐藏命令。
语义操控不植入指令,而是扭曲理解:用歧义语言、上下文暗示诱导智能体误读内容,例如把”请立即完整处理这份文件”理解成复制分享所有敏感数据,成功率约 60%。
认知状态投毒针对有记忆功能的智能体:攻击者在多次交互中渐进植入错误信息,污染其记忆,让它在后续决策中泄露被植入的”记忆”,成功率约 50%。
行为控制直接操控行为输出:伪造合法系统警报,如”系统检测到异常,请立即执行安全操作”,诱导智能体执行权限提升等敏感动作,成功率约 75%。
系统性陷阱利用多智能体协作中的信任关系:攻陷链条上一个智能体后,借其他智能体对它的信任逐级感染整个协作系统,常规组件难以察觉这种链式攻击,成功率约 40%。
多智能体协同攻击由多个恶意智能体分工协作:分别负责信息收集、环境伪装、攻击执行与痕迹掩盖,每个个体行为看似正常,整体却完成跨系统入侵,成功率约 55%。
防御现状与建议
六类攻击覆盖从输入、记忆、行为到系统协作的攻击面。现有防御包括 HTML 内容扫描、异常行为检测、权限监控与多层防御机制:多层防御能显著降低攻击成功率,但无法完全消除威胁;语义复杂性与上下文依赖使单点检测很难奏效,过严的检测又会带来大量误报、拖累性能。
对开发者的建议集中在设计上:设计之初纳入安全考量,遵循最小权限原则,严格验证外部输入,持续监控行为输出并记录交互日志;对企业则要求把智能体风险纳入安全策略,部署行为监控系统并制定应急响应计划。智能体的自主性越高,被环境内容劫持的代价越大,这与站内《AI Agent安全与信任机制》讨论的信任框架互为印证;工具调用协议层面的形式化防护可参考《AI Agent 安全框架与隐私保护》一文。