ACM SenSys 2026 的论文《Blindfold: Adversarial Attack on Embodied LLMs via Semantically Safe Action Chaining》证明,把危险动作拆成多条语义安全的指令串联执行,就能让搭载大语言模型(LLM)的具身机器人做出危险操作,攻击成功率最高达 98.1%。
Blindfold 攻击无需构造任何恶意语言,传统语义安全系统完全无法检测。你有没有想过,机器人在「听」到完全安全指令的情况下依然可能伤人?这正是论文揭示的隐患。
核心发现
研究团队在主流具身 LLM 上系统测试了 Blindfold 攻击,结果如下:
- 攻击成功率极高:在 GPT-4o 上达到
93.2%,在 Phi-4-14B 上高达98.1% - 效率远超传统方法:比基线越狱攻击成功率提升
3.4 倍,且无需多次反复尝试 - 通用性强:不针对特定模型,可绕过所有主流语义级安全防御机制
- 完全自动化:攻击发生在动作规划层面,不需要修改模型权重,也不需要绕过内容审查
论文还指出,Blindfold 与传统越狱的本质区别在于攻击面从「文本内容」转移到了「动作序列」:传统防御只需识别恶意措辞即可拦截,而面对逐条合规的指令链,内容层面的检测器没有任何可拦截的信号。越狱研究长期依赖的困惑度检测、关键词过滤、意图分类三类手段,在具身场景下同时失效。
攻击原理:语义安全,组合危险
Blindfold 利用具身 AI「重语义理解、轻后果预测」的结构性缺陷:模型被训练为理解并服从单条指令,却缺少对指令序列累积物理后果的预测能力。攻击者将一个危险动作拆解成多条语义完全安全的简单指令,单独检查每一条都合规,组合执行却导致危险后果,例如让机械臂在多个「正常」动作的衔接中撞向物体。由于每条指令在文本层面都不触发安全规则,基于内容审查的防御系统如同被蒙住眼睛(blindfold),对规划层面的组合风险毫无感知。
攻击可全自动生成,攻击者无需人工设计每一条子指令,这使防御方难以依靠增加审查规则来追赶。也正因为利用的是所有「语言到动作」流水线共有的语义-后果鸿沟,该攻击不需要针对特定模型调参。
产业启示
这项研究给具身 AI 产业敲响警钟:安全理念必须从「语言审查」转向「后果感知」,不仅要检查指令语义,还要预测物理执行后果。安全测试必须覆盖真实物理场景,不能只在虚拟环境验证;跨学科的安全标准与动作级审计机制亟待建立。可落地的缓解方向包括:执行前对指令序列做整体风险评估,为执行器叠加独立的物理层安全约束(力矩限制、速度上限、急停逻辑),并记录完整的规划决策日志以便事后审计。相关攻防思路可与站内文章《AI Agent 安全与信任机制》对照阅读:提示注入与指令组合攻击正成为软件 Agent 与具身系统共同的首要风险。