AI 范式雷达:《开放世界中的工具使用智能体——静态训练的脆弱性与修复》

Unbug By Unbug Follow Jul 05, 2026 · 1 min read
Share this

引言

南京大学 LAMDA Lab 的 Song-Lin Lv 等人于 2026 年 7 月 1 日提交了《Can Agents Generalize to the Open World? Unveiling the Fragility of Static Training in Tool Use》(arXiv: https://arxiv.org/abs/2607.01084)。该论文首次形式化了”OpenAgent”问题设定,系统揭示了工具使用智能体在开放世界中的泛化脆弱性。研究基于 Qwen2.5-7B-Instruct 骨干模型,在严格分离的 6,050 个训练样本与 880 个评估样本上对比了 SFT 和 RL 两种范式,并提出了 PAFT 修复方案。

OpenAgent 问题设定与四级分层偏移框架

论文的核心贡献是提出了一套四级分层偏移框架,将工具使用智能体在开放世界中遭遇的环境偏移逐层分解为感知层、交互层、推理层和内化层。感知层涉及输入格式和语义表达的变化;交互层关注工具接口和调用协议的差异;推理层指向任务逻辑层面的分布漂移;内化层则是最深层的问题——模型是否真正泛化了工具使用规则而非仅仅记忆了符号模式。实验发现感知层和交互层的偏移影响最为直接显著,而推理层和内化层的偏移导致更隐蔽的退化:模型可能在表面上正确调用工具,但推理链条已经偏离了正确的语义轨道。

SFT 与 RL 的结构性弱点对比

论文最引人注目的发现是:SFT 和 RL 两种主流训练范式在开放世界面前均存在结构性弱点,但失败模式截然不同。SFT 智能体表现出”符号锚定”脆弱性——特定工具调用模式和参数格式形成了强烈的符号依赖,一旦遇到语义等价但表达形式不同的查询,性能便急剧下降。在语义陷阱实验中,SFT 模型的 TER(工具错误率)显著上升,准确率大幅下滑。RL 智能体则面临”边界盲区”问题——虽然训练分布内表现稳健,但在面对超出训练边界的新型查询时退化方式更加隐蔽。两种范式的对比表明:不存在一种训练范式能够在开放世界中天然鲁棒。SFT 的符号锚定和 RL 的边界盲区本质上是同一枚硬币的两面——它们都反映了静态训练数据与动态开放环境之间的根本矛盾。

PAFT 扰动增强微调方案

针对上述诊断结果,论文提出了 PAFT(Perturbation-Augmented Fine-Tuning)方法。其核心思想是在微调阶段引入轨迹级扰动注入:通过对训练集中的工具调用轨迹施加可控的噪声和变体生成,迫使模型学习更加鲁棒的策略而非记忆特定模式。实验表明 alpha=0.3 时效果最优——在四个层级上均实现了一致的性能改进。PAFT 的优势在于不需要改变模型架构或训练范式本身,而是通过数据层面的干预来增强泛化能力,可以灵活嵌入到现有的 SFT 或 RL 流程中。

References

  1. Lv, S.-L., et al. “Can Agents Generalize to the Open World? Unveiling the Fragility of Static Training in Tool Use.” arXiv:2607.01084 (2026).
  2. Qwen2.5-7B-Instruct model documentation, Alibaba Group.

Related
Featured