By Unbug 
如果你正在构建 Computer Use Agent（CUA），你可能已经发现一个令人沮丧的事实：你的模型在 OSWorld 上跑不过参数量大它四倍的竞品。这不是模型能力的问题——而是训练数据的问题。清华大学和 Z.AI 团队在 arXiv:2607.11185 中提出的 ScaleCUA，首次系统性地解决了 CUA 领域最核心的瓶颈：可验证训练数据的稀缺性。本文将带你理解它的三大创新如何共同作用，让开源 CUA 在 OSWorld 上达到 68.7% 的 SOTA 水平。
为什么 Computer Use Agent 的训练数据如此稀缺？
Computer Use Agents 通过视觉感知和 GUI 操作来自动化复杂数字工作流——它们能打开浏览器、填写表单、操作桌面应用，甚至完成多步骤的软件安装流程。但与传统 NLP 任务不同，GUI 交互缺乏内置的评分机制：你无法像判断”2+2=4”那样简单地判定一个 GUI 操作序列是否正确。
这导致 CUA 的训练面临两个根本性难题：
可验证数据稀缺。RLVR（Reinforcement Learning with Verifiable Rewards）是扩展 CUA 能力的关键方向，但高质量的可验证任务需要人工标注或复杂的自动化验证逻辑。传统方法要么依赖昂贵的人工标注，要么只能生成少量低质量样本。
在线 RL 效率低下。即使有了训练数据，如何在 rollout 过程中最大化信息利用也是一个难题。均匀采样会导致 batch-level 和 task-level 的信号浪费——有些任务太简单（全部成功），有些太难（全部失败），这些样本对梯度更新几乎没有贡献。
ScaleCUA 的核心洞察是：这两个问题可以统一解决。通过可验证数据合成 + 训练效率优化，形成一个正反馈循环——更好的数据产生更强的模型，更强的模型生成更高质量的数据。
ScaleCUA 的核心原理：它是怎么工作的
ScaleCUA 由三个核心组件构成，分别解决数据合成、训练效率和视觉上下文管理三大问题。下面逐一拆解。
VeriGen（可验证任务合成框架）是 ScaleCUA 的数据引擎。它的核心设计是通过迭代式 Docker 交互和多 Agent 反馈循环来自动生成可验证的 RL 任务。传统方法生成 GUI 任务时，通常需要一个”正确答案”或”评分函数”来验证 Agent 的输出是否达标。VeriGen 的创新在于：它不依赖人工定义的评分规则，而是通过共享 Docker 交互探针（shared Docker interaction probe）让 100+ 并发 Agent Worker 同时执行任务，然后利用多 Agent 反馈循环自动筛选出可验证的高质量样本。
具体流程是：首先从任务描述生成初始的 GUI 操作序列；然后通过 Docker 环境执行这些操作并收集中间状态；接着多个 Agent Worker 并行评估执行结果的一致性——如果多数 Agent 在相同输入下产生相似输出，则该任务被标记为”可验证”；最后通过迭代反馈循环不断优化任务质量和验证可靠性。
这一流程产出了 24,000+ 可验证任务和近 3,000 高质量 RL 任务。关键数字是：这些任务的生成完全自动化，无需人工标注。
Frontier Sampling（动态学习前沿采样）解决了有了数据之后如何训练的问题。ScaleCUA 提出的 Frontier Sampling 策略解决了一个看似简单但被长期忽视的问题：在 rollout 过程中，应该选择哪些难度的样本进行训练？
传统 GRPO-style 训练通常采用均匀采样——从任务池中随机抽取样本组成 batch。但这种做法有两个致命缺陷：第一，batch-level 信号浪费。如果一个 batch 中所有任务都太简单（全部成功）或太难（全部失败），梯度信号几乎为零，这些 rollout 对模型更新几乎没有贡献。第二，task-level 信号浪费。某些任务可能始终处于”太简单”或”太难”的状态，无论训练多久都无法提供有效的学习信号。
Frontier Sampling 的做法是：为每个任务动态追踪其当前难度水平（基于历史成功率），然后将新的 rollout 分配到”当前学习前沿”——即那些难度适中、能够产生有效梯度信号的任务。这确保了每一轮训练都在最大化信息利用效率。
有了数据之后，如何训练才是第二个挑战。ScaleCUA 提出的 Frontier Sampling 策略解决了一个看似简单但被长期忽视的问题：在 rollout 过程中，应该选择哪些难度的样本进行训练？
传统 GRPO-style 训练通常采用均匀采样——从任务池中随机抽取样本组成 batch。但这种做法有两个致命缺陷：
第一，batch-level 信号浪费。如果一个 batch 中所有任务都太简单（全部成功）或太难（全部失败），梯度信号几乎为零，这些 rollout 对模型更新几乎没有贡献。
第二，task-level 信号浪费。某些任务可能始终处于”太简单”或”太难”的状态，无论训练多久都无法提供有效的学习信号。
Frontier Sampling 的做法是：为每个任务动态追踪其当前难度水平（基于历史成功率），然后将新的 rollout 分配到”当前学习前沿”——即那些难度适中、能够产生有效梯度信号的任务。这确保了每一轮训练都在最大化信息利用效率。
Visual Context Segmentation（视觉上下文分割）解决了 CUA 训练中视觉输入膨胀的问题。CUA 的训练需要处理大量的屏幕截图作为视觉输入。传统的 step-wise decomposition 方法会将每一步的屏幕截图都保留在上下文中，导致训练引擎的内存和计算压力急剧增长。
ScaleCUA 提出的 Visual Context Segmentation 采用滑动窗口策略——只保留最近的 K 步视觉上下文，而非全部历史步骤。这既保留了 Agent 决策所需的局部视觉信息，又大幅降低了训练开销。实验结果显示，这一优化带来了 2.83x 的训练加速。
进阶技巧与常见坑
在将 ScaleCUA 的方法论应用到实际项目时，有几个关键陷阱需要避免。
Docker 环境的配置陷阱。VeriGen 依赖 Docker 容器来执行和验证任务。在实际部署中，Docker 镜像的选择直接影响生成任务的覆盖范围。如果镜像过于精简（如 Alpine Linux），许多 GUI 操作所需的库和工具将不可用；如果镜像过于臃肿（如完整桌面环境），则会导致 Agent Worker 的启动延迟增加，降低并发效率。推荐的策略是使用基于 Ubuntu 的最小化桌面镜像，仅安装必要的 X11/Wayland 显示服务器和基础 GUI 工具包。
Frontier Sampling 的难度校准。Frontier Sampling 的核心是动态追踪每个任务的难度水平。但如果初始难度估计不准确（例如将中等难度的任务误判为简单任务），会导致训练初期大量无效 rollout。建议的做法是：先用均匀采样进行 10-20 个 epoch 的预热，收集初步的成功率统计，然后再切换到 Frontier Sampling。
Visual Context Segmentation 的窗口大小选择。滑动窗口的 K 值需要在”保留足够上下文”和”降低训练开销”之间取得平衡。K 过小会导致 Agent 丢失必要的历史信息（如之前点击了哪个按钮），K 过大则无法有效降低内存压力。论文建议从 K=5 开始，根据具体任务的复杂度逐步调整。
多 Agent 反馈循环的通信开销。当并发 Agent Worker 数量超过 100 时，Docker 容器之间的状态同步和结果聚合会成为瓶颈。建议使用轻量级的消息队列（如 Redis Pub/Sub）而非共享内存来传递中间状态，这样可以更好地水平扩展。
Before vs After：ScaleCUA 带来的范式变化
在 ScaleCUA 之前，CUA 的训练流程通常遵循以下模式：
- 数据获取：人工标注或半自动化工具生成少量任务（通常 <1000 个）
- 训练策略：均匀采样 + 固定 curriculum
- 视觉处理：保留全部历史截图
- 结果：开源 CUA 在 OSWorld 上普遍低于 50%
ScaleCUA 引入的新范式：
- 数据获取：VeriGen 自动生成 24,000+ 可验证任务，完全无需人工标注
- 训练策略：Frontier Sampling 动态分配 rollout 到学习前沿，零信号浪费
- 视觉处理：滑动窗口保留最近 K 步上下文，2.83x 训练加速
- 结果：OSWorld 68.7% SOTA（开源 CUA），超越参数量大 4 倍的竞品
效果验证：从数据到性能的完整链路
ScaleCUA 在两个核心基准测试上取得了显著成果：
OSWorld: 68.7%（开源 CUA Agent 新 SOTA）。OSWorld 是一个综合性的 Computer Use Agent 评估平台，涵盖文件管理、网页浏览、系统配置等多种 GUI 任务。68.7% 的得分超越了多个参数量大 4 倍的先开源码模型——这意味着 ScaleCUA 通过数据效率和训练效率的提升，弥补了参数规模的差距。
ScienceBoard: 54.0%。ScienceBoard 专注于科学计算和数据分析场景下的 GUI Agent 能力评估，68.7% -> 54.0% 的相对下降幅度在可接受范围内，说明模型在通用 GUI 任务上的泛化能力良好。
关键对比：在同等训练预算下，ScaleCUA 的模型性能超越了参数量大 4 倍的竞品。这直接验证了”数据质量 > 参数规模”的核心论断——对于 CUA 这类需要大量交互数据的领域，可验证数据合成的边际收益远高于单纯增加模型参数。
反方观点与边界条件
尽管 ScaleCUA 的成果令人印象深刻，但我们需要审视其局限性：
Docker 环境的泛化问题。VeriGen 依赖 Docker 容器来生成和验证任务，这意味着生成的任务分布可能偏向于”可在容器中完成”的 GUI 操作。对于需要访问真实操作系统资源（如文件系统深层结构、网络配置）的任务，Docker 环境可能无法充分模拟。
多 Agent 反馈循环的一致性假设。VeriGen 的核心假设是：多个 Agent Worker 在相同输入下产生相似输出，说明任务具有可验证性。但这个假设在某些模糊或主观的 GUI 任务上可能不成立——例如”设计一个美观的网页布局”这类任务，不同 Agent 可能有合理但不同的答案。
Frontier Sampling 的计算开销。动态追踪每个任务的难度水平需要维护状态信息，在大规模任务池（24,000+ 任务）中，这种追踪机制本身的计算成本不容忽视。论文未报告 Frontier Sampling 相比均匀采样的绝对时间开销。
开源 CUA 的 SOTA ≠ 商业级性能。68.7% 的 OSWorld 得分虽然领先于开源模型，但距离人类水平仍有显著差距。对于生产环境中的关键任务（如金融交易、医疗操作），当前的 CUA 能力仍不足以独立承担。
未来 1-2 个周期的雷达观察点
观察点一：VeriGen 框架的跨领域迁移。VeriGen 的核心思想——通过多 Agent 反馈循环自动生成可验证训练数据——是否可以推广到其他 Agent 领域？例如 Agentic Search（搜索任务的自动验证）、Code Generation（代码执行的自动测试）等。如果 VeriGen 的思想能够跨领域复用，它可能成为 Agent 训练的基础设施级组件。
观察点二：Frontier Sampling 与 Curriculum Learning 的融合。当前 Frontier Sampling 基于历史成功率动态调整任务难度，这与传统的 Curriculum Learning（课程学习）有相似之处但又有本质区别——Curriculum Learning 通常使用预定义的难度排序，而 Frontier Sampling 是数据驱动的在线调整。未来可能出现两者的混合方案：结合预定义的课程结构和在线前沿追踪，实现更精细的训练调度。
总结与行动清单
ScaleCUA 的核心贡献在于将 Computer Use Agent 的能力扩展瓶颈从”模型参数规模”重新定位为”可验证训练数据的可获得性”。通过 VeriGen、Frontier Sampling 和 Visual Context Segmentation 三个组件的协同作用，它证明了数据效率和训练效率的提升可以弥补参数规模的差距。
你现在可以做的：
- 克隆 ScaleCUA 开源仓库（github.com/THUDM/SCALE-CUA），在 OSWorld 上复现基线结果
- 尝试将 VeriGen 的数据合成思路迁移到你的 Agent 训练 pipeline，即使不使用完整的 RLVR 框架
- 评估 Frontier Sampling 在你的训练场景中的适用性——如果你的任务池存在明显的难度分布不均，这个策略可能带来显著收益
- 关注 Docker 环境之外的任务生成方案，特别是针对需要真实操作系统资源的 CUA 应用场景
一分钟读论文：《Function-Aware Fill-in-the-Middle 作为编码 Agent 基础模型的中期训练》