2026 年 10 月 9 日提交到 arXiv 的预印本《SWE-Critix: Post-Training Generalist Verifiers for Assessing Coding-Agent Trajectories》(arXiv:2610.13356)给出一个可直接摘录的结论:拿通用推理模型裸当编程 agent 的交付验收裁判并不合格,专门后训练之后,裁判在完成判定分类准确率上能从基座的 57% 提到 78%,而且这个裁判会用自然语言解释自己为什么这么判。论文称模型、数据集与训练代码全部开源。
编程 agent 跑端到端软件工程任务时,一个现实缺口是常常没有现成的预言机评测器。所谓预言机评测器,指任务自带的、可机械执行的成功判据,比如现成的测试用例或验收脚本。判据缺位时,agent 干没干完、干得对不对,就只能靠人或模型来裁。
现有裁判的两条路都不够
现有做法分两条。一条是直接拿通用 LLM 当裁判,不做任何专门训练,判断质量完全取决于基座模型的推理水平。另一条是训练专用 critic,但这类 critic 只输出一个标量分数,作为奖励信号喂给训练流程,不解释判断依据。
被裁判的对象本身也不轻。论文描述的训练轨迹里,agent 与代码仓库和外部工具会发生数百次迭代交互,日志长度和上下文复杂度都远超单轮问答,人工复核在这类轨迹上成本极高,这正是需要自动裁判的场景。
裁判也要后训练:57% 到 78%
SWE-Critix 的路线是训练会说理由的通用裁判:输入任务描述与完整执行轨迹,输出两样东西,一个完成标签,加一段解释判断依据的自然语言分析。基座选用推理模型 Qwen3-30B-A3B,后训练分两步:先做监督微调 SFT,再做强化学习 RL。
效果体现在 held-out 测试集的完成判定分类准确率上:基座 57%,SFT 后 66%,RL 后 78%。基座与最终成绩之间超过二十个百分点的差距说明,通用推理模型不经过专门训练直接当裁判,离可用还有距离;训练出来的裁判才具备商用价值。论文训练了一系列 30B 规模的模型,训练数据来自 CodeForge-Preview 轨迹集。
会说理由,和只打分数不一样
可解释分析是这篇论文与纯标量 critic 的核心区别。标量分数只能用来排序或当奖励信号,分数本身无法审计,也说不清失败原因出在哪一步。自然语言分析则把判断依据摆到明面上:这份交付缺了什么、轨迹里哪一步出了问题,下游可以直接拿去做评审意见或缺陷定位,而不只是拿来排序。
需要划清的边界有三条。其一,这是未经同行评审的预印本,全部数字来自作者自报的 held-out 测试集。其二,CodeForge-Preview 是该团队自产的代码域轨迹集,裁判在其他领域的表现论文未做验证,不能外推。其三,开源承诺覆盖模型、数据集与训练代码,以论文称开源为准。
专利面与技术面的互文
本站简报 《微软圈地代码评审智能体,PR 质检报告还空着》从专利面写过同一个缺口:大厂圈地评审产物,独立质检报告的生意没人接。这篇论文补的是技术面的另一块拼图:裁判层正从拿现成模型凑数进入专门后训练阶段,且直接开源。专利面上被圈占的是评审产物,技术面上免费可得的是一个会说理由的开源裁判,两个面互相咬合但并不重复。