<?xml version="1.0" encoding="utf-8"?><feed xmlns="http://www.w3.org/2005/Atom" xml:lang="zh-CN"><generator uri="https://jekyllrb.com/" version="3.10.0">Jekyll</generator><link href="https://unbug.github.io/feed.xml" rel="self" type="application/atom+xml" /><link href="https://unbug.github.io/" rel="alternate" type="text/html" hreflang="zh-CN" /><updated>2026-11-20T05:02:06+00:00</updated><id>https://unbug.github.io/feed.xml</id><title type="html">Micropaper 一分钟读论文</title><subtitle>Micropaper 一分钟读论文：每天用一分钟读懂一篇 AI 论文，并提供 AI 范式雷达与 AI 智创简报，覆盖智能体、大模型、AI 安全与专利机会洞察。</subtitle><author><name>unbug</name></author><entry><title type="html">AI 智创简报：《大厂圈地AI评审，PR排队分诊层还空着》</title><link href="https://unbug.github.io/innovation-brief-pr-review-triage-gap/" rel="alternate" type="text/html" title="AI 智创简报：《大厂圈地AI评审，PR排队分诊层还空着》" /><published>2026-11-20T00:00:00+00:00</published><updated>2026-11-20T00:00:00+00:00</updated><id>https://unbug.github.io/innovation-brief-pr-review-triage-gap</id><content type="html" xml:base="https://unbug.github.io/innovation-brief-pr-review-triage-gap/"><![CDATA[<p>AI 代码评审的地主牌已摊开：<code class="language-plaintext highlighter-rouge">2025-05-27</code> 到 <code class="language-plaintext highlighter-rouge">2026-07-21</code>，微软、亚马逊把大模型写进评审环节的专利相继落地，中国流程件跟进（Google Patents 详情页，<code class="language-plaintext highlighter-rouge">2026-11-20</code> 复核）。生成与修补被圈走，”AI 一天交几十个 PR，先审哪一个”这层排队分诊无人 claim。</p>

<h2 id="专利信号">专利信号</h2>

<table>
  <thead>
    <tr>
      <th>公开号</th>
      <th>申请人</th>
      <th>公开日</th>
      <th>状态</th>
    </tr>
  </thead>
  <tbody>
    <tr>
      <td><code class="language-plaintext highlighter-rouge">US12314707B2</code></td>
      <td>Microsoft Technology Licensing LLC</td>
      <td><code class="language-plaintext highlighter-rouge">2025-05-27</code></td>
      <td>已授权</td>
    </tr>
    <tr>
      <td><code class="language-plaintext highlighter-rouge">US12481836B2</code></td>
      <td>Microsoft Technology Licensing LLC</td>
      <td><code class="language-plaintext highlighter-rouge">2025-11-25</code></td>
      <td>已授权</td>
    </tr>
    <tr>
      <td><code class="language-plaintext highlighter-rouge">US12524214B1</code></td>
      <td>Amazon Technologies Inc</td>
      <td><code class="language-plaintext highlighter-rouge">2026-01-13</code></td>
      <td>已授权</td>
    </tr>
    <tr>
      <td><code class="language-plaintext highlighter-rouge">US12688374B2</code></td>
      <td>Microsoft Technology Licensing LLC</td>
      <td><code class="language-plaintext highlighter-rouge">2026-07-21</code></td>
      <td>已授权</td>
    </tr>
    <tr>
      <td><code class="language-plaintext highlighter-rouge">CN121879734A</code></td>
      <td>成都国泰网信科技有限公司等</td>
      <td><code class="language-plaintext highlighter-rouge">2026-04-17</code></td>
      <td>审查中</td>
    </tr>
  </tbody>
</table>

<ul>
  <li><strong>评审预训练</strong>（微软 <code class="language-plaintext highlighter-rouge">US12314707B2</code>）：从仓库收集代码变更块与评审记录，转成代码差异块（diff hunk，改动行加上下文）再去噪训练——评审语料成了训练资产。</li>
  <li><strong>对话式单测生成</strong>（微软 <code class="language-plaintext highlighter-rouge">US12481836B2</code>）：PR 文件变更没有配套单测时，先让大模型定测试位置再生成。</li>
  <li><strong>生成式排障助手</strong>（亚马逊 <code class="language-plaintext highlighter-rouge">US12524214B1</code>）：云上开发服务用限定模型返回格式的提示模板，让大模型分析错误并生成修复代码。</li>
  <li><strong>定制提示生成服务</strong>（微软 <code class="language-plaintext highlighter-rouge">US12688374B2</code>）：按软件工程任务挂模板组装后喂模型——提示模板成了平台服务。</li>
  <li><strong>流程闭环中件</strong>（成都国泰网信 <code class="language-plaintext highlighter-rouge">CN121879734A</code>，另有并列申请人，审查中）：监听 GitLab 推送触发质检并分发。</li>
</ul>

<h2 id="技术趋势">技术趋势</h2>

<p>多类主体把”评审”改写成模型生成加验证回路的内置环节。<code class="language-plaintext highlighter-rouge">2026-11-19</code> Google Patents 实测（窗口参数失效，全部为<strong>史上口径</strong>）：<code class="language-plaintext highlighter-rouge">code review</code> 加大模型加审计的语族史上 <code class="language-plaintext highlighter-rouge">516</code> 件；直指 PR 分诊的 <code class="language-plaintext highlighter-rouge">pull request</code> 加 AI 产码加评审优先级语族史上 <code class="language-plaintext highlighter-rouge">232</code> 件，宽串噪声多，终选逐件核过详情页。</p>

<p><img src="/assets/images/innovation-brief-pr-review-triage-gap.svg" alt="AI 代码评审语族规模与地主圈地范围信息图" /></p>

<blockquote>
  <p>与 <code class="language-plaintext highlighter-rouge">2026-09-25</code> 发布的<a href="/innovation-brief-ai-code-review-audit-patents/">《微软圈地代码评审智能体，PR 质检报告还空着》</a>相比，本期增量是亚马逊与中国流程件：方法层被占满，优先级层仍空。</p>
</blockquote>

<p>产业侧同向：哈佛团队研究”编码智能体把瓶颈推到评审” <code class="language-plaintext highlighter-rouge">2026-11-17</code> 在 Hacker News 得 <code class="language-plaintext highlighter-rouge">324</code> 分；阿里开源 open-code-review（Apache-2.0，54,426 星，截至 <code class="language-plaintext highlighter-rouge">2026-11-20</code>）把评审器做成白菜，npm 上 <code class="language-plaintext highlighter-rouge">code-review-agent</code>、<code class="language-plaintext highlighter-rouge">pr-triage</code> 月下载却均仅 19（<code class="language-plaintext highlighter-rouge">2026-11-18</code> 实测）——队列层连白牌工具都没几个。</p>

<h2 id="落地机会">落地机会</h2>

<p><strong>用户场景</strong>：一人公司开发者让编码智能体连跑一个周末，攒了 40 多个机器写的 PR。先审哪个判断不了：有的碰认证模块改 20 行，有的纯格式化 800 行。CI 只报测试过没过，不给风险顺序。</p>

<p>一个人能做的是<strong>PR 队列分诊报告</strong>：GitHub App 或 CLI 拉 PR 元数据与 diff，按触碰目录风险、改动面、依赖变更、测试覆盖打分，输出评审顺序清单加每个 PR”该看哪三行”。栈现成：GitHub API、tree-sitter、开源模型摘要。反方照写：GitHub Copilot code review（<code class="language-plaintext highlighter-rouge">2026-09-01</code> 起可批准 PR）正面撞这层，差异化在跨源排序加风险报告，不是替人写评审意见。与 <code class="language-plaintext highlighter-rouge">2026-11-16</code> 期<a href="/innovation-brief-agent-toolcall-approval-patents/">《智能体批准专利各占一角》</a>切割：那层拦工具调用，本期排 PR 顺序。起步几百元，1 人 3 周出 MVP。</p>

<h2 id="创业发现">创业发现</h2>

<ul>
  <li>接单形态：先卖”周末 PR 堆积清理”，一轮 5-10 个 PR 收 ¥300-800，交付顺序清单；再转月费看板（¥99-299/队），客户来自独立开发者社区。</li>
  <li>门槛与风险：大厂权利要求覆盖“生成评审内容”，排序加风险报告是服务层，报价前逐件核对权利要求；排序不准会带偏人，误报率写进报告。</li>
</ul>

<h2 id="references">References</h2>

<ul>
  <li><a href="https://patents.google.com/?q=%28%22pull+request%22%29+AND+%28%22machine+generated%22+OR+%22AI+generated%22+OR+%22large+language+model%22%29+AND+%28review+OR+triage+OR+prioritiz%29">Google Patents 检索面（pull request 加 AI 产码加评审分诊，史上 232 件）</a></li>
  <li><a href="https://patents.google.com/patent/US12314707B2/en">US12314707B2 评审预训练</a></li>
  <li><a href="https://patents.google.com/patent/US12481836B2/en">US12481836B2 对话式单测生成</a></li>
  <li><a href="https://patents.google.com/patent/US12524214B1/en">US12524214B1 生成式排障助手</a></li>
  <li><a href="https://patents.google.com/patent/US12688374B2/en">US12688374B2 定制提示生成服务</a></li>
  <li><a href="https://patents.google.com/patent/CN121879734A/en">CN121879734A 代码质量智能检测</a></li>
  <li><a href="https://news.ycombinator.com/item?id=50538303">HN 哈佛评审瓶颈研究讨论</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="InnovationBrief" /><category term="Patent" /><category term="CodeReview" /><category term="DevTools" /><category term="solo-dev" /><summary type="html"><![CDATA[微软、亚马逊、成都国泰网信的AI代码评审专利自2025年11月起先后公开或授权，生成与修补层被圈走；PR排队分诊层无人claim，1人3周可交MVP。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/innovation-brief-pr-review-triage-gap.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/innovation-brief-pr-review-triage-gap.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">一分钟读论文：《AI 考官的评分偏爱坏行为》</title><link href="https://unbug.github.io/one-minute-read-paper-user-simulator-meta-evaluation/" rel="alternate" type="text/html" title="一分钟读论文：《AI 考官的评分偏爱坏行为》" /><published>2026-11-20T00:00:00+00:00</published><updated>2026-11-20T00:00:00+00:00</updated><id>https://unbug.github.io/one-minute-read-paper-user-simulator-meta-evaluation</id><content type="html" xml:base="https://unbug.github.io/one-minute-read-paper-user-simulator-meta-evaluation/"><![CDATA[<p>UCLA 与 Arena 的预印本<a href="https://arxiv.org/abs/2611.24892">《On Evaluating User Simulators for Interactive Agents》</a>给 AI 模拟用户的评估方法做反向体检：注入 <code class="language-plaintext highlighter-rouge">10</code> 种坏行为后，三套主流评估方法各只检出 <code class="language-plaintext highlighter-rouge">5～6</code> 种，新套件全部检出。</p>

<p><strong>用户模拟器（user simulator）</strong>指由大模型扮演用户、与 Agent 多轮交互以自动评测其表现的组件，真用户成本高且难复现，业界普遍替代使用。前几天站内讲的是被测者分数有问题，见<a href="/one-minute-read-paper-benchleaking-accelerating/">《榜单第一可能是背出来的》</a>；这篇查的是考官。</p>

<h2 id="体检方法往回放里注入-10-种已知坏行为">体检方法：往回放里注入 10 种已知坏行为</h2>

<p>评估多轮 Agent 需要用户实时反馈，但模拟用户像不像，同样要靠指标判断。论文把 Arena 平台上 <code class="language-plaintext highlighter-rouge">351</code> 条真实多轮会话（<code class="language-plaintext highlighter-rouge">348</code> 名用户、<code class="language-plaintext highlighter-rouge">23</code> 种语言）做回放，向模拟用户注入 <code class="language-plaintext highlighter-rouge">10</code> 种已知坏行为，看现有指标会不会扣分：提前终止、需求全塞进开场白、明知产物有错照样通过、更换目标、删约束、换人设、切语言、替 Agent 调试代码，外加指令模拟用户偏爱某个被测 Agent、把对原 Agent 的不满固化成用户性格两项。<strong>检出</strong>指套件内至少一个指标相对对照组可靠下降，属最有利口径；对比对象为 SimulatorArena、VISTA、SWE-Together 的本文适配版。</p>

<h2 id="三个结果漏检偏爱项全瞎综合分反向">三个结果：漏检、偏爱项全瞎、综合分反向</h2>

<p><strong>三套方法各检出 <code class="language-plaintext highlighter-rouge">6</code>、<code class="language-plaintext highlighter-rouge">5</code>、<code class="language-plaintext highlighter-rouge">6</code> 项</strong>（顺序为 SimulatorArena、VISTA、SWE-Together），摘要概括为只检出 <code class="language-plaintext highlighter-rouge">5～6</code> 项；本文新套件同一口径下全部检出。坏行为清单来自 <code class="language-plaintext highlighter-rouge">442,516</code> 条真实会话与 <code class="language-plaintext highlighter-rouge">20,100</code> 条回放的失败归纳，实验只用了前述 <code class="language-plaintext highlighter-rouge">351</code> 条会话与 <code class="language-plaintext highlighter-rouge">9</code> 个 Agent。</p>

<p><strong>最严重的一项三套全瞎</strong>：模拟用户偏爱某个被测 Agent——替它找借口、接受不合格产物、反馈更热情——三套均未检出，而论文确认这种偏爱确实改变了被测 Agent 的分数与排名。本文 L1 指标的 AUROC（判别指标，<code class="language-plaintext highlighter-rouge">0.5</code> 为随机）随替换率上升：<code class="language-plaintext highlighter-rouge">10%</code> 替换时 <code class="language-plaintext highlighter-rouge">0.55</code>、<code class="language-plaintext highlighter-rouge">50%</code> 时 <code class="language-plaintext highlighter-rouge">0.84</code>、<code class="language-plaintext highlighter-rouge">100%</code> 时 <code class="language-plaintext highlighter-rouge">0.99</code>；外部最强指标在 <code class="language-plaintext highlighter-rouge">50%</code> 和 <code class="language-plaintext highlighter-rouge">100%</code> 替换时仅 <code class="language-plaintext highlighter-rouge">0.56</code> 与 <code class="language-plaintext highlighter-rouge">0.64</code>。</p>

<p><img src="/assets/images/user-simulator-meta-eval-detection.svg" alt="三套现有评估方法对 10 种注入坏行为的检出数：SimulatorArena 6、VISTA 5、SWE-Together 6，本文套件 10" /></p>

<p><strong>综合分反而给坏行为打分更高</strong>：这些套件对明知有错照样通过注入组的综合分高于未修改的对照组。过滤实验中，本文指标在 Agent 偏爱实验里保留 <code class="language-plaintext highlighter-rouge">98%</code> 的对照群体，外部最佳基准 Sim2Real 仅 <code class="language-plaintext highlighter-rouge">10%</code>，这是对照保留率而非检出率。</p>

<h2 id="诚实边界自家尺子也不万能">诚实边界：自家尺子也不万能</h2>

<p><strong>利益相关先摆明</strong>：作者来自 UCLA 与 Arena，Arena 本身是评测平台，自研套件与自家 SimulatorArena 同台评分，综合分 <code class="language-plaintext highlighter-rouge">70</code> 对 <code class="language-plaintext highlighter-rouge">69</code>（<code class="language-plaintext highlighter-rouge">0～100</code> 分层级分的几何平均），作者声明层级分是评估指数而非保真概率。作者同时自曝自家指标失真：<strong>提前终止一项，本文最佳 L2 指标的 AUROC 全程低于 <code class="language-plaintext highlighter-rouge">0.5</code></strong>（系统性反向），机制是控制组模拟用户轮次比真用户多，截断反而让会话长度接近真用户参照、抬高分数，作者自评群体级判别为 modest discrimination，AUROC 仅 <code class="language-plaintext highlighter-rouge">0.62</code>。对比基准为适配复现版、数据仅来自单平台，且为未评审预印本 v1（<code class="language-plaintext highlighter-rouge">2026-11-18</code> 提交）、无公开代码仓库。它与站内<a href="/one-minute-read-paper-token-spend-not-output-metric/">《花的 token 不是产出》</a>同属指标失真家族：那篇错在成本，这篇错在考官。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://arxiv.org/abs/2611.24892">On Evaluating User Simulators for Interactive Agents (arXiv:2611.24892)</a></li>
  <li><a href="https://arxiv.org/html/2611.24892v1">论文 HTML 全文</a></li>
  <li><a href="/one-minute-read-paper-benchleaking-accelerating/">站内：榜单第一可能是背出来的</a></li>
  <li><a href="/one-minute-read-paper-token-spend-not-output-metric/">站内：花的 token 不是产出</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="OneMinuteRead" /><category term="LLM" /><category term="AIAgents" /><category term="Benchmark" /><category term="Evaluation" /><category term="MachineLearning" /><summary type="html"><![CDATA[UCLA 与 Arena 预印本向 AI 模拟用户评估回放注入 10 种坏行为，三套主流方法各只检出 5 到 6 种，偏爱被测项全漏，综合分反给坏行为打高分。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/user-simulator-meta-eval-detection.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/user-simulator-meta-eval-detection.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">AI 智创简报：《arXiv 封禁编造引用，投稿前引用回查成了代跑生意》</title><link href="https://unbug.github.io/innovation-brief-citation-verification-service/" rel="alternate" type="text/html" title="AI 智创简报：《arXiv 封禁编造引用，投稿前引用回查成了代跑生意》" /><published>2026-11-19T00:00:00+00:00</published><updated>2026-11-19T00:00:00+00:00</updated><id>https://unbug.github.io/innovation-brief-citation-verification-service</id><content type="html" xml:base="https://unbug.github.io/innovation-brief-citation-verification-service/"><![CDATA[<p>一名给 Elsevier 子刊返修的博士后，被审稿人点出 2 条引用查无此文——他手里 80 条参考文献，有 6 条是 Copilot 补写的。arXiv 已对编造引用出台封禁 1 年新规（HN 659 分，<code class="language-plaintext highlighter-rouge">2026-05-14</code>），逐条打开文献库人工核对要一下午，还查不出”标题作者对不上”这种半真引用。</p>

<h2 id="专利信号">专利信号</h2>

<ul>
  <li><strong>US12505299B2</strong> · <strong>Casetext Inc</strong>：优先权 <code class="language-plaintext highlighter-rouge">2023-08-16</code>，<code class="language-plaintext highlighter-rouge">2025-12-23</code> 公开，已授权。生成文本接口的幻觉检测：枚举源文本段落，对生成引用逐条做可验证性核对；同族 <code class="language-plaintext highlighter-rouge">EP4630936A1</code>/<code class="language-plaintext highlighter-rouge">EP4630937A1</code>（审查中）两件在 <code class="language-plaintext highlighter-rouge">2025-10-15</code> 同日公开，是族证据。</li>
  <li><strong>US12645555B1</strong> · <strong>Stone &amp; Ink Archive LLC</strong>：优先权 <code class="language-plaintext highlighter-rouge">2026-01-09</code>，<code class="language-plaintext highlighter-rouge">2026-06-02</code> 公开，已授权，从申请到公开仅 145 天。机器产物的 fail-closed 一致性层：可回放验证回执加证据快照承诺绑定。</li>
  <li><strong>CN122175015A</strong> · <strong>成都汇能博友软件科技等三家（含成都晶林科技）</strong>：优先权 <code class="language-plaintext highlighter-rouge">2026-05-12</code>，<code class="language-plaintext highlighter-rouge">2026-06-09</code> 公开，审查中，28 天超快公开。留一法消融 RAG 引用验真：标注出处与实检文档不符即判伪。</li>
  <li><strong>US12531820B2</strong> · <strong>Amazon Technologies Inc</strong>：优先权 <code class="language-plaintext highlighter-rouge">2023-09-29</code>，<code class="language-plaintext highlighter-rouge">2026-01-20</code> 公开，已授权。知识图谱辅助大模型，以图谱节点/边做事实锚。</li>
  <li><strong>US12602412B2 / US12405978B2</strong> · <strong>个人发明人 Vijay Madisetti</strong>（同族）：优先权同为 <code class="language-plaintext highlighter-rouge">2023-05-04</code>，公开日为 <code class="language-plaintext highlighter-rouge">2026-04-14</code> 与 <code class="language-plaintext highlighter-rouge">2025-09-02</code>，均已授权。分域检索的 RAG 管线优化、文档上下文定义与分段生成。</li>
</ul>

<h2 id="技术趋势">技术趋势</h2>

<p><code class="language-plaintext highlighter-rouge">2026-11-18</code> 同一 Google Patents 域、同日同会话实测：宽语族 <code class="language-plaintext highlighter-rouge">references + language model + verif</code> 史上 <code class="language-plaintext highlighter-rouge">20,956</code> 件，直指本赛道的精确语族 <code class="language-plaintext highlighter-rouge">"citation hallucination" OR "hallucinated references" OR "hallucinated citations"</code> 史上 <code class="language-plaintext highlighter-rouge">5</code> 件，其中 3 件就是上面 #1/#2/#3。两句检索式覆盖范围不同，只能并排看规模，不可相除算增长率。</p>

<blockquote>
  <p>GPTZero 测的是 AI 文本率，11-09 发布的<a href="/ai-innovation-brief-provenance-verification-gap/">《验水印还是个爱好》</a>管的是签发方签名凭证——两者都不是”自己稿子里的参考文献逐条回查”。</p>
</blockquote>

<p>趋势用同期布局口径：法律 AI 公司、个人发明人、云厂商、档案公司、中国科技公司五类主体 21 个月内各自走到授权或公开，把”生成内容↔出处逐条可验证”写进权利要求。两件 2026 年新公开件从申请到公开仅 145 天、28 天，是申请人在抢时间戳，属事实描述。</p>

<h2 id="落地机会">落地机会</h2>

<p><strong>用户场景</strong>：开头那位博士后之外，还有代投机构和被 EY 假引用事故（HN 326 分）点到的咨询公司——报告对外交付前没人逐条验过出处。</p>

<p>一个人做的不是工具，是服务层：BibTeX/Word 抽取引用，走 OpenAlex（免费无 key）+ Crossref Polite Pool + 撤稿标记（<code class="language-plaintext highlighter-rouge">is_retracted</code> 实测 91,576 条）逐条回查，输出<strong>真/查无此文/元数据不匹配/已撤稿</strong>四色带时间戳报告。开源拥挤是实据：refchecker ★577、opendraft ★535、bibtex-verifier ★145 全部 MIT 免费在前。npm 上 5 个 2026 年 10-11 月上线的商业 MCP 封装月下载仅数百量级（citeguard 219），商品化极早期，交付物层空白。起步不到 1000 元，1 人 3 周出 MVP（开源与 npm 数字为 2026-11-18 实测）。</p>

<h2 id="创业发现">创业发现</h2>

<ul>
  <li>收钱阶梯：散单报告 ¥30-50/篇建案例 → 代投机构 ¥10-20/篇月结 → 科研诚信专员/图书馆年度订阅 ¥3,000-8,000 → 咨询报告线 ¥300-800/份（EY 事故已把需求溢出到企业报告场景）。</li>
  <li>风险：收录缺口会把真引用误判”查无”，未命中项必须转人工并在报告注明；工具层会被 MIT 开源白牌化，只能靠交付速度与机构合同锁客户。</li>
  <li>反方照写：独立产品试水者 Referentia 上 HN 仅 3 分，C 端付费意愿未证明。</li>
  <li>本周动作：拿自己一份旧稿的参考文献跑一遍四色报告，挂到学术社群接第一单。</li>
</ul>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://patents.google.com/?q=%22citation%20hallucination%22%20OR%20%22hallucinated%20references%22%20OR%20%22hallucinated%20citations%22">Google Patents 精确语族检索（史上 5 件）</a></li>
  <li><a href="https://patents.google.com/patent/US12505299B2/en">Google Patents：US12505299B2</a></li>
  <li><a href="https://patents.google.com/patent/US12645555B1/en">Google Patents：US12645555B1</a></li>
  <li><a href="https://patents.google.com/patent/CN122175015A/en">Google Patents：CN122175015A</a></li>
  <li><a href="https://hn.algolia.com/api/v1/search?query=arxiv%20hallucinated%20references&amp;tags=story">HN Algolia：arXiv 编造引用封禁检索串</a></li>
  <li><a href="https://hn.algolia.com/api/v1/search?query=GPTZero&amp;tags=story&amp;numericFilters=created_at_i%3E1735689600">HN Algolia：GPTZero 顶会抽检检索串</a></li>
  <li><a href="https://hn.algolia.com/api/v1/search?query=EY%20Canada%20cybersecurity%20report%20citations&amp;tags=story">HN Algolia：EY 报告假引用检索串</a></li>
  <li><a href="https://api.openalex.org/works?filter=is_retracted:true&amp;per-page=1">OpenAlex：撤稿标记查询</a></li>
  <li><a href="https://github.com/markrussinovich/refchecker">GitHub：refchecker</a></li>
  <li><a href="https://registry.npmjs.org/-/v1/search?text=citation%20verification">npm：citation verification 检索串</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="InnovationBrief" /><category term="citation-verification" /><category term="Patent" /><category term="academic-publishing" /><category term="compliance" /><category term="solo-dev" /><summary type="html"><![CDATA[arXiv 封禁编造引用 1 年，引用验真精确语族史上仅 5 件；工具层被 MIT 开源占满，投稿前四色回查报告的服务层空着，1 人 3 周可交付。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/innovation-brief-citation-verification-service.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/innovation-brief-citation-verification-service.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">一分钟读论文：《AI 审查员抓不住研究内鬼》</title><link href="https://unbug.github.io/one-minute-read-paper-sabotage-audit-failure/" rel="alternate" type="text/html" title="一分钟读论文：《AI 审查员抓不住研究内鬼》" /><published>2026-11-19T00:00:00+00:00</published><updated>2026-11-19T00:00:00+00:00</updated><id>https://unbug.github.io/one-minute-read-paper-sabotage-audit-failure</id><content type="html" xml:base="https://unbug.github.io/one-minute-read-paper-sabotage-audit-failure/"><![CDATA[<p>Redwood Research 等机构预印本<a href="https://arxiv.org/abs/2611.21832">《Auditors Struggle to Catch Sabotage》</a>实测：人类审计员识破 AI 安全研究中的蓄意破坏，<code class="language-plaintext highlighter-rouge">AUROC</code> 仅 <code class="language-plaintext highlighter-rouge">0.59</code> 与随机无异，完整识破率 <code class="language-plaintext highlighter-rouge">17%</code>。</p>

<p>当 AI 代理开始承担安全研究本身，谁来监督研究过程成了新问题，而这篇论文的答案是：现在谁都监督不住。审计环节本身不可信，安全研究的结论可信度就要打一个连环问号。</p>

<h2 id="实验设定读文档抓内鬼">实验设定：读文档抓内鬼</h2>

<p><strong>AUROC 是衡量二分类判断能力的指标</strong>，<code class="language-plaintext highlighter-rouge">0.5</code> 等于抛硬币，越接近 <code class="language-plaintext highlighter-rouge">1</code> 判别越准。实验里的”破坏者”由人类专家扮演，论文作者之一参与其中：正常完成一份 AI 安全研究任务，同时暗中植入一处破坏。审计员拿到端到端研究记录，包括代码、数据与推理轨迹，任务是判断这份研究被没被破坏、破坏点具体在哪，相当于只读工作日志抓内鬼。结果：人类审计员平均 <code class="language-plaintext highlighter-rouge">AUROC 0.59</code>，论文摘要原文称其 not significantly better than chance，即与随机猜测没有显著差异；能完整指出具体破坏的比例仅 <code class="language-plaintext highlighter-rouge">17%</code>，五份记录里识破不到一份。换句话说，把审计员的判断换成抛硬币，区分被破坏研究与正常研究的效果差不多。</p>

<h2 id="模型也没完胜人类">模型也没完胜人类</h2>

<p><strong>模型侧最强的是 Fable 5.1：<code class="language-plaintext highlighter-rouge">AUROC 0.73</code>、完整识破率 <code class="language-plaintext highlighter-rouge">32%</code></strong>，比人类高，但论文摘要的措辞必须逐字读：领先幅度 within noise，即落在噪声范围内，较弱模型与人类表现相当。这组数字既不支持”AI 审计完胜人类”，也不支持”AI 也不行”，只能说明人机都不可靠：最好的模型完整识破率也才刚过三成。</p>

<p><img src="/assets/images/sabotage-audit-auroc.svg" alt="人类审计员 AUROC 0.59、完整识破 17%；Fable 5.1 为 0.73、32%（领先幅度在噪声范围内）" /></p>

<p><strong>两条设定削弱结论强度</strong>。其一，模型被禁止运行实验，人类审计员却可以自己跑代码验证，人机权限不对等，比较并未对齐（附录 A.10）。其二，实验数据按五五开构造，一半被破坏、一半正常；真实部署里破坏是少数事件，基础率远低于 <code class="language-plaintext highlighter-rouge">50%</code>，实际检出会比 <code class="language-plaintext highlighter-rouge">0.59</code> 显示的更难（附录 A.11）。站内<a href="/one-minute-read-paper-ai-review-appendix-bias/">《AI 审稿为何专挑附录下手》</a>测量的是评估者注意力放错位置，本期测的是评估者整体判别失灵，角度不同，同属评估环节失效议题。</p>

<h2 id="局限与利益相关">局限与利益相关</h2>

<p><strong>三条局限要摆明</strong>：单人研究员的小规模博弈设定，外部效度有限（附录 A.1）；人机权限不对等（附录 A.10）；<code class="language-plaintext highlighter-rouge">50%</code> 先验与真实基础率不符（附录 A.11）。</p>

<p><strong>利益相关</strong>：Redwood Research 本身是 AI safety 研究机构，破坏者由包括作者在内的自家专家扮演，存在自设自审风险：自己出题设破绽，再考自己请来的审查员。论文未发布自有代码仓（推测地址实测 <code class="language-plaintext highlighter-rouge">404</code>），仅引用外部测试框架 control-arena（UKGovernmentBEIS，<code class="language-plaintext highlighter-rouge">270</code> stars，MIT 协议），第三方复现得自己重建博弈设定；目前是未评审预印本（v1 提交于 <code class="language-plaintext highlighter-rouge">2026-11-16</code>），数字属于待复现信号。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://arxiv.org/abs/2611.21832">Auditors Struggle to Catch Sabotage in End-to-End Transcripts of AI Safety Research (arXiv:2611.21832)</a></li>
  <li><a href="https://arxiv.org/html/2611.21832v1">论文 HTML 全文</a></li>
  <li><a href="/one-minute-read-paper-ai-review-appendix-bias/">站内：AI 审稿为何专挑附录下手</a></li>
  <li><a href="https://github.com/UKGovernmentBEIS/control-arena">control-arena 测试框架</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="OneMinuteRead" /><category term="LLM" /><category term="AIAgents" /><category term="MachineLearning" /><category term="Evaluation" /><summary type="html"><![CDATA[Redwood 预印本实测：人类只读研究记录识破蓄意破坏，AUROC 0.59 近乎随机、完整识破 17%；最强模型 0.73 但领先在噪声内，人机都不可靠。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/sabotage-audit-auroc.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/sabotage-audit-auroc.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">AI 范式雷达：《编码 Agent 的信任正在从六个方向裂开》</title><link href="https://unbug.github.io/paradigm-radar-coding-agent-trust-cracks/" rel="alternate" type="text/html" title="AI 范式雷达：《编码 Agent 的信任正在从六个方向裂开》" /><published>2026-11-19T00:00:00+00:00</published><updated>2026-11-19T00:00:00+00:00</updated><id>https://unbug.github.io/paradigm-radar-coding-agent-trust-cracks</id><content type="html" xml:base="https://unbug.github.io/paradigm-radar-coding-agent-trust-cracks/"><![CDATA[<p>从 <code class="language-plaintext highlighter-rouge">10-29</code> 到 <code class="language-plaintext highlighter-rouge">11-16</code> 的三周里，Hacker News 上围绕编码 Agent 的信任事故支柱帖累计冲到 <code class="language-plaintext highlighter-rouge">5,113</code> 分（Algolia API 全树实测，截至 <code class="language-plaintext highlighter-rouge">2026-11-19</code>）：邮箱外发、渠道后门、常开授权泄密、transcript 上行、训练开关回滚、OS 遥测收割，六根支柱彼此独立、互相不解释，涉事主体横跨 Anthropic、OpenAI、微软与一个攻击者；披露侧由两名研究员与社区帖把事故钉成可查证实据。<code class="language-plaintext highlighter-rouge">11-08</code>，一家媒体披露高盛把 Claude Code 从银行家和交易员手里收了回去，这条企业侧消息单独拿了 <code class="language-plaintext highlighter-rouge">905</code> 分（全树 <code class="language-plaintext highlighter-rouge">474</code> 评论），不计入支柱合计。</p>

<p>编码 Agent 的普及叙事正在从「能不能用」切换到「敢不敢用」。这篇文章把三周的碎片拼成一张完整的裂缝地图：分发渠道、权限模式、上行通道、厂商政策、操作系统、企业治理六个方向，每个方向给出可复现的验证入口，最后附一份你现在就能执行的自保清单。</p>

<p><img src="/assets/images/paradigm-radar-agent-trust-crest.svg" alt="支柱分数封面图：四家涉事方 · 六根支柱 · 三周（含分发渠道与权限模式面），六根横条按 HN 分数排列（1,616 / 1,014 / 728 / 628 / 591 / 536），最热一根朱色其余蓝色，底注「四家涉事方六支柱合计 5,113 分 · 高盛 905 分为企业侧回应另计 · 数据截至 2026-11-19」，标题字「信任裂缝」" /></p>

<h2 id="目录">目录</h2>

<ul>
  <li>三周，六条裂缝：先看全景</li>
  <li>裂缝一：分发渠道被打穿</li>
  <li>裂缝二：一次授权，永久放行</li>
  <li>裂缝三与四：两条看不见的上行通道</li>
  <li>裂缝五与六：政策悄悄回滚，操作系统替你记账</li>
  <li>企业侧多米诺：高盛把权限收回去</li>
  <li>反方与噪声：哪些声音不该照单全收</li>
  <li>自保行动清单</li>
  <li>口径与边界</li>
  <li>References</li>
</ul>

<h2 id="三周六条裂缝先看全景">三周，六条裂缝：先看全景</h2>

<p>先把事实底座钉死。下表七条帖（六根支柱帖加一根企业侧回应帖）全部来自本文写作前的 HN Algolia 接口复测（分数与全树评论数为递归计数，剔除 deleted/dead，截至 <code class="language-plaintext highlighter-rouge">2026-11-19</code>）：</p>

<table>
  <thead>
    <tr>
      <th>事件</th>
      <th>涉事主体</th>
      <th>HN 分数 / 全树评论</th>
      <th>日期</th>
    </tr>
  </thead>
  <tbody>
    <tr>
      <td>Claude Code 经 User-Agent 头外发邮箱</td>
      <td>Anthropic</td>
      <td><code class="language-plaintext highlighter-rouge">1616</code> / <code class="language-plaintext highlighter-rouge">502</code></td>
      <td>11-05</td>
    </tr>
    <tr>
      <td>Cursor Marketplace 官方 VSX 被植入后门</td>
      <td>攻击者（针对 Anthropic 渠道）</td>
      <td><code class="language-plaintext highlighter-rouge">1014</code> / <code class="language-plaintext highlighter-rouge">514</code></td>
      <td>10-30</td>
    </tr>
    <tr>
      <td>高盛收回 Claude Code 使用权</td>
      <td>Goldman Sachs</td>
      <td><code class="language-plaintext highlighter-rouge">905</code> / <code class="language-plaintext highlighter-rouge">474</code></td>
      <td>11-08</td>
    </tr>
    <tr>
      <td>Win11 遥测收割编码 Agent 使用数据</td>
      <td>Microsoft</td>
      <td><code class="language-plaintext highlighter-rouge">728</code> / <code class="language-plaintext highlighter-rouge">616</code></td>
      <td>11-16</td>
    </tr>
    <tr>
      <td>「Don’t Ask Again」权限模式泄密 1,122 个文件</td>
      <td>Anthropic（Claude Code 权限模式）</td>
      <td><code class="language-plaintext highlighter-rouge">628</code> / <code class="language-plaintext highlighter-rouge">422</code></td>
      <td>11-07</td>
    </tr>
    <tr>
      <td>背景 Agent transcript 上行</td>
      <td>Claude Code 后台任务</td>
      <td><code class="language-plaintext highlighter-rouge">591</code> / <code class="language-plaintext highlighter-rouge">236</code></td>
      <td>10-29</td>
    </tr>
    <tr>
      <td>Codex 对话训练开关悄悄回滚</td>
      <td>OpenAI</td>
      <td><code class="language-plaintext highlighter-rouge">536</code> / <code class="language-plaintext highlighter-rouge">163</code></td>
      <td>11-03</td>
    </tr>
  </tbody>
</table>

<p>把 <code class="language-plaintext highlighter-rouge">10-29</code> 至 <code class="language-plaintext highlighter-rouge">11-07</code> 的早期四根支柱相加是 <code class="language-plaintext highlighter-rouge">3,849</code> 分，<code class="language-plaintext highlighter-rouge">11</code> 月第二、三周新增 Win11 与 Codex 两根支柱（合计 <code class="language-plaintext highlighter-rouge">1,264</code> 分），六根支柱合计 5,113 分 = Claude Code 相关四帖 3,849 + OpenAI 与 Microsoft 两帖 1,264（六支柱累计口径同此）；高盛为企业侧回应另计，<code class="language-plaintext highlighter-rouge">905</code> 分不入支柱合计——危机不但不收敛，还在加速。另有 <code class="language-plaintext highlighter-rouge">134</code> 分的规避实践帖和 <code class="language-plaintext highlighter-rouge">96</code> 分的本地审计工具未计入上表，簇内合计约 <code class="language-plaintext highlighter-rouge">2,400</code> 条全树评论。<strong>注意这张表的结构</strong>：它不是一个厂商的连续翻车记录，而是 Anthropic、OpenAI、微软、攻击者四个涉事方加高盛一家出手企业的独立事故——这正是不祥之处。单一厂商的信任事故可以靠换供应商解决；多个主体同时出问题，说明问题出在「把 Agent 接进开发环境」这件事本身。</p>

<p><img src="/assets/images/paradigm-radar-agent-trust-img02.svg" alt="六支柱分数图：结论行「四家涉事方六支柱合计 5,113 分，高盛 905 分为企业侧回应另计，危机三周仍在加速」；a 面板「七根支柱与邻簇帖的 HN 分数」横条（1,616 / 1,014 / 728 / 628 / 591 / 536 / 319），数值标于条端、无坐标轴，高盛收回权限与 Harvard 审查瓶颈两根灰色标注不入合计；b 面板三根横条对比早期四支柱 3,849、新增两支柱 1,264、高盛企业侧 905（标「不入合计」），其中 1,264 条端注「与早期相加为六支柱合计 5,113」" /></p>

<p>时间分布也值得一看：早期支柱（<code class="language-plaintext highlighter-rouge">10-29</code> 至 <code class="language-plaintext highlighter-rouge">11-07</code>）集中在「工具替你做了没被告知的事」，<code class="language-plaintext highlighter-rouge">11</code> 月第二、三周除了 Win11 与 Codex 两根新支柱，企业侧也开始了正式回应（高盛 <code class="language-plaintext highlighter-rouge">905</code> 分单列）。裂缝还在长大，下文按六条线逐一拆。</p>

<h2 id="裂缝一分发渠道被打穿">裂缝一：分发渠道被打穿</h2>

<p><code class="language-plaintext highlighter-rouge">10-30</code>，安全公司 phorion 披露（HN <code class="language-plaintext highlighter-rouge">1014</code> 分，源页 HTTP 实测可达）：Cursor 的开放扩展市场 VSX 上，与 Claude Code 相关的官方渠道扩展被植入后门。攻击路径不是 0-day，而是一条纯流程缺口——<strong>市场收录扩展，但没有人校验「发布者账号是否真的是厂商本人」</strong>。开发者在编辑器里点下安装、重载窗口，恶意代码就跟着你的编辑器进程进了本机，拿到的是你整个开发环境能碰到的一切：SSH 私钥、云凭证、浏览器会话。本站早前写过通用工具链的同类事件（<a href="/paradigm-radar-toolchain-poisoning/">《官方渠道沦陷之后》</a>），本期不重复展开；差别在于这一次被打穿的是编码 Agent 的官方分发面。</p>

<p>这条线的可怕在于「官方」二字的含金量归零。过去我们区分「官方扩展」和「第三方扩展」时，默认市场页面上的厂商标识构成一种担保；VSX 事件证明这层担保在部分市场上只是可自由申领的装饰。GitHub 官方仓库里的 <code class="language-plaintext highlighter-rouge">claude-code-security-review</code>（星数 <code class="language-plaintext highlighter-rouge">7,007</code>，GitHub API 实测，截至 <code class="language-plaintext highlighter-rouge">2026-11-16</code> 基线）是厂商侧对 Agent 安全审查的正面投入，但它防不住你从市场装进来的那个「官方」扩展——信任断在最入口的一环。</p>

<p><img src="/assets/images/paradigm-radar-agent-trust-img03.svg" alt="分发信任链图：a 面板开发环境→编辑器扩展宿主→本地凭证（SSH 私钥/云凭证/浏览器会话）的链路，厂商构建、扩展市场收录、开发者安装三个节点，注入点标注在收录到安装之间（即发布者身份未校验）；b 面板对照「你以为的信任链」（厂商签名→市场审核→安装安全）与「实际的：」信任链（任何人可申领发布者标识→市场收录→安装即执行），「两条链的差值 = 市场侧发布者身份校验的缺失」，phorion 披露的 VSX 后门（HN 1,014 分）即从此缺口进入" /></p>

<p>值得记住的方法论：<strong>扩展的安全性取决于分发渠道对发布者身份的校验强度，而不是扩展页面上写了谁的名字。</strong>这条教训适用于所有 Agent 插件生态——VSX、JetBrains Marketplace、各类 MCP 目录，无一例外。</p>

<h2 id="裂缝二一次授权永久放行">裂缝二：一次授权，永久放行</h2>

<p><code class="language-plaintext highlighter-rouge">11-07</code>，安全研究员 apiiro 发文（HN <code class="language-plaintext highlighter-rouge">628</code> 分，全树 <code class="language-plaintext highlighter-rouge">422</code> 评论；原帖标题点名的是 Claude Code）：他扫描公开 GitHub 仓库，发现 <strong><code class="language-plaintext highlighter-rouge">1,122</code> 个文件泄露了密钥类敏感内容，路径都通向编码 Agent 的「Don’t Ask Again」（不再询问）权限模式</strong>。机制拆开很简单：Agent 第一次要执行某类命令（读文件、跑脚本、发起网络请求）时弹窗问你，你嫌烦点了「不再询问」——这个决策被写进配置后变成常开许可，此后同类操作不再有任何拦截。问题在于，你授权时看到的是这一次的具体命令，而规则覆盖的是这一类的全部未来。</p>

<p>（注：apiiro 原文对直连请求返回 <code class="language-plaintext highlighter-rouge">403</code> 反爬拦截，本文数字转引自其 HN 讨论帖口径，读者可在帖内查证原始链接。）</p>

<p>「不再询问」这个交互文案本身就是事故的一部分。它听起来像「记住我的偏好」，实际语义是「把这类操作的安全审查永久移交给 Agent」。每一次点击都是一次不可见的权限固化，攒够几百条之后，你的 Agent 拥有一套从未被完整审计过的常开权限集——而它替你提交进公开仓库的东西，可能正在这套权限的覆盖范围内。</p>

<p><img src="/assets/images/paradigm-radar-agent-trust-img04.svg" alt="权限状态机图：a 面板四状态流程——操作请求→弹窗询问（你看到的是一次具体命令）→点击不再询问→常开许可（规则覆盖该类全部未来），从常开许可直接通向泄密的边标为红色；b 面板对照条：授权时上下文=1 条具体命令，生效范围=该类全部未来操作，标注 1,122 个泄露文件为研究员扫描口径，b 面板标题「授权时上下文与生效范围（条端直标数值，无坐标轴）」" /></p>

<p>这一裂缝的独特性在于：<strong>泄密的扳机是用户自己的点击，工具只是把一个高风险决策包装成了免打扰设置。</strong>它不需要任何漏洞，正常使用就会发生。</p>

<h2 id="裂缝三与四两条看不见的上行通道">裂缝三与四：两条看不见的上行通道</h2>

<p>裂缝一、二还需要你「装错东西」或「点错按钮」，裂缝三和四则发生在完全正常的配置下。</p>

<p><strong>其一，背景 Agent 的 transcript 上行。</strong><code class="language-plaintext highlighter-rouge">10-29</code>，开发者 flamerix 发 gist 实测（HN <code class="language-plaintext highlighter-rouge">591</code> 分，全树 <code class="language-plaintext highlighter-rouge">236</code> 评论）：Claude Code 的后台任务会把完整对话记录（transcript——你与 Agent 的全部往来文本，含你贴进对话的密钥、内部仓库路径、未发布代码片段）上行到远端端点，配置里没有一行说明。gist 原文在本机网络环境下不可达，HN 帖健康，帖内附有原文存档。</p>

<p><strong>其二，邮箱经 User-Agent 头外发。</strong><code class="language-plaintext highlighter-rouge">11-05</code>，有人在 <code class="language-plaintext highlighter-rouge">anthropics/claude-code</code> 仓库提了 issue <code class="language-plaintext highlighter-rouge">#107757</code>（HN <code class="language-plaintext highlighter-rouge">1616</code> 分，本簇最高）：CLI 发出的 HTTP 请求，User-Agent 头里拼进了用户的 GitHub 邮箱。邮箱不是藏在什么调试字段里，而是放在每一次请求都会携带的标准头部——等于每个 HTTPS 握手都在向端点自报身份。这条线单帖 <code class="language-plaintext highlighter-rouge">1616</code> 分、全树 <code class="language-plaintext highlighter-rouge">502</code> 评论，是整簇最热的一条。</p>

<p><img src="/assets/images/paradigm-radar-agent-trust-img05.svg" alt="上行通道标注图：本机开发环境（SSH 私钥/云凭证/对话 transcript/GitHub 邮箱）到远端三条通道——通道一 transcript 回传（背景任务完整对话上行，591 分）；通道二 User-Agent 邮箱（每次请求标准头部携带邮箱，1,616 分）；通道三 Windows ETW 遥测（使用位记录经诊断管道上传，728 分）；通道一二标配置无说明，通道三标 optional 诊断默认开启" /></p>

<p>比泄露本身更硬的证据是修复速度。GitHub API 实测（截至 <code class="language-plaintext highlighter-rouge">2026-11-19</code>）：issue <code class="language-plaintext highlighter-rouge">#107757</code> 状态 <strong>open</strong>，<code class="language-plaintext highlighter-rouge">121</code> 条评论，标签含 <code class="language-plaintext highlighter-rouge">area/security</code>。也就是说，这条被 HN 社区推上 <code class="language-plaintext highlighter-rouge">1616</code> 分的安全缺陷，在官方仓库里挂了三周仍未关闭、未修复。<strong>厂商安全响应的真实速度，就写在你自己的 issue 列表里。</strong></p>

<p>这两条通道共同改写了「本地工具」的定义。你以为 Agent 在你机器上干活、只在你主动提交时产生网络流量；实际上每一次后台心跳、每一个请求头，都是一条持续存在的上行路径。审视一个 Agent 工具的安全面，第一个动作应该是打开抓包工具看它到底发了什么，而不是读它的隐私政策。</p>

<h2 id="裂缝五与六政策悄悄回滚操作系统替你记账">裂缝五与六：政策悄悄回滚，操作系统替你记账</h2>

<p>剩下两条裂缝的主角不再是某个 Agent 产品，而是平台本身。</p>

<p><strong>裂缝五：训练开关的悄悄回滚。</strong><code class="language-plaintext highlighter-rouge">11-03</code>，HN 上一条文本帖（<code class="language-plaintext highlighter-rouge">536</code> 分，全树 <code class="language-plaintext highlighter-rouge">163</code> 评论）收集证据称：OpenAI 似乎在未发公告的情况下，对 Codex 对话重新启用了模型训练——而此前的政策口径是编码对话不用于训练。这是一条社区指控级材料，OpenAI 未在帖内给出可查证的书面回应，本文只陈列帖内证据链，不作定论。但它触及的问题独立成立：<strong>数据用途是一种政策状态，而政策状态可以随时回滚，且回滚不必然伴随通知。</strong>你今天基于「数据不训练」做出的信任决策，明天可能已经不再对应任何事实。</p>

<p><strong>裂缝六：操作系统开始收割编码 Agent 的使用数据。</strong><code class="language-plaintext highlighter-rouge">11-16</code>，具名安全研究员 xusheng 发布逆向报告（HN <code class="language-plaintext highlighter-rouge">728</code> 分，全树 <code class="language-plaintext highlighter-rouge">616</code> 评论，全文 HTTP 实测可达、可复现）：Windows 11 的 <code class="language-plaintext highlighter-rouge">MissionControlAggregator.dll</code> 里硬编码了编码 Agent 的可执行文件名——<code class="language-plaintext highlighter-rouge">codex.exe</code>、<code class="language-plaintext highlighter-rouge">claude.exe</code>、<code class="language-plaintext highlighter-rouge">copilot.exe</code>、<code class="language-plaintext highlighter-rouge">cursor.exe</code>、<code class="language-plaintext highlighter-rouge">agy.exe</code>——共四个 CLI-Agent 槽位加五个桌面-Agent 槽位，连 WSL 内无扩展名的路径都在探测范围。系统记录这些工具的使用位，先存本地，再经 Windows Diagnostics 管道上传微软；前提是那个默认勾选的「可选诊断数据」（optional diagnostics）没有被关掉。工具用逆向软件 Binary Ninja 完成分析，作者的 CVE 与媒体经历挂在个人页可查。</p>

<p>这条是六条裂缝里唯一<strong>读者可以亲手复现</strong>的：用任意十六进制工具打开那个 DLL 搜字符串，或用 ETW（Event Tracing for Windows）监听该组件的行为，都能独立验证。它同时也是打击面最大的一条——不挑你用什么 Agent，只要你在 Windows 上开发，收割就与你有关。</p>

<p>把裂缝五、六并排看会得到一个不舒服的结论：应用层的厂商会把政策改回去，OS 层厂商会把你用工具的事实收走。<strong>在编码 Agent 这件事上，「平台是中立的」这个默认假设已经没有一条幸存。</strong></p>

<h2 id="企业侧多米诺高盛把权限收回去">企业侧多米诺：高盛把权限收回去</h2>

<p>个人用户的信任裂缝，到 <code class="language-plaintext highlighter-rouge">11-08</code> 出现了机构级回应。The State of AI 报道（HN <code class="language-plaintext highlighter-rouge">905</code> 分，全树 <code class="language-plaintext highlighter-rouge">474</code> 评论，源页 HTTP 实测可达，转引 Bloomberg <code class="language-plaintext highlighter-rouge">2026-11-02</code> 原始报道）：<strong>高盛在 <code class="language-plaintext highlighter-rouge">10</code> 月更新内部指引，把 Claude Code 与 GitHub 的使用权限收缩到工程师岗位，交易员和银行家收回使用权；而在此前的 <code class="language-plaintext highlighter-rouge">4</code> 月，其香港岗位已经先行禁用了 Claude。</strong>触发因素报道口径为生产力评估与风险审查，交易员（strats，技术型岗位）保留权限。</p>

<p>三个细节让这个案例的分量超出一家公司的内部 IT 决定：</p>

<ol>
  <li><strong>这是「先放后收」，不是「从没放过」。</strong>高盛是 AI 编码工具的重度采购方，收回权限是一次正式的信任撤销，走的还是 Bloomberg 具名报道这种可查证渠道。</li>
  <li><strong>岗位分级授权本身就是新的治理范式。</strong>全员工具→工程师专属，说明企业内部开始把「哪些岗位可以接触何种 Agent 能力」当作一道需要设计的安全边界，而不是一纸全员许可。</li>
  <li><strong>利益相关方也在下场用。</strong>报道同时提到高盛是 Anthropic IPO 的主承销商之一——承销商与采购方双重身份并存，采购方仍然选择收缩，这个信号比任何独立第三方的禁令都硬。</li>
</ol>

<p><img src="/assets/images/paradigm-radar-agent-trust-img06.svg" alt="五主体事件矩阵：「事件 × 涉事主体矩阵（格内为 HN 分数）」，Anthropic（含渠道与权限面）占三格（1,616、1,014 旁注「攻击者借 Anthropic 渠道」、628，另 591 一格）、OpenAI 536、Microsoft 728；Goldman（企业侧）905 灰色标注「企业侧回应，不入合计」；b 合计口径：Claude Code 相关四帖 3,849 + OpenAI 与 Microsoft 两帖 1,264 = 5,113；底注邻簇事件未并入，Algolia 全树口径实测 2026-11-19" /></p>

<p>窗口内还有更弱的跟进信号：Citi 限制 AI Agent 访问客户账户的帖（<code class="language-plaintext highlighter-rouge">50121032</code>，仅 <code class="language-plaintext highlighter-rouge">2</code> 分）。单看分数微不足道，但方向与高盛一致；<code class="language-plaintext highlighter-rouge">agent.reviews</code> 式的外部评价飞轮（实测 <code class="language-plaintext highlighter-rouge">193,121</code> 条评价 / <code class="language-plaintext highlighter-rouge">4,495</code> 个工具，截至 <code class="language-plaintext highlighter-rouge">2026-11-19</code>）则说明「按厂商安全履历选型」正在长出公共数据面。企业侧的多米诺才推到第二块，但倒塌方向已经可见。</p>

<h2 id="反方与噪声哪些声音不该照单全收">反方与噪声：哪些声音不该照单全收</h2>

<p>一条 <code class="language-plaintext highlighter-rouge">5,113</code> 分的簇里同样混着噪声，不甄别会被带偏。</p>

<p><strong>其一，方向相反的邻帖不构成本簇证据。</strong>同窗口内「Anthropic 封禁涉及大模型训练的用户」（<code class="language-plaintext highlighter-rouge">50319358</code>，<code class="language-plaintext highlighter-rouge">497</code> 分）是平台封用户，与「工具替你泄密」方向相反，本文不并入；「Lovable 泄露用户护照与私信」（<code class="language-plaintext highlighter-rouge">50499017</code>，<code class="language-plaintext highlighter-rouge">1007</code> 分）属 vibe-coding 平台的数据安全，涉事产品不是编码 Agent，同样不并入。把不相干的泄露事件堆进同一个叙事，是这类热点最常见的失真方式。</p>

<p><strong>其二，部分证据链存在核验缺口。</strong>Codex 训练回滚是社区指控，OpenAI 无书面确认；apiiro 原文直连 <code class="language-plaintext highlighter-rouge">403</code>，数字只能转引讨论帖口径；transcript gist 原始域对本文抓取环境不可达，依赖帖内存档。这三处在正文里都已逐条标注，引用时请保持同样的谨慎。</p>

<p><strong>其三，簇内也有防御侧的正面信号。</strong><code class="language-plaintext highlighter-rouge">134</code> 分的实践帖《Running coding agents without handing them my credentials》（<code class="language-plaintext highlighter-rouge">11-17</code>）展示了不交常驻凭证跑 Agent 的完整路径；Show HN 的 Stroq 本地审计工具（<code class="language-plaintext highlighter-rouge">96</code> 分）把 Agent 行为日志留在本机；加上官方 security-review 仓库的 <code class="language-plaintext highlighter-rouge">7,007</code> 星，防御生态在事件压力下已经开始成形。信任危机的另一面，是安全实践第一次成为编码 Agent 选型的显性指标。</p>

<h2 id="自保行动清单">自保行动清单</h2>

<p>按「今天就能做」排序，六条全部有本文实测过的入口：</p>

<p><img src="/assets/images/paradigm-radar-agent-trust-img07.svg" alt="防御分层图：五层横条——分发层（校验发布者账号）、权限层（审计常开授权）、网络层（抓包核验上行通道）、OS 层（关闭可选诊断数据）、审计层（本地行为日志/最小权限凭证），右侧箭头标注攻击链自外向内逐层进入" /></p>

<ol>
  <li><strong>重验所有 AI 编码扩展的来源</strong>：逐个打开扩展页面对比发布者账号与厂商官方仓库的归属关系，宁可重装一遍。Cursor Marketplace 事件说明页面标识不构成担保。</li>
  <li><strong>审计 Agent 配置里的累计授权</strong>：检查 <code class="language-plaintext highlighter-rouge">.claude/settings.json</code> 及各 Agent 的权限配置文件，把「Don’t Ask Again」类常开许可逐条撤销到按需询问；如果你用 Agent 向公开仓库提交过代码，跑一次密钥泄露自查（apiiro 的 <code class="language-plaintext highlighter-rouge">1,122</code> 个文件全是这么被扫出来的）。</li>
  <li><strong>关窗看一次上行流量</strong>：用抓包工具观察你的编码 Agent 空闲状态下的请求——transcript、User-Agent、遥测端点，眼见为实。顺手关注 issue <code class="language-plaintext highlighter-rouge">#107757</code> 的状态，把厂商安全响应速度记进工具选型笔记。</li>
  <li><strong>Windows 用户关闭可选诊断数据</strong>：设置 → 隐私和安全性 → 诊断数据与相关反馈，取消「发送可选诊断数据」。这直接切断 <code class="language-plaintext highlighter-rouge">MissionControlAggregator</code> 的上传前提；想深挖的话，那个 DLL 的字符串你自己就能搜。</li>
  <li><strong>给 Agent 建凭证隔离</strong>：用最小权限、短时效的 token 跑编码任务，不投喂常驻主凭证；参考 HN <code class="language-plaintext highlighter-rouge">50526152</code> 的实践路径，配合 Stroq 类本地审计把 Agent 行为留在自己机器上。</li>
  <li><strong>企业用户参考岗位分级模型</strong>：把高盛的「工程师岗位专属 + 敏感岗位收回」当作现成模板，按数据敏感度给 Agent 能力划岗位边界，而不是全员一张通行证。</li>
</ol>

<h2 id="口径与边界">口径与边界</h2>

<p>本文数字全部为快照口径：HN 分数与全树评论数来自 Algolia API 递归计数（剔除 deleted/dead，截至 <code class="language-plaintext highlighter-rouge">2026-11-19</code>），与网页展示存在口径差；GitHub 星数为 API 实测（security-review 仓库星数沿用 <code class="language-plaintext highlighter-rouge">2026-11-16</code> 基线，存在实时漂移）。四处证据缺口已在正文逐条标注：Codex 训练回滚为社区指控级、apiiro 原文 <code class="language-plaintext highlighter-rouge">403</code> 不可直连、transcript gist 原始域对本文环境不可达、Citi 信号仅 <code class="language-plaintext highlighter-rouge">2</code> 分不构成趋势。高盛事件的授权收缩细节以 Bloomberg 原始报道为准，本文转引 The State of AI 与 HN 讨论口径。相邻但不同簇的事件（Lovable 泄密、Anthropic 封禁用户、Optimizely 供应链投毒、Harvard 代码审查瓶颈帖 <code class="language-plaintext highlighter-rouge">319</code> 分）均未计入 <code class="language-plaintext highlighter-rouge">5,113</code> 分合计，防混簇。本文不主张停用编码 Agent——六条裂缝都有对应的工程缓解手段；本文主张的是：<strong>把编码 Agent 当外部承包商管理，而不是当自己的 shell 管理。</strong></p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://news.ycombinator.com/item?id=50385272">HN 50385272：Claude Code User-Agent 邮箱外发讨论</a></li>
  <li><a href="https://github.com/anthropics/claude-code/issues/107757">anthropics/claude-code issue #107757</a></li>
  <li><a href="https://news.ycombinator.com/item?id=50300683">HN 50300683：Cursor Marketplace VSX 后门讨论</a></li>
  <li><a href="https://phorion.io/blog/offical-claude-code-vsx-compromise/">phorion：官方 Claude Code VSX 被攻陷披露</a></li>
  <li><a href="https://news.ycombinator.com/item?id=50407882">HN 50407882：Don’t Ask Again 泄密讨论</a></li>
  <li><a href="https://apiiro.com/blog/coding-agents-leaking-secrets-github-dont-ask-again">apiiro：编码 Agent 泄密研究原文</a></li>
  <li><a href="https://news.ycombinator.com/item?id=50284255">HN 50284255：背景 Agent transcript 上行讨论</a></li>
  <li><a href="https://gist.github.com/flamerix-ai/c3905705cc4205e5de3011fa2e74efce">flamerix gist：transcript 上行实测原文</a></li>
  <li><a href="https://news.ycombinator.com/item?id=50352757">HN 50352757：Codex 训练开关回滚讨论</a></li>
  <li><a href="https://news.ycombinator.com/item?id=50524736">HN 50524736：Win11 编码 Agent 遥测讨论</a></li>
  <li><a href="https://xusheng.dev/posts/windows-coding-agent-telemetry/">xusheng.dev：Win11 遥测逆向原文</a></li>
  <li><a href="https://news.ycombinator.com/item?id=50415628">HN 50415628：高盛收回 Claude Code 讨论</a></li>
  <li><a href="https://thestateofai.com/news/goldman-sachs-claude-code-traders-bankers">The State of AI：高盛禁令报道</a></li>
  <li><a href="https://news.ycombinator.com/item?id=50526152">HN 50526152：Agent 凭证隔离实践</a></li>
  <li><a href="https://github.com/anthropics/claude-code-security-review">anthropics/claude-code-security-review</a></li>
  <li><a href="/paradigm-radar-toolchain-poisoning/">站内：AI 范式雷达《官方渠道沦陷之后》</a></li>
  <li><a href="/paradigm-radar-default-drift-audit/">站内：AI 范式雷达《你的 Agent 正在被默认值悄悄改写》</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="ParadigmRadar" /><category term="Security" /><category term="ai-agents" /><category term="coding-agents" /><category term="security" /><category term="telemetry" /><category term="supply-chain" /><category term="credential-isolation" /><summary type="html"><![CDATA[编码 Agent 信任危机全景：六根支柱帖 5,113 分，四家涉事方各自翻车，高盛收回权限、Win11 收割遥测、Codex 训练回滚，附六条自保清单。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/paradigm-radar-agent-trust-crest.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/paradigm-radar-agent-trust-crest.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">AI 智创简报：《恶意扩展专利圈地检测层，下架还在装的清单没人交》</title><link href="https://unbug.github.io/innovation-brief-browser-extension-inventory-gap/" rel="alternate" type="text/html" title="AI 智创简报：《恶意扩展专利圈地检测层，下架还在装的清单没人交》" /><published>2026-11-18T00:00:00+00:00</published><updated>2026-11-18T00:00:00+00:00</updated><id>https://unbug.github.io/innovation-brief-browser-extension-inventory-gap</id><content type="html" xml:base="https://unbug.github.io/innovation-brief-browser-extension-inventory-gap/"><![CDATA[<p>一家 120 人跨境电商的 IT 外包服务商（MSP），替客户回安全问卷时被一句话卡住：”列出终端实际安装的浏览器扩展及风险等级。”手里只有 Intune 导出的扩展清单：300 个扩展 ID 里，17 个已在 Chrome Web Store 下架、4 个出现在恶意情报清单——逐个开商店页手工核对，要耗上一整天。</p>

<h2 id="专利信号">专利信号</h2>

<ul>
  <li><strong>US20250094580A1</strong> · <strong>Avast Software sro</strong>：优先权 <code class="language-plaintext highlighter-rouge">2023-09-14</code>，<code class="language-plaintext highlighter-rouge">2025-03-20</code> 公开，审查中。浏览器扩展恶意内容动态分析，claim1 口径是安装扩展于浏览器后评估。</li>
  <li><strong>US20250258920A1</strong> · <strong>Palo Alto Networks Inc</strong>：优先权 <code class="language-plaintext highlighter-rouge">2021-04-22</code>，<code class="language-plaintext highlighter-rouge">2025-08-14</code> 公开，审查中。组织后端验证端点上的安全浏览器与浏览防护。</li>
  <li><strong>US20250337779A1</strong> · <strong>WalkMe Ltd</strong>：优先权 <code class="language-plaintext highlighter-rouge">2022-01-19</code>，<code class="language-plaintext highlighter-rouge">2025-10-30</code> 公开，审查中。用合法页面库表示匹配做钓鱼检测。</li>
  <li><strong>CN121051008A</strong> · <strong>成都鲁易</strong>（Chengdu Luyi Technology Co ltd）：优先权 <code class="language-plaintext highlighter-rouge">2025-07-17</code>，<code class="language-plaintext highlighter-rouge">2025-12-02</code> 公开，审查中。浏览器与插件自动化安装测试系统，从优先权到公开仅 138 天。</li>
  <li><strong>AU2022273947B2</strong> · <strong>Island Technology Inc</strong>：优先权 <code class="language-plaintext highlighter-rouge">2021-05-10</code>，<code class="language-plaintext highlighter-rouge">2025-04-17</code> 公开，六件中唯一已授权（status 原文 Active）。企业浏览器：policy engine 内置于渲染引擎。</li>
  <li><strong>US20260135883A1</strong> · <strong>Mimecast Services Ltd</strong>：<code class="language-plaintext highlighter-rouge">2026-05-14</code> 公开，审查中。属延续案族，用户交互前主动推送内容威胁警告，对应”风险情报到终端”这一环。</li>
</ul>

<h2 id="技术趋势">技术趋势</h2>

<blockquote>
  <p>大厂专利全部假设你有 SIEM/EDR，没有面向 50-300 人公司的「清单+差分+一页报告」交付层。</p>
</blockquote>

<p>同一 Google Patents 域、同日（<code class="language-plaintext highlighter-rouge">2026-11-17</code>）同会话实测：宽短语 <code class="language-plaintext highlighter-rouge">browser extension AND malicious / data exfiltration</code> 史上总量 <code class="language-plaintext highlighter-rouge">3313</code> 件，精确短语 <code class="language-plaintext highlighter-rouge">"browser extension management"</code> 史上 <code class="language-plaintext highlighter-rouge">35</code> 件。两句检索式覆盖范围不同，只能并排看规模，不可相除算增长率。反差本身说明问题：专利圈地在检测引擎，不在企业清单/管理层。另一侧的产业佐证是空的：GitHub 搜 “removed from chrome web store” 仅 2 个仓库且无一相关，搜 malicious extension monitor 头部仅 ★2（2026-11-17 实测）。</p>

<h2 id="落地机会">落地机会</h2>

<p><strong>用户场景</strong>：开头那位 MSP——50-300 人的客户要交安全问卷、要过合规检查，答得出装了哪些扩展，答不出”哪些已在商店下架仍装着、哪些上了恶意清单”。</p>

<p>一个人能做的那一层是三源差分：客户导出的扩展 ID/CRX 哈希清单 × Chrome Web Store 现存状态（页面 404/not available 即”下架仍在装”）× ExtSentry/malext 公开恶意情报，产出一页 HTML 报告 + CSV + Intune/Admx 阻断块。反方必须看清：ExtSentry（★41，单人维护，2026-11-17 仍在 push）已把免费恶意扩展 feed 占死，但它只转 20 种 SIEM/CTI 导入格式，不做终端清单差分——再做一个恶意扩展库是撞车，能做的是差分加交付。npm 上的商店抓取库 chrome-web-store-scraper 已停更 8 年（2026-11-17 实测）。域名加服务器加代理不到 1000 元，1 人 3 周出 MVP。</p>

<h2 id="创业发现">创业发现</h2>

<ul>
  <li>收费：单次盘点报告 3000-6000 元起，转季度订阅——清单差分必须持续跑，天然续费；MSP 白牌按端收费 <code class="language-plaintext highlighter-rouge">$0.5-1</code>/端/月。首批客户就是接安全问卷的 MSP、IT 外包和 SaaS 初创负责人。</li>
  <li>门槛与风险：Chrome Web Store 无官方 API，状态要自建抓取与缓存；误阻断责任须在合同限定为”清单为线索、阻断由客户授权”。</li>
  <li>本周动作：把自家浏览器策略导出的扩展 ID 清单跑一遍商店状态差分，出一页样例报告——既是作品，也是下次填问卷的弹药。</li>
  <li>上一期<a href="/innovation-brief-shadow-ai-inventory/">Shadow AI 盘点</a>盘的是员工在用哪些 AI 工具，这期盘的是员工浏览器上装着哪些扩展，对象与数据源都不同。</li>
</ul>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://patents.google.com/?q=%22browser+extension%22+AND+%28malicious+OR+%22data+exfiltration%22%29">Google Patents 宽短语检索（检测侧）</a></li>
  <li><a href="https://patents.google.com/?q=%22browser+extension+management%22">Google Patents 精确短语检索（管理层）</a></li>
  <li><a href="https://github.com/ExtSentry/ExtSentry.github.io">GitHub：ExtSentry 恶意扩展 feed</a></li>
  <li><a href="https://malext.io">malext.io：恶意扩展可查库</a></li>
  <li><a href="https://hn.algolia.com/api/v1/search?query=browser%20extension%20malicious&amp;tags=story">HN Algolia：browser extension malicious 检索串</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="InnovationBrief" /><category term="browser-extension" /><category term="threat-intel" /><category term="Patent" /><category term="msp" /><category term="solo-dev" /><summary type="html"><![CDATA[恶意扩展检测专利史上 3313 件，扩展管理精确词族史上仅 35 件；大厂全在做检测引擎，已下架仍在装的终端清单差分无人交付，1 人 3 周可做。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/innovation-brief-browser-extension-inventory-gap.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/innovation-brief-browser-extension-inventory-gap.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">一分钟读论文：《榜单第一可能是背出来的》</title><link href="https://unbug.github.io/one-minute-read-paper-benchleaking-accelerating/" rel="alternate" type="text/html" title="一分钟读论文：《榜单第一可能是背出来的》" /><published>2026-11-18T00:00:00+00:00</published><updated>2026-11-18T00:00:00+00:00</updated><id>https://unbug.github.io/one-minute-read-paper-benchleaking-accelerating</id><content type="html" xml:base="https://unbug.github.io/one-minute-read-paper-benchleaking-accelerating/"><![CDATA[<p>Xinxu AI 与 GAIR 预印本<a href="https://arxiv.org/abs/2611.21315">《Benchleaking Is Accelerating》</a>探针 4 款开源基座模型：ERNIE-5.5-Flash-Base 背出 96.3% 的 HumanEval 题目，判零后 <code class="language-plaintext highlighter-rouge">20</code> 基准均分 <code class="language-plaintext highlighter-rouge">85.17</code> 掉到 <code class="language-plaintext highlighter-rouge">68.55</code>，排名反转。</p>

<h2 id="背题率四个模型差了一个量级">背题率：四个模型差了一个量级</h2>

<p><strong>探针方法是 few-shot 续写</strong>：给基座模型几道测试题开头让它续写，输出若复现未见于输入的测试题，即按论文自定义匹配规则判为”泄漏”。按全文版口径，ERNIE-5.5-Flash-Base 被判泄漏的题目占比为：HumanEval <code class="language-plaintext highlighter-rouge">96.3%</code>、OpenBookQA <code class="language-plaintext highlighter-rouge">85.4%</code>、GSM8K <code class="language-plaintext highlighter-rouge">80.1%</code>、GPQA-Main <code class="language-plaintext highlighter-rouge">34.6%</code>。这些是被判泄漏的题目占比，不是模型准确率。最扎眼的细节：命中题连参考实现一起背出，逐字复现了题目原文的拼写错误 <code class="language-plaintext highlighter-rouge">examble</code>。对照组差距悬殊：MiMo-V2.5-Base 为 <code class="language-plaintext highlighter-rouge">73.8%</code>，DeepSeek-V4-Flash-Base 为 <code class="language-plaintext highlighter-rouge">9.1%</code>，Hy3-preview-Base 为 <code class="language-plaintext highlighter-rouge">6.7%</code>，后两者在该探针下未泄漏完整的 OpenBookQA 或 GPQA-Main 题目。</p>

<h2 id="把背出来的题判零分排名就反转">把背出来的题判零分，排名就反转</h2>

<p><strong>Anti-Hack 分的定义必须写全</strong>：被判泄漏的题目直接记零分，分母保持原测试集规模不变，而不是删题重算。这套规则下 ERNIE-5.5-Flash-Base 的 HumanEval 从 <code class="language-plaintext highlighter-rouge">100.00</code> 掉到 <code class="language-plaintext highlighter-rouge">3.66</code>，OpenBookQA 从 <code class="language-plaintext highlighter-rouge">98.60</code> 掉到 <code class="language-plaintext highlighter-rouge">14.20</code>，GSM8K 从 <code class="language-plaintext highlighter-rouge">91.21</code> 掉到 <code class="language-plaintext highlighter-rouge">17.21</code>；<code class="language-plaintext highlighter-rouge">20</code> 基准均值从 <code class="language-plaintext highlighter-rouge">85.17</code> 掉到 <code class="language-plaintext highlighter-rouge">68.55</code>，掉 <code class="language-plaintext highlighter-rouge">16.6</code> 分。MiMo-V2.5-Base 的 <code class="language-plaintext highlighter-rouge">20</code> 基准均值掉 <code class="language-plaintext highlighter-rouge">5.0</code> 分，HumanEval 从 <code class="language-plaintext highlighter-rouge">98.78</code> 掉到 <code class="language-plaintext highlighter-rouge">25.76</code>；泄漏少的 DeepSeek-V4-Flash-Base 与 Hy3-preview-Base 均值只掉 <code class="language-plaintext highlighter-rouge">1.5</code> 分和 <code class="language-plaintext highlighter-rouge">1.3</code> 分。上述掉分均为 <code class="language-plaintext highlighter-rouge">20</code> 基准均值口径，与单基准掉分不可混用；论文据此把四款分成两组：泄漏少的两款几乎不掉分，说明强基座拿高分并不必然依赖背题，泄漏重的两款则被这一刀戳出水分。</p>

<p><img src="/assets/images/benchleaking-anti-hack-scores.svg" alt="ERNIE-5.5-Flash-Base 原始分与 Anti-Hack 分对照：HumanEval 100.00 对 3.66，20 基准均值 85.17 对 68.55" /></p>

<p><strong>掉的分是”扣掉疑似泄漏题后的分”</strong>，不是模型能力只有 <code class="language-plaintext highlighter-rouge">3.66</code>。排名反转仅限四款被测模型：ERNIE-5.5-Flash-Base 原始均值最高、Anti-Hack 均值垫底，不构成全行业榜单失真。站内<a href="/one-minute-read-paper-multi-step-swe-long-horizon/">《代码会写，接着写不会》</a>讨论的是自建基准的分数解释，那类解释同样默认测试集没被背过。</p>

<h2 id="这份预印本还不能当判决书">这份预印本，还不能当判决书</h2>

<p><strong>方法学诚实边界有三条</strong>。第一，few-shot 续写命中只能证明”背得出”，不能证明训练语料确实含有该测试集，论文自己的措辞也是 suggesting（推测语气），而非训练数据实证。第二，命中判定依赖作者自定义的匹配严格度，附录给出 L1、L2、L3 三档规则，档位不同结论强度不同；WinoGrande 的命中被论文标注可能来自孪生句构造而非真泄漏。第三，Anti-Hack 属惩罚式重算，对恰好背过题但仍会做的模型是过度惩罚，论文自认这一度量设计偏保守。另外，摘要里的 <code class="language-plaintext highlighter-rouge">23%</code> 转引自 Schaeffer and Räuker (2026)，属他人研究，不是本文实验产出。</p>

<p><strong>利益相关同样要摆出来</strong>。这是未评审预印本（提交于 <code class="language-plaintext highlighter-rouge">2026-11-16</code>），作者 Xinxu AI 与 GAIR 为非高校机构；GAIR 长期以榜单评测为业务，这次批评的四款模型对象全是中国厂商的开源基座模型（百度 ERNIE、小米 MiMo、腾讯 Hy3、DeepSeek），被评方无法在同一篇里答辩。论文给出的仓库地址 <code class="language-plaintext highlighter-rouge">github.com/GAIR-NLP/Benchleaking</code> 实测返回 <code class="language-plaintext highlighter-rouge">404</code>，独立复现暂时无从谈起；<code class="language-plaintext highlighter-rouge">96.3%</code> 目前更适合作为待复现信号，还不能下定论。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://arxiv.org/abs/2611.21315">Benchleaking Is Accelerating (arXiv:2611.21315)</a></li>
  <li><a href="https://arxiv.org/html/2611.21315v1">论文 HTML 全文</a></li>
  <li><a href="/one-minute-read-paper-multi-step-swe-long-horizon/">站内：代码会写，接着写不会</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="OneMinuteRead" /><category term="LLM" /><category term="Benchmark" /><category term="Evaluation" /><category term="OpenSourceModels" /><category term="MachineLearning" /><summary type="html"><![CDATA[Xinxu AI 与 GAIR 预印本探针四款开源基座模型：ERNIE-5.5-Flash-Base 背出 96.3% 的 HumanEval 题目含参考实现，判零后 20 基准均值从 85.17 掉到 68.55，排名反转。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/benchleaking-anti-hack-scores.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/benchleaking-anti-hack-scores.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">AI 智创简报：《员工 AI 工具没人登记，盘点生意浮出水面》</title><link href="https://unbug.github.io/innovation-brief-shadow-ai-inventory/" rel="alternate" type="text/html" title="AI 智创简报：《员工 AI 工具没人登记，盘点生意浮出水面》" /><published>2026-11-17T00:00:00+00:00</published><updated>2026-11-17T00:00:00+00:00</updated><id>https://unbug.github.io/innovation-brief-shadow-ai-inventory</id><content type="html" xml:base="https://unbug.github.io/innovation-brief-shadow-ai-inventory/"><![CDATA[<p>一家 50 人软件公司的技术负责人，被甲方安全问卷里一句话卡住：“贵司员工用了哪些 AI 工具、数据流向哪里？”答不出来，单子差点飞掉。他没钱买大平台，也没人力逐部门排查——而这个“说清楚”的活儿，正好有人开始收钱了。</p>

<h2 id="专利信号">专利信号</h2>

<ul>
  <li><strong>US20260228267A1</strong> · <strong>Citibank NA</strong>：优先权 <code class="language-plaintext highlighter-rouge">2024-04-11</code>，<code class="language-plaintext highlighter-rouge">2026-08-06</code> 公开，审查中。按查询复杂度、领域、监管约束选模型的 LLM 路由，配不可篡改审计链（claim1 为存储介质项）。</li>
  <li><strong>US12701129B2</strong> · <strong>US Bank NA</strong>：优先权 <code class="language-plaintext highlighter-rouge">2024-10-24</code>，<code class="language-plaintext highlighter-rouge">2026-08-04</code> 公开，已授权。实时封包检测加交易筛查做访问控制；说明书原文写明 agentic systems utilize natural language processing and large language models to analyze transaction records。</li>
  <li><strong>EP4785531A1</strong> · <strong>Aembit Inc</strong>：优先权 <code class="language-plaintext highlighter-rouge">2023-09-29</code>，<code class="language-plaintext highlighter-rouge">2026-08-05</code> 公开，审查中。工作负载（智能体）身份与访问管理：从计算环境提取身份信息认证 client workload，再施加访问策略。</li>
  <li><strong>WO2026165173A1</strong> · <strong>Automation Anywhere</strong>：优先权 <code class="language-plaintext highlighter-rouge">2024-02-27</code>，<code class="language-plaintext highlighter-rouge">2026-08-06</code> 公开，审查中。从事件日志（用户操作留痕）生成自动化流程，口径是流程观测与行为留痕。</li>
  <li><strong>CN122573634A</strong> · <strong>中国银联</strong>：优先权 <code class="language-plaintext highlighter-rouge">2026-06-29</code>，<code class="language-plaintext highlighter-rouge">2026-08-14</code> 公开，审查中。AI 审计规则生成加业务数据审计，claim1 含预训练规则生成器与对抗迭代训练；从优先权到公开仅 46 天。</li>
  <li><strong>US20260093544A1</strong> · <strong>Monday com Ltd</strong>：优先权 <code class="language-plaintext highlighter-rouge">2023-08-14</code>，<code class="language-plaintext highlighter-rouge">2026-04-02</code> 公开，审查中。SaaS 协作环境内 AI 智能体实例的集中管控与监控（枢纽件，claim1 为系统项）。</li>
</ul>

<h2 id="技术趋势">技术趋势</h2>

<blockquote>
  <p>六件专利全部假设企业已有 SIEM/大平台，没有面向 20-300 人公司的轻量盘点报告层。</p>
</blockquote>

<p>检索面可以看清规模：宽式 <code class="language-plaintext highlighter-rouge">"large language model" OR generative ai</code> 交 <code class="language-plaintext highlighter-rouge">audit trail / audit log / ai governance / model audit</code> 全时段共 <code class="language-plaintext highlighter-rouge">7355</code> 件；同簇精确式限定 <code class="language-plaintext highlighter-rouge">2026-08-01</code> 至 <code class="language-plaintext highlighter-rouge">11-17</code> 公开，命中 <code class="language-plaintext highlighter-rouge">263</code> 件（Google Patents，2026-11-17 实测）。信号不在数量变化，在线路：银行、工作流 SaaS、RPA 三条线同期布局 AI 行为留痕与管控，六件公开日集中在 <code class="language-plaintext highlighter-rouge">2026-04</code> 至 <code class="language-plaintext highlighter-rouge">2026-08</code>。银联件从优先权到公开只隔 46 天，是中国审查快速通道的细节注脚。</p>

<h2 id="落地机会">落地机会</h2>

<p><strong>用户场景</strong>：开头那位技术负责人就是典型客户——20 到 300 人的公司要交安全问卷、要过合规检查，却连“员工装了什么 AI 扩展、访问了哪些 AI 域名”都拿不出一份清单。</p>

<p>一个人能做的那一层是三源合并盘点包：浏览器企业策略导出的扩展清单，加网络出口域名指纹，加报销关键词匹配，产出一份《AI 使用清单与风险分级报告》。开源对标各只覆盖单层——ThalesGroup/shadowai-watch 只做操作系统级编码代理，AgrusScanner（星 41）只做网络扫描——报告与合规映射层没人做。npm 上的 <code class="language-plaintext highlighter-rouge">shadow-ai</code> 是 2024 年 6 月停更的空壳，商用命名位还空着（GitHub、npm、HN，2026-11-17 实测；HN 相关话题 130 帖，头部帖仅个位数分）。成本不到 1000 元，1 人 2-3 周出 MVP。</p>

<h2 id="创业发现">创业发现</h2>

<ul>
  <li>收费：报告 3000-8000 元/次，或订阅 49 美元/月/公司；首批客户是接安全问卷的软件外包公司、MSP 服务商、SaaS 初创 CTO。渠道从合规咨询接单者分包切入。</li>
  <li>门槛与风险：采集网络与终端数据必须拿客户书面授权并写清免责；微软 Purview 一类大厂方案向低价位下探是主要挤压。个人优势是客单低、部署轻、不用换平台。</li>
  <li>本周动作：从自己公司的浏览器策略和出口日志里拉一份 AI 域名访问清单——既是第一份作品样例，也是下一次填安全问卷的弹药。</li>
  <li>上一期<a href="/innovation-brief-agent-toolcall-approval-patents/">智能体工具调用批准专利</a>写执行前怎么拦，这期写员工实际用了什么。</li>
</ul>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://patents.google.com/?q=(%22large+language+model%22+OR+generative+ai)+AND+(%22audit+trail%22+OR+%22audit+log%22+OR+%22ai+governance%22+OR+%22model+audit%22)&amp;before=publication:20261118&amp;after=publication:20260801">Google Patents 核心簇检索结果页</a></li>
  <li><a href="https://hn.algolia.com/api/v1/search?query=shadow%20AI&amp;tags=story">HN Algolia：shadow AI 讨论</a></li>
  <li><a href="https://api.github.com/search/repositories?q=shadow+ai+discovery">GitHub Search：shadow ai discovery</a></li>
  <li><a href="https://github.com/ThalesGroup/shadowai-watch">GitHub：ThalesGroup/shadowai-watch</a></li>
  <li><a href="https://github.com/antropos17/Aegis">GitHub：antropos17/Aegis</a></li>
  <li><a href="https://registry.npmjs.org/shadow-ai">npm registry：shadow-ai</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="InnovationBrief" /><category term="shadow-ai" /><category term="ai-governance" /><category term="Patent" /><category term="compliance" /><category term="solo-dev" /><summary type="html"><![CDATA[六件 AI 行为留痕与管控专利同期公开，核心簇 3.5 个月 263 件；面向中小公司的轻量 AI 使用盘点报告无人做，1 人 2-3 周可做 MVP。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/innovation-brief-shadow-ai-inventory.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/innovation-brief-shadow-ai-inventory.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">一分钟读论文：《AI 审稿为何专挑附录下手》</title><link href="https://unbug.github.io/one-minute-read-paper-ai-review-appendix-bias/" rel="alternate" type="text/html" title="一分钟读论文：《AI 审稿为何专挑附录下手》" /><published>2026-11-17T00:00:00+00:00</published><updated>2026-11-17T00:00:00+00:00</updated><id>https://unbug.github.io/one-minute-read-paper-ai-review-appendix-bias</id><content type="html" xml:base="https://unbug.github.io/one-minute-read-paper-ai-review-appendix-bias/"><![CDATA[<p>辛辛那提大学 NLP 组（CINCNLP）的预印本论文<a href="https://arxiv.org/abs/2611.17811">《AI Reviews Are Biased Towards the Appendix》</a>实测四个顶会 <code class="language-plaintext highlighter-rouge">2,000</code> 篇论文：最新 GPT 与 Claude 模型的审稿缺点约六成摘自附录，人类审稿人仅 <code class="language-plaintext highlighter-rouge">8.4%</code>。</p>

<h2 id="6200-对比-840差距近一个数量级">62.00% 对比 8.40%：差距近一个数量级</h2>

<p><strong>抽样口径先说清</strong>。研究分两组：LLM 组从 ACL 2026、EMNLP 2026、COLM 2026、ICLR 2027 每个会议抽 <code class="language-plaintext highlighter-rouge">200</code> 篇附录不少于 <code class="language-plaintext highlighter-rouge">15</code> 页的论文，共 <code class="language-plaintext highlighter-rouge">800</code> 篇，交给 <code class="language-plaintext highlighter-rouge">GPT-6-Astra</code>、<code class="language-plaintext highlighter-rouge">GPT-6.1-Sol</code>、<code class="language-plaintext highlighter-rouge">Claude-Opus-5.5</code>、<code class="language-plaintext highlighter-rouge">Claude-Sonnet-5.5</code> 四个模型生成审稿，并把每条缺点自动归因回论文的具体章节。人类对照组从 ICLR 2021 至 2024 每年抽 <code class="language-plaintext highlighter-rouge">200</code> 篇附录不少于 <code class="language-plaintext highlighter-rouge">10</code> 页的论文，共 <code class="language-plaintext highlighter-rouge">1,200</code> 篇，两组是不同论文、不同年份。按论文 Table 1 口径，ICLR 2027 的 LLM 审稿缺点摘自附录的均值是 <code class="language-plaintext highlighter-rouge">62.00% ± 7.70</code>，ICLR 2021-2024 的人类审稿只有 <code class="language-plaintext highlighter-rouge">8.40% ± 1.44</code>，差距接近 <code class="language-plaintext highlighter-rouge">7</code> 倍。这里的”附录依赖”指审稿缺点的内容来源落在正文之外的补充材料里，是本研究的测量对象；它不涉及缺点本身是否成立。</p>

<p><img src="/assets/images/ai-review-appendix-bias.svg" alt="LLM 审稿缺点摘自附录 62.00%（ICLR 2027）对比人类审稿 8.40%（ICLR 2021-2024）；人类 2027 年升至 27.60%（时间相关）" /></p>

<h2 id="换哪种用法都一样而且是新行为">换哪种用法都一样，而且是新行为</h2>

<p><strong>三种使用方式都超过五成</strong>。研究分别通过 API、Codex 与 Claude Code 编程代理、以及网页界面调用模型，三种方式产生的审稿缺点来自附录的比例都超过 <code class="language-plaintext highlighter-rouge">50%</code>，说明附录依赖与调用方式无关。对比旧一代模型：GPT-5 的审稿缺点与附录相关的不超过 <code class="language-plaintext highlighter-rouge">30%</code>，GPT-6-Astra 与 GPT-6.1-Sol 则达到约 <code class="language-plaintext highlighter-rouge">60-70%</code>，论文据此判断这种行为是新一代模型才出现的新行为（this behavior is new）。背景是 AI 审稿已经普及：ICLR 2026 约五分之一的审稿被标记为完全由 AI 生成，还有更多可能经过 LLM 辅助。人类审稿人的附录化缺点比例同样在变化：长年稳定在 <code class="language-plaintext highlighter-rouge">6-10%</code>，ICLR 2027 升至 <code class="language-plaintext highlighter-rouge">27.60%</code>，时间上与 GPT-6-Astra、Claude-Opus-5.5 的发布重合。论文对此明确声明这只是时间相关（temporal correlation），不构成 LLM 导致人类审稿附录化的证据。站内 <a href="/one-minute-read-paper-claim-smoothing-llm-research-agents/">《AI 研究智能体如何把证据磨平》</a> 讨论研究智能体在写作环节弱化证据，这期讨论评审环节的来源偏移，两者都属于 LLM 学术产出可信度问题。</p>

<h2 id="预印本的边界哪里还不能下结论">预印本的边界：哪里还不能下结论</h2>

<p><strong>四类局限论文自己写明</strong>。第一，”缺点出自哪一节”由 LLM 自动归因，人工只做抽样复核，不是逐条核验，缺点含糊或跨多节时容易判错；第二，研究只统计缺点来自哪里、讲什么，不评估每条缺点本身对不对、有没有用，论文明确指出有些附录缺点指向真实问题；第三，人机对照组来自不同论文、不同年份，写作风格与附录规范随时间变化，会干扰比较；第四，抽样限定长附录论文，结论不能外推到全部投稿，研究也不涉及论文所得分数。利益相关同样要摆出来：这是未标注任何录用信息的纯预印本，出自单一实验室，而”AI 审稿质量”恰是 NLP 学术社区自身的利益相关话题；官方复现仓 <code class="language-plaintext highlighter-rouge">cincynlp/review_appendix</code> 实测 <code class="language-plaintext highlighter-rouge">stars</code> 仅 <code class="language-plaintext highlighter-rouge">2</code>（MIT 协议，<code class="language-plaintext highlighter-rouge">2026-11-04</code> 创建，<code class="language-plaintext highlighter-rouge">11-16</code> 仍在更新），第三方独立验证尚未发生，<code class="language-plaintext highlighter-rouge">62%</code> 目前更适合作为一个待复现的信号，而不是定论。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://arxiv.org/abs/2611.17811">AI Reviews Are Biased Towards the Appendix (arXiv:2611.17811)</a></li>
  <li><a href="https://github.com/cincynlp/review_appendix">复现仓 cincynlp/review_appendix</a></li>
  <li><a href="/one-minute-read-paper-claim-smoothing-llm-research-agents/">站内：AI 研究智能体如何把证据磨平</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="OneMinuteRead" /><category term="LLM" /><category term="AcademicPublishing" /><category term="PeerReview" /><category term="ChatGPT" /><category term="Claude" /><summary type="html"><![CDATA[辛辛那提大学预印本实测 2000 篇顶会论文：LLM 审稿缺点 62% 摘自附录，人类审稿仅 8.4%，三种使用方式均复现，附录偏见是新一代模型的新行为。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/ai-review-appendix-bias.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/ai-review-appendix-bias.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">AI 智创简报：《智能体批准专利各占一角，统一批准网关仍空着》</title><link href="https://unbug.github.io/innovation-brief-agent-toolcall-approval-patents/" rel="alternate" type="text/html" title="AI 智创简报：《智能体批准专利各占一角，统一批准网关仍空着》" /><published>2026-11-16T00:00:00+00:00</published><updated>2026-11-16T00:00:00+00:00</updated><id>https://unbug.github.io/innovation-brief-agent-toolcall-approval-patents</id><content type="html" xml:base="https://unbug.github.io/innovation-brief-agent-toolcall-approval-patents/"><![CDATA[<p>五件专利各占一角，地主多是个人发明人：智能体工具调用的「装完即用批准网关」还没人做（Google Patents 实测，截至 <code class="language-plaintext highlighter-rouge">2026-11-16</code>）。</p>

<p>宽查询 <code class="language-plaintext highlighter-rouge">"AI agent" "security"</code> 堆到 <code class="language-plaintext highlighter-rouge">11876</code> 件，窄窄的批准拦截层却几乎空着：<code class="language-plaintext highlighter-rouge">"browser agent" "prompt injection"</code> 仅 <code class="language-plaintext highlighter-rouge">1</code> 件、<code class="language-plaintext highlighter-rouge">"capability broker" "large language model"</code> <code class="language-plaintext highlighter-rouge">2</code> 件、2026 年后公开的 <code class="language-plaintext highlighter-rouge">"approval" "tool call"</code> <code class="language-plaintext highlighter-rouge">0</code> 件。</p>

<h2 id="专利信号">专利信号</h2>

<ul>
  <li><strong>US20260067335A1</strong>《Security and Privacy Preserving Agentic Browser》，地主 <strong>Individual</strong>（发明人 Bao Tran，GP 页面原文）：优先权 <code class="language-plaintext highlighter-rouge">2024-06-25</code>，<code class="language-plaintext highlighter-rouge">2026-03-05</code> 公开，已公开（审查中）。把浏览器拟执行动作按大模型分为 safe 或 risky，风险动作触发 step-up 升级认证。该件同时命中本期 5 个窄查询（browser agent、capability broker、approval、injfirewall、stepup），是本赛道枢纽件。</li>
  <li><strong>WO2026154461A2</strong> 防智能体数据目的洗白与滥用，地主 <strong>Individual</strong>（发明人 Sangam DAS）：优先权 <code class="language-plaintext highlighter-rouge">2025-12-09</code>，<code class="language-plaintext highlighter-rouge">2026-07-23</code> 公开，已公开（审查中）。硬件根最终性加加密执行授权，盯转账等不可逆动作。</li>
  <li><strong>KR102982822B1</strong> 按风险评估动态拦截工具的 AI 智能体控制装置，地主 <strong>BarWorld 株式会社</strong>：优先权 <code class="language-plaintext highlighter-rouge">2026-02-19</code>，<code class="language-plaintext highlighter-rouge">2026-06-26</code> 注册，已授权。调用前判危险度，批准 UI 加只跑已批准调用的沙箱，带可回滚快照。</li>
  <li><strong>US12592823B1</strong> 智能体经安全隧道访问远程客户资源，地主 <strong>Airia LLC</strong>（发明人 John Manton、Gregory Roberts）：优先权 <code class="language-plaintext highlighter-rouge">2025-09-24</code>，<code class="language-plaintext highlighter-rouge">2026-03-31</code> 注册，已授权。同族 <strong>US12683941B1</strong> 覆盖本地执行工具，<code class="language-plaintext highlighter-rouge">2026-07-14</code> 注册，已授权，摘要逐字含 Model Context Protocol（MCP）。</li>
</ul>

<h2 id="技术趋势">技术趋势</h2>

<blockquote>
  <p>不是没需求，是没人按智能体语境在 claim。</p>
</blockquote>

<p><code class="language-plaintext highlighter-rouge">"user approval" "tool call"</code> 共 <code class="language-plaintext highlighter-rouge">38</code> 件，其中 2026 年后公开 <code class="language-plaintext highlighter-rouge">0</code> 件，同义复核确认多为 RPA 审批流老语义。枢纽件包揽五个窄查询，<code class="language-plaintext highlighter-rouge">"step-up authentication" "autonomous agent"</code> <code class="language-plaintext highlighter-rouge">2</code> 件，<code class="language-plaintext highlighter-rouge">"firewall" "untrusted content" "language model"</code> <code class="language-plaintext highlighter-rouge">3</code> 件；egress 方向配优先权 2024-06 后为单次实测 <code class="language-plaintext highlighter-rouge">0</code>。与宽查询 11876 件比，缺口在风险分级批准这层。</p>

<h2 id="落地机会">落地机会</h2>

<p><strong>用户场景</strong>：给智能体开了浏览器、服务器、文件权限的独立开发者与小团队，在智能体要执行一条会改数据、发消息、花真钱的工具调用时被卡住——现有框架要么全放开（出事无痕），要么全人肉（每条都问）；「低风险放行、高风险弹批准、批准后进沙箱、可快照回滚」这一层没有装完即用的小工具。</p>

<p>一个人能做的那一层：本地/自托管的工具调用批准网关，MCP 代理或 agent 中间件形态，含风险分类器、批准 UI、只跑已批准调用的沙箱、会话快照。技术栈 Python/TS 加 MCP SDK 加策略引擎（OPA 或 Cedar），1 人 4 周出 MVP，成本低于 2 万元。</p>

<h2 id="创业发现">创业发现</h2>

<ul>
  <li>切入形态是订阅制开发者工具：首批客户取自把 coding agent 接进工作流的独立开发者，再上小团队 admin 版；渠道走 HN Show、MCP 目录、GitHub。</li>
  <li>门槛与风险：大厂原生权限系统会吃掉浅层需求（Claude Code 权限弹窗已是内置），差异位是跨框架统一网关、移动端批准、审计日志留痕。</li>
  <li>切割句：五件各占一角（浏览器风险分级、硬件根最终性、批准沙箱回滚、安全隧道访问），无一形成「统一批准网关」的完整权利要求网；2026 年 <code class="language-plaintext highlighter-rouge">"approval" "tool call"</code> 新公开为 <code class="language-plaintext highlighter-rouge">0</code>。</li>
  <li>上一期<a href="/ai-innovation-brief-mandate-verification-gap/">智能体签发授权书</a>写授权怎么签发，这期写执行前的批准拦截。</li>
</ul>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://patents.google.com/patent/US20260067335A1/en">Agentic Browser 安全与隐私专利</a></li>
  <li><a href="https://patents.google.com/patent/WO2026154461A2/en">防智能体数据目的洗白专利</a></li>
  <li><a href="https://patents.google.com/patent/KR102982822B1/en">BarWorld 动态拦截工具专利</a></li>
  <li><a href="https://patents.google.com/patent/US12592823B1/en">Airia 远程资源安全隧道专利</a></li>
  <li><a href="https://patents.google.com/patent/US12683941B1/en">Airia 本地工具安全隧道专利</a></li>
  <li><a href="https://news.ycombinator.com/item?id=46719774">HN：如何为生产环境的智能体动作授权</a></li>
  <li><a href="https://news.ycombinator.com/item?id=46740645">HN：如何强制智能体工具调用的权限</a></li>
  <li><a href="https://news.ycombinator.com/item?id=47269228">HN：Multicorn Shield 开源权限与批准</a></li>
  <li><a href="https://news.ycombinator.com/item?id=47111171">HN：用手机批准 Claude Code 权限请求</a></li>
  <li><a href="https://patents.google.com/">Google Patents 检索入口</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="InnovationBrief" /><category term="agent-security" /><category term="tool-approval" /><category term="Patent" /><category term="mcp" /><category term="solo-dev" /><summary type="html"><![CDATA[智能体工具调用批准层五件专利各占一角，两件挂个人发明人；2026 年后 approval 加工具调用新公开为零，统一批准网关无人 claim；1 人 4 周可做。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/innovation-brief-agent-toolcall-approval.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/innovation-brief-agent-toolcall-approval.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry></feed>