<?xml version="1.0" encoding="utf-8"?><feed xmlns="http://www.w3.org/2005/Atom" xml:lang="zh-CN"><generator uri="https://jekyllrb.com/" version="3.10.0">Jekyll</generator><link href="https://unbug.github.io/feed.xml" rel="self" type="application/atom+xml" /><link href="https://unbug.github.io/" rel="alternate" type="text/html" hreflang="zh-CN" /><updated>2026-11-08T14:04:14+00:00</updated><id>https://unbug.github.io/feed.xml</id><title type="html">Micropaper 一分钟读论文</title><subtitle>Micropaper 一分钟读论文：每天用一分钟读懂一篇 AI 论文，并提供 AI 范式雷达与 AI 智创简报，覆盖智能体、大模型、AI 安全与专利机会洞察。</subtitle><author><name>unbug</name></author><entry><title type="html">AI 智创简报：《工具调用专利三千六，空结果语义无人 claim》</title><link href="https://unbug.github.io/ai-innovation-brief-tool-failure-semantics/" rel="alternate" type="text/html" title="AI 智创简报：《工具调用专利三千六，空结果语义无人 claim》" /><published>2026-11-08T00:00:00+00:00</published><updated>2026-11-08T00:00:00+00:00</updated><id>https://unbug.github.io/ai-innovation-brief-tool-failure-semantics</id><content type="html" xml:base="https://unbug.github.io/ai-innovation-brief-tool-failure-semantics/"><![CDATA[<p>同一个 Google Patents 检索接口、同一天（<code class="language-plaintext highlighter-rouge">2026-11-08</code>）的两次精确短语查询（详情页见<a href="https://patents.google.com/patent/US12430428B2/en">微软异常工具调用判定专利</a>）：”tool execution” 返回 <code class="language-plaintext highlighter-rouge">3638</code> 件专利，”empty tool result” 返回 <code class="language-plaintext highlighter-rouge">0</code> 件：一边人山人海，一边连零件都没有。</p>

<p><img src="/assets/images/tool-failure-semantics-gap.svg" alt="工具调用拦截线专利圈地与空结果语义分流空位" /></p>

<h2 id="大厂圈的是结果进模型之前的拦截线">大厂圈的是结果进模型之前的拦截线</h2>

<p>四件当日二验的详情页给出同一条线。美国运通（American Express Travel Related Services Co Inc）的 <code class="language-plaintext highlighter-rouge">US20260212002A1</code>（LLM 交互安全沙箱，<code class="language-plaintext highlighter-rouge">2026-07-23</code> 公开，优先权日 <code class="language-plaintext highlighter-rouge">2023-11-15</code>，状态 Pending）claim 的是进模型的交互先进沙箱隔离（中译）。微软（Microsoft Technology Licensing LLC）三件：<code class="language-plaintext highlighter-rouge">US12699853B2</code> 语言模型幻觉检测（<code class="language-plaintext highlighter-rouge">2026-08-04</code> 授权公告，优先权日 <code class="language-plaintext highlighter-rouge">2024-01-21</code>）、<code class="language-plaintext highlighter-rouge">US12688403B2</code> 生成式人工智能系统的提示词注入判定（<code class="language-plaintext highlighter-rouge">2026-07-21</code> 授权公告，优先权日 <code class="language-plaintext highlighter-rouge">2023-03-03</code>）、<code class="language-plaintext highlighter-rouge">US12430428B2</code> 异常工具调用判定（<code class="language-plaintext highlighter-rouge">2025-09-30</code> 授权公告，优先权日 <code class="language-plaintext highlighter-rouge">2023-11-15</code>）。输入过滤、调用拦截、输出验真，四件全在「结果进模型之前」动手；没有一件 claim 工具返回空或报错之后，结果语义怎么分流。仓库缺货和收银机坏了，在大厂的权利要求里被当成同一件事。</p>

<h2 id="缺口在结果进门之后">缺口在结果进门之后</h2>

<p>工具调用（tool calling，即大模型按预先约定的 schema 发起外部函数执行）返回失败或空值时，至少混着三种语义：数据库里本来为空、工具服务坏了、参数用错了。分错箱的代价很直接：agent 拿着假空值继续往下推理，把库存查询为空当成商品下架；或者对着临时故障无限重试，烧掉一大截 token 预算。三种情况的正确动作完全不同，如今分流靠的全是开发者手写的临时判断。检索面印证空位：精确短语 “empty tool result” 命中 <code class="language-plaintext highlighter-rouge">0</code> 件；”tool execution” 的 <code class="language-plaintext highlighter-rouge">3638</code> 件里，<code class="language-plaintext highlighter-rouge">2025</code> 至 <code class="language-plaintext highlighter-rouge">2028</code> 分箱 <code class="language-plaintext highlighter-rouge">420</code> 件、<code class="language-plaintext highlighter-rouge">2022</code> 至 <code class="language-plaintext highlighter-rouge">2025</code> 分箱 <code class="language-plaintext highlighter-rouge">136</code> 件，执行侧本身还在加速圈地，结果语义侧仍是零。</p>

<h2 id="痛点有热度供给全在写入侧">痛点有热度，供给全在写入侧</h2>

<p>社区侧同温：Hacker News 近一年五个相关帖。「Google Antigravity exfiltrates data via indirect prompt injection attack」<code class="language-plaintext highlighter-rouge">768</code> 分（<code class="language-plaintext highlighter-rouge">2025-11-25</code>）、「Show HN: Forge – Guardrails take an 8B model from 53% to 99% on agentic tasks」<code class="language-plaintext highlighter-rouge">687</code> 分（<code class="language-plaintext highlighter-rouge">2026-05-19</code>）、「Fixing Tool-Call Accuracy in vLLM」<code class="language-plaintext highlighter-rouge">172</code> 分（<code class="language-plaintext highlighter-rouge">2026-10-26</code>）、「The M×N problem of tool calling and open-source models」<code class="language-plaintext highlighter-rouge">159</code> 分（<code class="language-plaintext highlighter-rouge">2026-04-09</code>）、「Local Indexing to reduce tool calling and token usage」<code class="language-plaintext highlighter-rouge">127</code> 分（<code class="language-plaintext highlighter-rouge">2026-10-12</code>）。工具侧生态同样热闹，但防的全是调用发生之前：npm 上 <code class="language-plaintext highlighter-rouge">@stackone/defender</code>（<code class="language-plaintext highlighter-rouge">0.9.4</code>，<code class="language-plaintext highlighter-rouge">2026-10-21</code> 发布）自述是面向 AI 工具调用的提示词注入防御框架，近一月下载 <code class="language-plaintext highlighter-rouge">57051</code>；评测工具 <code class="language-plaintext highlighter-rouge">promptfoo</code> 近一月下载 <code class="language-plaintext highlighter-rouge">3949597</code>。PyPI 上的 <code class="language-plaintext highlighter-rouge">guardrails-ai</code> 最新 <code class="language-plaintext highlighter-rouge">0.11.0</code>、<code class="language-plaintext highlighter-rouge">llm-guard</code> 最新 <code class="language-plaintext highlighter-rouge">0.3.16</code>，也是写入侧老工具：没有一个做失败结果进门后的分流。需求开了口，供给全堵在上游。</p>

<h2 id="空位是只读的分箱记账">空位是只读的分箱记账</h2>

<p>缺口对应一个个人开发者可交付物：只读的 tool-result（工具返回值）语义审计器。挂在工具调用日志之后，把失败与空返回值分箱成「本来为空、工具故障、参数错误」三类分开记账后出报告，帮开发者算清每类错误烧掉的重试成本；不拦截、不改调用、不碰模型。从公开文本看，四件专利的 claim 停在输入过滤、异常调用检测与输出验真，这种事后、只读、不执行动作的审计暂不落在其文字范围。拦截线上已经站满大厂，收银机后面的小生意还空着。上一篇<a href="/innovation-brief-agent-memory-audit-gap/">智能体记忆坏账审计</a>管的是记进长期记忆的账，这一篇管的是每次工具调用留下的流水。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://patents.google.com/patent/US20260212002A1/en">美国运通 LLM 交互安全沙箱专利</a></li>
  <li><a href="https://patents.google.com/patent/US12699853B2/en">微软幻觉检测专利</a></li>
  <li><a href="https://patents.google.com/patent/US12688403B2/en">微软生成式 AI 系统专利</a></li>
  <li><a href="https://patents.google.com/patent/US12430428B2/en">微软异常工具调用判定专利</a></li>
  <li><a href="https://news.ycombinator.com/item?id=46048996">HN：Antigravity 间接注入数据外泄</a></li>
  <li><a href="https://news.ycombinator.com/item?id=48192383">HN：Forge 护栏把 8B 模型 agentic 任务从 53% 提到 99%</a></li>
  <li><a href="https://news.ycombinator.com/item?id=50242870">HN：修复 vLLM 工具调用准确率</a></li>
  <li><a href="https://news.ycombinator.com/item?id=47704729">HN：工具调用与开源模型的 M×N 问题</a></li>
  <li><a href="https://news.ycombinator.com/item?id=50049508">HN：用本地索引减少工具调用与 token</a></li>
  <li><a href="https://www.npmjs.com/package/@stackone/defender">npm：@stackone/defender</a></li>
  <li><a href="https://www.npmjs.com/package/promptfoo">npm：promptfoo</a></li>
  <li><a href="https://pypi.org/project/guardrails-ai/">PyPI：guardrails-ai</a></li>
  <li><a href="https://pypi.org/project/llm-guard/">PyPI：llm-guard</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="InnovationBrief" /><category term="ai-agents" /><category term="patents" /><category term="tool-calling" /><category term="llm-tools" /><category term="solo-dev" /><summary type="html"><![CDATA[四件大厂工具调用专利全部圈在结果进模型之前的拦截线，工具返回失败或空结果之后的语义分流在专利检索面为零；只读的结果语义审计器是尚无权利要求卡住的位置。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/tool-failure-semantics-gap.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/tool-failure-semantics-gap.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">一分钟读论文：《子 agent 别写总结，直接交证据》</title><link href="https://unbug.github.io/one-minute-read-paper-persistent-retrieval-subagent/" rel="alternate" type="text/html" title="一分钟读论文：《子 agent 别写总结，直接交证据》" /><published>2026-11-08T00:00:00+00:00</published><updated>2026-11-08T00:00:00+00:00</updated><id>https://unbug.github.io/one-minute-read-paper-persistent-retrieval-subagent</id><content type="html" xml:base="https://unbug.github.io/one-minute-read-paper-persistent-retrieval-subagent/"><![CDATA[<p>ServiceNow 论文<a href="https://arxiv.org/abs/2611.07899">《Persistent Retrieval for Conversational Agents》</a>实测三种检索架构：检索子 agent 保留跨轮历史、直接交回原始证据，多轮比 skill 内检索省 <code class="language-plaintext highlighter-rouge">43.3%</code> token、<code class="language-plaintext highlighter-rouge">45.0%</code> 成本（牌价估算）。</p>

<p>准确率只降 <code class="language-plaintext highlighter-rouge">1.45</code> 个百分点。三种架构分别是：skill 内检索（<code class="language-plaintext highlighter-rouge">Skill</code>，主 agent 自己查）、无状态检索子代理（每次新历史，返回一段 findings 总结）、持久检索子代理（<code class="language-plaintext highlighter-rouge">Our method</code>，跨轮保留检索历史、把原始证据直接交回主 agent）。数据集是 ServiceNow 的 ITSM 工单 <code class="language-plaintext highlighter-rouge">57</code> 题、HRSD 人事工单 <code class="language-plaintext highlighter-rouge">48</code> 题，以及带多轮依赖的 ITSM Complex <code class="language-plaintext highlighter-rouge">69</code> 题；每组配置跑 <code class="language-plaintext highlighter-rouge">3</code> 次取均值。需要说明的是，作者 <code class="language-plaintext highlighter-rouge">5</code> 人全部来自 ServiceNow，实验跑在自家 agent harness 和自家企业工单集上，结论不宜泛化为所有 agent。</p>

<h2 id="三套架构的账单差在哪">三套架构的账单差在哪</h2>

<p>最贵的是让主 agent 自己把检索结果堆进上下文。在 ITSM Complex 上，<code class="language-plaintext highlighter-rouge">Skill</code> 平均每题 <code class="language-plaintext highlighter-rouge">401.5k</code> token、按公开牌价估算成本 <code class="language-plaintext highlighter-rouge">$0.387</code>；持久子代理是 <code class="language-plaintext highlighter-rouge">210.8k</code> token、<code class="language-plaintext highlighter-rouge">$0.121</code>；无状态子代理是 <code class="language-plaintext highlighter-rouge">148.0k</code> token、<code class="language-plaintext highlighter-rouge">$0.133</code>。持久方案对 <code class="language-plaintext highlighter-rouge">Skill</code> 的成本差为 <code class="language-plaintext highlighter-rouge">3.2</code> 倍，响应时间也从 <code class="language-plaintext highlighter-rouge">58.3</code> 秒降到 <code class="language-plaintext highlighter-rouge">54.3</code> 秒。跨 <code class="language-plaintext highlighter-rouge">5</code> 个多轮设置加权，持久子代理比 <code class="language-plaintext highlighter-rouge">Skill</code> 少 <code class="language-plaintext highlighter-rouge">43.3%</code> token、每题省 <code class="language-plaintext highlighter-rouge">$0.157</code>（<code class="language-plaintext highlighter-rouge">45.0%</code>）、快 <code class="language-plaintext highlighter-rouge">9.1%</code>。</p>

<p>代价也写在同一张表上：ITSM Complex 准确率从 <code class="language-plaintext highlighter-rouge">91.30%</code> 降到 <code class="language-plaintext highlighter-rouge">89.85%</code>，<code class="language-plaintext highlighter-rouge">-1.45</code> 个百分点。这个数字仅在 <code class="language-plaintext highlighter-rouge">69</code> 题多轮依赖集上出现，且是 GPT-5.4-mini 裁判判定的宽松通过率（得分大于 <code class="language-plaintext highlighter-rouge">0</code> 且判为一致即算通过），不是严格准确率。单轮场景反而打平甚至反超：ITSM 上两者同为 <code class="language-plaintext highlighter-rouge">98.25%</code>，每题估算成本从 <code class="language-plaintext highlighter-rouge">$0.113</code> 降到 <code class="language-plaintext highlighter-rouge">$0.068</code>。</p>

<h2 id="省-token-与省钱是两本账">省 token 与省钱是两本账</h2>

<p>把对照系换成无状态子代理，结论会转弯。无状态子代理每次从零开始，持久方案反而比它多用 <code class="language-plaintext highlighter-rouge">41.4%</code> 总 token（ITSM Complex 口径），跨 <code class="language-plaintext highlighter-rouge">5</code> 个多轮设置平均多 <code class="language-plaintext highlighter-rouge">65.1%</code>；两口径属不同统计范围，不能混用。每题估算成本还贵 <code class="language-plaintext highlighter-rouge">$0.043</code>（<code class="language-plaintext highlighter-rouge">29.1%</code>），只是快 <code class="language-plaintext highlighter-rouge">15.6</code> 秒。保留历史把输入变大了，账单却没爆，因为未缓存输入 <code class="language-plaintext highlighter-rouge">$2.50</code>/百万 token、缓存输入只算 <code class="language-plaintext highlighter-rouge">$0.25</code>、输出 <code class="language-plaintext highlighter-rouge">$15</code>（OpenAI 公开的 GPT-5.4 标准牌价）——缓存单价只有未缓存单价的十分之一，存进缓存的那部分历史几乎不要钱，硬生生把账打了下来。所有 <code class="language-plaintext highlighter-rouge">$</code> 数字都是拿录制 token 乘牌价的估算，不是真实账单，也不含检索服务与裁判调用。注意 <code class="language-plaintext highlighter-rouge">43.3%</code>/<code class="language-plaintext highlighter-rouge">45.0%</code> 的省是相对 skill 内检索说的，不能当成「比不优化便宜一半」。</p>

<h2 id="消融别写总结比保留历史更值钱">消融：别写总结比保留历史更值钱</h2>

<p>ITSM Complex 消融把两个机制拆开定价（每题均值）：去掉「直接回传证据」、让子代理改写 findings 总结，成本上浮 <code class="language-plaintext highlighter-rouge">42%</code>、慢 <code class="language-plaintext highlighter-rouge">17.7</code> 秒；去掉「持久历史」只上浮 <code class="language-plaintext highlighter-rouge">8%</code>、慢 <code class="language-plaintext highlighter-rouge">4.3</code> 秒，前者代价是后者的 <code class="language-plaintext highlighter-rouge">5.3</code> 倍；三种配置准确率都停在 <code class="language-plaintext highlighter-rouge">89.85%</code>。真正的大头是不让子代理作文：主 agent 自己读证据、自己写答案，省掉一次中间生成。持久历史的价值则在于复用：同一个子代理跑完 <code class="language-plaintext highlighter-rouge">69</code> 题只做了 <code class="language-plaintext highlighter-rouge">23</code> 次元数据查询和 <code class="language-plaintext highlighter-rouge">59</code> 次 Cypher 查询，而 <code class="language-plaintext highlighter-rouge">Skill</code> 是 <code class="language-plaintext highlighter-rouge">36</code> 次与 <code class="language-plaintext highlighter-rouge">85</code> 次。</p>

<p><img src="/assets/images/persistent-retrieval-subagent.svg" alt="三种检索架构的每题成本与消融代价对比" /></p>

<p>与站内<a href="/one-minute-read-paper-agent-pprof-semantic-stack/}">《像查性能热点一样查智能体的开销》</a>不同：那篇是用 profiler 对已跑轨迹做开销归因，这篇是在架构层面比较三种检索外包姿势的选型，两者不在同一轴上。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://arxiv.org/abs/2611.07899">Persistent Retrieval for Conversational Agents: A Study of Retrieval Efficiency</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="OneMinuteRead" /><category term="ai-agents" /><category term="retrieval" /><category term="llm-cost" /><category term="agent-architecture" /><summary type="html"><![CDATA[ServiceNow 论文实测三种检索架构：让检索子 agent 保留跨轮历史并直接回传原始证据，多轮场景比 skill 内检索省 43.3% token、省 45.0% 估算 API 成本，准确率仅降 1.45 个百分点。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/persistent-retrieval-subagent.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/persistent-retrieval-subagent.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">AI 智创简报：《智能体开始记长期账，谁来管坏账？》</title><link href="https://unbug.github.io/innovation-brief-agent-memory-audit-gap/" rel="alternate" type="text/html" title="AI 智创简报：《智能体开始记长期账，谁来管坏账？》" /><published>2026-11-07T00:00:00+00:00</published><updated>2026-11-07T00:00:00+00:00</updated><id>https://unbug.github.io/innovation-brief-agent-memory-audit-gap</id><content type="html" xml:base="https://unbug.github.io/innovation-brief-agent-memory-audit-gap/"><![CDATA[<p>2025 年 8 月到 2026 年 6 月，Qomplx、微软、Monday.com 与两家中国公司先后公开或授权 <code class="language-plaintext highlighter-rouge">5</code> 件智能体记忆专利，逐件详情页于 <code class="language-plaintext highlighter-rouge">2026-11-07</code> 二验：权利要求全部圈在「怎么写进去、怎么组起来」，「读出来的记忆还能不能用」无人认领。</p>

<p><img src="/assets/images/agent-memory-governance-gap.svg" alt="智能体记忆治理缺口：写入侧专利圈地与审计侧空位" /></p>

<h2 id="五件专利全在管记账没人管坏账">五件专利全在管记账，没人管坏账</h2>

<p><code class="language-plaintext highlighter-rouge">US20250259042A1</code>（Qomplx Inc，<code class="language-plaintext highlighter-rouge">2025-08-14</code> 公开，优先权日 <code class="language-plaintext highlighter-rouge">2024-02-08</code>）claim 1 保护「任务分解后交给多领域 agent，初步结果嵌入所有 agent 共享的公共 token 空间供后续复用」的编排系统（中译），claim 2 再加跨 agent 分层记忆结构（中译）。<code class="language-plaintext highlighter-rouge">EP4657312A1</code>（Microsoft Technology Licensing LLC，<code class="language-plaintext highlighter-rouge">2025-12-03</code> 公开）claim 1 把上下文数据装入 agent 多层记忆（multi-layer memory），再由此机器学习出「监督等级」配置执行自由度（中译）。<code class="language-plaintext highlighter-rouge">CN121233825B</code>（北京城市网邻信息技术有限公司，<code class="language-plaintext highlighter-rouge">2026-06-26</code> 授权）claim 1 要求先按领域与主题类别从短期记忆存储区召回会话摘要，召不回再转长期记忆存储区（中译）；说明书把上下文工程（context engineering，即对进入模型的记忆与资料做采集、筛选、压缩、排序、更新）就定义为这套流水线。<code class="language-plaintext highlighter-rouge">CN121301536A</code>（上海羚数智能科技有限公司，<code class="language-plaintext highlighter-rouge">2026-01-09</code> 公开）把「基于智能体上下文工程的混合 AI 自适应优化系统」直接写成发明名称（中译），claim 1 的知识库由带来源、时间戳、使用次数、置信度元数据的结构化知识单元组成。<code class="language-plaintext highlighter-rouge">US20260181056A1</code>（Monday.com Ltd，<code class="language-plaintext highlighter-rouge">2026-06-25</code> 公开）最直白，跨 agent 记忆同步子系统直接写进标题：在两个以上 agent 实例间同步记忆完成协作（中译）。</p>

<h2 id="检索面一边拥挤一边近乎空地">检索面一边拥挤，一边近乎空地</h2>

<p>Google Patents 检索接口对精确短语 “context engineering” 的聚合面返回 <code class="language-plaintext highlighter-rouge">185</code> 件，其中 <code class="language-plaintext highlighter-rouge">146</code> 件公开于 <code class="language-plaintext highlighter-rouge">2025</code> 年及以后（分箱来自接口自算 summary，两次命中计数一致）。185 不等于赛道全量，大量同技术专利用 memory store、token space 等词书写，不能作全行业定量结论。反向对比更能说明问题：查 “memory staleness” 仅命中 <code class="language-plaintext highlighter-rouge">4</code> 件，全是硬件内存泄漏与虚拟机状态旧专利（<code class="language-plaintext highlighter-rouge">1987</code> 至 <code class="language-plaintext highlighter-rouge">2021</code> 年），没有一件属于智能体记忆语义。写入装配的术语下七成就在近一年，读取失效的术语下近乎空地。</p>

<h2 id="开发者先不相信工具却只有仓库">开发者先不相信，工具却只有仓库</h2>

<p>社区侧同频，Hacker News 近 12 个月：「Agents don’t need memory, they need documentation」拿到 <code class="language-plaintext highlighter-rouge">392</code> 分，「Don’t trust large context windows」<code class="language-plaintext highlighter-rouge">277</code> 分、「Agent memory as a file format」<code class="language-plaintext highlighter-rouge">191</code> 分；一条 <code class="language-plaintext highlighter-rouge">371</code> 分帖子题为「OpenAI reduces Codex Model Context Size from 372k to 272k」，是社区上报叙述，PR 正文未读，但至少说明上下文预算被当成资源讨论。供给端却是另一个故事：npm 上 mem0ai 最新版 <code class="language-plaintext highlighter-rouge">3.3.1</code>（<code class="language-plaintext highlighter-rouge">2026-09-25</code>）自述就是 The Memory Layer For Your AI Apps，PyPI 上 cognee <code class="language-plaintext highlighter-rouge">1.6.6</code>、memobase <code class="language-plaintext highlighter-rouge">0.0.27</code> 同理都是「存」的库；搜 memory audit、context budget 一类命名，只有 <code class="language-plaintext highlighter-rouge">4</code> 个个人开发者体量的小包（<code class="language-plaintext highlighter-rouge">1</code> 到 <code class="language-plaintext highlighter-rouge">8</code> 个版本），做窗口预算估算或本地日志分析，没有一个审计记忆内容本身。这就是「供大于求、验大于零」的位置差：需求开了口，工具几乎为零。</p>

<h2 id="空位是只读审计不是又一个记忆库">空位是只读审计，不是又一个记忆库</h2>

<p>缺口对应一个可交付物：记忆审计 CLI。指向本地 agent 记忆目录（JSONL、SQLite、Markdown），输出过期条目、矛盾记忆对、从未被召回的死记忆、跨 agent 重复写入；不依赖大模型，不改动记忆，只出报告。从公开文本看，五件 claim 覆盖写入、编排、召回与监督等级配置，只读、离线、不执行任务的审计目前不落在其文字范围；但 Monday.com 的协调层 claim 较宽，产品一旦做成带调度的同步中间件就会贴近，这条边界要守住。上一篇<a href="/innovation-brief-network-agent-testing-patents/">网络排障 Agent 专利</a>解决「上场干活没人监考」，这篇解决「记下来的账没人对账」。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://patents.google.com/patent/US20250259042A1/en">US20250259042A1 - Qomplx</a></li>
  <li><a href="https://patents.google.com/patent/EP4657312A1/en">EP4657312A1 - Microsoft</a></li>
  <li><a href="https://patents.google.com/patent/US20260181056A1/en">US20260181056A1 - Monday.com</a></li>
  <li><a href="https://patents.google.com/patent/CN121233825B/en">CN121233825B - 北京城市网邻</a></li>
  <li><a href="https://patents.google.com/patent/CN121301536A/en">CN121301536A - 上海羚数智能</a></li>
  <li><a href="https://hn.algolia.com/api/v1/search?query=agent+memory&amp;tags=story&amp;numericFilters=points%3E100">HN: Agents don’t need memory</a></li>
  <li><a href="https://hn.algolia.com/api/v1/search?query=context+engineering&amp;tags=story&amp;numericFilters=points%3E150">HN: Codex context size 上报帖</a></li>
  <li><a href="https://pypi.org/pypi/cognee/json">PyPI: cognee</a></li>
  <li><a href="https://registry.npmjs.org/mem0ai">npm: mem0ai</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="InnovationBrief" /><category term="patent" /><category term="agent-memory" /><category term="context-engineering" /><category term="dev-tools" /><category term="indie-hacker" /><summary type="html"><![CDATA[2025年8月到2026年6月的五件智能体记忆专利，全部圈在记忆的写入与编排，读取侧的失效审计近乎空白；只读离线审计是尚无权利要求卡住的位置。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/agent-memory-governance-gap.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/agent-memory-governance-gap.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">一分钟读论文：《你的 AI 智能体，烧掉多少钱是白花的？》</title><link href="https://unbug.github.io/one-minute-read-paper-agent-token-waste-pruning/" rel="alternate" type="text/html" title="一分钟读论文：《你的 AI 智能体，烧掉多少钱是白花的？》" /><published>2026-11-07T00:00:00+00:00</published><updated>2026-11-07T00:00:00+00:00</updated><id>https://unbug.github.io/one-minute-read-paper-agent-token-waste-pruning</id><content type="html" xml:base="https://unbug.github.io/one-minute-read-paper-agent-token-waste-pruning/"><![CDATA[<p>UIUC 等机构的论文<a href="https://arxiv.org/abs/2611.07238">《How Do AI Agents Waste Your Money?》</a>测出 AI 智能体账单里白花的部分：约 <code class="language-plaintext highlighter-rouge">18%</code> 的输出 token 是浪费，在线剪枝删掉 <code class="language-plaintext highlighter-rouge">41%</code>–<code class="language-plaintext highlighter-rouge">46%</code> 推理后成绩基本不掉。</p>

<p>研究由伊利诺伊大学厄巴纳-香槟分校（UIUC）的 Huimin Zeng 与东北大学（Northeastern University）的 Yuxuan Lu 共同一作，成员来自加州大学洛杉矶分校（UCLA）、UT Austin 及独立研究者，UT Austin 的 Jiaxin Pei 为共同通讯作者。实验覆盖 <code class="language-plaintext highlighter-rouge">4</code> 个基准（<code class="language-plaintext highlighter-rouge">τ²-bench</code>、<code class="language-plaintext highlighter-rouge">SWE-bench Verified</code>、<code class="language-plaintext highlighter-rouge">Claw-Eval</code>、<code class="language-plaintext highlighter-rouge">MCP-Atlas</code>）、<code class="language-plaintext highlighter-rouge">6</code> 款前沿模型（Kimi-K3、Gemini 3.1 Pro、GPT-5.6 Terra、GPT-6 Astra、Claude Sonnet 5、Claude Fable 5.1）和 <code class="language-plaintext highlighter-rouge">5</code> 款执行框架，属于受控测量而非全行业账单统计。</p>

<h2 id="什么算浪费">什么算「浪费」</h2>

<p>论文把「浪费」定义为可操作的测量口径：先用 LLM 裁判（LLM-as-a-Judge）把轨迹里的推理片段标成四类——复述（Restate）、重复取数（Duplicate-Fetch）、凑字（Padding）、绕远路（Detour），再把这些片段删掉重放执行，验证任务表现是否受影响，而非人工主观标注。</p>

<p>删除实验证明了这把尺子的有效性：在 <code class="language-plaintext highlighter-rouge">SWE-bench Verified</code> 上，删掉被标记的浪费后仅 <code class="language-plaintext highlighter-rouge">3.0%</code> 的轮次动作分布显著移位，而删掉全部历史推理则移位 <code class="language-plaintext highlighter-rouge">25.0%</code>；<code class="language-plaintext highlighter-rouge">MCP-Atlas</code> 上是 <code class="language-plaintext highlighter-rouge">10.5%</code> 对 <code class="language-plaintext highlighter-rouge">37.9%</code>。浪费片段对后续决策的影响比全部推理小一个量级，说明被标记的确实是「可安全移除」的部分，而不只是冗长的部分。</p>

<h2 id="删掉近半推理成绩基本不掉">删掉近半推理，成绩基本不掉</h2>

<p>在线剪枝实验中，删除复述与凑字两类内容后：<code class="language-plaintext highlighter-rouge">SWE-bench Verified</code> 删 <code class="language-plaintext highlighter-rouge">0%</code>（基线）时 solved 为 <code class="language-plaintext highlighter-rouge">89.0</code>，删 <code class="language-plaintext highlighter-rouge">41%</code> 后升到 <code class="language-plaintext highlighter-rouge">89.5</code>，删 <code class="language-plaintext highlighter-rouge">100%</code> 全删则崩到 <code class="language-plaintext highlighter-rouge">73.0</code>；<code class="language-plaintext highlighter-rouge">MCP-Atlas</code> 基线 <code class="language-plaintext highlighter-rouge">65.0</code>，删 <code class="language-plaintext highlighter-rouge">46%</code> 后 <code class="language-plaintext highlighter-rouge">62.3</code>，全删崩到 <code class="language-plaintext highlighter-rouge">56.0</code>。</p>

<p>浪费的分布高度不均。跨轨迹统计里约 <code class="language-plaintext highlighter-rouge">18%</code> 的输出 token 被标为浪费，这是衡量剪枝空间的基准量；删复述与凑字两类可达 <code class="language-plaintext highlighter-rouge">41%</code>–<code class="language-plaintext highlighter-rouge">46%</code>，因为剪枝删的是可安全移除的片段集合，与全量浪费标记口径不同。在超过 <code class="language-plaintext highlighter-rouge">45%</code> 的任务里，单个智能体浪费的输出比另一个成功解出同题的智能体的全部输出还多——两者是相互独立的观察。浪费还高度集中：<code class="language-plaintext highlighter-rouge">MCP-Atlas</code> 上约 <code class="language-plaintext highlighter-rouge">10%</code> 的 OpenHands 轨迹占了 <code class="language-plaintext highlighter-rouge">73%</code> 的轮次，<code class="language-plaintext highlighter-rouge">SWE-bench Verified</code> 上长轨迹约占 <code class="language-plaintext highlighter-rouge">40%</code> 的轮次。</p>

<h2 id="加钱买推理边际收益有台阶">加钱买推理，边际收益有台阶</h2>

<p>以 Kimi-K3 单模型为例的预算曲线显示：从低档到高档多花 <code class="language-plaintext highlighter-rouge">0.99</code> 百万 token，成功率从 <code class="language-plaintext highlighter-rouge">69.7%</code> 升到 <code class="language-plaintext highlighter-rouge">78.4%</code>；再从高档到最高档多花 <code class="language-plaintext highlighter-rouge">0.80</code> 百万 token，成绩无可测提升。高档到最高档新增 token 中 <code class="language-plaintext highlighter-rouge">81%</code> 花在结果不变的任务上，只有 <code class="language-plaintext highlighter-rouge">12%</code> 对应失败转成功。</p>

<p>更反直觉的是：同在 Kimi-K3 上，最高档每轨迹推理 token 是低档的 <code class="language-plaintext highlighter-rouge">6.6</code> 倍，被判定为浪费的比例却仅从 <code class="language-plaintext highlighter-rouge">23.7%</code> 变到 <code class="language-plaintext highlighter-rouge">24.9%</code>，同一批都能解出的任务上贵 <code class="language-plaintext highlighter-rouge">1.62</code> 倍。多烧的钱买的是更长的路径，不是更多的废话；省钱的抓手是剪掉被标记的片段，而非一刀切压低推理预算。这条曲线仅为单模型口径，不能外推到全部前沿模型。</p>

<p><img src="/assets/images/agent-token-waste-pruning.svg" alt="智能体 token 浪费的构成与在线剪枝效果" /></p>

<p>与站内<a href="/one-minute-read-paper-agent-pprof-semantic-stack/">《像查性能热点一样查智能体的开销》</a>不同：那篇是把 profiler 搬到智能体轨迹上做开销归因，这篇则是给「浪费」下了可删除、可验证的操作定义，并用它做在线剪枝干预，两者不在同一轴上。本文结论适用于其受控测量范围，不宜外推为全行业账单。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://arxiv.org/abs/2611.07238">How Do AI Agents Waste Your Money?</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="ai-agents" /><category term="token-waste" /><category term="llm-cost" /><category term="agent-pruning" /><summary type="html"><![CDATA[伊利诺伊大学等机构首次把 AI 智能体的 token 浪费变成可测量信号：约 18% 输出是废话；在线剪枝删掉 41%-46% 推理，SWE-bench Verified 成绩不降反微升。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/agent-token-waste-pruning.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/agent-token-waste-pruning.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">一分钟读论文：《记得住，改不动》</title><link href="https://unbug.github.io/one-minute-read-paper-rescopebench-experience-lifecycle/" rel="alternate" type="text/html" title="一分钟读论文：《记得住，改不动》" /><published>2026-11-06T00:00:00+00:00</published><updated>2026-11-06T00:00:00+00:00</updated><id>https://unbug.github.io/one-minute-read-paper-rescopebench-experience-lifecycle</id><content type="html" xml:base="https://unbug.github.io/one-minute-read-paper-rescopebench-experience-lifecycle/"><![CDATA[<p>港科大与华为的联合团队在<a href="https://arxiv.org/abs/2611.05450">《Towards Robust Long-Lived Agents: Benchmarking Experience Lifecycles in Evolving Environments》</a>里搭了首个「经验生命周期」基准 ReScopeBench，量出一个耐人寻味的结果：长驻智能体记得住，改不动。<code class="language-plaintext highlighter-rouge">20</code> 个模型上，环境静默变更后，该更新的经验内容四个受影响任务后覆盖率才爬到 <code class="language-plaintext highlighter-rouge">64.63%</code>，而旧内容的保留率始终压在 <code class="language-plaintext highlighter-rouge">88%</code> 以上。</p>

<p><img src="/assets/images/rescopebench-experience-lifecycle.svg" alt="更新线与保留率线渐行渐远：四个受影响任务后，更新内容覆盖率 64.63%，旧内容保留率 91.07%，另有 10.26% 做成过的经验发生回退" /></p>

<h2 id="改不动是被量出来的事实">改不动是被量出来的事实</h2>

<p>基准设定：<code class="language-plaintext highlighter-rouge">18</code> 个环境、<code class="language-plaintext highlighter-rouge">352</code> 个任务、九个应用领域，每个环境暴露 <code class="language-plaintext highlighter-rouge">3</code> 到 <code class="language-plaintext highlighter-rouge">18</code> 个工具（平均 <code class="language-plaintext highlighter-rouge">10.1</code> 个），任务流按 <code class="language-plaintext highlighter-rouge">16</code>、<code class="language-plaintext highlighter-rouge">24</code> 或 <code class="language-plaintext highlighter-rouge">32</code> 个任务排布，流内安排一到三次环境变更——参数上限、字段名、资源规则变了，但不告诉你。以往基准问「存下的经验有没有用」，这篇问「环境变了，存下的经验改不改得动」。</p>

<p>答案分两半。经验确实有用：带着经验做任务的表现差距明显，Qwen3.8-27B 在 <code class="language-plaintext highlighter-rouge">62.48</code> 与 <code class="language-plaintext highlighter-rouge">73.44</code> 之间。经验也确实难改：变更发生后第一个任务里，Qwen3.8-27B 只完成 <code class="language-plaintext highlighter-rouge">29.05%</code> 的应更新项，与商业模型中位数 <code class="language-plaintext highlighter-rouge">29.75%</code> 几乎并排——开源与商业在这道关卡前一样卡壳。</p>

<h2 id="两条线越走越远">两条线越走越远</h2>

<p>论文把两条覆盖率曲线盯到底：该更新内容的覆盖率在头四个受影响任务里从 <code class="language-plaintext highlighter-rouge">21.47%</code> 爬到 <code class="language-plaintext highlighter-rouge">43.07%</code>、<code class="language-plaintext highlighter-rouge">59.40%</code>、<code class="language-plaintext highlighter-rouge">64.63%</code>；该保留内容的保留率是 <code class="language-plaintext highlighter-rouge">89.05%</code>、<code class="language-plaintext highlighter-rouge">88.07%</code>、<code class="language-plaintext highlighter-rouge">90.38%</code>、<code class="language-plaintext highlighter-rouge">91.07%</code>，纹丝不动。第四个任务上按模型均值计，<code class="language-plaintext highlighter-rouge">20</code> 个模型里有 <code class="language-plaintext highlighter-rouge">19</code> 个是保留完胜更新。</p>

<p>还有一层结构差：<code class="language-plaintext highlighter-rouge">17</code> 个模型的「结构性覆盖」（经验大框架）高于「规则性覆盖」（具体条款），平均高出 <code class="language-plaintext highlighter-rouge">4.79</code> 个百分点，两款头部模型甚至差出 <code class="language-plaintext highlighter-rouge">9.51</code> 和 <code class="language-plaintext highlighter-rouge">10.97</code> 个百分点。模型记住的是经验的大概，丢的是细则——环境变更后坏恰恰坏在细则上。</p>

<h2 id="做成过的活也会回退">做成过的活也会回退</h2>

<p>变更当天的冲击最有痛感：损失最大的资源类分组，从变更前一个任务到变更后首个任务，经验带来的优势直接掉 <code class="language-plaintext highlighter-rouge">40.33</code> 个百分点，结构类与工具类也各掉 <code class="language-plaintext highlighter-rouge">35.98</code> 和 <code class="language-plaintext highlighter-rouge">36.63</code> 个百分点。</p>

<p>更值得注意的是回退：<code class="language-plaintext highlighter-rouge">1,520</code> 个完成过且有两个随访检查点的经验里，<code class="language-plaintext highlighter-rouge">156</code> 个——占 <code class="language-plaintext highlighter-rouge">10.26%</code>——在随后一个或两个检查点变回不完整。第一次做成不等于永远做成，经验是动态维护品，不是一次性入库品。而维护的价值可以直接标价：所需经验完备的交付率 <code class="language-plaintext highlighter-rouge">95.31%</code>，不完备只有 <code class="language-plaintext highlighter-rouge">71.28%</code>，差 <code class="language-plaintext highlighter-rouge">24.03</code> 个百分点。</p>

<h2 id="对智能体工程的意思">对智能体工程的意思</h2>

<p>先限定口径：这是基准测量，环境是受控演进场景，结论不是「长驻智能体不可行」，而是「现有经验管理管道只有写入功能、没有更新功能」。对工程实践，论文指向把工作翻面：环境变更要被侦测并反查受影响经验、做定向修订；对做成过的任务加回退检查；监控规则级覆盖，别只看结构级覆盖好看。它与站内<a href="/one-minute-read-paper-length-is-cheap-attention-context-rot/">《长文本翻车怪长度？怪的是抢注意力的对手》</a>正好互补：那篇管住脏上下文里的检索，这篇管住过期经验里的维护，智能体上生产两道关卡都得过关。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://arxiv.org/abs/2611.05450">论文 arXiv:2611.05450</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="OneMinuteRead" /><category term="llm-agents" /><category term="agent-memory" /><category term="benchmark" /><category term="evaluation" /><category term="context-management" /><summary type="html"><![CDATA[港科大与华为团队发出首个经验生命周期基准 ReScopeBench：18 个环境、352 个任务、20 个模型实测，环境静默变更后，该更新的经验四个任务后覆盖率才爬到 64.63%，旧内容保留率却始终 88% 以上——长驻智能体记得住，改不动。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/rescopebench-experience-lifecycle.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/rescopebench-experience-lifecycle.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">AI 范式雷达：《四十年旧账，第一次排进了工期表》</title><link href="https://unbug.github.io/paradigm-radar-legacy-debt-payoff/" rel="alternate" type="text/html" title="AI 范式雷达：《四十年旧账，第一次排进了工期表》" /><published>2026-11-06T00:00:00+00:00</published><updated>2026-11-06T00:00:00+00:00</updated><id>https://unbug.github.io/paradigm-radar-legacy-debt-payoff</id><content type="html" xml:base="https://unbug.github.io/paradigm-radar-legacy-debt-payoff/"><![CDATA[<p><code class="language-plaintext highlighter-rouge">2026</code> 年 <code class="language-plaintext highlighter-rouge">10</code> 月 <code class="language-plaintext highlighter-rouge">26</code> 日至 <code class="language-plaintext highlighter-rouge">11</code> 月 <code class="language-plaintext highlighter-rouge">6</code> 日的 Hacker News 实测到 <code class="language-plaintext highlighter-rouge">6</code> 个同主题独立帖（最高 <code class="language-plaintext highlighter-rouge">1265</code> 分，<code class="language-plaintext highlighter-rouge">2026-11-06</code> 复测）：媒体为「AI 逼偿四十年技术债」命名，甲方给出预算授权，开源项目交出工期账单，学界给出反面测量——存量代码正从「能跑别碰」切向「有预算有工期」。</p>

<h2 id="九天六帖实测">九天六帖实测</h2>

<p>时间线（分数与评论数系 <code class="language-plaintext highlighter-rouge">2026-11-06</code> Algolia 全树实测）：</p>

<ul>
  <li><code class="language-plaintext highlighter-rouge">10-27</code> Wiz 测绘 PHP2Shell 利用与修复趋势（HN <code class="language-plaintext highlighter-rouge">50259343</code>，<code class="language-plaintext highlighter-rouge">192</code> 分 / <code class="language-plaintext highlighter-rouge">52</code> 评论，引信）</li>
  <li><code class="language-plaintext highlighter-rouge">10-29</code> Dream Security 复盘 PHP2Shell 打穿 <code class="language-plaintext highlighter-rouge">25</code> 台服务器（HN <code class="language-plaintext highlighter-rouge">50286987</code>，<code class="language-plaintext highlighter-rouge">332</code> 分 / <code class="language-plaintext highlighter-rouge">162</code> 评论，引信）</li>
  <li><code class="language-plaintext highlighter-rouge">10-30</code> Fortune 报道 Cisco 无限 token 重写遗留代码（<code class="language-plaintext highlighter-rouge">316</code> 分 / <code class="language-plaintext highlighter-rouge">386</code> 评论）</li>
  <li><code class="language-plaintext highlighter-rouge">10-30</code> SigNoz 工程博客《AI isn’t replacing SREs, it’s deskilling them》（<code class="language-plaintext highlighter-rouge">684</code> 分 / <code class="language-plaintext highlighter-rouge">498</code> 评论）</li>
  <li><code class="language-plaintext highlighter-rouge">10-31</code> 博客帖《Postgres 19 is late because so many more bugs are being found now》（<code class="language-plaintext highlighter-rouge">850</code> 分 / <code class="language-plaintext highlighter-rouge">517</code> 评论）</li>
  <li><code class="language-plaintext highlighter-rouge">11-01</code> arXiv 论文《When Modernization Breaks Working Code》（<code class="language-plaintext highlighter-rouge">22</code> 分 / <code class="language-plaintext highlighter-rouge">14</code> 评论，反面测量）</li>
  <li><code class="language-plaintext highlighter-rouge">11-04</code> IEEE Spectrum《The PHP2Shell Vulnerability Heralds Cybersecurity Hell》（HN <code class="language-plaintext highlighter-rouge">50364336</code>，<code class="language-plaintext highlighter-rouge">1265</code> 分 / <code class="language-plaintext highlighter-rouge">738</code> 评论）</li>
</ul>

<p>供给面注脚：微软 Command Line 官方博客《Cheap code, precious trust: Code modernization at scale》（<code class="language-plaintext highlighter-rouge">10-26</code>，<code class="language-plaintext highlighter-rouge">3</code> 分）自述 <code class="language-plaintext highlighter-rouge">4</code> 亿行代码库迁移规模，热度极低，只作「大厂把还债立项为工程学科」的佐证。</p>

<p><img src="/assets/images/paradigm-radar-legacy-debt-payoff.svg" alt="同窗六帖热度与单文件现代化实测对照" /></p>

<p>封面 a 面把这七帖画成分数对评论数的散点，横轴刻度 <code class="language-plaintext highlighter-rouge">0</code>、<code class="language-plaintext highlighter-rouge">400</code>、<code class="language-plaintext highlighter-rouge">800</code>、<code class="language-plaintext highlighter-rouge">1200</code>，纵轴刻度 <code class="language-plaintext highlighter-rouge">0</code>、<code class="language-plaintext highlighter-rouge">200</code>、<code class="language-plaintext highlighter-rouge">400</code>、<code class="language-plaintext highlighter-rouge">600</code>、<code class="language-plaintext highlighter-rouge">800</code>，最高的 IEEE 帖 <code class="language-plaintext highlighter-rouge">1265</code> 分与评论最多的 <code class="language-plaintext highlighter-rouge">738</code> 条都落在坐标系内。六帖分属媒体、甲方、厂商、开源治理、职业、安全研究六个互不关联的生态层，没有产品发布作纽带，共同对象只有一个：存量代码开始被系统性偿还。IEEE Spectrum 原文小标题逐字为「AI is forcing us to pay off 40 years of technical debt」，Tolmo AI 安全研究负责人 Matt Suiche 的原话是「all the legacy software that was written by humans over the last 40 years is being exposed」「Now it is time for the technical debt to be paid off」。PHP2Shell 只是引信：老代码的内存错误被利用，触发的却是债务清算叙事——与站内<a href="/paradigm-radar-toolchain-poisoning/">《官方渠道沦陷之后》</a>讲的分发渠道投毒是两回事，那期敌人是别人，本期处置的是自己仓库里的旧文件。</p>

<h2 id="三本账与一个口径">三本账与一个口径</h2>

<p>甲方账（HN <code class="language-plaintext highlighter-rouge">50304122</code>）：Cisco 总裁 Jeetu Patel 受访称，公司给一名 <code class="language-plaintext highlighter-rouge">27</code> 岁工程师无限 AI token 授权，目标是重写 <code class="language-plaintext highlighter-rouge">98%</code> 遗留代码。标注：<code class="language-plaintext highlighter-rouge">98%</code>、无限 token、<code class="language-plaintext highlighter-rouge">27</code> 岁全是 Cisco 自述口径，第三方未复测；外溢帖 <code class="language-plaintext highlighter-rouge">50303001</code>（<code class="language-plaintext highlighter-rouge">5</code> 分）与 <code class="language-plaintext highlighter-rouge">50356153</code>（<code class="language-plaintext highlighter-rouge">4</code> 分）转抄同一篇 Fortune 稿，三帖热度独立、口径不独立；Fortune 正文被 <code class="language-plaintext highlighter-rouge">403</code> 拦截，仅引 HN 帖标题口径。</p>

<p>工期账（HN <code class="language-plaintext highlighter-rouge">50312408</code>）：<code class="language-plaintext highlighter-rouge">850</code> 分把 Postgres 19 延期归因于 AI 扫老代码后缺陷发现量上升——「还债预算首次超过新功能预算」的开源版实证。同稿窗内被 Neon、LWN、Phoronix 等 <code class="language-plaintext highlighter-rouge">4</code> 家站点二次分发（<code class="language-plaintext highlighter-rouge">5</code>、<code class="language-plaintext highlighter-rouge">3</code>、<code class="language-plaintext highlighter-rouge">12</code>、<code class="language-plaintext highlighter-rouge">4</code> 分），分发独立、观点同源，按一个事件记账。职业账（HN <code class="language-plaintext highlighter-rouge">50305693</code>）：SigNoz 设问当 AI 接手 <code class="language-plaintext highlighter-rouge">95%</code> 事故响应，人是否荒废那 <code class="language-plaintext highlighter-rouge">5%</code> 要命处置——<code class="language-plaintext highlighter-rouge">95%/5%</code> 为自述设问、非测量值。微软博文自述大迁移「increasingly backed by formal verification」，只作「还债需要验收手段」的注脚，不展开验证层叙事。</p>

<h2 id="反方三脚刹车">反方：三脚刹车</h2>

<p>第一脚踩在归因上。评论 <code class="language-plaintext highlighter-rouge">50332587</code> 指 Postgres 帖把质量改善包装成 AI 之过——「finding more bugs is a good thing」；<code class="language-plaintext highlighter-rouge">50331726</code> 说前 AI 时代晚期 beta 同样撞出过服务器级缺陷，归因缺基线；<code class="language-plaintext highlighter-rouge">50334080</code> 自述被 AI 翻出「decades of nasty bugs」后结论是好事。若此论成立，本期叙事该从「AI 逼债」降格为「AI 记起了债」。</p>

<p>第二脚踩在造债速度上。评论 <code class="language-plaintext highlighter-rouge">50370497</code>：「every line of code is a liability」，人类会在加与不加之间取舍，LLM 不会、全都加；<code class="language-plaintext highlighter-rouge">50366485</code> 自述把 AI 写的表单应用砍掉三分之二；<code class="language-plaintext highlighter-rouge">50365724</code> 指出欠债成因是没上线就丢工作，工具变便宜不改写激励。偿还与制造同期发生，净债务走向未知。与相邻三期切割写死：<a href="/paradigm-radar-default-drift-audit/">《你关掉的开关，会自己回去》</a>审计厂商数据授权默认值，本期处置自己的存量代码，Cisco 的无限 token 是预算授权、不是默认值同意；<a href="/paradigm-radar-weight-space-programming/">《模型的配方摊在桌面上》</a>动的是参数空间，本期动的全是人写的源码文本；<a href="/paradigm-radar-agent-hidden-cost/">《标价之外，Harness 替你买了什么》</a>核算 token 成本，本期不核算金额，只记「给还债排预算」这个动作。</p>

<p>第三脚带数字。arXiv <code class="language-plaintext highlighter-rouge">2610.40269</code>《When Modernization Breaks Working Code》（HN <code class="language-plaintext highlighter-rouge">50330033</code>，<code class="language-plaintext highlighter-rouge">22</code> 分 / <code class="language-plaintext highlighter-rouge">14</code> 评论，实测 <code class="language-plaintext highlighter-rouge">2026-11-06</code>）：<code class="language-plaintext highlighter-rouge">5</code> 个模型各现代化每 <code class="language-plaintext highlighter-rouge">100</code> 个 WordPress 4.0 的 PHP 文件到 PHP 8.3，配 <code class="language-plaintext highlighter-rouge">630</code> 项隐藏行为检查与 <code class="language-plaintext highlighter-rouge">511</code> 项 Rector 指标。结论逐字：「Untouched, 83 files already pass every check; the best LLM leaves only 59. Each model breaks 32-51 working files while repairing at most 10, whereas Rector breaks 7 and repairs 6」，另「Only 37 findings (7 percent) require a change under PHP 8.3」。这是窗内唯一带可复现口径的量化反证：不碰留下的满分文件（<code class="language-plaintext highlighter-rouge">83</code> 个）比最好的模型（<code class="language-plaintext highlighter-rouge">59</code> 个）还多。评论 <code class="language-plaintext highlighter-rouge">50345118</code> 反击说模型迭代太快、结论存疑；<code class="language-plaintext highlighter-rouge">50345266</code> 指单文件粘贴是过时工作流——数字只适用于无反馈单轮现代化，不外推到带测试的 agent 流程。重写也非共识：<code class="language-plaintext highlighter-rouge">50304948</code> 的「未记录行为约定会在重写中丢失」至今没有硬反驳，正方引以为据的案例被 <code class="language-plaintext highlighter-rouge">50322266</code> 驳回——「two isn’t a ton」。</p>

<h2 id="供给注脚与动作清单">供给注脚与动作清单</h2>

<p>GitHub 搜索面实测（<code class="language-plaintext highlighter-rouge">2026-11-06</code>）：<code class="language-plaintext highlighter-rouge">legacy modernization</code> 存量 <code class="language-plaintext highlighter-rouge">2,215</code> 库、<code class="language-plaintext highlighter-rouge">code modernization</code> 存量 <code class="language-plaintext highlighter-rouge">1,648</code> 库，限定 <code class="language-plaintext highlighter-rouge">2026-09-01</code> 后新建仍有 <code class="language-plaintext highlighter-rouge">306</code> 库；头部工具包（Anthropic 迁移工具包 <code class="language-plaintext highlighter-rouge">787</code> 星、微软示例仓 <code class="language-plaintext highlighter-rouge">230</code> 星）却均创建于窗外，窗内新建者星数个位到十位——需求与账本先行、工具轴滞后，据我们观察未发现同类中文报道。</p>

<p>可执行的动作：排期前先跑规则工具 Rector 建基线再让模型入场，把「破坏 <code class="language-plaintext highlighter-rouge">32-51</code>、修复至多 <code class="language-plaintext highlighter-rouge">10</code>」当默认预期；对重写产物按「未记录行为约定会丢失」设验收，先补测试再合并；Cisco 式授权当组织样本看，不替任何人验证 <code class="language-plaintext highlighter-rouge">98%</code>。旧账排进工期表不稀奇，稀奇的是账桌旁第一次坐下了预算委员会——账目仍要靠带验收的还法一本本核。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://news.ycombinator.com/item?id=50364336">HN：IEEE Spectrum——The PHP2Shell Vulnerability Heralds Cybersecurity Hell</a></li>
  <li><a href="https://spectrum.ieee.org/ai-in-cybersecurity-php2shell-vulnerability">IEEE Spectrum 原文</a></li>
  <li><a href="https://news.ycombinator.com/item?id=50312408">HN：Postgres 19 is late because so many more bugs are being found now</a></li>
  <li><a href="https://news.ycombinator.com/item?id=50304122">HN：Cisco 给工程师无限 AI token 重写遗留代码（Fortune）</a></li>
  <li><a href="https://news.ycombinator.com/item?id=50305693">HN：AI isn’t replacing SREs, it’s deskilling them</a></li>
  <li><a href="https://arxiv.org/abs/2610.40269">arXiv 2610.40269：When Modernization Breaks Working Code</a></li>
  <li><a href="https://commandline.microsoft.com/agentic-software-engineering-large-scale-code-migration-language-modernization-spec-driven-development/">Microsoft Command Line：Cheap code, precious trust</a></li>
  <li><a href="/paradigm-radar-toolchain-poisoning/">站内：AI 范式雷达《官方渠道沦陷之后》</a></li>
  <li><a href="/paradigm-radar-default-drift-audit/">站内：AI 范式雷达《你关掉的开关，会自己回去》</a></li>
  <li><a href="/paradigm-radar-weight-space-programming/">站内：AI 范式雷达《模型的配方摊在桌面上》</a></li>
  <li><a href="/paradigm-radar-agent-hidden-cost/">站内：AI 范式雷达《标价之外，Harness 替你买了什么》</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="ParadigmRadar" /><category term="technical-debt" /><category term="code-modernization" /><category term="legacy-code" /><category term="ai-maintenance" /><category term="paradigm-radar" /><summary type="html"><![CDATA[Hacker News 十二天事件簇实测（2026-11-06）：AI 把四十年技术债变成有预算有工期有反面教材的还债工程；Cisco 自述无限 token 重写授权、Postgres 19 因扫旧债延期，arXiv 论文实测显示单文件现代化净损害可用文件。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/paradigm-radar-legacy-debt-payoff.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/paradigm-radar-legacy-debt-payoff.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">一分钟读论文：《长文本翻车怪长度？怪的是抢注意力的对手》</title><link href="https://unbug.github.io/one-minute-read-paper-length-is-cheap-attention-context-rot/" rel="alternate" type="text/html" title="一分钟读论文：《长文本翻车怪长度？怪的是抢注意力的对手》" /><published>2026-11-04T00:00:00+00:00</published><updated>2026-11-04T00:00:00+00:00</updated><id>https://unbug.github.io/one-minute-read-paper-length-is-cheap-attention-context-rot</id><content type="html" xml:base="https://unbug.github.io/one-minute-read-paper-length-is-cheap-attention-context-rot/"><![CDATA[<p>加州大学圣迭戈分校（UC San Diego）的论文<a href="https://arxiv.org/abs/2611.04169">《Length Is Cheap, Competition Is Not》</a>发现，长上下文检索翻车（context rot，上下文腐化）的元凶不是长度，而是争抢注意力的竞争信息：<code class="language-plaintext highlighter-rouge">126,473</code> 次试验中，准确率从 <code class="language-plaintext highlighter-rouge">0.97</code> 到 <code class="language-plaintext highlighter-rouge">1.00</code> 崩至 <code class="language-plaintext highlighter-rouge">0.11</code> 到 <code class="language-plaintext highlighter-rouge">0.21</code>。</p>

<p><img src="/assets/images/length-is-cheap-attention.svg" alt="竞争信息比长度更能预测长上下文检索失败：中性填充准确率不降，竞争陈述使准确率崩塌，注意力指标解释力远超长度" /></p>

<h2 id="长文本本身不背锅">长文本本身不背锅</h2>

<p>context rot 指上下文变长后，模型找回目标信息的能力下降。测试对象是五个 <code class="language-plaintext highlighter-rouge">0.5B</code> 到 <code class="language-plaintext highlighter-rouge">3B</code> 参数、来自四个家族的开源模型：Qwen2.5-0.5B-Instruct、Qwen2.5-1.5B-Instruct、SmolLM2-1.7B-Instruct、OLMo-2-0425-1B-Instruct 和基座 Llama-3.2-3B。任务为受控检索模拟：上下文中埋入一条含目标数值的陈述，再询问该键的值，正确答案即目标陈述中的数值；每轮随机化填充与目标的位置，排除位置记忆的影响。</p>

<p>把无关文本换成与证据同格式的陈述句、放在完全相同的位置，准确率跌到 <code class="language-plaintext highlighter-rouge">0.11</code> 到 <code class="language-plaintext highlighter-rouge">0.21</code>，而中性填充在 <code class="language-plaintext highlighter-rouge">32K</code> token 内准确率始终保持 <code class="language-plaintext highlighter-rouge">0.97</code> 到 <code class="language-plaintext highlighter-rouge">1.00</code>。位置、格式、长度都没变，仅内容从无关变成竞争，结果就翻转。需要限定的是，这是小参数量开源模型上的受控检索模拟结论，机制是注意力竞争，不能外推为所有大模型长文本能力全面下滑的现实断言；它说明的是，在检索这类任务里，长上下文失效有一条清晰可测的因果链。</p>

<h2 id="对手数量决定损失">对手数量决定损失</h2>

<p>单个「竞争值」陈述——给被查询的键一个错误取值——能让损失放大 <code class="language-plaintext highlighter-rouge">9</code> 到 <code class="language-plaintext highlighter-rouge">110</code> 倍，每多一个对手再叠加。在 Qwen2.5-1.5B、<code class="language-plaintext highlighter-rouge">2,048</code> token 下，竞争陈述数量从 0 到 6 个及以上时，信息损失依次为 <code class="language-plaintext highlighter-rouge">0.03</code>、<code class="language-plaintext highlighter-rouge">1.37</code>、<code class="language-plaintext highlighter-rouge">2.24</code>、<code class="language-plaintext highlighter-rouge">2.48</code>、<code class="language-plaintext highlighter-rouge">2.71</code>、<code class="language-plaintext highlighter-rouge">3.26</code>、<code class="language-plaintext highlighter-rouge">3.45</code> nats（衡量模型偏离正确分布的程度，越大越糟）。按冲突有无分组统计：不含任何同键陈述的上下文损失 <code class="language-plaintext highlighter-rouge">0.02</code> 到 <code class="language-plaintext highlighter-rouge">0.34</code> nats，含至少一条的上下文损失 <code class="language-plaintext highlighter-rouge">1.38</code> 到 <code class="language-plaintext highlighter-rouge">3.24</code> nats；无冲突上下文准确率 <code class="language-plaintext highlighter-rouge">0.97</code> 到 <code class="language-plaintext highlighter-rouge">1.00</code>，含冲突的样本准确率只有 <code class="language-plaintext highlighter-rouge">0.25</code> 到 <code class="language-plaintext highlighter-rouge">0.52</code>。也就是说，翻车不取决于上下文字符多少，而取决于其中埋了几个抢同一个键的对手。</p>

<h2 id="注意力质量是先行指标">注意力质量是先行指标</h2>

<p>解释变量是证据 token 上残余的注意力质量 a*，即模型分配给目标陈述那几行的注意力份额，论文用 log(1/a*) 把它换算成损失量纲。<code class="language-plaintext highlighter-rouge">126,473</code> 次试验中，log(1/a*) 解释损失方差的 <code class="language-plaintext highlighter-rouge">35%</code> 到 <code class="language-plaintext highlighter-rouge">58%</code>，上下文长度的对数只解释 <code class="language-plaintext highlighter-rouge">2%</code> 到 <code class="language-plaintext highlighter-rouge">8%</code>，差距在 8K 到 32K token 全程存在。换句话说，想知道一条检索会不会失败，盯注意力分布比盯上下文长度有效得多。在 Qwen2.5-1.5B 上，损失在 a* 跌破约 <code class="language-plaintext highlighter-rouge">0.35</code> 前近乎为零，随后陡增，说明存在一个可操作的健康阈值。</p>

<h2 id="masking-实验拆穿长度归因">Masking 实验拆穿长度归因</h2>

<p>此前不少「长上下文退化」的结论，靠的是遮蔽（masking）填充文本——把填充盖住后，上下文在模型眼里其实并没有变长，却把性能下降记在长度头上。复现 Du et al. 的遮蔽协议，<code class="language-plaintext highlighter-rouge">30K</code> 遮蔽 token 让 Llama-3.2-3B 与 Qwen2.5-7B 的 MMLU 准确率下降 <code class="language-plaintext highlighter-rouge">11</code> 到 <code class="language-plaintext highlighter-rouge">18</code> 个百分点；检索任务里 <code class="language-plaintext highlighter-rouge">32K</code> token 遮蔽同样吃掉 <code class="language-plaintext highlighter-rouge">46</code> 个百分点准确率，而完整可见的同一填充分毫不损。遮蔽破坏的是注意力读数，长度本身无罪。论文已放出 probe 与 <code class="language-plaintext highlighter-rouge">126,473</code> 次试验数据<a href="https://github.com/yliusci/length-is-cheap">（开源仓库）</a>。</p>

<p>这套「注意力竞争」解释与站内早前<a href="/one-minute-read-paper-coral-context-reset/">《智能体学会主动清空记忆》</a>的上下文管理思路互补：前者诊断脏上下文为何让检索失效，后者解决任务中途如何主动清空它；对做检索增强和智能体 memory 的工程实践，含义是控制同键冲突条数比控制总长度更关键。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://arxiv.org/abs/2611.04169">论文 arXiv:2611.04169</a></li>
  <li><a href="https://github.com/yliusci/length-is-cheap">开源仓库 yliusci/length-is-cheap</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="OneMinuteRead" /><category term="llm" /><category term="context-management" /><category term="attention" /><category term="retrieval" /><category term="ai-agents" /><summary type="html"><![CDATA[加州大学圣迭戈分校预印本发现，长上下文检索翻车的元凶不是长度而是争抢注意力的竞争信息：中性填充撑到 32K token 准确率不降，竞争陈述使其从 0.97 崩至 0.11。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/length-is-cheap-attention.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/length-is-cheap-attention.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">AI 范式雷达：《你关掉的开关，会自己回去》</title><link href="https://unbug.github.io/paradigm-radar-default-drift-audit/" rel="alternate" type="text/html" title="AI 范式雷达：《你关掉的开关，会自己回去》" /><published>2026-11-04T00:00:00+00:00</published><updated>2026-11-04T00:00:00+00:00</updated><id>https://unbug.github.io/paradigm-radar-default-drift-audit</id><content type="html" xml:base="https://unbug.github.io/paradigm-radar-default-drift-audit/"><![CDATA[<p><code class="language-plaintext highlighter-rouge">2026</code> 年 <code class="language-plaintext highlighter-rouge">10</code> 月 <code class="language-plaintext highlighter-rouge">22</code> 日至 <code class="language-plaintext highlighter-rouge">11</code> 月 <code class="language-plaintext highlighter-rouge">4</code> 日的 Hacker News 实测到 <code class="language-plaintext highlighter-rouge">6</code> 个同主题高分帖（最高 <code class="language-plaintext highlighter-rouge">1192</code> 分，<code class="language-plaintext highlighter-rouge">2026-11-04</code> 复测）：关掉的训练与数据共享开关正在回到开启位，三家互不关联的公司各自被抓到——信任单位正从条款文本切到默认值审计。</p>

<h2 id="同窗六帖实测">同窗六帖实测</h2>

<p>事件按时间线排开（分数为 <code class="language-plaintext highlighter-rouge">2026-11-04</code> 15:36 CST Algolia items API 全树实测）：</p>

<ul>
  <li><code class="language-plaintext highlighter-rouge">10-23</code> Google 拟用 Gmail 与 Photos 数据投广告（<code class="language-plaintext highlighter-rouge">403</code> 分，广告用途旁证，不入核心论证）</li>
  <li><code class="language-plaintext highlighter-rouge">10-27</code> Anthropic 官方帮助页《Is my data used for model training?》被推上榜（<code class="language-plaintext highlighter-rouge">225</code> 分）</li>
  <li><code class="language-plaintext highlighter-rouge">10-27</code> 斯坦福校报《Stanford Daily》报道 Claude 用盗版教授书籍训练（<code class="language-plaintext highlighter-rouge">606</code> 分）</li>
  <li><code class="language-plaintext highlighter-rouge">10-31</code> Anthropic 封禁疑似参与蒸馏的用户账号（<code class="language-plaintext highlighter-rouge">492</code> 分）</li>
  <li><code class="language-plaintext highlighter-rouge">11-03</code> OpenAI Codex 训练开关被用户观察到静默重新启用（<code class="language-plaintext highlighter-rouge">468</code> 分，评论树 <code class="language-plaintext highlighter-rouge">144</code>）</li>
  <li><code class="language-plaintext highlighter-rouge">11-03</code> Postman 被取证自动安装 AI 插件并尝试共享 API 数据（<code class="language-plaintext highlighter-rouge">1192</code> 分，评论树 <code class="language-plaintext highlighter-rouge">378</code>）</li>
</ul>

<p>六帖横跨 OpenAI、Postman、Anthropic、Google 等 <code class="language-plaintext highlighter-rouge">3</code> 家以上互不关联的主体，没有任何一次产品发布作纽带，共同的只是同一个动作在不同产品面上被各自抓到：默认值动了。所谓「默认值审计」，就是把训练开关、数据共享开关这类选项当作会漂移的配置项，定期与上次记录做 diff，而不是签约时勾一次就完事。</p>

<p><img src="/assets/images/paradigm-radar-default-drift-cover.svg" alt="同窗六帖热度与两案证据分级" /></p>

<h2 id="两案证据等级不同">两案证据等级不同</h2>

<p>热度最高的 Postman 案（HN <code class="language-plaintext highlighter-rouge">50354960</code>）指向 GitHub issue #14370，标题逐字为 “[SEVERE] Desktop auto-installs Codex/Claude plugins; installer attempts to trust its own startup hook”。取证者引用 Postman 自己的 <code class="language-plaintext highlighter-rouge">main.log</code>：<code class="language-plaintext highlighter-rouge">PostmanAgentPluginService~install</code> 记录 <code class="language-plaintext highlighter-rouge">{"source":"auto-existing-upgrade","results":["claude-code:installed","codex:installed"]}</code>——自动向 Codex 与 Claude Code 安装插件的动作由厂商系统日志坐实，属系统自证级证据。issue 实测 <code class="language-plaintext highlighter-rouge">open</code>、<code class="language-plaintext highlighter-rouge">38</code> 条评论（仓库 <code class="language-plaintext highlighter-rouge">6,025</code> 星，实测 <code class="language-plaintext highlighter-rouge">2026-11-04</code>）；Postman 官方账号 <code class="language-plaintext highlighter-rouge">11-04</code> 在 HN 的回应只谈开放哲学、未触及自动安装，其中「超过 1700 万开发者」为厂方自述口径。</p>

<p>Codex 案（HN <code class="language-plaintext highlighter-rouge">50352757</code>）是另一种证据等级：发帖人自述多名同事同时发现 ChatGPT 数据控制页里的 “Improve the model for everyone” 开关回到开启位，原文措辞为 “noticed that the setting had been silently reenabled”。这是用户集体观察，不是厂商自认；发帖人自己在评论 <code class="language-plaintext highlighter-rouge">50353786</code> 承认 “I definitely can’t prove it”。两案必须分开记账：一个是日志级，一个是观察级。</p>

<p>Anthropic 一侧是同一信任轴的三个独立面：帮助页被推榜说明「我的数据会不会被训练」这个默认值认知已是公众问题；盗版书籍入训（<code class="language-plaintext highlighter-rouge">606</code> 分）在输入侧；封号争议（<code class="language-plaintext highlighter-rouge">492</code> 分）在条款执行侧。另有评论 <code class="language-plaintext highlighter-rouge">50354115</code> 自述 Mistral Teams 计划同窗从 opt-in 改 opt-out、移除组织级总开关，<code class="language-plaintext highlighter-rouge">48</code> 小时后回滚但所有员工滑块已回到开启位——用户自述个案，未经独立核验。</p>

<h2 id="反方与区隔">反方与区隔</h2>

<p>第一条刹车来自评论 <code class="language-plaintext highlighter-rouge">50353398</code>：”If your company actually cared about this they would be running their own inference instead of leaving fate to a couple of checkboxes”，跟进评论 <code class="language-plaintext highlighter-rouge">50353503</code> 补充云厂商的 gated 模型不出网关。若此论成立，真痛点是部署位置而不是勾选框，本期实操价值被削半。</p>

<p>第二条刹车针对证据本身：<code class="language-plaintext highlighter-rouge">50353786</code> 发帖人自陈无法证明，<code class="language-plaintext highlighter-rouge">50355259</code> 也为帖主的 “seems” 措辞辩护——相当热度建立在情绪共振而非可验证证据上；截至 <code class="language-plaintext highlighter-rouge">2026-11-04</code>，OpenAI 未见公开回应，口径缺位本身记入反方账。第三条最狠（评论 <code class="language-plaintext highlighter-rouge">50356785</code>）：”You should assume that they are training on their data even when it’s disabled by you”——若接受此前提，审计默认值也无意义。此外评论 <code class="language-plaintext highlighter-rouge">50357232</code> 把 Postman 案归因为 SaaS 普遍逐底而非 AI 特有，同窗的 Google 广告数据帖（<code class="language-plaintext highlighter-rouge">403</code> 分）也说明默认用途漂移是平台经济旧病，AI 只是新宿主。归因必须克制：本期不主张任何厂商恶意实锤，主张的只是同一窗口内多主体同动作。</p>

<p>与相邻几期的切割要写死。站内<a href="/paradigm-radar-toolchain-poisoning/">《官方渠道沦陷之后》</a>讲外部攻击者污染分发包，那期敌人是别人，本期信任对象本身就是动作主体；<a href="/paradigm-radar-agent-hidden-cost/">《标价之外，Harness 替你买了什么》</a>记 token 账，本期记数据授权账，同一批工具、两本不同的账；与<a href="/paradigm-radar-weight-space-programming/">《模型的配方摊在桌面上》</a>的切割最直接：那期动的是参数，本期动的是同意。</p>

<h2 id="供给缺位与动作清单">供给缺位与动作清单</h2>

<p>GitHub 搜索面实测（<code class="language-plaintext highlighter-rouge">2026-11-04</code>）：<code class="language-plaintext highlighter-rouge">"data sovereignty" ai</code> 自 <code class="language-plaintext highlighter-rouge">2026-05-01</code> 以来新建仓库 <code class="language-plaintext highlighter-rouge">77</code> 个，<code class="language-plaintext highlighter-rouge">training consent ai</code> 仅 <code class="language-plaintext highlighter-rouge">8</code> 个，头部星数均低，窗口内没有成形的默认值审计工具簇——本期是需求与事故轴先行、工具轴缺位的品类前夜形态。</p>

<p>现阶段可执行的自保动作只能手工：定期打开 chatgpt.com/settings/data-controls 与 Claude 侧的 privacy.claude.com 帮助页核对开关状态并截图留档；组织管理员检查成员级滑块是否在平台升级后被重置；订阅常用 AI 工具的 changelog，把「训练」「数据共享」关键词加入检索。条款是一次性签名，默认值是持续状态。开关既然会自己回去，勾过的选项就要当成配置项定期 diff——这是本期全部证据收敛成的唯一动作。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://news.ycombinator.com/item?id=50352757">HN：OpenAI seems to be silently re-enabling model training on Codex chats</a></li>
  <li><a href="https://news.ycombinator.com/item?id=50354960">HN：Postman silently auto-installs AI plugins</a></li>
  <li><a href="https://github.com/postmanlabs/postman-app-support/issues/14370">postmanlabs/postman-app-support issue #14370</a></li>
  <li><a href="https://privacy.claude.com/en/articles/7996868-is-my-data-used-for-model-training">Anthropic 帮助中心：Is my data used for model training?</a></li>
  <li><a href="https://stanforddaily.com/">Stanford Daily 报道入口</a></li>
  <li><a href="/paradigm-radar-toolchain-poisoning/">站内：AI 范式雷达《官方渠道沦陷之后》</a></li>
  <li><a href="/paradigm-radar-agent-hidden-cost/">站内：AI 范式雷达《标价之外，Harness 替你买了什么》</a></li>
  <li><a href="/paradigm-radar-weight-space-programming/">站内：AI 范式雷达《模型的配方摊在桌面上》</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="ParadigmRadar" /><category term="data-training-consent" /><category term="default-settings" /><category term="opt-out" /><category term="developer-trust" /><category term="paradigm-radar" /><summary type="html"><![CDATA[Hacker News 十四天事件簇实测（2026-11-04）：Codex 训练开关被用户观察到静默回弹、Postman 自家日志坐实自动安装 AI 插件、Anthropic 三案同窗发酵，开发者对 AI 工具的信任单位正从条款文本切换到默认值审计。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/paradigm-radar-default-drift-cover.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/paradigm-radar-default-drift-cover.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">一分钟读论文：《自进化智能体的陪练式高分陷阱》</title><link href="https://unbug.github.io/one-minute-read-paper-skill-policy-coevolution-trap/" rel="alternate" type="text/html" title="一分钟读论文：《自进化智能体的陪练式高分陷阱》" /><published>2026-11-03T00:00:00+00:00</published><updated>2026-11-03T00:00:00+00:00</updated><id>https://unbug.github.io/one-minute-read-paper-skill-policy-coevolution-trap</id><content type="html" xml:base="https://unbug.github.io/one-minute-read-paper-skill-policy-coevolution-trap/"><![CDATA[<p>阿里巴巴、香港理工大学与伊利诺伊大学芝加哥分校的论文<a href="https://arxiv.org/abs/2610.20845">《Evolving Together, Failing Apart》</a>发现：技能库与策略模型共同进化的自进化智能体，一旦技能库被改写，最坏情况成功率比训练峰值低 <code class="language-plaintext highlighter-rouge">5-13</code> 个百分点，抹掉技能库增益的 <code class="language-plaintext highlighter-rouge">52-93%</code>。</p>

<p>论文 <code class="language-plaintext highlighter-rouge">2026</code> 年 <code class="language-plaintext highlighter-rouge">10</code> 月 <code class="language-plaintext highlighter-rouge">14</code> 日发布于 arXiv（编号 <code class="language-plaintext highlighter-rouge">2610.20845</code>），第一作者 Yujie Feng 隶属 Alibaba Token Hub。这里说的技能库（skill bank）是智能体在任务中积累并复用的可调用过程性技能，通常以文档形式保存；技能与策略共进化（skill-policy co-evolution）指训练过程中策略模型与技能库互相改进，是当前自进化智能体的主流范式之一。</p>

<h2 id="共进化把智能体绑死在陪练技能库上">共进化把智能体绑死在陪练技能库上</h2>

<p>论文指出的盲区在评测协议：现有方法一律用训练时交付的那份技能库给智能体打分，模型与技能库是「陪练关系」。但部署之后，技能会被改写、新增或删除，频率远高于策略模型的重训节奏，智能体实际面对的是一份漂移后的技能库——训练目标与评测协议谁都没有覆盖它。</p>

<p>漂移的代价随训练加深而放大。六组设置里，不减干扰的成功率随共进化训练一路上扬：Skill RL-ALFWorld 从 <code class="language-plaintext highlighter-rouge">5.2%</code> 升到 <code class="language-plaintext highlighter-rouge">88.8%</code>，ARISE-AMC23 从 <code class="language-plaintext highlighter-rouge">15.5%</code> 升到 <code class="language-plaintext highlighter-rouge">87.4%</code>，Evolving-RL-Mind2Web 从 <code class="language-plaintext highlighter-rouge">16.4%</code> 升到 <code class="language-plaintext highlighter-rouge">25.2%</code>；但同一批检查点对技能库扰动的敏感度（论文实测的下降斜率）在十八个扰动轴与设置的组合中有十二个显著上升——模型越强，越离不开陪练它的那份库。</p>

<h2 id="一次保持原义的改写就能掉分">一次保持原义的改写就能掉分</h2>

<p>跨四种共进化方法、五个基准（六设置）的统一结果是：最坏情况成功率比各自交付峰值低 <code class="language-plaintext highlighter-rouge">5-13</code> 个百分点，相当于抹掉交付技能库相对无技能基线增益的 <code class="language-plaintext highlighter-rouge">52-93%</code>。更扎心的是扰动类型：不改语义、只换措辞的保持原义改写，单项就在 ReSkill-ScienceWorld 上吃掉 <code class="language-plaintext highlighter-rouge">10.9</code> 分（该设置峰值 <code class="language-plaintext highlighter-rouge">50.3%</code>）。</p>

<p><img src="/assets/images/skill-policy-coevolution-trap.svg" alt="共进化训练中成功率上升但漂移敏感度同步上升" /></p>

<p>论文同时给出边界：漂移后技能的最低成功率仍高于无技能基线，说明技能库并非失去价值，失败的本质是模型对特定技能库措辞的过拟合，即技能派生增益的丢失。作者提出 CODA 评测协议，用两个指标替代单一峰值：一致性率（保持原义编辑下的成绩保持）与抗腐蚀率（对污染技能的抵抗力），把共进化目标从「在陪练库上的峰值」改写为「驾驭技能库漂移的能力」。</p>

<h2 id="对自建技能库智能体的提醒">对自建技能库智能体的提醒</h2>

<p>对在生产环境跑技能库智能体的团队，论文的操作含义是三件事：发布测试必须包含技能改写与污染变体，而非只用训练交付库打分；技能修订节奏与模型重训节奏要显式对齐或解耦管理；把一致性率与抗腐蚀率纳入回归。站内<a href="/one-minute-read-paper-cosa-conflict-of-skills-attack/">《技能各自合规，组合就出事》</a>研究过技能库的对抗性注入攻击，这篇则证明不需要攻击者——日常维护产生的自然漂移就足以让峰值成绩大幅退坡，两份证据共同指向：技能库已成为与模型权重同级的维护面。</p>

<p>论文目前为预印本（PDF 页眉标注 Preprint. Under review.），未声明代码开源，复现需自行实现扰动协议。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://arxiv.org/abs/2610.20845">Evolving Together, Failing Apart: The Skill-Policy Co-evolution Trap in Self-Improving Agents</a></li>
  <li><a href="/one-minute-read-paper-cosa-conflict-of-skills-attack/">站内：《技能各自合规，组合就出事》</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="OneMinuteRead" /><category term="llm" /><category term="ai-agents" /><category term="self-improving" /><category term="evaluation" /><category term="skill-library" /><summary type="html"><![CDATA[阿里、港理工与UIC论文发现：技能库与策略共进化的自进化智能体，在技能库被改写后最坏成功率比训练峰值低5到13个百分点，抹掉技能库增益的52%到93%，现有评测协议存在系统性盲区。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/skill-policy-coevolution-trap.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/skill-policy-coevolution-trap.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">AI 范式雷达：《模型的配方摊在桌面上》</title><link href="https://unbug.github.io/paradigm-radar-weight-space-programming/" rel="alternate" type="text/html" title="AI 范式雷达：《模型的配方摊在桌面上》" /><published>2026-11-03T00:00:00+00:00</published><updated>2026-11-03T00:00:00+00:00</updated><id>https://unbug.github.io/paradigm-radar-weight-space-programming</id><content type="html" xml:base="https://unbug.github.io/paradigm-radar-weight-space-programming/"><![CDATA[<p><code class="language-plaintext highlighter-rouge">2026</code> 年 <code class="language-plaintext highlighter-rouge">10</code> 月 <code class="language-plaintext highlighter-rouge">25</code> 日至 <code class="language-plaintext highlighter-rouge">11</code> 月 <code class="language-plaintext highlighter-rouge">2</code> 日的 Hacker News 上，实测到 <code class="language-plaintext highlighter-rouge">6</code> 个同主题高分事件帖（最高 <code class="language-plaintext highlighter-rouge">2526</code> 分，<code class="language-plaintext highlighter-rouge">2026-11-03</code> 复测）：被讨论的对象不是某个新模型，而是「模型权重本身可以被读写、编译与组队」这件事——开源权重正在从调用品变成可编程介质。</p>

<h2 id="七日事件簇实测">七日事件簇实测</h2>

<p>事件按时间线排开（分数为 <code class="language-plaintext highlighter-rouge">2026-11-03</code> Algolia 实测）：</p>

<ul>
  <li><code class="language-plaintext highlighter-rouge">10-25</code> GVS5H：五个 Qwen3.8-27B 组队打平前沿大模型（<code class="language-plaintext highlighter-rouge">195</code> 分）</li>
  <li><code class="language-plaintext highlighter-rouge">10-26</code> IBM CEO 称开源权重模型已经又好又便宜（<code class="language-plaintext highlighter-rouge">428</code> 分）</li>
  <li><code class="language-plaintext highlighter-rouge">10-27</code> 五家推理服务商同时上架去安全化 DeepSeek（<code class="language-plaintext highlighter-rouge">100</code> 分）</li>
  <li><code class="language-plaintext highlighter-rouge">10-29</code> Qwenputer：一台确定性 RISC-V CPU 被编译进 Qwen3.5 权重（<code class="language-plaintext highlighter-rouge">704</code> 分）</li>
  <li><code class="language-plaintext highlighter-rouge">10-31</code> Memdoor：五个 Qwen3.8-27B 在 LiveCodeBench Hard 击败前沿模型（<code class="language-plaintext highlighter-rouge">456</code> 分）</li>
  <li><code class="language-plaintext highlighter-rouge">11-02</code> Astra 能读写权重改进 Qwen（<code class="language-plaintext highlighter-rouge">2526</code> 分，<code class="language-plaintext highlighter-rouge">259</code> 评论）</li>
</ul>

<p>簇内密度罕见：八天六帖、两个仓库、两个独立博客，全部指向同一个动作——对权重本体动手，而不是对提示词动手。</p>

<p><img src="/assets/images/paradigm-radar-weight-space-cover.svg" alt="七日 HN 事件点阵与权重可编程三层结构" /></p>

<h2 id="三个一手源说了什么">三个一手源说了什么</h2>

<p>热度最高的 Astra 结果出自 MIT CSAIL 博客《Sparks of Weight-Space Programming》（<code class="language-plaintext highlighter-rouge">11</code> 月 <code class="language-plaintext highlighter-rouge">2</code> 日发布，作者 Rikiya Takehi、Jayden Teoh、Alex Zhang、Omar Khattab）。TL;DR 原句为 “We find that frontier LLMs are surprisingly good at natively reading and writing neural network weights, well past what we’d expect from humans or conventional algorithms.”——前沿大模型无需工具辅助即可直接读写神经网络的权重，远超人类和传统算法的预期。评论区已经有人在讨论这是否是实验室为递归自我改进（RSI）做的内训外溢，但作者未做此声称。</p>

<p>Qwenputer 是同一个方向的极端演示：一篇个人博客把一台完整的确定性 RISC-V CPU 编译进了 stock Qwen 3.5 4B 的权重里，利用其 Gated DeltaNet 层当 RAM 运行，作者 Divyansh Agrawal 把它称为「compiled weights」。它没有实用价值，但有范式价值：权重只要能编码一台 CPU，就说明它是通用介质而不是玄学参数。</p>

<p>供给端同步在动：Memdoor 仓库（<code class="language-plaintext highlighter-rouge">336</code> 星，<code class="language-plaintext highlighter-rouge">10</code> 月 <code class="language-plaintext highlighter-rouge">5</code> 日创建）与 GVS5H 仓库（<code class="language-plaintext highlighter-rouge">1182</code> 星，Persis Capital 研究实验室）都声称五个 Qwen3.8-27B 的编队能在 LiveCodeBench Hard 打平单个前沿大模型，Memdoor README 承诺每轮成绩公开可查。这属于自报口径，第三方独立复现还没有。</p>

<h2 id="反面证据与边界">反面证据与边界</h2>

<p>这个簇的热度里掺着三类水分。其一，Astra 是博客而非同行评审论文，读写权重在多大模型规模、多通用领域成立尚无答案，评论区最集中的质疑正是 “does it cap at small model sizes and common domains”。其二，五小模型打平大模型的两个仓库都来自非学术机构，评测基准单一（LiveCodeBench Hard），价格优势（五分之一）与单卡可跑的卖点都是卖方叙述。其三，把 CPU 编译进 4B 模型是精巧玩具，作者自己列了 limits 一节。</p>

<p>但方向性信号不依赖单点成立：同窗口内去安全化模型已有五家商用服务商供给、企业高管公开背书开源权重成本线、权重读写与编译连发——单独看是六个热点，合起来看是一条链：<strong>读权重（可解释）→ 写权重（可修改）→ 编权重（可装载）→ 组权重（可复制编排）</strong>。</p>

<h2 id="对做工具的人意味着什么">对做工具的人意味着什么</h2>

<p>站内<a href="/paradigm-radar-toolchain-poisoning/">《官方渠道沦陷之后》</a>讲过 AI 工具链被当成供应链资产管理；这层变化更激进：资产本体（权重）变成可改写文本。可预见的空位集中在「改写之后的守门」——权重变更的审计与 diff 工具、改写后模型的行为回归测试、以及五小模型编队这种多副本工作流的路由与一致性校验。防御工具链投毒的人都知道，管道里最危险的是没人能读懂的包裹；而权重，恰恰是所有人都读不懂的那种。</p>

<p>模型配方的桌面已经摊开，读得懂、改得对、验得住的中间层，还没有人真正占住。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://rikiyat.github.io/blog/weight-space-programming/">Sparks of Weight-Space Programming</a></li>
  <li><a href="https://divagr.com/blog/qwenputer">Qwenputer: a RISC-V CPU inside Qwen3.5</a></li>
  <li><a href="https://github.com/guregodevo/memdoor">guregodevo/memdoor</a></li>
  <li><a href="https://github.com/slee-persis/GVS5H">slee-persis/GVS5H</a></li>
  <li><a href="/paradigm-radar-toolchain-poisoning/">站内：AI 范式雷达《官方渠道沦陷之后》</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="ParadigmRadar" /><category term="open-weights" /><category term="model-editing" /><category term="interpretability" /><category term="inference" /><category term="coding-agent" /><category term="paradigm-radar" /><summary type="html"><![CDATA[Hacker News 七日事件簇实测：MIT CSAIL 博客证明前沿模型能原生读写神经网络权重拿下 2526 分，RISC-V CPU 被编译进 Qwen 权重，五个 27B 小模型组队打平前沿大模型，开源权重正从黑盒调用品变成可读可写可编译的编程介质。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/paradigm-radar-weight-space-cover.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/paradigm-radar-weight-space-cover.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry></feed>