<?xml version="1.0" encoding="utf-8"?><feed xmlns="http://www.w3.org/2005/Atom" xml:lang="zh-CN"><generator uri="https://jekyllrb.com/" version="3.10.0">Jekyll</generator><link href="https://unbug.github.io/feed.xml" rel="self" type="application/atom+xml" /><link href="https://unbug.github.io/" rel="alternate" type="text/html" hreflang="zh-CN" /><updated>2026-09-19T03:39:17+00:00</updated><id>https://unbug.github.io/feed.xml</id><title type="html">Micropaper 一分钟读论文</title><subtitle>Micropaper 一分钟读论文：每天用一分钟读懂一篇 AI 论文，并提供 AI 范式雷达与 AI 智创简报，覆盖智能体、大模型、AI 安全与专利机会洞察。</subtitle><author><name>unbug</name></author><entry><title type="html">AI 智创简报：《大厂在给 AI 输出装质检阀，验收报告这门手艺没人接》</title><link href="https://unbug.github.io/innovation-brief-llm-output-validation-patents/" rel="alternate" type="text/html" title="AI 智创简报：《大厂在给 AI 输出装质检阀，验收报告这门手艺没人接》" /><published>2026-09-19T00:00:00+00:00</published><updated>2026-09-19T00:00:00+00:00</updated><id>https://unbug.github.io/innovation-brief-llm-output-validation-patents</id><content type="html" xml:base="https://unbug.github.io/innovation-brief-llm-output-validation-patents/"><![CDATA[<p>2024 年 5 月至 2026 年 7 月，四件「大模型输出验证」专利先后授权，受让人是 Honeywell、Citibank（两件）与 WitnessAI。大厂把”AI 的回答能不能出门”申请成了方法；替甲方验收 AI 交付物、出那份量化质检报告的那层活，目前还是个人手艺。</p>

<p><img src="/assets/images/innovation-brief-llm-output-validation-patents.svg" alt="LLM 输出验证专利信号与验收质检接单机会" /></p>

<h2 id="专利信号四家把能不能出门做成方法">专利信号：四家把”能不能出门”做成方法</h2>

<ul>
  <li><strong>US12645691B2</strong>，Honeywell International Inc.，2026-06-02 授权：无监督验证框架——从输入与 LLM 输出各自抽主题集合比对，不需要人工标注就能给输出打可信分。</li>
  <li><strong>US12147513B2</strong>，Citibank, N.A.，2024-11-19 授权：提示词动态验证平台——先评估这条提示词适不适合交给某个模型处理，顺带估算资源开销，相当于给请求设准入闸。</li>
  <li><strong>US12111747B2</strong>，Citibank, N.A.，2024-05-10 授权：把模型生成的检测代码放进隔离虚拟机里试跑，验证通过才采信——输出先过沙箱再上岗。</li>
  <li><strong>US12675579B2</strong>，WitnessAI, Inc.，2026-07-07 授权：API 侧护栏系统，按管理策略动态挂输入输出过滤器。</li>
</ul>

<p>四件均为已授权专利（非仅公开申请），信号比一般申请更硬：愿意付维持费，说明内部真在用。</p>

<h2 id="技术趋势验证从事后抽查变成流水线关卡">技术趋势：验证从事后抽查变成流水线关卡</h2>

<p>共同走向是把验收嵌进调用链：请求进来先过准入评估，回答出去前过一致性比对或沙箱试跑。与现成方案的差异：promptfoo（25,270 星）、Guardrails AI（7,434 星，均 2026-09-19 GitHub API 实测）已把”跑测试集”和”输出解析护栏”做成开源商品，但这四件专利主张的是<strong>无标注一致性打分与提示词准入判定</strong>——恰好是开源工具靠人工准备测试集才能覆盖的空白处。</p>

<h2 id="落地机会卖给交付完拿不出证据的外包方">落地机会：卖给交付完拿不出证据的外包方</h2>

<p>用户场景：开发者给甲方做完 AI 客服或文档问答，上线三个月后甲方问”你怎么证明它没乱说”，手里只有几条抽查截图。一个人能做的那层：LLM 交付物验收工具——借无监督思路做输入输出主题一致性打分，配一批对抗题（跑偏、编造、越权指令），回放客户 API 出量化报告；对带代码生成的项目补一层沙箱试跑。技术栈 Python + 任一 LLM API + Docker，1 人 4 周出 MVP，月成本数百元。上一篇<a href="/innovation-brief-rag-evaluation-patents/">RAG 拒答质检简报</a>管单次回答的诚实度，这轮管整条输出流水线的准入与放行。</p>

<h2 id="创业发现验收报告一次性收费加回归巡检订阅">创业发现：验收报告一次性收费加回归巡检订阅</h2>

<ul>
  <li>交付前验收服务：替外包方出带打分依据的质检报告，单次 3000-8000 元，报告署名反哺获客。</li>
  <li>回归巡检订阅：客户模型或提示词每次变更后自动重跑一致性评估与对抗题，按接口数收 $19-49/月。</li>
</ul>

<p>门槛：公信力来自行业出题经验与打分依据可解释，不在脚本本身。风险：promptfoo 等开源项目正在补无标注指标；WitnessAI 这类护栏产品已占企业侧——个人切的是中小外包交付的验收空档。读完今天能做的事：抽五十条真实问答，让另一个模型只比对输入输出主题是否漂移，数数有多少条答非所问。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://www.freepatentsonline.com/12645691.html">专利详情页：Honeywell 无监督输出验证</a></li>
  <li><a href="https://www.freepatentsonline.com/12147513.html">专利详情页：Citibank 提示词动态验证</a></li>
  <li><a href="https://www.freepatentsonline.com/12111747.html">专利详情页：Citibank 虚拟环境输出验证</a></li>
  <li><a href="https://www.freepatentsonline.com/12675579.html">专利详情页：WitnessAI 护栏系统</a></li>
  <li><a href="/innovation-brief-rag-evaluation-patents/">站内相关文章：RAG 拒答质检简报</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="InnovationBrief" /><category term="Patent" /><category term="LLM" /><category term="Evaluation" /><category term="DevTools" /><category term="IndieHacker" /><summary type="html"><![CDATA[Honeywell、Citibank、WitnessAI 四件大模型输出验证专利在 2024 至 2026 年相继授权：无监督一致性校验、提示词准入、沙箱试跑与护栏插件。替甲方验收 AI 交付物的质检报告，目前仍是个人手艺活。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/innovation-brief-llm-output-validation-patents.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/innovation-brief-llm-output-validation-patents.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">一分钟读论文：《像查性能热点一样查智能体的开销》</title><link href="https://unbug.github.io/one-minute-read-paper-agent-pprof-semantic-stack/" rel="alternate" type="text/html" title="一分钟读论文：《像查性能热点一样查智能体的开销》" /><published>2026-09-19T00:00:00+00:00</published><updated>2026-09-19T00:00:00+00:00</updated><id>https://unbug.github.io/one-minute-read-paper-agent-pprof-semantic-stack</id><content type="html" xml:base="https://unbug.github.io/one-minute-read-paper-agent-pprof-semantic-stack/"><![CDATA[<p>2026 年 9 月 14 日提交到 arXiv 的论文<a href="https://arxiv.org/abs/2609.20301">《AgentPProf: Semantic Profiler for Long Horizon AI Agents》</a>提出：长程 AI Agent 的可观测性欠账不在调试，而在画像——现有工具只做单次执行的追踪，做不了跨运行的长期归因；把系统软件里性能分析（profiling）的方法移植过来，以任务意图而非代码路径作为归因单位，就能像查 CPU 热点一样查出长任务的钱烧在哪一步。论文报告该方法在 CodeTraceBench 上与人工标注对齐得分 <code class="language-plaintext highlighter-rouge">0.764</code>，在三个问题定位基准上把 <code class="language-plaintext highlighter-rouge">MAP</code> 指标最高提升 <code class="language-plaintext highlighter-rouge">56%</code>。</p>

<h2 id="长期画像缺的是归因单位">长期画像缺的是归因单位</h2>

<p>论文观察到，AI Agent 越来越多地编排长达数天甚至数周的活动。要改进质量、安全性和成本效率，开发者需要回答三类问题：失败发生在哪，什么触发了不安全的效果，哪些任务消耗了最多预算。系统软件里性能分析回答过同类问题：聚合资源消耗，归因到承担责任的代码路径，找出热点。Agent 的难点在于责任实体不是代码路径，而是任务意图（例如 diagnose authentication、compare branches），且没有稳定标识符可供聚合。单次调试工具很多，跨运行的长期画像仍然空白。</p>

<h2 id="语义操作栈与递归切分">语义操作栈与递归切分</h2>

<p>论文的方案叫语义操作栈模型（semantic operation stack）：用统一的 operation 表示 Agent 的一切活动，用操作栈替代运行时调用栈，从而在不同粒度上做分层归因。另一个观察是任务在轨迹里占据连续区间，且可递归分解为子任务，于是引入递归操作切分（recursive operation segmentation），沿任务边界把长轨迹一层层切开。切完之后，<code class="language-plaintext highlighter-rouge">AgentPProf</code> 把多条轨迹聚合成 <code class="language-plaintext highlighter-rouge">pprof</code> 兼容的 profile——pprof 是 Go 生态成熟的性能分析格式，火焰图（flame graph）则是按调用层级横向展开的消耗可视化图，宽度对应占比——现有的火焰图工具链可以直接消费。需要说明：这里的 pprof 兼容指输出格式兼容，不是官方集成；整个系统是研究原型，不是生产系统。</p>

<h2 id="对齐得分与问题定位收益">对齐得分与问题定位收益</h2>

<p>评测分两块。轨迹切分质量在 CodeTraceBench（考察从 Agent 执行轨迹中识别任务片段的基准）上衡量，与人工标注对齐得分 <code class="language-plaintext highlighter-rouge">0.764</code>。下游价值在三个问题定位基准（给定故障或低效现象、要求指出责任任务片段的评测）上衡量：把 profile 提供给定位流程后，<code class="language-plaintext highlighter-rouge">MAP</code>（mean average precision，平均精度均值，检索与定位类任务常用的排序质量指标）最高提升 <code class="language-plaintext highlighter-rouge">56%</code>。论文据此主张该方法能在实际可接受的开销内完成资源归因、问题定位和 token 成本优化。</p>

<h2 id="该在哪些前提上打折扣">该在哪些前提上打折扣</h2>

<p>这项工作的结论要放在几个前提下读。其一，这是未经同行评审的预印本，摘要与正文均无机构落款。其二，<code class="language-plaintext highlighter-rouge">0.764</code> 与 <code class="language-plaintext highlighter-rouge">MAP</code> 提升都来自作者自选的基准组合，切分质量与定位收益能否泛化到其他 Agent 框架和任务分布，尚无第三方证据。其三，论文的问题设定建立在任务持续数天到数周的长程场景上，这类任务目前实际普及度存疑，多数现网 Agent 负载仍是分钟级，工具价值要等场景长大。其四，pprof 兼容只解决格式对接，火焰图对代码调用栈的交互语义（如按函数跳转源码）在任务意图粒度上如何落地，论文没有展开。</p>

<p>站内此前解读过的<a href="/one-minute-read-paper-trajectory-budget-confounds/">《评测预算的错觉》</a>与本篇机制不同轴：那篇讲评测侧错觉——实验缺少对照，预算差异被误读成能力差异；这篇是运维侧归因工具——不碰评测有效性，只回答资源消耗该记在哪个任务意图头上。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://arxiv.org/abs/2609.20301">AgentPProf: Semantic Profiler for Long Horizon AI Agents</a></li>
  <li><a href="https://github.com/eunomia-bpf/agentsight">AgentPProf 开源仓库</a></li>
  <li><a href="/one-minute-read-paper-trajectory-budget-confounds/">一分钟读论文：评测预算的错觉（#175）</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="Engineering" /><category term="llm-agents" /><category term="observability" /><category term="profiling" /><summary type="html"><![CDATA[arXiv 预印本 AgentPProf 把系统性能分析的归因方法移植到长程 AI Agent：以任务意图为归因单位，将执行轨迹聚合成火焰图，让长期任务第一次能查出钱烧在哪一步，与人工标注对齐得分 0.764。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/agent-pprof-semantic-stack.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/agent-pprof-semantic-stack.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">AI 范式雷达：《一份技能文件写一次，所有客户端都能跑》</title><link href="https://unbug.github.io/paradigm-radar-skill-md-standard/" rel="alternate" type="text/html" title="AI 范式雷达：《一份技能文件写一次，所有客户端都能跑》" /><published>2026-09-16T00:00:00+00:00</published><updated>2026-09-16T00:00:00+00:00</updated><id>https://unbug.github.io/paradigm-radar-skill-md-standard</id><content type="html" xml:base="https://unbug.github.io/paradigm-radar-skill-md-standard/"><![CDATA[<p>给 Claude Code 写一份配置、给 Copilot 再写一份、给 Gemini CLI 又写一份——各写各的日子正在结束。Agent Skills（以 <code class="language-plaintext highlighter-rouge">SKILL.md</code> 为核心的能力打包格式）由 Anthropic 发起，规范仓库 agentskills/agentskills 已有 <code class="language-plaintext highlighter-rouge">25,385</code> 星，官方客户端列表收录 <code class="language-plaintext highlighter-rouge">46</code> 款工具，OpenAI、Google、微软阵营全部在列（均截至 2026-09-16 实测）。范式转移是从「每个工具写一份厂商专属配置」到「写一个 SKILL.md，全端通吃」：能力分发层的接口正在定型，而注册表、质量评估、供应链安全还全是空白。</p>

<h2 id="一家发起三家跟进">一家发起，三家跟进</h2>

<p>规范仓库独立于 Anthropic 组织之外，创建于 2025 年 12 月；母仓库 anthropics/skills 已有 <code class="language-plaintext highlighter-rouge">176,551</code> 星，9 月仍在合入新技能。信号在对手阵营：OpenAI 的 codex 仓库内有专门的 skills 文档页，Gemini CLI、GitHub Copilot、VS Code 均在官方客户端列表。两条 HN 热帖印证真实痛点——《Ask HN: How do you manage skills files?》<code class="language-plaintext highlighter-rouge">320</code> 分（2026-09-16 实测），讨论团队如何分发技能文件；单个 <code class="language-plaintext highlighter-rouge">I-have-ADHD</code> 技能（防止 Agent 把答案埋在长输出里）拿下 <code class="language-plaintext highlighter-rouge">540</code> 分，一个 markdown 文件就能成为跨客户端的传播单元。GitHub topic agent-skills 下约 <code class="language-plaintext highlighter-rouge">23,486</code> 个仓库（含低质仓库，只作规模下限），第三方集合仓库自述收录 <code class="language-plaintext highlighter-rouge">5,400+</code> 技能。</p>

<h2 id="像-mcp-的扩散路径但烈度更低">像 MCP 的扩散路径，但烈度更低</h2>

<p>MCP 同样是 Anthropic 发起、OpenAI 与 Google 跟进的接口标准，走了近两年才铺开且竞争噪声极大。SKILL.md 的差异在于它是纯文件格式而非协议——没有服务器、握手和运行时依赖，客户端只需认目录结构和 frontmatter，采纳成本低一个量级，所以三家跟进快、对抗少。对照面是 MCP 自己：《Ask HN: Who is using MCP in production?》仅 <code class="language-plaintext highlighter-rouge">198</code> 分，高赞评论直言许多 MCP server 已被「Agent 直接调 CLI」取代。工具接入层退潮，能力打包层上行。这条线与本刊第 10 期<a href="/paradigm-radar-markdown-negotiation/">《网站开始给 Agent 单独上一道菜》</a>是供给层姊妹篇但属不同接口：内容协商解决 Agent 读什么，SKILL.md 解决 Agent 会什么。</p>

<h2 id="反方把软肋摆上了台面">反方把软肋摆上了台面</h2>

<p>最硬的质疑是「skills 会被模型能力吃掉」：上下文窗口和指令遵循能力持续提升后，写作风格、代码规范这类通用技能可能不再需要外置文件——320 分热帖下正是这场争论，MCP 生产采用帖高赞评论提供了实证抓手：协议层标准化在能力增长面前持续贬值。第二击指向标准本身：agentskills.io 由 Anthropic 主导创建，<code class="language-plaintext highlighter-rouge">46</code> 款客户端是自愿填报的 showcase 而非一致性测试认证，frontmatter 字段语义、脚本权限、发现优先级均无互操作测试套件，robots.txt 各家「支持」程度天差地别的历史就在眼前（此为分析观点）。第三击是信任层：技能可捆绑可执行脚本，<code class="language-plaintext highlighter-rouge">5,400+</code> 第三方技能自由分发，而规范仓库窗口期内未发现安全审查、签名或 registry 相关提交——这是「未发现证据」型论断，不等于不存在。悲观读法：这不是 tar 包时刻，而是早期 npm 没有 audit 的时刻。</p>

<h2 id="边界与接下来盯什么">边界与接下来盯什么</h2>

<p>支持不等于等价：同一份 SKILL.md 在 Claude Code 生效不代表 Codex、Gemini CLI 行为一致，验证只到官方列表收录层，未做逐端行为验证。采纳也不可靠：Codex 的 skills 文档页只是一行外链薄壳，OpenAI 转向时一个 release 就能撤掉。据我们观察，中文社区还没有「46 客户端 + 标准之争」同深度解读（搜索通道故障，未经实测排除撞题）。未来盯三个可证伪信号：规范仓库是否出现 registry/signing 相关 PR 或首个技能投毒公开案例；OpenAI、Google 是否发布不兼容的自有格式或从客户端列表消失；MCP 官方是向 SKILL.md 靠拢还是明确切割。</p>

<p><strong>你现在可以做的</strong>：挑一个最熟的工作流写一份 SKILL.md，在至少两个厂商客户端跑同一任务对比行为差异；把团队规范从私有配置迁到统一技能目录试一个月；分发前先想清楚——没有签名和审查，你的技能供应链靠谁把关。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://github.com/agentskills/agentskills">agentskills 规范仓库</a></li>
  <li><a href="https://agentskills.io/clients.md">官方客户端列表</a></li>
  <li><a href="https://raw.githubusercontent.com/openai/codex/main/docs/skills.md">OpenAI Codex Skills 文档</a></li>
  <li><a href="https://news.ycombinator.com/item?id=49589914">Ask HN: How do you manage skills files?</a></li>
  <li><a href="https://news.ycombinator.com/item?id=49610631">I-have-ADHD skill（HN）</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="ParadigmRadar" /><category term="agent-skills" /><category term="standards" /><category term="developer-tools" /><category term="mcp" /><summary type="html"><![CDATA[SKILL.md 正从 Anthropic 私有扩展变成跨厂商事实标准，官方客户端列表已有 46 款并覆盖 OpenAI、Google、微软三大阵营。Agent 能力分发层的接口正在定型，但注册表、质量评估与供应链安全至今仍是空白。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/paradigm-radar-skill-md-standard.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/paradigm-radar-skill-md-standard.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">AI 智创简报：《抢话该不该接？NVIDIA 们圈地轮次判定，质检工具还空着》</title><link href="https://unbug.github.io/innovation-brief-voice-agent-turn-taking-patents/" rel="alternate" type="text/html" title="AI 智创简报：《抢话该不该接？NVIDIA 们圈地轮次判定，质检工具还空着》" /><published>2026-09-14T00:00:00+00:00</published><updated>2026-09-14T00:00:00+00:00</updated><id>https://unbug.github.io/innovation-brief-voice-agent-turn-taking-patents</id><content type="html" xml:base="https://unbug.github.io/innovation-brief-voice-agent-turn-taking-patents/"><![CDATA[<p>2026 年 1 至 8 月，四件围绕”语音智能体什么时候开口”的专利接连公开，申请人是 NVIDIA、Sierra 与 Salesforce。大厂在把抢话、冷场、响应延迟这些体验问题申请成方法；给语音机器人做轮次质检与验收报告的那一层，还空着。</p>

<p><img src="/assets/images/innovation-brief-voice-agent-turn-taking-patents.svg" alt="语音智能体轮次接管专利信号与通话质检接单机会" /></p>

<h2 id="专利信号三家厂商给何时开口定方法">专利信号：三家厂商给”何时开口”定方法</h2>

<ul>
  <li><strong>US20260120693A1</strong>，Sierra Technologies, Inc.，2026-04-30 公开：实时语音对话中把处理拆成前台触发与后台触发两组，先应答再补全，压低智能体响应延迟。</li>
  <li><strong>US20260229221A1</strong>，Salesforce, Inc.，2026-08-06 公开：为语音大模型应用配知识库，收到语音提问先检索再生成应答。</li>
  <li><strong>US20260004070A1</strong>，NVIDIA Corporation，2026-01-01 公开：句尾检测与语义模型并用，判断用户停顿是换气还是说完。</li>
  <li><strong>US20260057884A1</strong>，NVIDIA Corporation，2026-02-26 公开：语音识别模型生成统一文本，供对话系统消费。</li>
</ul>

<p>以上四件均为已公开申请，不是授权专利；国际分类集中在 <code class="language-plaintext highlighter-rouge">G10L15/22</code>（语音输入控制）与 <code class="language-plaintext highlighter-rouge">G06F40/284</code>（语言分析）。</p>

<h2 id="技术趋势从说得像人到接话接得准">技术趋势：从说得像人到接话接得准</h2>

<p>共同走向：语音智能体的竞争焦点正从音色与识别率转向轮次接管（turn-taking，即判断谁在说话、何时换人接话）。与现成方案的差异：Pipecat、LiveKit Agents 等开源框架已提供端点检测组件，但”该不该接这句”的判定方法与延迟调度策略正在被专利圈地，而衡量一个机器人轮次处理得好不好的公开验收标准，至今没有成型。</p>

<h2 id="落地机会卖给上线前后扯皮的语音外包项目">落地机会：卖给上线前后扯皮的语音外包项目</h2>

<p>用户场景：开发者给诊所或电商做了电话客服机器人，交付时客户抱怨它老打断客人、客人说完它还冷场三秒——开发者手里只有几条主观抽听的录音，拿不出”抢话率百分之几、平均响应多少毫秒”的量化证据，尾款拖着。一个人能做的那一层：轮次质检工具——批量回放通话录音，用 <code class="language-plaintext highlighter-rouge">Silero VAD</code> 加 <code class="language-plaintext highlighter-rouge">Whisper</code> 标注四类事件（智能体抢话、应答迟缓、误接插话、异常冷场），按通话输出抢话率与响应时延报告。技术栈 Python 加任一 ASR API 加 SQLite，无需训练模型，月成本数百元，1 人 4 周出 MVP。上一篇<a href="/innovation-brief-rag-evaluation-patents/">RAG 拒答质检简报</a>管文字回答的诚实度，这轮管语音对话的节奏。</p>

<h2 id="创业发现交付前抢话报告加通话巡检订阅">创业发现：交付前抢话报告加通话巡检订阅</h2>

<ul>
  <li>交付前质检服务：替接语音机器人私活的外包方出事件标注集与轮次质检报告，单次 3000-8000 元，报告署名反哺获客。</li>
  <li>通话巡检订阅：接入客户通话录音存储，每天自动重跑事件标注，抢话率恶化即告警，按线路收 $19-49/月。</li>
</ul>

<p>门槛：事件判定阈值需人工抽检校准，先开源一套标注口径换信任。风险：LiveKit 等平台正内置延迟看板——护城河在行业通话的判定口径与报告背书，不在脚本本身。读完今天能做的事：回放二十通真实录音，手工数它抢了几次话、平均几秒才接上，这就是第一份样本报告。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://www.freepatentsonline.com/y2026/0120693.html">专利检索来源：Sierra 语音延迟缓解</a></li>
  <li><a href="https://www.freepatentsonline.com/y2026/0229221.html">专利检索来源：Salesforce 语音知识库</a></li>
  <li><a href="https://www.freepatentsonline.com/y2026/0004070.html">专利检索来源：NVIDIA 语音停顿检测</a></li>
  <li><a href="https://futureagi.com/blog/voice-ai-barge-in-turn-taking-2026/">产业佐证：语音智能体抢话与轮次实现指南</a></li>
  <li><a href="/innovation-brief-rag-evaluation-patents/">站内相关文章：RAG 拒答质检简报</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="InnovationBrief" /><category term="Patent" /><category term="VoiceAI" /><category term="QA" /><category term="DevTools" /><category term="IndieHacker" /><summary type="html"><![CDATA[NVIDIA、Sierra、Salesforce 四件语音智能体轮次接管专利公开，抢话判定与延迟调度被圈地。给语音机器人出轮次质检报告，是独立开发者能接的活。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/innovation-brief-voice-agent-turn-taking-patents.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/innovation-brief-voice-agent-turn-taking-patents.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">一分钟读论文：《遗忘审计的结论可能是统计量挪的》</title><link href="https://unbug.github.io/one-minute-read-paper-unlearning-bn-checkpoint-audit/" rel="alternate" type="text/html" title="一分钟读论文：《遗忘审计的结论可能是统计量挪的》" /><published>2026-09-14T00:00:00+00:00</published><updated>2026-09-14T00:00:00+00:00</updated><id>https://unbug.github.io/one-minute-read-paper-unlearning-bn-checkpoint-audit</id><content type="html" xml:base="https://unbug.github.io/one-minute-read-paper-unlearning-bn-checkpoint-audit/"><![CDATA[<p>一篇 2026 年 9 月提交的机器遗忘（machine unlearning，指从已训练模型中抹除指定数据的影响并重发模型）审计预印本<a href="https://arxiv.org/abs/2609.11490">《Published Unlearning Numbers Move Per Checkpoint, and Not Because the Removed Data Survives: An Audit of 263 Released Batch-Normalized Checkpoints》</a>（arXiv:2609.11490，abs 页未标注机构）发现：遗忘审计的结论可能不是模型学出来的，而是统计量挪出来的——在 263 个已发布 batch-normalized checkpoints 中，权重保持逐比特（bit-identical）不变、仅用保留数据重新拟合批归一化统计量，就有 47 of 221 个 checkpoint 的指标移动超过其自身发布种子的散布，若干个还落在「方法平均值不动」的方法内部。动的是 checkpoint 的属性，不是方法的属性；被删数据幸存并不是原因。</p>

<h2 id="数字为什么动批归一化统计量是无人记录的自由度">数字为什么动：批归一化统计量是无人记录的自由度</h2>

<p>批归一化（batch normalization，神经网络层间稳定激活分布的均值与方差统计量）几乎存在于所有经典视觉模型，发布权重时必然随附。论文的要害是：这些统计量不是任何梯度步写出来的，也没有发布记录交代它们如何拟合。审计实验把权重冻结在逐比特不变，只做一件事——用保留数据重新拟合这组统计量——已发表的遗忘指标就会移动。同一份权重配另一套拟合约定就是另一组数字，而合规判定读的恰恰是这些数字。这不是指控作弊：摘要口径是发布管道里存在一个无人记录的自由度，恶意与否不在审计射程内。</p>

<h2 id="幸存假设被排除交换实验几乎不动">幸存假设被排除：交换实验几乎不动</h2>

<p>「被删数据还残留在模型状态里」是解释指标失真的传统嫌疑，论文用交换实验把它排除了：在固定拟合池内把保留与删除记录的归属对调再拟合一轮统计量，若移动来自被删数据的残留影响，对调应当显著改变结果，实测已发表单元格几乎不动。与移动幅度相关的反而是另一个量——checkpoint 发布状态偏离任意一次重拟合的距离，离得越远，数字越容易挪出种子散布。嫌疑对象因此从模型记忆转向统计量的来源记录。</p>

<h2 id="判定翻转的规模1242-分层">判定翻转的规模：12、4、2 分层</h2>

<p>对已发表决定的实际影响，论文用三层数字限定：12 个 verdict（按发布指标得出的合规判定）发生翻转；其中 4 个移动幅度超过实测的重校准预算；只有 2 个在每一次重复中都稳定超过。作者另外训练并布点在一个贴近其自身判据的群体上，那里一个翻转都没有。处方同样克制：在这个通道存在的 batch-normalized 视觉模型上，发布数字时应在旁边注明拟合约定。</p>

<h2 id="边界与未解问题">边界与未解问题</h2>

<p>证据边界需要先划清。第一，这是未经同行评审的预印本，结论依赖对公开 checkpoint 的重拟合复现。第二，机制限定在带批归一化的视觉模型，不能外推到语言模型的遗忘评测——大模型场景是否存在同类通道，摘要没有任何证据。第三，翻转规模有限：12 个是总量，超过重校准预算的仅 4 个、全重复稳定的仅 2 个，读成「遗忘评测全线失效」超出数据支持。第四，它与已发的<a href="/one-minute-read-paper-trajectory-budget-confounds/">《推理链里的顿悟时刻，多半是预算给的错觉》</a>同属「已发表数字不可信」批评轴，机制却不同：那篇病灶在测量侧——实验缺对照，结论是预算与难度的错觉；这篇病灶在被测对象本身——发布状态里藏着一个无人记录的拟合自由度，数字随约定移动而非随模型移动。前者靠补对照修复，后者只能靠发布时记录约定来堵。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://arxiv.org/abs/2609.11490">arXiv:2609.11490</a></li>
  <li><a href="https://arxiv.org/html/2609.11490v1">论文 HTML 全文</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="Security" /><category term="llm" /><category term="machine-unlearning" /><category term="evaluation" /><category term="privacy" /><summary type="html"><![CDATA[一篇 263 个已发布 checkpoint 的机器遗忘审计发现：权重逐比特不变、仅在保留数据上重新拟合批归一化统计量，就能让 47 of 221 个发布数字越过自家种子散布并翻转 12 个合规判定，与被删数据幸存无关。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/unlearning-bn-checkpoint-audit.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/unlearning-bn-checkpoint-audit.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">AI 智创简报：《端侧小模型专利成簇，私有化部署的工具生意》</title><link href="https://unbug.github.io/innovation-brief-edge-slm-patents/" rel="alternate" type="text/html" title="AI 智创简报：《端侧小模型专利成簇，私有化部署的工具生意》" /><published>2026-09-12T00:00:00+00:00</published><updated>2026-09-12T00:00:00+00:00</updated><id>https://unbug.github.io/innovation-brief-edge-slm-patents</id><content type="html" xml:base="https://unbug.github.io/innovation-brief-edge-slm-patents/"><![CDATA[<p>2026 年 5 至 8 月，三件端侧小模型（直接跑在手机、车机、办公电脑上的模型）专利接连公开：Blockchain Labs 的本地个人数据代理、微软的边云分层模型路由、奔驰的车载函数调用剪枝。大厂在圈”AI 不出设备”的管道件，而选型基准与交付工具缺位，正是独立开发者能接的活。</p>

<p><img src="/assets/images/innovation-brief-edge-slm-patents.svg" alt="端侧小模型专利信号与私有化部署工具机会" /></p>

<h2 id="专利信号三件已公开申请全在不出设备上做文章">专利信号：三件已公开申请全在”不出设备”上做文章</h2>

<ul>
  <li><strong>US20260246629A1</strong>（<a href="https://www.freepatentsonline.com/y2026/0246629.html">原文</a>），Blockchain Labs Inc.，2026-08-20 公开：移动设备本地运行个性化 AI 代理，目标应用产生的数据连同基于设备私钥（设备 DID，去中心化身份标识）生成的电子签名写入个人数据集，国际分类号 <code class="language-plaintext highlighter-rouge">H04L9/08</code>。</li>
  <li><strong>US20260169789A1</strong>（<a href="https://www.freepatentsonline.com/y2026/0169789.html">原文</a>），Microsoft Technology Licensing, LLC，2026-06-18 公开：面向弱网位置的边云分层架构，多个算力不同的语言模型分级部署、逐级升级处理。</li>
  <li><strong>US20260133859A1</strong>（<a href="https://www.freepatentsonline.com/y2026/0133859.html">原文</a>），Mercedes-Benz Group AG，2026-05-14 公开：对预训练小语言模型（SLM）做深度或宽度剪枝，让车机本地跑通函数调用。</li>
</ul>

<p>三件均为已公开申请（审查中），不是授权专利。</p>

<h2 id="技术趋势端侧-ai-从能跑通变成能交付缺的是选型证据">技术趋势：端侧 AI 从能跑通变成能交付，缺的是选型证据</h2>

<p>共同走向：端侧 AI 的竞争点从模型本身挪到架构件——本地数据溯源签名、跨设备模型分层、领域剪枝。开放运行时已经商品化：llama.cpp（ggml-org）GitHub star 数超 12.7 万，GGUF 量化格式由 Hugging Face 官方文档背书（见 References）。大厂专利与开源运行时之间的空档：<strong>“哪个量化版在谁的硬件上够不够快”没有可验证的公开产品</strong>。上一篇<a href="/innovation-brief-token-slim-patents/">大模型账单瘦身专利简报</a>管的是云端账单，这轮管数据不出设备的场景。</p>

<h2 id="落地机会卖给接私有化部署单的个人开发者">落地机会：卖给接私有化部署单的个人开发者</h2>

<p>用户场景：接了私有化部署外包单的个人开发者——律所文档问答、工厂内网助手——客户要求数据不出内网；他选模型靠社群口传，交付验收时”速度够不够、质量掉没掉”拿不出数字。一个人能做两层：A. 本地模型评测 CLI 或基准站——固定任务集在自己电脑跑 <code class="language-plaintext highlighter-rouge">Q4</code>/<code class="language-plaintext highlighter-rouge">Q5</code>/<code class="language-plaintext highlighter-rouge">Q8</code> 各量化级，输出”量化级 × tokens/s × 准确率”矩阵报告；B. 边云降级路由模板——本地优先、断网自动升级云 API，微软专利描述的分层件尚无开箱即用的开源等价物。技术栈：Ollama / llama.cpp + 自建评测集；起步成本自有硬件加电费（GPU 时租约数百元），1 人 2-4 周出 MVP。</p>

<h2 id="创业发现基准报告加部署交付包">创业发现：基准报告加部署交付包</h2>

<ul>
  <li>基准站 + 付费选型报告（¥99-499/份或年订阅）：首批客户来自 llama.cpp 中文社群与接隐私合规单的 AI 外包社群；免费榜单引流，付费卖”你的任务在你的硬件上选哪个量化版”。</li>
  <li>私有化部署交付包（¥5000-30000/单）：内网 RAG 问答（先检索再生成）加评测报告打包交付，兼作验收凭证。</li>
</ul>

<p>门槛：基准代表性靠硬件与任务集长期积累；风险：各家发行版内置评测后通用基准贬值——护城河是中文垂直任务集与可复现的验收证据链。读完今天能做的事：挑一个 7B 模型，在自己电脑上用 <code class="language-plaintext highlighter-rouge">Q4</code> 量化跑一套自拟的 10 题测试集，记下 tokens/s 和准确率——这就是基准数据集的种子。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://www.freepatentsonline.com/y2026/0246629.html">专利检索来源：Free Patents Online 三件已公开申请</a></li>
  <li><a href="https://github.com/ggml-org/llama.cpp">产业佐证：llama.cpp GitHub 仓库（star 数超 12.7 万）</a></li>
  <li><a href="https://huggingface.co/docs/hub/gguf">产业佐证：Hugging Face GGUF 格式官方文档</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="InnovationBrief" /><category term="DevTools" /><category term="Patent" /><category term="EdgeAI" /><category term="LocalLLM" /><category term="DevTools" /><category term="IndieHacker" /><summary type="html"><![CDATA[2026年5至8月三件端侧小模型专利公开：本地个人数据代理、边云分层模型路由、车载SLM剪枝。面向私有化部署的选型基准与降级路由工具，是独立开发者可承接的活。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/innovation-brief-edge-slm-patents.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/innovation-brief-edge-slm-patents.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">AI 智创简报：《RAG 拒答题测试专利成簇，知识库质检是接单活》</title><link href="https://unbug.github.io/innovation-brief-rag-evaluation-patents/" rel="alternate" type="text/html" title="AI 智创简报：《RAG 拒答题测试专利成簇，知识库质检是接单活》" /><published>2026-09-12T00:00:00+00:00</published><updated>2026-09-12T00:00:00+00:00</updated><id>https://unbug.github.io/innovation-brief-rag-evaluation-patents</id><content type="html" xml:base="https://unbug.github.io/innovation-brief-rag-evaluation-patents/"><![CDATA[<p>2026 年 4 至 6 月，三件 RAG（检索增强生成，即先查资料再让大模型作答的架构）质量评测专利接连公开，申请人是 Salesforce、SAP 与通用汽车。大厂在把”知识库问答什么时候该闭嘴”申请成方法；给小团队 RAG 交付物做拒答测试与验收质检的那一层，还空着。</p>

<p><img src="/assets/images/innovation-brief-rag-evaluation-patents.svg" alt="RAG 评测专利信号与知识库质检接单机会" /></p>

<h2 id="专利信号三家产业公司给该不该作答定方法">专利信号：三家产业公司给”该不该作答”定方法</h2>

<ul>
  <li><strong>US20260170067A1</strong>，Salesforce, Inc.，2026-06-18 公开：为任意外部知识库合成”不可回答”请求数据集，评测 RAG 系统能否正确拒答指令含糊、含错误前提、超出库范围等六类问题。</li>
  <li><strong>US20260111331A1</strong>，SAP SE，2026-04-23 公开：企业 RAG 评测框架，用”问题 + 上下文 + 标准答案”测试集迭代跑评估，直到满足评测阈值才放行。</li>
  <li><strong>US20260093735A1</strong>，GM Global Technology Operations LLC，2026-04-02 公开：集成检索器对每次输入多路取回，为 RAG 回答计算置信分数，低分不直接出口。</li>
</ul>

<p>以上三件均为已公开申请，不是授权专利；国际分类集中在 <code class="language-plaintext highlighter-rouge">G06F16/953</code>（检索）与 <code class="language-plaintext highlighter-rouge">G06N3</code>（机器学习）。</p>

<h2 id="技术趋势从查得准不准到敢不敢说不知道">技术趋势：从查得准不准到敢不敢说不知道</h2>

<p>共同走向：RAG 的验收标准正从”检索命中率”转向”回答可信度”——答对要给分，硬答要扣分。与现成方案的差异：RAGAS、TruLens 等开源库已把忠实度打分做成商品，但这三件专利主张的是<strong>拒答题数据集的合成方法与放行阈值</strong>——造”库里没有的题”考系统，恰是通用评测库留下的空白。2026 年 5 月的 EnterpriseRAG-Bench 基准论文同样把”应识别为不可回答”列为核心考点。</p>

<h2 id="落地机会卖给上线前心虚的知识库问答项目">落地机会：卖给上线前心虚的知识库问答项目</h2>

<p>用户场景：开发者给企业做完内部文档问答机器人，上线后员工问到文档没覆盖的问题，模型一本正经编答案，被投诉两次后老板要求”证明它不会乱说”——开发方手里只有几条抽查记录，拿不出量化证据。一个人能做的那一层：RAG 拒答质检工具——读入客户文档库，用 LLM 合成六类不可回答题与一批有据可答题，回放客户 RAG API，按”该拒不拒、该答不答”两项打分，产出质检报告与失败样本集。技术栈 Python 加任一 LLM API 加 SQLite，无需训练模型，月成本数百元，1 人 4 周出 MVP。上一篇<a href="/innovation-brief-agent-evaluation-patents/">Agent 轨迹评测专利简报</a>管的是多步任务的过程验收，这轮管的是单次回答的诚实度。</p>

<h2 id="创业发现上线前质检报告加回归巡检订阅">创业发现：上线前质检报告加回归巡检订阅</h2>

<ul>
  <li>交付前质检服务：替接 RAG 私活的外包方出拒答测试集与质检报告，单次 3000-8000 元，报告署名反哺获客。</li>
  <li>回归巡检订阅：接入客户已有 RAG API，知识库每次更新后自动重跑题集打分，按知识库个数收 $19-49/月。</li>
</ul>

<p>门槛：题库合成质量决定公信力，先开源一套通用拒答题模板换信任。风险：RAGAS 等开源库正补拒答指标——护城河在垂直行业文档的出题经验与报告背书，不在脚本本身。读完今天能做的事：让模型基于你的知识库生成五十道库里没有答案的问题，喂给现有机器人，数数它编了几次。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://www.freepatentsonline.com/y2026/0170067.html">专利检索来源：Salesforce 不可回答评测</a></li>
  <li><a href="https://www.freepatentsonline.com/y2026/0111331.html">专利检索来源：SAP 企业 RAG 评测框架</a></li>
  <li><a href="https://arxiv.org/html/2605.05253v1">产业佐证：EnterpriseRAG-Bench 基准论文</a></li>
  <li><a href="/innovation-brief-agent-evaluation-patents/">站内相关文章：Agent 轨迹评测专利简报</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="InnovationBrief" /><category term="Patent" /><category term="RAG" /><category term="Evaluation" /><category term="DevTools" /><category term="IndieHacker" /><summary type="html"><![CDATA[2026 年 4 至 6 月三件 RAG 质量评测专利公开：Salesforce、SAP、通用汽车把知识库问答的拒答能力与置信度打分做成方法。拒答题测试集与上线前质检报告，是独立开发者能接的活。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/innovation-brief-rag-evaluation-patents.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/innovation-brief-rag-evaluation-patents.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">AI 智创简报：《大模型账单瘦身专利成簇，中间件的止血生意》</title><link href="https://unbug.github.io/innovation-brief-token-slim-patents/" rel="alternate" type="text/html" title="AI 智创简报：《大模型账单瘦身专利成簇，中间件的止血生意》" /><published>2026-09-12T00:00:00+00:00</published><updated>2026-09-12T00:00:00+00:00</updated><id>https://unbug.github.io/innovation-brief-token-slim-patents</id><content type="html" xml:base="https://unbug.github.io/innovation-brief-token-slim-patents/"><![CDATA[<p>2026 年 2 至 9 月，四件”在大语言模型（LLM）吃进文本之前先做瘦身”的专利在 Free Patents Online 接连公开：日志折叠、子句剪枝、动态截断、工具清单最小化。Token 成本管控正从事后记账前移到喂给模型之前，而缺一个通用审计加裁剪中间层的空档，正是独立开发者能接的活。</p>

<p><img src="/assets/images/innovation-brief-token-slim-patents.svg" alt="输入侧 Token 瘦身专利信号与压缩审计中间件机会" /></p>

<h2 id="专利信号四件已公开申请全在少喂上做文章">专利信号：四件已公开申请全在”少喂”上做文章</h2>

<ul>
  <li><strong>US20260260063A1</strong>（<a href="https://www.freepatentsonline.com/y2026/0260063.html">原文</a>），Ciena Corporation，2026-09-03 公开：喂给 LLM 前对日志做空间折叠（重复序列聚类取代表）加时间窗折叠，只送代表性序列。</li>
  <li><strong>US20260203500A1</strong>（<a href="https://www.freepatentsonline.com/y2026/0203500.html">原文</a>），Naver Corporation，2026-07-16 公开：RAG（检索增强生成：先查外部资料再塞进提示词）段落先重排、再按子句剪枝，剪枝与重排可共用或分离模型，仅幸存子句进 prompt。</li>
  <li><strong>US20260170265A1</strong>（<a href="https://www.freepatentsonline.com/y2026/0170265.html">原文</a>），PayPal, Inc.，2026-06-18 公开：按输入 token 量动态确定截断阈值，保证输入加输出不超模型上限，用训练数据建”输入区间到阈值”查找表。</li>
  <li><strong>US20260044679A1</strong>（<a href="https://www.freepatentsonline.com/y2026/0044679.html">原文</a>），Cisco Technology, Inc.，2026-02-12 公开：function calling 只暴露函数组描述与私有函数清单，不喂全量工具 schema，按会话最小化上下文。</li>
</ul>

<p>四件均为已公开申请（审查中），不是授权专利。</p>

<h2 id="技术趋势输入瘦身从提示词技巧变成模型前的架构件">技术趋势：输入瘦身从提示词技巧变成模型前的架构件</h2>

<p>共同走向：token 压缩不再靠人工调提示词，而是拆成模型调用之前的独立处理件——折叠、剪枝、阈值查表、schema 过滤各管一段输入。与现成方案的差异：LiteLLM 这类开源网关卖虚拟 Key、预算与成本追踪（见 References），只记账不动内容；官方压缩能力绑定各家自己的栈。<strong>对任意 OpenAI 兼容接口都能前置的通用层</strong>尚无标配产品。</p>

<h2 id="落地机会卖给被账单烧到的-ai-外包开发者">落地机会：卖给被账单烧到的 AI 外包开发者</h2>

<p>用户场景：接了 AI 客服或文档问答外包单的个人开发者，demo 阶段月账单几十块；上线后客户塞进几万行日志、工单历史和整段知识库上下文，月账单跳到四位数，长上下文还拖慢响应、触发限流——他不知道钱烧在哪个字段、哪些内容可砍。一个人能做两层：A. Token 浪费审计 CLI，拦截解析 OpenAI/Anthropic 请求体，按工具 schema、历史消息、RAG 段落、系统提示分桶统计 token，输出可裁剪项加预估节省报告；B. Drop-in 压缩代理，挂在 LiteLLM 或网关前置层，做函数组折叠、子句剪枝、动态截断，改一行 <code class="language-plaintext highlighter-rouge">baseURL</code> 接入。技术栈 Python/Go + <code class="language-plaintext highlighter-rouge">tiktoken</code> + <code class="language-plaintext highlighter-rouge">tree-sitter</code> + 现成小模型打分子句重要性；起步约 1500-3000 元（域名、VPS、测试 API 费），1 人 2-3 周出 MVP。上一篇<a href="/innovation-brief-agent-tool-guardrail-patents/">Agent 权限拦截专利简报</a>管 Agent 伸出去的手，这轮管它吃进去烧掉的钱。</p>

<h2 id="创业发现开源审计工具加按次账单报告">创业发现：开源审计工具加按次账单报告</h2>

<ul>
  <li>开源核心 + Pro 订阅（约 ¥299/年）：审计逻辑开源换信任，卖分桶报告、压缩策略与团队看板；首批客户来自 LiteLLM、LangChain 社区里抱怨账单的开发者。</li>
  <li>按次审计报告（¥500-2000/单）：交付 token 分桶明细加裁剪清单，从外包接单社群获客。</li>
</ul>

<p>门槛：压缩策略覆盖面靠真实请求样本长期积累；风险：上游官方免费工具在持续变强——护城河是跨厂商通用与”先验证省多少、再付费”的证据链。读完今天能做的事：写个小脚本抓一份自己的 LLM 请求体，用 <code class="language-plaintext highlighter-rouge">tiktoken</code> 按字段算 token 占比，看工具 schema 和历史消息砍一半能省多少钱。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://www.freepatentsonline.com/y2026/0260063.html">专利检索来源：Free Patents Online 四件已公开申请</a></li>
  <li><a href="https://docs.litellm.ai/docs/proxy/virtual_keys">产业佐证：LiteLLM 虚拟 Key 与预算成本追踪文档</a></li>
  <li><a href="/innovation-brief-agent-tool-guardrail-patents/">站内相关文章：Agent 权限拦截专利简报</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="InnovationBrief" /><category term="DevTools" /><category term="Patent" /><category term="LLM" /><category term="CostOptimization" /><category term="DevTools" /><category term="IndieHacker" /><summary type="html"><![CDATA[2026年2至9月，Ciena、Naver、PayPal、Cisco接连公开四件大模型输入侧token压缩专利：日志折叠、子句剪枝、动态截断、工具清单最小化。面向LLM账单的token审计与裁剪中间件，是独立开发者可承接的活。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/innovation-brief-token-slim-patents.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/innovation-brief-token-slim-patents.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">一分钟读论文：《为什么更强的模型会让系统更危险?》</title><link href="https://unbug.github.io/one-minute-read-paper-capability-correlation-risk/" rel="alternate" type="text/html" title="一分钟读论文：《为什么更强的模型会让系统更危险?》" /><published>2026-09-08T00:00:00+00:00</published><updated>2026-09-08T00:00:00+00:00</updated><id>https://unbug.github.io/one-minute-read-paper-capability-correlation-risk</id><content type="html" xml:base="https://unbug.github.io/one-minute-read-paper-capability-correlation-risk/"><![CDATA[<p>Jillian Ross、Eric So、Zoe De Simone、Charles Pozniak 与 Andrew W. Lo 合作的论文 <a href="https://arxiv.org/abs/2609.04373">Why Better Models Can Create Riskier Systems: Evidence from LLM Agents in Financial Markets</a>（2026年9月3日提交预印本）给出一个反直觉结论：提升单个模型的能力，可能让系统级结果变差而不是变好。机制不在个体犯错率，而在行为相关性——共享训练与架构让更强的模型行为更相似，相似的行为无法通过”多请几个专家”来分散，形成一条 <code class="language-plaintext highlighter-rouge">非可分散风险下限</code>（non-diversifiable risk floor）。</p>

<p><img src="/assets/images/capability-correlation-risk.svg" alt="能力提升与行为相关性同向上升，在正确与错误信息环境下产生相反的系统结果" /></p>

<h2 id="能力悖论的机制">能力悖论的机制</h2>

<p>论文的核心假设是：能力更强的 LLM 来自更大规模的共享训练数据和相近的架构谱系，因此它们不仅”更对”，也更”像”。当多个 agent 被部署进同一个系统——金融市场、内容审核、招聘——决策主体的数量在增加，有效独立的观点数量却没有同步增加。作者为此建立了一个通用框架：只要行动之间存在相关性，风险就不能随参与者数量无限摊薄，相关性越高，摊不掉的底线越高。这就是 <code class="language-plaintext highlighter-rouge">能力悖论</code>（capability paradox）的由来：个体层面的改进与系统层面的安全之间，存在一条方向不明的通道。日常直觉认为”把模型换强一点、把 agent 多加几个”总是更安全，这篇论文指出该直觉在一个可刻画的条件下失效。</p>

<h2 id="模拟市场的三个发现">模拟市场的三个发现</h2>

<p>验证手段是 agent-based 金融市场模拟：让按通用能力分级的 LLM 充当交易员，观察市场级风险随参与结构的变化。摘要报告了三个结果。其一，前沿 LLM 的行为呈现显著相关，且相关性随能力提升而上升。其二，当共享推理是准确的时候，扩大 agent 参与确实降低了市场级风险——多样性红利正常兑现。其三，当 agent 们处在 <code class="language-plaintext highlighter-rouge">共享错误信息环境</code>（common misinformation environment）里，同一套相关性立刻反转为负债：所有模型一起自信地错，且错得步调一致。三个结果合起来说明，问题不是”要不要用更强的模型”，而是强模型的集体偏差会把整个系统带到同一个方向上，没有任何一个参与者负责纠偏。</p>

<h2 id="边界模拟口径与外推">边界：模拟、口径与外推</h2>

<p>这项证据的分寸感比结论本身更重要，至少四点限制必须写清。其一，agent-based 模拟不等于真实市场：模拟中的 LLM 交易员没有真实资金约束、没有清算压力，也没有监管干预，市场级风险的量级不能直接搬到现实。其二，”相关性”的度量口径与”能力分级”的方式均为论文自定义，换一个口径结论的强度可能变化。其三，这是未经同行评审的预印本。其四，最危险的第三个发现限定在共享错误信息环境这一情景，作者自己也将”同样的动力学是否出现在其他领域”列为待验证的开放问题，不能泛化为”所有部署都会如此”。与本刊此前<a href="/one-minute-read-paper-beyond-transcript-latent-collusion/">《拍卖桌下的暗线，多智能体隐藏合谋的检测与干预》</a>相比，两者的威胁面不同轴：那篇是 agent 之间建立隐蔽通道的主动合谋，需要检测与干预；本篇没有任何合谋，模型甚至彼此不知情，风险纯粹来自训练层面的结构性相关——防住了通信审计，也防不住它。对采购方的直接含义是：堆同一家模型的多个实例，买到的可能是一个决策加若干份复制品。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://arxiv.org/abs/2609.04373">Why Better Models Can Create Riskier Systems (arXiv:2609.04373)</a></li>
  <li><a href="/one-minute-read-paper-beyond-transcript-latent-collusion/">拍卖桌下的暗线，多智能体隐藏合谋的检测与干预</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="Safety" /><category term="llm" /><category term="agents" /><category term="safety" /><category term="financial-markets" /><summary type="html"><![CDATA[2026年9月的预印本用 LLM 交易员做 agent-based 金融市场模拟，发现更强的大语言模型行为相关性更高：共享推理正确时降低市场级风险，共享错误信息环境时同一相关性变成无法分散的系统风险。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/capability-correlation-risk.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/capability-correlation-risk.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry><entry><title type="html">一分钟读论文：《通过全部测试的反编译代码为何仍不可信》</title><link href="https://unbug.github.io/one-minute-read-paper-llm-decompiler-divergence/" rel="alternate" type="text/html" title="一分钟读论文：《通过全部测试的反编译代码为何仍不可信》" /><published>2026-09-08T00:00:00+00:00</published><updated>2026-09-08T00:00:00+00:00</updated><id>https://unbug.github.io/one-minute-read-paper-llm-decompiler-divergence</id><content type="html" xml:base="https://unbug.github.io/one-minute-read-paper-llm-decompiler-divergence/"><![CDATA[<p>论文<a href="https://arxiv.org/abs/2609.05370">《When LLM Decompilers Recompile More and Preserve Less》</a>（arXiv:2609.05370，作者 Chang Liu、Edward Raff、Kristopher Micinski，提交于 2026-09-04，2026-09-08 查阅）给出一个直接动摇当前评测口径的结论：以大模型为内核的反编译工具产出的代码，即使能通过全部随附测试，仍有 <code class="language-plaintext highlighter-rouge">4.9%</code> 在合法输入上与原始程序行为分歧，单一系统最高达 <code class="language-plaintext highlighter-rouge">13%</code>——也就是说，只看「能不能编译、过不过测试」这两项主流指标，会系统性地把错误路径评为更优。</p>

<h2 id="两项主流指标为何漏掉两类失败">两项主流指标为何漏掉两类失败</h2>

<p>反编译是从已编译的机器代码恢复高级语言源码的过程，是漏洞检测与恶意软件分析的基础。Ghidra、Hex-Rays 等传统反编译器会把无法解析的部分显式留成占位符，产出的伪代码常常编译不过也跑不起来；大模型方案则输出干净、地道的 C 代码，因此几乎完全由可重编译性（能否构建）和可重执行性（能否通过随附的输入输出测试）来评判。论文指出这套指标会奖励错误的路径：一个函数可以顺利重编译并通过每一个随附测试，却在其他合法输入上与原程序分歧；一处已披露漏洞甚至可以在重编译产物中「无声消失」，崩溃不再复现，也不留任何可见痕迹。这两类失败，现有测试套件都抓不到。</p>

<h2 id="decompile-diverge用模糊测试做行为对照">Decompile-Diverge：用模糊测试做行为对照</h2>

<p>为补上这个缺口，论文提出 Decompile-Diverge，一个不依赖固定或手工测试用例的行为对比 oracle（判定器）：对每个函数自动合成调用 driver，从参考实现出发扩充模糊测试语料，再让反编译产物在相同输入上重跑，比对行为是否改变。在 <code class="language-plaintext highlighter-rouge">8 个系统在 9 种配置</code>下、基于既有大模型反编译语料的评测中，通过全部随附测试的候选仍有 <code class="language-plaintext highlighter-rouge">4.9%</code> 与原程序分歧，单一系统最高 <code class="language-plaintext highlighter-rouge">13%</code>。在 <code class="language-plaintext highlighter-rouge">300 个真实 GitHub 库函数与 287 个 CVE 关联函数</code>上，可重编译性与行为一致性出现了明显背离：最强的精化大模型（refinement LLM）把 Ghidra 的构建率从 <code class="language-plaintext highlighter-rouge">75%</code> 提到 <code class="language-plaintext highlighter-rouge">90%</code>，行为匹配率却从 <code class="language-plaintext highlighter-rouge">74%</code> 降到 <code class="language-plaintext highlighter-rouge">62%</code>；在已披露漏洞子集上，最高约十分之一的漏洞在其输出中出现崩溃缺失（Crash Absence）。</p>

<p><img src="/assets/images/decompile-diverge-llm-decompiler.svg" alt="大模型反编译的评测缺口：构建率上升与行为匹配率下降同时发生，模糊测试对照揭示通过全部随附测试后的行为分歧" /></p>

<h2 id="把不确定性藏进语义的代价">把不确定性藏进语义的代价</h2>

<p>源码级分析显示，分歧源于大模型引入的字段（fields）、类型（types）、被调用函数（callees）和防护条件（guards）——它们把传统工具留下的「可见的未知」替换成了「看不见的错」。本刊此前解读的<a href="/one-minute-read-paper-trajectory-budget-confounds/">轨迹预算指标错觉研究</a>与此同属「指标幻觉」一条轴：当评测只度量表层可用性，模型就学会把不确定性藏进指标测不到的地方。安全关键场景的实操含义是把可重编译性降级为必要条件而非充分条件，叠加行为等价测试（合成 driver 加模糊语料），并保留传统工具「宁留占位符、不编假代码」的文化。</p>

<p>边界同样要说清：模糊测试语料不是穷尽证明，分歧率是给定输入集合上的下界观察；这套 oracle 依赖参考实现可得，没有原始程序时无从对照；且论文为预印本，尚未经过同行评审。</p>

<h2 id="references">References</h2>
<ul>
  <li><a href="https://arxiv.org/abs/2609.05370">When LLM Decompilers Recompile More and Preserve Less (arXiv:2609.05370)</a></li>
  <li><a href="/one-minute-read-paper-trajectory-budget-confounds/">一分钟读论文：轨迹与预算指标错觉</a></li>
</ul>]]></content><author><name>unbug</name></author><category term="AI" /><category term="Security" /><category term="llm" /><category term="security" /><category term="decompilation" /><category term="evaluation" /><summary type="html"><![CDATA[论文用模糊测试对照发现，大模型反编译产物通过全部自带测试后仍有 4.9% 与原始程序行为分歧，最高单系统达 13%，只看能否编译的评测指标正在奖励错误路径。]]></summary><media:thumbnail xmlns:media="http://search.yahoo.com/mrss/" url="https://unbug.github.io/assets/images/decompile-diverge-llm-decompiler.svg" /><media:content medium="image" url="https://unbug.github.io/assets/images/decompile-diverge-llm-decompiler.svg" xmlns:media="http://search.yahoo.com/mrss/" /></entry></feed>