一分钟读论文:《遗忘审计的结论可能是统计量挪的》

Sep 14, 2026 · 1 min read

一篇 2026 年 9 月提交的机器遗忘(machine unlearning,指从已训练模型中抹除指定数据的影响并重发模型)审计预印本《Published Unlearning Numbers Move Per Checkpoint, and Not Because the Removed Data Survives: An Audit of 263 Released Batch-Normalized Checkpoints》(arXiv:2609.11490,abs 页未标注机构)发现:遗忘审计的结论可能不是模型学出来的,而是统计量挪出来的——在 263 个已发布 batch-normalized checkpoints 中,权重保持逐比特(bit-identical)不变、仅用保留数据重新拟合批归一化统计量,就有 47 of 221 个 checkpoint 的指标移动超过其自身发布种子的散布,若干个还落在「方法平均值不动」的方法内部。动的是 checkpoint 的属性,不是方法的属性;被删数据幸存并不是原因。

一分钟读论文:《Scratch Copilot:用 AI 支持青少年创意编程》

Google DeepMind 研究科学家和华盛顿大学教授合作的一篇论文《Scratch Copilot: Supporting Youth Creative Coding with AI》,首次提出了专门为儿童设计的 AI 编程助手——Scratch Copilot,这是一个集成在类 Scratch 环境中的 AI 助手,为青少年提供创意编程支持。

Read More

All

一分钟读论文:《遗忘审计的结论可能是统计量挪的》

一篇 2026 年 9 月提交的机器遗忘(machine unlearning,指从已训练模型中抹除指定数据的影响并重发模型)审计预印本《Published Unlearning Numbers Move Per Checkpoint, and Not Because the Removed Data Survives: An Audit of 263 Released Batch-Normalized Checkpoints》(arXiv:2609.11490,abs 页未标注机构)发现:遗忘审计的结论可能不是模型学出来的,而是统计量挪出来的——在 263 个已发布 batch-normalized checkpoints 中,权重保持逐比特(bit-identical)不变、仅用保留数据重新拟合批归一化统计量,就有 47 of 221 个 checkpoint 的指标移动超过其自身发布种子的散布,若干个还落在「方法平均值不动」的方法内部。动的是 checkpoint 的属性,不是方法的属性;被删数据幸存并不是原因。

In AI, Security, 1 min read

AI 智创简报:《语音智能体轮次专利扎堆,语音机器人质检接单活》

2026 年 1 至 8 月,四件围绕”语音智能体什么时候开口”的专利接连公开,申请人是 NVIDIA、Sierra 与 Salesforce。大厂在把抢话、冷场、响应延迟这些体验问题申请成方法;给语音机器人做轮次质检与验收报告的那一层,还空着。

In AI, InnovationBrief, 1 min read

AI 智创简报:《大模型账单瘦身专利成簇,中间件的止血生意》

2026 年 2 至 9 月,四件”在大语言模型(LLM)吃进文本之前先做瘦身”的专利在 Free Patents Online 接连公开:日志折叠、子句剪枝、动态截断、工具清单最小化。Token 成本管控正从事后记账前移到喂给模型之前,而缺一个通用审计加裁剪中间层的空档,正是独立开发者能接的活。

In AI, InnovationBrief, DevTools, 1 min read

AI 智创简报:《RAG 拒答题测试专利成簇,知识库质检是接单活》

2026 年 4 至 6 月,三件 RAG(检索增强生成,即先查资料再让大模型作答的架构)质量评测专利接连公开,申请人是 Salesforce、SAP 与通用汽车。大厂在把”知识库问答什么时候该闭嘴”申请成方法;给小团队 RAG 交付物做拒答测试与验收质检的那一层,还空着。

In AI, InnovationBrief, 1 min read

AI 智创简报:《端侧小模型专利成簇,私有化部署的工具生意》

2026 年 5 至 8 月,三件端侧小模型(直接跑在手机、车机、办公电脑上的模型)专利接连公开:Blockchain Labs 的本地个人数据代理、微软的边云分层模型路由、奔驰的车载函数调用剪枝。大厂在圈”AI 不出设备”的管道件,而选型基准与交付工具缺位,正是独立开发者能接的活。

In AI, InnovationBrief, DevTools, 1 min read

AI 范式雷达:《隔离质量等于攻击面质量》

2026-08-26,安全公司 Trail of Bits 发布《VMs won’t contain cyber-capable agents》,称一个具备网络攻击能力的前沿 AI Agent(文中为 GPT 5.6-Cyber 预览版)先后 3 次从未经安全裁剪的通用 QEMU/KVM 虚拟机中自主逃逸。这篇文章在 Hacker News 登上 197 分、147 条评论(2026-09-08 复核)。隔离范式的争论正从「容器还是 VM」的类型之争,转向「攻击面削掉了多少」的工程之争。

In AI, ParadigmRadar, Security, 1 min read

一分钟读论文:《删掉的记忆为何仍会从行为里漏出来》

论文《Inferring Hidden User Models from the Behavior of Personalized LLM Agents》(arXiv:2609.03815,2026-09-03 提交,cs.CR 预印本)给出一个对业界话术很不利的结论:个性化 Agent 把用户记忆压缩成结构化的「user model」(用户模型,指供后续决策使用的压缩或结构化表示)后,即使原文已从普通接口可达的状态中删除,黑盒攻击者依然能从被它塑造的个性化选择里恢复隐私信息。论文的表述是:keeping records and backend state inaccessible does not guarantee semantic privacy(记录与后端状态不可访问,并不保证语义隐私)。

In AI, Security, 1 min read

一分钟读论文:《通过全部测试的反编译代码为何仍不可信》

论文《When LLM Decompilers Recompile More and Preserve Less》(arXiv:2609.05370,作者 Chang Liu、Edward Raff、Kristopher Micinski,提交于 2026-09-04,2026-09-08 查阅)给出一个直接动摇当前评测口径的结论:以大模型为内核的反编译工具产出的代码,即使能通过全部随附测试,仍有 4.9% 在合法输入上与原始程序行为分歧,单一系统最高达 13%——也就是说,只看「能不能编译、过不过测试」这两项主流指标,会系统性地把错误路径评为更优。

In AI, Security, 1 min read

一分钟读论文:《为什么更强的模型会让系统更危险?》

Jillian Ross、Eric So、Zoe De Simone、Charles Pozniak 与 Andrew W. Lo 合作的论文 Why Better Models Can Create Riskier Systems: Evidence from LLM Agents in Financial Markets(2026年9月3日提交预印本)给出一个反直觉结论:提升单个模型的能力,可能让系统级结果变差而不是变好。机制不在个体犯错率,而在行为相关性——共享训练与架构让更强的模型行为更相似,相似的行为无法通过”多请几个专家”来分散,形成一条 非可分散风险下限(non-diversifiable risk floor)。

In AI, Safety, 1 min read

AI 范式雷达:《网站开始给 Agent 单独上一道菜》

同一个 URL、同一个 Accept 头,返回的字节从 24,222 掉到 2,201——这不是压缩,是换了一种表示。8 月 26 日登上的 HN 热帖《Serve Markdown to AI Agents with Accept Headers》(Algolia API 今日实测 176 分)把 HTTP 内容协商这个 90 年代机制重新推上前台:网站不再只为人渲染 HTML,而是给 Agent 直供干净 Markdown。范式转移在于「网页默认给人看、Agent 抓了自己洗」正在变成「网站把 Agent 当一等公民访客、按请求头供料」。

In AI, ParadigmRadar, 1 min read

Featured