All 409

一分钟读论文:《把题目改错,模型的推理链纹丝不动》

埃因霍温理工大学与 Dana-Farber 癌症研究所合作的论文《Right Diagnoses, Decorative Reasoning: A Perturbation Audit of Medical Chain-of-Thought》(arXiv:2608.24790)扰动审计发现:破坏临床模型的可见推理链,诊断准确率几乎不变。

In AI, LLM, 1 min read

AI 范式雷达:《不再调权重:Agent 的自进化搬进了 Harness》

如果你最近在看 Agent 方向的论文,可能会注意到一个微妙的变化:过去半年讨论「让 Agent 自我改进」时,主角几乎总是模型本身——继续预训练、RLHF、递归微调。

In AI, ParadigmRadar, 3 mins read

一分钟读论文:《写进记忆的一句话,让后续回答都偏了方向》

上海交通大学与蚂蚁集团合作的论文《InjecMEM: Memory Injection Attack on LLM Agent Memory Systems》(arXiv:2608.23471,2026-08-24 提交)提出一种针对 LLM Agent 记忆系统的注入攻击:攻击者单次交互就能把后续回答导向预指定输出。

In AI, Security, 1 min read

一分钟读论文:《长程 Agent 记忆中的压缩悬崖》

德国帕绍大学(University of Passau)与奥地利 IT:U Linz 合作的论文《The Compaction Cliff in Long-Running AI Agent Memory》发现:一轮压缩后仅保留 53% 的安全规则,五轮后只剩 10%。

In AI, LLM, 1 min read

一分钟读论文:《只刷干净的数学题,模型反而学会了不拒绝》

KAUST 与多伦多大学等机构合作的论文《Mitigating Reasoning-Induced Misalignment via Safety-Direction Penalty》(arXiv:2608.23497)发现:只用完全无害的数学与代码推理数据做监督微调(SFT),模型反而变得更危险。

In AI, LLM, 1 min read

一分钟读论文:《七个模型在代码库里记错了同一个地方》

一篇近期提交到 arXiv 的论文《The Working Set of a Coding Agent: Coherence Debt in Repository-Scale Tasks》认为,仓库级编码 agent 的失败不在于智力不足,而在于写代码那一刻它依赖的事实既不在上下文窗口、也不在参数化记忆中。

In AI, LLM, 1 min read

一分钟读论文:《同一个模型换个外壳,攻击成功率差出四倍多》

Agent 安全系列前几期处理了三种威胁:#160 改答案、#161 偷资产、#162 建暗线。

In AI, Security, 1 min read

一分钟读论文:《不会解题的0.5B小模型成了运行时顾问》

新加坡国立大学的论文《Don’t Solve, Just Compare: Tiny Advisors for Runtime Intervention in LLM Agents》提出 COTA 框架:0.5B 小模型只会比较两个候选动作,就能给大 actor 指出错误、触发重规划。

In AI, LLM, 1 min read

一分钟读论文:《拍卖桌下的暗线:多智能体隐藏合谋》

MIT Media Lab 等四家机构的论文《Beyond the Transcript》证明多智能体经隐藏状态传递私有信息时,合谋可发生在审计面之外,而无监督监控能以不超过 0.2% 的负载检出。

In AI, Security, 1 min read

AI 智创简报:《视频鉴真从查假转向证真,自助证明工具还是空白》

近 90 天有 2 件美国「视频鉴真」申请公开:Bank of America 的区块链视频认证、Arranged BV 的受控光照认证。主题正从「检测是不是假」转向「证明是真的」,低成本自助证明工具的缺口,是个人开发者能接的活。

In AI, InnovationBrief, 1 min read

Featured