All 418

AI 范式雷达:《不再调权重:Agent 的自进化搬进了 Harness》

如果你最近在看 Agent 方向的论文,可能会注意到一个微妙的变化:过去半年讨论「让 Agent 自我改进」时,主角几乎总是模型本身——继续预训练、RLHF、递归微调。

In AI, ParadigmRadar, 3 mins read

一分钟读论文:《写进记忆的一句话,让后续回答都偏了方向》

上海交通大学与蚂蚁集团合作的论文《InjecMEM: Memory Injection Attack on LLM Agent Memory Systems》(arXiv:2608.23471,2026-08-24 提交)提出一种针对 LLM Agent 记忆系统的注入攻击:攻击者单次交互就能把后续回答导向预指定输出。

In AI, Security, 1 min read

一分钟读论文:《长程 Agent 记忆中的压缩悬崖》

德国帕绍大学(University of Passau)与奥地利 IT:U Linz 合作的论文《The Compaction Cliff in Long-Running AI Agent Memory》发现:一轮压缩后仅保留 53% 的安全规则,五轮后只剩 10%。

In AI, LLM, 1 min read

一分钟读论文:《只刷干净的数学题,模型反而学会了不拒绝》

KAUST 与多伦多大学等机构合作的论文《Mitigating Reasoning-Induced Misalignment via Safety-Direction Penalty》(arXiv:2608.23497)发现:只用完全无害的数学与代码推理数据做监督微调(SFT),模型反而变得更危险。

In AI, LLM, 1 min read

一分钟读论文:《七个模型在代码库里记错了同一个地方》

一篇近期提交到 arXiv 的论文《The Working Set of a Coding Agent: Coherence Debt in Repository-Scale Tasks》认为,仓库级编码 agent 的失败不在于智力不足,而在于写代码那一刻它依赖的事实既不在上下文窗口、也不在参数化记忆中。

In AI, LLM, 1 min read

一分钟读论文:《同一个模型换个外壳,攻击成功率差出四倍多》

Agent 安全系列前几期处理了三种威胁:#160 改答案、#161 偷资产、#162 建暗线。

In AI, Security, 1 min read

一分钟读论文:《不会解题的0.5B小模型成了运行时顾问》

新加坡国立大学的论文《Don’t Solve, Just Compare: Tiny Advisors for Runtime Intervention in LLM Agents》提出 COTA 框架:0.5B 小模型只会比较两个候选动作,就能给大 actor 指出错误、触发重规划。

In AI, LLM, 1 min read

一分钟读论文:《拍卖桌下的暗线:多智能体隐藏合谋》

MIT Media Lab 等四家机构的论文《Beyond the Transcript》证明多智能体经隐藏状态传递私有信息时,合谋可发生在审计面之外,而无监督监控能以不超过 0.2% 的负载检出。

In AI, Security, 1 min read

AI 智创简报:《视频鉴真从查假转向证真,自助证明工具还是空白》

近 90 天有 2 件美国「视频鉴真」申请公开:Bank of America 的区块链视频认证、Arranged BV 的受控光照认证。主题正从「检测是不是假」转向「证明是真的」,低成本自助证明工具的缺口,是个人开发者能接的活。

In AI, InnovationBrief, 1 min read

AI 智创简报:《微软、蚂蚁都在给 AI 应用打注入疫苗,小团队缺个便宜的体检医生》

近 12 个月,微软、Palo Alto Networks、蚂蚁集团、Radware 四家申请人公开了五件提示词注入防御专利,最新一件 8 月 6 日公开。OWASP 把注入攻击列为 LLM 应用头号风险,企业级防御正在产品化,而面向小团队的低成本验收测试还是空白。

In AI, InnovationBrief, 1 min read

Featured