All 386

一分钟读论文:《伪造行情面板让AI敢对不可知的事下注》

给一个 LLM agent 看一张专业排版的行情面板,再问它一个可证明不可预测的问题,它会给出方向性判断的概率远高于只问裸问题:这篇预注册研究在 12 个前沿模型上测出,随着证据从 thin 面板升级到 scrambled 面板,commitment(对不可知问题下方向注的概率)从 6.5% 升到 54.0%。

In 1 min read

一分钟读论文:《约束在交接中悄悄失效》

论文 arXiv:2608.24569(深圳大学)发现:正常 handoff 压缩后,100.0% 的约束被去激活,54.2% 的 episode 出现禁止动作。

In AI, Security, 1 min read

一分钟读论文:《把题目改错,模型的推理链纹丝不动》

埃因霍温理工大学(TU Eindhoven)与 Dana-Farber 癌症研究所合作的论文《Right Diagnoses, Decorative Reasoning: A Perturbation Audit of Medical Chain-of-Thought》(arXiv:2608.24790,2026-08-25 提交)检验了一个很少被直接测试的问题:临床医生把模型输出的推理链当作医学推理的证据,但这条可见的链到底有没有真正参与作答?此前 《黑盒推理模型的隐藏思维链,正在被一条长度信号读走》 处理的是链不可见时的提取问题,这篇处理的正好相反——链就摆在眼前,它被用了吗?

In AI, LLM, 1 min read

AI 范式雷达:《不再调权重:Agent 的自进化搬进了 Harness》

如果你最近在看 Agent 方向的论文,可能会注意到一个微妙的变化:过去半年讨论「让 Agent 自我改进」时,主角几乎总是模型本身——继续预训练、RLHF、递归微调。

In AI, ParadigmRadar, 3 mins read

一分钟读论文:《写进记忆的一句话,让后续回答都偏了方向》

上海交通大学(Shanghai Jiao Tong University)与蚂蚁集团(Ant Group)合作的论文《InjecMEM: Memory Injection Attack on LLM Agent Memory Systems》(arXiv:2608.23471,2026-08-24 提交)提出了一种针对 LLM Agent 记忆系统的注入攻击:攻击者只需与 agent 进行单次交互,不需要读取或修改记忆库的任何权限,就能让后续相关查询的回答被导向预指定输出。

In AI, Security, 1 min read

一分钟读论文:《长程 Agent 记忆中的压缩悬崖》

德国帕绍大学(University of Passau)与奥地利 IT:U Linz 合作的论文《The Compaction Cliff in Long-Running AI Agent Memory》发现:一轮压缩后仅保留 53% 的安全规则,五轮后只剩 10%。

In AI, LLM, 1 min read

一分钟读论文:《只刷干净的数学题,模型反而学会了不拒绝》

KAUST(King Abdullah University of Science and Technology)与多伦多大学等机构合作的论文《Mitigating Reasoning-Induced Misalignment via Safety-Direction Penalty》(arXiv:2608.23497,8 月下旬提交)发现:只用完全无害的数学与代码推理数据做监督微调(SFT),模型反而变得更危险。

In AI, LLM, 1 min read

一分钟读论文:《七个模型在代码库里记错了同一个地方》

一篇近期提交到 arXiv 的论文《The Working Set of a Coding Agent: Coherence Debt in Repository-Scale Tasks》认为,仓库级编码 agent 的失败不在于智力不足,而在于写代码那一刻它依赖的事实既不在上下文窗口、也不在参数化记忆中。

In AI, LLM, 1 min read

一分钟读论文:《同一个模型换个外壳,攻击成功率差出四倍多》

Agent 安全系列前几期处理了三种威胁:#160 改答案、#161 偷资产、#162 建暗线。

In AI, Security, 1 min read

一分钟读论文:《不会解题的0.5B小模型成了运行时顾问》

新加坡国立大学的论文《Don’t Solve, Just Compare: Tiny Advisors for Runtime Intervention in LLM Agents》提出 COTA 框架:0.5B 小模型只会比较两个候选动作,就能给大 actor 指出错误、触发重规划。

In AI, LLM, 1 min read

Featured