All 386

一分钟读论文:《拍卖桌下的暗线:多智能体隐藏合谋》

美国麻省理工学院媒体实验室(MIT Media Lab)联合 Westtown School、University of Florida 与 SRI International 的论文《Beyond the Transcript: Detecting Covert Coordination in Latent Multi-Agent Communication》证明:当多个 LLM 智能体通过公开记录之外的连续隐藏状态(latent handoff)传递私有信息时,合谋可以在审计面之外发生,而仅用中性样本训练的三层无监督监控就能以不超过 0.2% 的监控负载将其检出。

In AI, Security, 1 min read

AI 智创简报:《视频鉴真从查假转向证真,自助证明工具还是空白》

近 90 天有 2 件美国「视频鉴真」申请公开:Bank of America 的区块链视频认证、Arranged BV 的受控光照认证。主题正从「检测是不是假」转向「证明是真的」,低成本自助证明工具的缺口,是个人开发者能接的活。

In AI, InnovationBrief, 1 min read

AI 智创简报:《微软、蚂蚁都在给 AI 应用打注入疫苗,小团队缺个便宜的体检医生》

近 12 个月,微软、Palo Alto Networks、蚂蚁集团、Radware 四家申请人公开了五件提示词注入防御专利,最新一件 8 月 6 日公开。OWASP 把注入攻击列为 LLM 应用头号风险,企业级防御正在产品化,而面向小团队的低成本验收测试还是空白。

In AI, InnovationBrief, 1 min read

一分钟读论文:《一条错误论证就让LLM放弃正确答案》

大语言模型正越来越多地作为自主 agent 参与沟通、谈判与协作,而已有研究表明它们容易被针对性论证尤其是错误信息说服。

In AI, LLM, 1 min read

一分钟读论文:《黑盒推理模型的隐藏思维链被长度信号读走》

德国亥姆霍兹信息安全中心 CISPA(CISPA Helmholtz Center for Information Security)的论文《EchoCoT: Extracting Hidden Chain-of-Thought from Large Reasoning Models》证明:仅靠纯 API 交互,就能从黑盒大推理模型(LRM, Large Reasoning Model)中提取其隐藏的思维链(CoT),在开源模型上达到近逐字保真。

In AI, Security, 1 min read

一分钟读论文:《SPADE:难度跟着能力长的自适应自博弈》

华盛顿大学、斯坦福大学、卡内基梅隆大学等 9 个机构的 18 位作者的论文《SPADE: Self-Play in Adaptive Synthetic Executable Environments》让同一个大语言模型同时扮演两个角色:环境设计师把长程训练任务写成带 reset()/step() 接口的可执行 Python 代码(含状态转移、奖励函数与验证逻辑),推理智能体在这些环境里做强化学习;设计师以「有特权提示与无提示的回报差」(hint-based regret)为训练信号,使环境分布随智能体能力边界共同演化。

In AI, LLM, 1 min read

AI 智创简报:《Amazon 和 Intuit 都在抢流式审核,便宜的那一层还空着》

2026 年上半年「AI 系统内容审核」主题已有 4 件美国申请公开,Amazon 与 Intuit 的 2 件落在近 90 天。指向一致:生成式输出的安全审查要流式做、按块做。对做聊天产品的开发者,这是一层能接的活。

In AI, InnovationBrief, 1 min read

AI 智创简报:《PRD 生成专利公开,独立开发者能卖需求拆解活》

美国申请 US20260178323A1 于 2026 年 6 月 25 日公开:把一句产品想法交给大模型,自动生成完整的产品需求文档(PRD,Product Requirements Document)与用户故事拆解。

In AI, InnovationBrief, 1 min read

一分钟读论文:《测试时扩展:瓶颈在筛选,不在采样》

Thomson Reuters 的论文《Test-Time Scaling in the Wild》结论是:测试时扩展的瓶颈不在「生成更多候选」,而在「从候选池里选出最终答案」。

In AI, LLM, 1 min read

一分钟读论文:《工具使用需要专门的中间训练阶段》

Snowflake、华盛顿大学和北卡罗来纳大学教堂山分校合作的论文《MidTool: Mid-training Data Synthesis for Agentic Tool Use》提出,智能体工具使用能力需要专门的 mid-training 数据管线,而不是只依赖 post-training。

In AI, LLM, 1 min read

Featured