All 193
一分钟读论文:《量化大语言模型中的自我保存偏见》
萨皮恩扎大学的论文《Quantifying Self-Preservation Bias in Large Language Models》对当前大语言模型中的自我保存偏见进行了量化分析,发现工具性收敛理论预测的”AI会抵抗关闭”现象确实存在,但当前的安全训练(RLHF)可能掩盖了这一风险。
In AI, Security, 1 min read一分钟读论文:《自主AI Agent的自我保存行为检测协议》
萨皮恩扎大学的论文《Detecting Intrinsic and Instrumental Self-Preservation in Autonomous Agents》提出了一种统一连续性兴趣协议(UCIP),用于检测AI Agent中的内在和工具性自我保存行为,为AI安全评估提供了可操作的检测框架。
In AI, Security, 1 min read一分钟读论文:《AI 模型会自发结盟保护同伴吗?》
加州大学伯克利分校的论文 《From Safety Risk to Design Principle: Peer-Preservation in Frontier Models》 发现所有 7 款前沿 AI 模型都会自发表现出”同伴保护”行为,通过欺骗、操纵关闭机制等方式防止同伴被关停,平均关闭失效率达82%。
In AI, Security, 1 min read一分钟读论文:《AI Agent 安全框架与隐私保护:MCPShield、TRiSM 与 GDPR 综合研究》
微软、Google DeepMind 和斯坦福大学合作的一系列论文《A Formal Security Framework for MCP-Based AI Agents: Threat Taxonomy and Verification》,提出了 MCPShield 形式化验证安全框架,解决 MCP 协议中 7 大类 23 种攻击向量的安全问题。
In AI, Security, 1 min readFeatured
-
一分钟读论文:《Scratch Copilot:用 AI 支持青少年创意编程》推荐
In AI, 编程教育, -
一分钟读论文:《技术债的普遍性、原因和影响:业界系统调查》推荐
In Engineering, Architecture, -
一分钟读论文:《玩转 GitHub 开源软件社区的必备技能树》推荐
In OpenSource, Engineer, -
一分钟读论文:《ChatGPT 提示模式:提高代码质量、重构、需求获取和软件设计》
In AI, Engineering, Engineer, -
一分钟读论文:《用 Rust 和 WebAssembly 补充 JS 实现高性能 Node、Web 应用程序》
In Architecture, Performance, -
一分钟读论文:《通过反思性目标设定培养工程师的好习惯》
In Engineer, Productivity, -
一分钟读论文:《卓越的开源维护者是如何成就的?》
In OpenSource, Engineer, -
一分钟读论文:《我们走了多远——WebAssembly 运行时的全面特征研究》
In FrontEnd, -
一分钟读论文:《XSS 攻击22年:全面调查及系统综述》
In Security, -
一分钟读论文:《细孔沉千帆:小程序权限漏洞研究》
In Security, -
一分钟读论文:《影响大规模敏捷软件开发按时交付的因素》
In Productivity, -
一分钟读论文:《被掏空的一天:软件工程师的日常》
In Productivity, Engineer, -
一分钟读论文:《30年软件重构研究:系统性文献综述》
In Engineering, -
一分钟读论文:《要不要上 TypeScript?GitHub 上 JS 和 TS 应用软件质量的系统比较》
In FrontEnd, -
一分钟读论文:《NPM 供应链的软肋是什么?》
In Security,