ai,

一分钟读论文:《AI无节制采用威胁学术根基》

Unbug By Unbug Follow · 1 min read
一分钟读论文:《AI无节制采用威胁学术根基》
Share this

的里雅斯特国际高等研究院(SISSA)和帝国理工学院发在Nature Astronomy的论文《The indiscriminate adoption of AI》警告,AI无节制采用正破坏学术推进知识的根本目的:NeurIPS五年投稿量翻倍。

AI 威胁学术根基

令人警醒的核心数据

论文用多组数据揭示趋势:NeurIPS 2026 收31,000篇投稿被迫试点 AI 辅助评审;最好的 AI 代理在天体物理学论文复现任务上得分不到 20%;使用 LLM(大语言模型)辅助写作的参与者,神经连接和认知能力出现长期衰退,使用 LLM 的被试在聚合思维和发散思维测试中都表现更差。评审系统也在超载:AAAI 2026 同样正试点 AI 辅助评审来处理创纪录的 31,000 篇投稿。当顶级会议不得不让机器来把关机器生产的论文,学术质量控制链条本身就成了问题。同类学术诚信问题可参见《ICLR 2026 的幻觉引用危机》。

三个层面的风险

科学质量的风险:LLM 本质上依赖训练数据中已有的概念,难以产生真正原创的科学思想,产生大量衍生性工作;即使最新版本的 LLM 仍会编造内容;其思维链被证明只是事后修饰,不反映真实推理过程;错误将越来越难以发现和纠正,形成 AI 科学垃圾。由于这些衍生性产出会重新进入下一批模型的训练数据,低质量内容的自我循环会进一步稀释科学文献的可信度。

人类科学家的风险:将深度思考外包给 LLM 代理会削弱科学敏锐度;对比实验显示,使用 LLM 的被试在聚合思维和发散思维上都表现更差;如果像科学家一样思考的艰难学习过程被聊天机器人提示取代,研究生可能变成提示工程师,科研梯队的人才断层将在十年内显现。训练一名科学家所必需的艰难训练被跳过之后,没有人能在关键节点上识别机器产出的错误。

系统性风险:昂贵的博士奖学金可能迅速被更便宜的 API 额度取代;科学素养衰退可能在数年内而非数十年内发生;学生、科学家和机构都可能感到被困在这场 AI 军备竞赛中,形成学生用 AI 写作业、教师用 AI 批改的循环,教育的评价功能在这个循环里被彻底架空。

争议与警示

诺贝尔奖得主 Venki Ramakrishnan 的预言令人不寒而栗:最终这些论文都将由 AI 代理撰写,然后另一个 AI 代理阅读、分析并为人类生成摘要。作者并不反对 AI 本身,他承认 AI 在处理海量数据时将不可或缺,问题在于无节制的采用。论文呼吁就 AI 驱动的研究展开一场包括科学家和人文学者在内的辩论,确保未来的科学保持其本质的人类品质,并把 AI 的使用限定在增强而非替代人类判断的位置上。

论文同时指出,最深刻的警示是:不应急于实现图灵在 1950 年的愿景——机器最终将在所有纯智力领域与人类竞争——因为这会破坏学术存在的根本理由:为人类推进知识、教育年轻心灵、增进我们对自身在世界中位置的理解。

References


Related
Featured