ai, 神经科学, 机器学习,

突破传统：ReSU 神经网络单元——从果蝇大脑中获得的 AI 新灵感

Unbug By Unbug Follow Mar 02, 2026 · 1 min read
突破传统：ReSU 神经网络单元——从果蝇大脑中获得的 AI 新灵感
Share this

引言：打破深度学习的局限

在深度学习领域，我们已经习惯了两个核心概念：ReLU（整流线性单元）作为神经元的基本构建块，以及误差反向传播作为训练网络的主要方法。这两者的组合推动了 AI 革命，但它们也存在根本性的局限：

  • ReLU 是静态的，只处理同时到达的输入，丢弃了生物神经元丰富的时间动态特性
  • 反向传播需要海量标注数据，且依赖跨层的非局部交互，而这在生物大脑中找不到对应机制

更重要的是，当前的 AI 系统在几个关键方面远不如生物智能：

  1. 缺乏真正的组合推理和长期规划能力
  2. 效率极低——训练需要兆瓦时能源和数十亿标注样本，而人脑仅需约 20W
  3. 容易产生幻觉、泛化能力脆弱

如果我们想让 AI 更强大、更可靠、更高效，就需要从根本上重新思考神经网络的架构。

突破：ReSU——受生物启发的新型神经元单元

来自 Simons 基金会 Flatiron 研究所的研究团队提出了一种全新的神经元模型：Rectified Spectral Units（整流谱单元，简称 ReSU）。这篇发表在 AAAI 2026 的论文《A Network of Biologically Inspired Rectified Spectral Units (ReSUs) Learns Hierarchical Features Without Error Backpropagation》为我们展示了一个完全不同的思路。

ReSU 的核心创新

ReSU 的设计理念非常简洁但深刻：每个神经元应该学习预测未来。

具体来说，每个 ReSU 通过以下步骤工作：

  1. 时间窗口投影：将输入历史的最近窗口投影到一个规范方向上
  2. 规范相关分析（CCA）：这个规范方向是通过对之前观察到的”过去-未来”输入对进行 CCA 获得的
  3. 整流：然后整流其正分量或负分量

数学表达式：

  • ON ReSU: z⁺t,i = max[ vi⊤ Cpp-1/2 pt, 0 ]
  • OFF ReSU: z⁻t,i = max[ -vi⊤ Cpp-1/2 pt, 0 ]

其中 vi 是第 i 个奇异向量，pt 是过去的滞后向量。

为什么这很重要？

与 ReLU 相比，ReSU 具有几个关键优势：

  1. 时间动态性：ReSU 处理的是时间序列，而不是静态输入
  2. 自监督学习：不需要标注数据，通过预测未来进行学习
  3. 生物学合理性：突触权重通过输入的过去-未来 CCA 获得，不需要跨层通信
  4. 局部学习规则：已有研究表明 CCA 可以通过局部学习规则实现

实验验证：重现果蝇视觉系统

为了验证 ReSU 的计算能力和生物学保真度，研究团队选择了一个完美的测试平台：果蝇的视觉运动检测通路。这个通路在解剖学和生理学上都得到了极其精确的描述，是理想的指导和试验场。

实验设置

研究团队构建了一个受果蝇启发的两层 ReSU 网络：

  • 第一层：每个单元由单个像素驱动，学习时间滤波器
  • 第二层：在空间上汇集第一层的输出，学习方向选择性

训练数据是通过以恒定速度扫描自然场景获得的平移自然图像。

惊人的结果

实验结果令人震惊：

  1. 第一层单元：每个由单个像素驱动，发展出类似于果蝇 L1/L2 和 L3 光感受器后神经元的时间滤波器，包括它们根据信噪比（SNR）进行的经验观察到的适应

  2. 第二层单元：在空间上汇集第一层的输出，变得具有方向选择性——类似于 T4 运动检测细胞——其学习到的突触权重模式近似于从连接组重建中获得的模式

具体发现

让我们更详细地看看这些结果：

**第一层（L1/L2/L3 神经元）：

  • 第一个滤波器本质上是低通的，类似于 L3 神经元
  • 第二个滤波器是平滑的时间导数，预测与 L1-L2 相似的输出
  • L1 输出被下游突触整流，选择性地响应对比度增加（ON 响应）
  • L2 输出在相反方向整流，响应对比度降低（OFF 响应）
  • 滤波器会根据 SNR 动态调整——在低噪声下，滤波器显示多个波瓣；随着噪声增加，它逐渐过渡到单波瓣形状

**第二层（T4 神经元）：

  • 对首选方向的运动响应最强， sharply peaked
  • 对零方向的较弱响应可以通过阈值抑制
  • 学习到的突触权重重现了果蝇 T4a 神经元上突触输入的大部分符号模式，并近似了相对幅度

为什么这篇论文重要？

这篇论文的重要性体现在几个层面：

1. 理论层面

ReSU 网络提供了：

  • 建模感觉回路的原则性框架
  • 构建深度自监督神经网络的生物学基础、无反向传播的范式

2. 实践层面

这种方法可能继承人脑相对于传统 ReLU/反向传播架构的优势：

  • 更高的能效
  • 更好的泛化能力
  • 更少的数据需求
  • 更稳健的推理

3. 神经科学层面

ReSU 网络不仅带来 AI 的进步，还帮助我们理解生物系统如何工作：

  • “我们可以使用这个架构解释果蝇视觉系统中的大量现有实验数据” — 论文作者 Qin 说
  • 这种理论与实验的闭环是神经科学的梦想

未来展望

研究团队已经在几个方向上扩展这项工作：

  1. 更深的网络：他们最近将这项工作扩展到三层 ReSU 网络，更好地捕捉果蝇运动检测通路
  2. 双向学习：当前的两层网络仅在单向（从左到右）平移的图像上训练，而三层 ReSU 网络从双向平移的图像中学习
  3. 自动记忆长度：未来的工作将致力于开发基于输入统计自动确定最佳记忆长度的方法
  4. 自上而下的反馈：探索如何在当前框架中结合自上而下的反馈

结语：AI 的新方向

这篇论文代表了 AI 研究的一个重要转向：从纯粹的工程方法转向受神经科学启发的方法。

在深度学习主导 AI 领域十多年后，我们开始看到一些新的思路正在涌现。ReSU 不是对现有方法的 incremental 改进，而是一个根本性的重新思考。

正如论文作者所说：

“如果我们希望使 AI 更强大、更可靠和更高效，就需要理解这种差距的根本原因。”

ReSU 网络可能就是这个问题的答案之一。它不仅为构建更像大脑的 AI 提供了一条路径，还为理解大脑本身的工作原理提供了新的工具。

这就是那种不那么广为人知但可能改变游戏规则的研究——正是我们 Micropaper 想要收录的类型。

参考资料：

AI 神经网络 神经科学 生物启发 ReSU 反向传播

Releated

  1. HRM 架构突破：用仅 2700 万参数和 1000 个训练样本超越最先进的大语言模型
    In AI,
  2. STAR 模型架构：Liquid AI 的模型架构自动合成新范式
    In AI Research, Architecture,
  3. MemMamba：重新思考状态空间模型中的记忆模式
    In paper,
  4. 世界模型统一框架：突破任务特定知识注入的局限性
    In AI Research, World Models,
  5. AI 共同研究员时代到来：当 Claude、Gemini 和 ChatGPT 成为真正的科研合作者
    In AI, 科学研究,
  6. ICLR 2025 杰出论文：一次训练就能计算数据价值——AI 版权和数据治理的新突破
    In AI,
  7. RWML：让 LLM 智能体学会预测未来——微软研究院突破性论文解读
    In AI, 论文解读,
  8. AI原生粒子加速器：让大型科学设施学会'自动驾驶'
    In AI,
  9. 一分钟读论文：《GitHub Copilot 的代码生成稳健吗？》
    In AI, Software Engineering,
  10. 一分钟读论文：《ChatGPT 提示模式：提升代码质量、重构、需求获取和软件设计》
    In AI, Software Engineering,
  11. ELM 架构突破：Modulate 用 100+ 个小模型打败 LLM，开启语音 AI 新时代
    In AI, 论文,
  12. DeepSeek-R1：用纯强化学习解锁大语言模型的推理能力
    In AI, 论文解读,
  13. HybridQuestion：人类-AI 协作发现 2025 年十大科学突破与 2026 年重大科学问题
    In AI, 论文解读,
  14. Google Nested Learning：突破AI灾难性遗忘的新范式
    In AI, 机器学习, 深度学习,
  15. MiroFlow：面向深度研究任务的高性能开源智能体框架
    In AI, 论文解读,
  16. GLM-5：从「氛围编程」到「智能体工程」的范式跃迁
    In AI,
  17. AlphaEvolve：AI 打破 56 年数学纪录，发现更快的矩阵乘法算法
    In AI,
  18. 三个AI走进酒吧：聪明的AI也会搞"部落主义"？
    In AI, 论文解读,
  19. PAN 世界模型炸场！MBZUAI 黑科技让 AI 学会脑补现实世界
    In AI, 论文解读,
  20. Google Titans + MIRAS：终结 AI 健忘症，让模型拥有真正的长期记忆
    In AI, 论文解读,
  21. DeepSeek-R1：用纯强化学习解锁大语言模型的推理能力
    In AI, 论文解读,
  22. 量子储层计算重大突破！在多体混沌边缘实现最佳性能，为量子AI开辟新道路！
    In AI, 论文解读,
  23. DeepSeek Engram：颠覆GPU内存瓶颈！把知识存储从计算中分离，O(1)查找效率！
    In AI, 论文解读,
  24. Agentic Reasoning：从被动推理到主动智能的完整路线图！
    In AI, 论文解读,
  25. ReSyn：自动生成1000个推理环境，让AI学会真正的思考！
    In AI, 论文解读,
  26. Agent World Model：1000 个合成环境，让 AI 智能体学习效率翻倍
    In AI, Agent,
  27. Agent World Model 研究：1000 个合成环境推动智能体训练革命
    In AI, Agent,
  28. DeepMind Genie 3 研究：实时交互式 3D 世界模型的重大突破
    In AI, deepmind,
  29. Genie 3: DeepMind 发布首个实时交互式世界模型
    In AI, 论文解读,
  30. 一分钟读论文：《当 Many-Shot Prompting 失败时：LLM 代码翻译的实证研究》
    In AI, LLM,
  31. 一分钟读论文：《基于代理的集成推理解决仓库级问题》
    In AI, 软件工程,
  32. Google Nested Learning：破解 AI 灾难性遗忘的革命性范式
    In AI, 深度学习,
  33. 一分钟读论文：《自然语言摘要实现微服务多仓库 Bug 定位》
    In AI, 软件工程,
  34. 生成式 AI 如何重塑软件开发：从代码助手到自主代理
    In AI, 软件工程,
  35. 一分钟读论文：《生成式AI在软件工程中的应用：变革软件开发流程》
    In AI, Software Engineering,
  36. 一分钟读论文：《Gated Attention：用一个小阀门让 LLM 性能飙升》
    In AI, 深度学习,
  37. 一分钟读论文：《MCP 一周年：从内部实验到行业标准》
    In AI, Agent,
  38. 一分钟读论文：《大语言模型代码生成的规格对齐》
    In AI, 软件工程,
  39. 一分钟读论文：《小语言模型作为评委提升代码生成》
    In AI, 软件工程,
  40. 一分钟读论文：《Scratch Copilot：用 AI 支持青少年创意编程》
    In AI, 编程教育,
  41. 一分钟读论文：《Chrome 〈!DOCTYPE aigc〉: 你的网页何必是 HTML》
    In AI, FrontEnd,
  42. 一分钟读论文：《ChatGPT for Robotics：设计原则和模型能力》
    In AI, Engineering,
  43. 一分钟读论文：《GPT-minify: All JS bundle size 97% off》
    In AI, FrontEnd,
  44. 一分钟读论文：《ChatGPT 提示模式：提高代码质量、重构、需求获取和软件设计》
    In AI, Engineering, Engineer,
  45. 一分钟读论文：《基于 ChatGPT、AR 和 Voicebots 的儿童外教软件设计框架》
    In AI, Engineering,
  46. 一分钟读论文：《ChatGPT：在线考试诚信的终结？》
    In AI,
AI 共同研究员时代到来：当 Claude、Gemini 和 ChatGPT 成为真正的科研合作者
世界模型统一框架：突破任务特定知识注入的局限性