一个神经元顶5到8层神经网络，深度学习的计算复杂度被生物碾压了机器之心报道编辑：杜伟、陈

机器之心报道
编辑：杜伟、陈萍
看来人工智能的发展还任重道远。
来自耶路撒冷希伯来大学的研究者对单个神经元的计算复杂度进行了研究，他们通过训练人工深度神经网络来模拟生物神经元的计算，得出深度神经网络需要5至8层互连神经元才能表征（或达到）单个生物神经元的复杂度。
人类糊状的大脑似乎与计算机处理器中的固态硅芯片相去甚远，但科学家将二者进行比较已经有很多年的历史。正如「人工智能之父」阿兰·图灵在1952年所说，「我们对大脑具有冷粥粘稠度这一事实不感兴趣。」换句话说，介质不重要，重要的是计算能力。

文章图片
当前，最强大的AI系统采用机器学习的一个分支——深度学习，这些AI系统的算法通过处理互连节点隐藏层的大量数据来学习，这被称为深度神经网络。顾名思义，深度神经网络受到了人类大脑中真实神经网络的启发，它们的节点模拟真实神经元。或者至少根据1950年代神经科学家对神经元的了解，当时一个被称作「感知器」的有影响力的神经元模型已经诞生了。
自那时起，我们对单个神经元的计算复杂度的理解急剧增加，也清楚了生物神经元要比人工神经元更加复杂。但复杂多少呢？这个问题一直没有明确的解答。
为了找出答案，耶路撒冷希伯来大学的计算神经科学博士生DavidBeniaguev、神经科学教授IdanSegev和副教授MichaelLondon训练了一个人工深度神经网络来模拟生物神经元的计算。他们表示，一个深度神经网络需要5至8层互连神经元才能表征（或达到）单个生物神经元的复杂度。
作者们也没有预料到会呈现出这种复杂度。一作Beniaguev表示：「我原以为生物神经元会更简单些， 3至4层人工神经元就足以捕获细胞内执行的计算。」

文章图片
从左至右依次为耶路撒冷希伯来大学博士生DavidBeniaguev、神经科学教授IdanSegev和副教授MichaelLondon 。
他们还发表了相关论文《SingleCorticalNeuronsasDeepArtificialNeuralNetworks》。

文章图片
论文地址：https://www.sciencedirect.com/science/article/abs/pii/S0896627321005018
DeepMind决策算法设计师TimothyLillicrap认为，新的研究结果表明有必要重新思考将大脑神经元与机器学习领域神经元进行松散比较的旧传统了。
5至8层人工神经元才能达到单个生物神经元的复杂度
人工神经元和生物神经元之间最基本的比较是它们如何处理传入的信息。这两种神经元都接收传入信号，并根据输入信息决定是否将信号发送给其他神经元。虽然人工神经元依赖简单的计算做出决定，但数十年的研究表明，生物神经元的这个过程要复杂得多。计算神经科学家使用输入-输出函数来模拟生物神经元树突接收到的输入与神经元发出信号之间的关系。
研究者让一个人工深度神经网络模仿输入-输出函数（生物神经元树突接收到的输入与神经元发出信号之间的关系），以确定其复杂性。他们首先对一种神经元的输入-输出函数进行了大规模模拟，这种神经元的顶部和底部有不同的树突分支，称为锥体神经元，来自大鼠的皮层。然后，他们将模拟结果输入到一个深度神经网络中，该神经网络每层最多有256个人工神经元。
接着，他们不断的增加层数，直到在模拟神经元的输入和输出之间达到毫秒级别99%的准确率。深度神经网络成功地预测了神经元的输入-输出函数的行为，所使用的层数至少有5层，但不超过8层。在大多数网络中，这相当于1000个人工神经元对应一个生物神经元。