“黑箱”简史：如何从专业名词变成大众隐喻？( 三 ) “黑箱”（Blackbox）是许多二战

由于我们对于黑箱内部运行机制的一无所知，始终不存在一种逻辑上的证明使得我们确信研究者所复制出来的机械能够达到黑箱本身完全一致的功能。
换言之，黑箱研究法虽然能够帮助研究者绕开打开黑箱的困难，但研究者始终都处于“罗素的火鸡”所面临的不确定性中：火鸡永远无法知道明天会得到主人的午餐还是屠刀，研究者也永远无法知道黑箱在下一次实验中是否还会与复制品得出一样的结果。
03
机器学习中的黑箱问题

文章图片
在人工智能领域发展过七十余年后的今天，建立人类大脑的模型所采用的研究进路已经和维纳、波林和阿什比等人所采用的方法完全不同。机器学习和神经网络在最近的三十年间成为人工智能开发的主要路径，然而黑箱作为一种隐喻往往成为研究者批判机器学习和神经网络的常见论调。
神经网络的算法往往被认为是一个黑箱，即便开发者写下了每一句代码来构建起一个神经网络，然而经过大量的训练后，没有人能够清楚的解释为什么一个神经网络算法能够得出研究者想要的结果。
研究者所能掌控的只是一种基于概率的部分确定性：算法在得到X作为输入后，有i的几率能够给出我们预期的结果Y 。经过长时间的训练，概率i或许会不断逼近1 ，但是想要解释这一结果得出的运算过程反而会变得愈发困难。