从人脸识别到溯源：两个黑箱的故事|未来媒体访谈X王晓阳 | 溯源( 二 ) 机器学习|算法|复旦大学|计算

但是真的要去用在我们社会各个层面，还有很长的路要走，第一点很重要，就是公众对这件事情认识。只要公众认识起来了，大家就会对厂家、服务商，有一定约束之后，法律再跟上，执法再跟上，我觉得就会好，目前人脸这件事情用得实在是太泛了。
未来媒体访谈：如何解释，似乎我们国家对技术更宽容，应用场景更多？
王晓阳：可能跟我们的社会管理体制有关系，咱们这边因为情况不同，所以随便设，我们路口的摄像头成堆地设置，这一块，我觉得可能是大家，第一，对政府也比较信任，再反过头来，可能会有一些问题，我觉得可能还是公众对隐私的awareness，他的认识度可能真的是有关系。
未来媒体访谈：刚好下一个问题，大数据杀熟这种问题的产生到底是人出了问题还是技术？
王晓阳：当然是人出了问题。是因为有了技术，使得这个人能够做这样的营销的手段，如果没这个技术，当然就没有什么可做的。现在所谓精准营销，这件事情其实是咱们业界最关注的点，精准营销也可以用在精准杀熟。所以这种情况下面，我觉得这个是由于我们有这样的技术，完全可以做到这一点，为什么会有出现杀熟？当然就是一个人的问题。
未来媒体访谈：我们经常说人工智能算法它这个模型是一个黑箱模型，他底层数据挖掘那个过程其实是被隐藏起来的。这种数据挖掘本身是可能是带有偏见的。这种事情我们从技术角度上能不能调整它的这种偏见？
王晓阳：所谓的偏见或者黑盒子的一个事，其实是我们对整个事物的理解，没有一个更透明的一种做法，也就是说这黑盒子的来源其实是这样：机器学习为什么能够产生效益？因为它能够从好像没有关系的成分里面找出关联性来，这个时候，它如果关联性一多，这个维度一大，我们人就不能理解，所以我们人去找的话可能找不到，机器可能因为它经过各种各样的计算之后找出来了，这个很难跟这个人去做解释，所以我们就变成了一个所谓的黑箱的说法。
所以目前的一个技术前沿，就是说能够怎么把这些黑箱的不可解释的机器学习的模型，能够做到更能解释一些。
也就是说你做任何的决策，你总是要有一个理由，我们人都是讲要讲一个理由，不能说没有理由的，这个确实是目前的我们的机器学习，由于对这种不可理解的模型，它的功能非常的强大，使得我们现在往前跑，跑得有点快，跑的非常快了，这个模型做出来非常强大很有用，但是反过头来我们不可理解、不可解释，这样的话使得我们对它有疑惑，但是反过来真的很有用，就像人脸识别，您刚才说的这个事儿，它怎么样子认出这个人脸来的，其实我们不清楚。
未来媒体访谈：咱们不清楚？
王晓阳：咱们不清楚，每一个点、每一块的反射，它都可能起到某种作用，是因为我们这个人对整个事物的理解它比较有限，不像机器能够精细，它可以上成千上万，甚至上百万个点上面去采集一个某种数据来说，这个人就是他。这样的话你说他这个东西怎么解释？
机器的认知跟人的认知还是有很大的差别，所以这样产生了目前的机器学习的算法的认知方法跟人的认知方法蛮大的一个差别。
这样的话形成了您说的所谓黑箱也好，所谓的不可解释性也好， bias（偏见）这件事情其实也是这样来的，就是因为我们不理解它怎么弄的，也许这个很多人说 bias其实不是它的bias，是你们数据的bias。
所以目前的技术发展确实有一个很大的领域，要把机器学习人工智能的算法等等的做成可解释性的，以人的认知的方式来理解这件事情是怎么做的，那样的话，我们才放心。