2029年会实现通用人工智能吗？Gary Marcus「叫板」马斯克：赌十万美元如何？( 二 ) 作者｜王玥编辑

文章图片
图注：特斯拉自动驾驶撞上价值300万美元的喷气式飞机意想不到的情况一直是当代人工智能技术的祸患，而且可能会一直是，直到真正的革命出现。这就是为什么Marcus保证马斯克不会在今年或明年推出L5级别的自动驾驶汽车。异常值并不是完全无法解决，但仍然是一个重大问题，迄今还没有已知的鲁棒的解决方案。 Marcus认为人们必须摆脱对深度学习等现有技术的严重依赖。距离2029年还有7年， 7年是很长的一段时间，但是如果要在这个十年结束之前实现AGI ，这个领域就需要在其他想法上进行投资。否则，仅仅是异常值就足以使实现AGI的目标失败。 3通用人工智能范围很广马斯克需要考虑的第三件事是， AGI是一个涉及面很广的问题，因为智能本身的涉及面很广。 Marcus在此处引用了ChazFirestone和BrianScholl的这句话：世上并不只有一种思维方式，因为思维并不是一个整体。相反，思维是可以分为部分的，而且其不同部分以不同的方式运作：“看到颜色”与“计划度假”运作的方式不同，而“计划度假”与“理解一句话”、“移动肢体”、“记住一件事”或“感受一种情绪”都不同。 ”例如，深度学习在识别物体方面做得相当不错，但在计划、阅读或语言理解方面做得差一些。这样的情况可以用下图表示：
文章图片
目前的AI在某些感知方面做得很好，但是在其他方面仍需努力。即使在感知中， 3D感知仍然是一个挑战，场景理解也没有解决。对于常识、推理、语言或类比等几个领域，仍然没有任何稳定或值得信赖的解决方案。事实是，这张饼状图Marcus已经用5年了， AI的情况却几乎没有改变。在Marcus发表于2018年的文章“DeepLearning:ACriticalAppraisal”中，他总结道：“尽管我提出了这些问题，但我不认为我们应该放弃深度学习。相反，我们需要重新定义深度学习：深度学习不是一种通用溶剂，而应该是一种工具，除了这种工具，我们还需要锤子、扳手和钳子，更不用说凿子、钻头、电压表、逻辑探头和示波器。
四年过去了，许多人仍然希望深度学习能成为万能药；可这对Marcus来说仍然是不现实的，他仍然认为人类需要更多的技术。实事求是地说， 7年可能不足以发明这些工具（如果它们还不存在的话），也不足以将它们从实验室投入生产。 Marcus向马斯克提出2018年“量产地狱”（马斯克认为Model3电动轿车量产阶段犹如地狱般煎熬，并称之为“量产地狱”）的情形。在不到十年的时间里要对一套以前从未完全集成过的技术进行这样的整合，要求会非常高。 Marcus称，「我不知道马斯克打算把Optimus（特斯拉的人形机器人）打造成什么样，但我可以保证，通用家用机器人所需要的AGI远远超过一辆汽车所需要的，毕竟汽车无论是在公路上开还是在马路上开，或多或少都是差不多的。」4复杂的认知系统尚未打造马斯克需要意识到的第四件事是，人类仍然没有一个适当的方法论来构建复杂的认知系统。复杂的认知系统有太多的活动部件，这通常意味着，制造无人驾驶汽车等东西的人最终就像在玩一个巨大的“打地鼠游戏” ，往往刚解决了一个问题，又出现了另一个问题。一个补丁接一个补丁有时能派上用场，有时则无效。 Marcus认为不可能在不解决方法论问题的情况下得到AGI ，而且他认为目前还没有人提出好的建议。使用深度学习进行调试非常困难，因为没有人真正理解它是如何工作的，也没有人知道如何修复问题，以及收集更多数据和添加更多层等等。大众所知道的那种调试在经典编程环境中并不适用；因为深度学习系统是如此不可解释，所以人们不能通过相同的方式思考程序在做什么，也不能指望通常的消除过程。相反，现在在深度学习范式中，有大量的试错、再训练和重新测试，更不用说大量的数据清洗和数据增强实验等等。 Facebook最近的一份报告坦率地说，在训练大型语言模型OPT的过程中遇到了很多麻烦。有时候这更像是炼金术而不是科学，正如下图一样：