深度学习撞墙了机器之心编译机器之心编辑部

机器之心编译
机器之心编辑部
早在2016年， Hinton就说过，我们不用再培养放射科医生了。如今几年过去， AI并没有取代任何一位放射科医生。问题出在哪儿？
近年来， AI在大数据、大模型的深度学习之路上一路狂奔，但很多核心问题依然没有解决，比如如何让模型具备真正的理解能力。在很多问题上，继续扩大数据和模型规模所带来的收益似乎已经没有那么明显了。
在Robust.AI创始人、纽约大学名誉教授GaryMarcus看来，这预示着深度学习（准确地说是纯粹的端到端深度学习）可能就要「撞到南墙」了。整个AI领域需要寻找新的出路。

文章图片

文章图片
GaryMarcus的推文。 GaryMarcus是人工智能、心理学、神经科学等多个领域的专家。他经常为《纽约客》和《纽约时报》撰稿，并且是四本书的作者。在担任纽约大学心理学和神经科学教授期间，他在人类和动物行为、神经科学、遗传学和人工智能等领域发表了大量文章，并经常刊登在Science和Nature等期刊上。
那么，新的出路在哪儿呢？GaryMarcus认为，长期以来被忽略的符号处理就很有前途，将符号处理与现有的深度学习相结合的混合系统可能是一条非常值得探索的道路。
当然，熟悉GaryMarcus的读者都知道，这已经不是他第一次提出类似观点了。但令Marcus失望的是，他的提议一直没有受到社区重视，尤其是以Hinton为代表的顶级AI研究者。 Hinton甚至说过，在符号处理方法上的任何投资都是一个巨大的错误。在Marcus看来， Hinton的这种对抗伤害了整个领域。
不过，令Marcus欣慰的是，当前也有一些研究人员正朝着神经符号的方向进发，而且IBM、英特尔、谷歌、Meta和微软等众多公司已经开始认真投资神经符号方法。这让他对人工智能的未来发展感到乐观。
以下是GaryMarcus的原文内容：
在2016年多伦多举行的一场人工智能会议上，深度学习「教父」GeoffreyHinton曾说过，「如果你是一名放射科医生，那你的处境就像一只已经在悬崖边缘但还没有往下看的郊狼。」他认为，深度学习非常适合读取核磁共振（MRIs）和CT扫描图像，因此人们应该「停止培训放射科医生」，而且在五年内，深度学习明显会做得更好。
时间快进到2022年，我们并没有看到哪位放射科医生被取代。相反，现在的共识是：机器学习在放射学中的应用比看起来要困难，至少到目前为止，人和机器的优势还是互补的关系。
当我们只需要粗略结果时，深度学习能表现得很好
很少有哪个领域比AI更充满炒作和虚张声势。它在十年又十年的潮流中不断变身，还给出各种承诺，但只有很少的承诺能够兑现。前一分钟是它还是专家系统，下一分钟就成了贝叶斯网络，然后又成了支持向量机。 2011年， IBM的沃森曾被宣扬为医学革命，但最近却被分拆出售。
2012年以来， AI领域最火的是深度学习。这项价值数十亿美元的技术极大地推动了当代人工智能的发展。 Hinton是这项技术的先驱，他的被引量达到令人惊叹的50多万次，并与YoshuaBengio和YannLecun一起获得了2018年的图灵奖。

文章图片
就像在他之前的人工智能先驱一样， Hinton经常谈论即将到来的伟大革命。放射学只是其中的一部分。 2015年， Hinton加入谷歌后不久，《卫报》报道称，该公司即将开发出具有逻辑、自然对话甚至调情能力的算法。 2020年11月， Hinton告诉MITTechnologyReview ，「深度学习将能够做任何事情」。