谷歌大牛Jeff Dean单一作者撰文：深度学习研究的黄金十年选自D?DALUS作者：JeffDean机器之

选自D?DALUS
作者：JeffDean
机器之心编译
编辑：杜伟、陈萍
JeffDean亲自撰文，探讨2010年代的十年时间里，促进深度学习快速发展的原因有哪些？他还对未来的AI发展做出了自己的展望。
自从计算机诞生之初，人类就梦想着能够创造出会思考的机器。 1956年在达特茅斯学院组织的一个研讨会上，约翰·麦卡锡提出人工智能这个概念，一群数学家和科学家聚集在一起寻找如何让机器使用语言、形成抽象理解和概念、以解决现存的各种问题，当时研讨会参与者乐观地认为，在几个月的时间里这些问题能取得真正的进展。
人工智能是由约翰麦卡锡于1956年在达特茅斯学院组织的一个研讨会上创立的，一群数学家和科学家聚集在一起寻找如何让机器使用语言、形成抽象和概念、解决现在保留的各种问题，当时研讨会参与者乐观地认为，几个月的集中努力将在这些问题上取得真正的进展。

文章图片
1956年达特茅斯人工智能会议的参与者：马文·明斯基、克劳德·香农、雷·所罗门诺夫和其他科学家。摄自：MargaretMinsky
事实证明，预留几个月的时间安排过于乐观。在接下来的50年里，创建人工智能系统的各种方法开始流行，但后来又遭遇过时，包括基于逻辑的系统、基于规则的专家系统和神经网络。
直到2011年左右，人工智能才开始进入发展关键阶段，取得了巨大的进步，这得益于深度学习中神经网络的复兴，这些技术的进步有助于提高计算机看、听和理解周围世界的能力，使得人工智能在科学以及人类探索的其他领域取得巨大进步。这其中有哪些原因呢？
近日，谷歌大牛JeffDean发表了一篇文章《AGoldenDecadeofDeepLearning:ComputingSystems&Applications》，文章探索了深度学习在这黄金十年里，计算系统以及应用进步的原因都有哪些？本文重点关注三个方面：促成这一进步的计算硬件和软件系统；过去十年在机器学习领域一些令人兴奋的应用示例；如何创建更强大的机器学习系统，以真正实现创建智能机器的目标。
JeffDean的这篇文章发表在了美国文理学会会刊D?dalus的AI与社会（AI&Society）特刊上。

文章图片
文章地址：https://www.amacad.org/sites/default/files/publication/downloads/Daedalus_Sp22_04_Dean.pdf
深度学习的黄金十年
人工智能硬件和软件的进步
人工智能的硬件和软件：深度学习通过组合不同的线性代数（例如矩阵乘法、向量点积以及类似操作）进行运算，但这种运算方式会受到限制，因此我们可以构建专用计算机或加速器芯片来进行处理，相比于通用CPU ，这种专业化的加速器芯片能带来新的计算效率和设计选择。
专为支持此类计算而定制的计算机或加速器芯片。相对于必须运行更广泛种类的算法的通用CPU ，这种专业化实现了新的效率和设计选择。
早在2000年代初期，就有少数研究者开始探索使用GPU来实现深度学习算法。之后到了2004年，计算机科学家Kyoung-SuOh和KeechulJung展示了使用GPU对神经网络算法近20倍的速度提sheng 。 2008年，计算机科学家RajatRaina及其同事演示了在某些非监督学习算法中，使用GPU与使用基于CPU的最佳实现相比， GPU速度提升可达72.6倍。
随着计算硬件的改进，深度学习开始在图像识别、语音识别、语言理解等方面取得显著进步。深度学习算法有两个非常好的特性可以构建专门的硬件：首先，它们对精度的降低非常宽容；其次，深度学习的计算方式，其由密集矩阵或向量上的不同线性代数运算序列组成。