程序员|偶然当程序员却拿下图灵奖超算榜单之父讲述人生开挂经历( 二 ) 超级计算机|计算机|偶然当程序

首先，互联网上存在的大量数据，可以用来训练和建立ML算法，与此同时，因为提升洞察力，ML已经成为了解决问题时所要考虑的“基础设施”之一。
而关于用来做ML计算内核的GPU，人类也对其背后的算法和理论有了更深度的了解。
ML的核心是矩阵，线性代数在其中扮演着重要的角色。
“8位浮点（FP8）精度很适用于训练神经网络的硬件。”
Jack Dongarra对此进行了进一步解释：
相比于16位、32位的浮点精度，较低的精度正是ML所需要的。
这就是为什么现在更多的计算机被设计用来专门解决ML的问题。
他还提到，未来的超算或许会拥有更多的加速器，它们可以用来进行ML、神经神态计算、量子计算、光学计算等。
“从标量到向量，从向量到分布式内存，从分布式内存到加速计算，再到使用混合精度来进行计算。”Jack Dongarra总结道，“我得出结论，这里有三场计算机革命。”
意外走上漫漫超算路
拿下图灵奖的Jack Dongarra并非一开始就以当程序员为己任，一切都是“意外” 。
高中毕业后，他选择进入芝加哥州立大学就读——这所学校类似于地方性的师范学校，为芝加哥公立学校系统培养了不少教师。
大三、大四时，Jack Dongarra福至心灵地“醒悟”，发现自己并不想教书。
几经周折，他申请了阿贡国家实验室的本科生职位。在那里，他有机会和真正的科学家一起做一些实际工作，并获取课程学分。
于是，就读于芝加哥州立大学的最后一个学期，Jack Dongarra在阿贡国家实验室度过了16周左右的时间。
△1980年Dongarra在阿贡国家实验室
在阿贡国家实验室的这段经历，促使他决心转攻计算机。
本科毕业之后，先在在伊利诺伊理工学院拿到CS硕士学位，又进入新墨西哥大学继续深造。
这里有一张1979年拍摄的照片，左数第二个年轻小伙就是Jack Dongarra本人。
那个时候，作为新墨西哥大学研究生的他，头发还很茂盛（他自己说的）。
图上四人搞了个小组，开发了一个叫LINPACK的项目，为此，Jack Dongarra还给自己心爱的车车挂上了同名车牌。
具体来说，LINPACK是一套求解线性方程组的数学软件。
没错，那个时候小帅哥本人真正醉心的还是线性代数领域。
他曾这样描述自己40年来成为程序员的动力：
我主攻的是数学方面的研究，尤其是数值线性代数方面，我所有的工作都源于此。
对那些需要解线性方程组的学科来说，一款能计算答案的软件无疑是非常重要的。
同时，你还必须确保软件运行与机器架构相一致，这样才能真正获得机器所能达到的高性能。
1993年，Jack Dongarra加入了TOP500排行榜团队，成为了TOP500第一个测试版本的爸爸之一。
同年6月，正式版本开始发布，其所所使用的评选标准被称为LINPACK 。
自那时起，TOP500排行榜半年发布一次，告诉大家世界最强大的计算设备都在哪里。

文章图片

这一举措解决了科学家们无法就衡量超级计算机进展的标准达成一致的问题。
负责监督美国能源部“百百亿次计算”项目的Paul Messina就表示：
“如果你不能测量它，你就不知道它是什么”，这就是为什么杰克的工作很重要。
现在，TOP500已经成为衡量超算能力的权威标准。
而排名第一的计算速度，也以摩尔定律描述的节奏稳步增长，大约每14个月就会翻倍。

程序员|偶然当程序员却拿下图灵奖 超算榜单之父讲述人生开挂经历( 二 )

程序员|偶然当程序员却拿下图灵奖超算榜单之父讲述人生开挂经历( 二 )