图灵奖得主杨立昆:我如何走上人工智能之路丨展卷( 七 )


我对那个夏天最深的记忆就是我与辛顿 , 还有刚完成博士论文的迈克尔·乔丹(MichaelJordan)建立了一个研究神经网络的团队 , 我们三个人之间也因此结下了深厚的友谊 。 为什么邀请迈克尔呢?因为他的法语比我的英语好 。 在暑期培训班的野餐会上 , 他弹着吉他演唱了乔治·布拉桑(GeorgesBrassens)的歌 。
虽然我还只是个学生 , 但辛顿还是邀请我做了一场报告 , 并介绍说我发现了反向传播 。 在一次晚餐时 , 我们享用着我带来的一瓶很棒的波尔多红酒 , 辛顿跟我说 , 他将在一年后离开卡内基·梅隆大学 , 加入多伦多大学 。 他问:“你愿意成为我的客座研究员吗?”我回答:“当然了!”这一年时间正好够我完成博士论文 。
大变革的时代到来了 。 鲁梅尔哈特、辛顿、威廉联合发表的关于反向传播的论文在业界引发了爆炸式的反响 。 [5]NetTalk成功的消息也迅速传播开来 。 神经网络领域的研究走上了快车道 。 我制作的名为HLM的神经网络模拟和反向训练软件也吸引了法国工业界的一些买家 , Thomson-CSF(现在名为Thales , 即法国泰雷兹集团)就是我的顾客之一 。
1987年6月 , 我完成了博士论文 , 并在皮埃尔和玛丽·居里大学通过了答辩 。 因为我在4月尝试一种新的沙滩帆船推进方式时伤到了脚踝 , 所以我借助拐杖才完成了答辩 。 杰弗里·辛顿是我的答辩委员之一 , 此外答辩委员会还有莫里斯·米尔格朗、弗朗索瓦丝·福热尔曼 , 雅克·皮特拉(JacquesPitrat , 法国人工智能符号领域的科研领袖之一)和贝尔纳·安吉尼奥(BernardAngéniol , Thomson-CSF的一个研究团队负责人) 。 同年7月 , 我和我的妻子 , 还有我们一岁的宝宝一起来到多伦多 , 我成为辛顿的客座研究员 。 我们预计在多伦多的生活不会超过一年 , 我的妻子为了照顾孩子 , 不得不搁置了她的药剂师工作 。 我还指导着一个名叫莱昂·博图(LéonBottou)的朋友 。 我与莱昂结识于1987年初 , 当时他正在巴黎综合理工学院完成最后一年的学业 。 他对神经网络很感兴趣 , 因此决定跟随我做毕业实习 。 请千万不要告诉他们的校长我还没有取得博士学位 。 当时 , 我正计划编写新的软件来创建并训练神经网络 , 它是由LISP解释器驱动的模拟器 。
我把解释器的相关工作交给了莱昂 , 他仅用三周时间就完成了!此外 , 因为我们都拥有同款个人计算机——Commodore公司的Amiga(一款高分辨率、快速的图形响应、可执行多媒体任务的计算机) , 所以我俩的合作既愉快又高效 。 与现在的苹果计算机和其他品牌的个人计算机不同 , Amiga计算机具有类似北美IT(信息技术)部门中常见的UNIX工作站的属性:我们使用C语言编程 , 使用GCC编译器和Emacs文本编辑器 。 我那台Amiga计算机安装了专供信息工作者使用的文本处理程序LaTex , 我就是利用它完成了博士论文 。 莱昂和我通过连接MiniTel(数字化电话信息的交互式媒体)远程交换程序代码段 。
我们将程序命名为SN(simulatorneuronal , 神经模拟器) , 它也是我俩长久合作与友谊的见证 。 莱昂后来在纽约FAIR的办公室离我的办公室并不远 。
在多伦多 , 我完成了SN , 之后对其做了调整 , 以便实现我设想的一个可以用于图像识别的神经网络——卷积网络 。 卷积网络是受福岛邦彦的神经认知机启发而产生的一个想法 , 但它使用的是更为传统的神经元 , 并且受到反向传播的驱动 。 同时 , 杰弗里·辛顿开发了一种更简单的用于语音识别的卷积网络 , 他将其称为TDNN(时延神经网络) 。
1987年年底 , 我应邀前往麦吉尔大学的蒙特利尔计算机科学研究中心做报告 。 报告结束时 , 一位年轻的硕士研究生提出了一系列问题 , 从提问中可以看出他在多层神经网络方面有比较深入的研究 。 要知道在同时期 , 该领域的研究人员相当少 。 他想了解如何调整神经网络结构 , 并使其能够处理语音或文本等时间信号 。 我记住了他的名字:约书亚·本吉奥 。