深度学习也有武林大会！八大科技巨头：我的“流派”才能实现AGI( 二 ) 新智元报道来源：AIM编辑：好

文章图片
Facebook认为，自监督学习是通往人类水平智能的正确道路。并通过公开分享其最新工作并在顶级会议上发表文章以及同时组织研讨会等，来加速这一领域的研究。
最近的一些工作包括VICReg、无文本NLP、DINO等。
Google
谷歌是自动机器学习（AutoML）的先驱者之一。
它正在高度多样化的领域中推进AutoML ，如时间序列分析和计算机视觉。
今年，谷歌大脑的研究人员推出了一种新的基于符号编程的AutoML方法：PyGlove 。其应用于Python的通用符号编程库，从而实现AutoML的符号表述。
谷歌在该领域的一些最新产品包括VertexAI、AutoML视频智能、AutoML自然语言、AutoML翻译和AutoML表格。

文章图片
Apple
为何iPhone上的Siri在听到我们自己说「HeySiri」时会有反应，但是对其他人说的都没有反应？
按理来说，训练一个这种模型，会收集我们的声音数据，并且这些数据都会保存在iPhone上。
但其实不然，苹果采用了一种分布式机器学习形式：联邦学习（FederatedLearning 。
联邦学习可以有效解决数据孤岛问题，在不公布用户数据的前提下，可以将用户的多个数据集中起来汇集成一个统一的模型。
这样既确保边缘的机器学习模型的顺利训练，同时维护用户数据的隐私和安全。
联邦学习是由谷歌研究人员在2016年的论文「CommunicationEfficientLearningofDeepNetworksforDecentralizedData」中首次提出的，现已被业界的各种参与者广泛采用。

文章图片
https://arxiv.org/pdf/1602.05629.pdf
2019年，苹果与斯坦福大学合作，发表了一篇名为「保护重构及其在私有联合学习中的应用」的研究论文，展示了以前不可能实现的大规模本地私有模型训练的实用方法。

文章图片
https://arxiv.org/pdf/1812.00984.pdf
该研究还涉及到理论和经验上的方法，以适应大规模的图像分类和语言模型，效用几乎没有下降。
目前，苹果也在研究各种创新方法，通过利用联邦学习和分布式替代技术，开发注重用户隐私的产品和应用程序。
Microsoft
微软研究院是全球顶尖人工智能实验室之一，在计算机视觉和语音分析方面开创了机器教学研究和技术的先河。
随着AI应用的场景越来越丰富，加上数据量小、任务复杂等种种实践中可能出现的挑战，有时机器学习的结果并不理想，而且效率低下。
为此，机器教学（MachineTeaching）便诞生了，人类可以利用自己的专业知识和经验帮助AI进行更有针对性的学习，帮助强化学习算法更快地找到解决方案。

文章图片
https://www.msra.cn/zh-cn/news/features/machine-teaching
此外，在智能方面，微软涵盖了人工智能、计算机视觉、搜索和信息检索等研究领域。系统方面，则提供量子计算、数据平台和分析、安全、隐私和密码学等方面的资源。
Amazon
由于迁移学习方法在Alexa上的表现十分出色，亚马逊目前已经成为领先研究中心之一。

文章图片
无论是在不同的语言模型、技术，还是更好的机器翻译中，亚马逊都推动了迁移学习领域的研究。
今年1月，亚马逊的研究人员提出了ProtoDA ，一种高效的用于几率意图分类的迁移学习方法。