谷歌大牛Jeff Dean单一作者撰文:深度学习研究的黄金十年( 三 )


下图1描述了一个多任务、稀疏激活的机器学习模型 。
谷歌大牛Jeff Dean单一作者撰文:深度学习研究的黄金十年
文章图片
谷歌大牛Jeff Dean单一作者撰文:深度学习研究的黄金十年】每个组件本身可能正在运行一些类AutoML的架构搜索 , 以使组件的结构适应路由到它的数据类型 。 新的任务可以利用在其他任务上训练的组件 , 只要它有用就行 。 JeffDean希望通过非常大规模的多任务学习、共享组件和学习路由 , 模型可以迅速地以高准确率来完成新任务 , 即使每个新任务的新实例相对较少 。 原因在于模型能够利用它在完成其他相关任务时已经获得的专业知识和内部表示 。