Yann LeCun最新发声:自监督+世界模型,让 AI 像人类一样学习与推理
文章图片
作者|维克多、西西、王晔编辑|陈彩娴
如何突破当代人工智能(AI)的瓶颈?不同学者存在不同观点 。
总体来看可以概括为两类 , 其一监督学习者 , 提倡通过改善数据标签质量 , 从而完善监督学习 。 代表人物有发起“以数据为中心AI”革命的吴恩达 , 提倡设计“合成数据自带所有标签”的RevLebaredian 。
其二 , 无监督学者 , 例如YannLeCun , 提倡下一代AI系统将不再依赖于精心标注的数据集 。
近日 , YannLeCun在metaAI(原Facebook)官方博客上以及IEEE采访中 , 深度阐述了他的自监督学习思路 , 他认为AI想要突破现在的瓶颈 , 必须让机器学习世界模型 , 从而能够填补缺失的信息 , 预测将要发生的事情 , 并预测行动的影响 。
文章图片
这虽然不是革命性的想法 , 但却是革命性的行动 。 正如LeCun在在多次演讲中提到:这场革命将是无监督的(THEREVOLUTIONWILLNOTBESUPERVISED) 。 具体而言这种革命性体现在对两个问题的思考:
第一 , 我们应该使用什么样的学习范式来训练世界模型?
第二 , 世界模型应该使用什么样的架构?
同时 , 他也提到:监督学习的局限性有时会被误以为是深度学习的局限性 , 这些限制可以通过自监督学习来克服 。
以下是LeCun对自监督的思考与世界模型设计 , 内容来源于metaAI与IEEE , AI科技评论做了不改变原意的编译 。
1AI可以学习世界模型
LeCun提到 , 人类和动物能够通过观察 , 简单的交互 , 以及无监督的方式学习世界知识 , 因此可以假设 , 这里面蕴含的潜在能力构成了常识的基础 。 这种常识能够让人类在陌生的环境下完成任务 , 例如一位年轻的司机 , 从来没有在雪地里开过车 , 但是他却知道如果车开的太猛 , 轮胎会打滑 。
早在几十年前 , 就有学者研究人类、动物甚至智能系统如何“借力”世界模型 , 自我学习 。 因此 , 当前AI也面临着重新设计学习范式和架构 , 使机器能够以自我监督的方式学习世界模型 , 然后使用这些模型进行预测、推理和规划 。
世界模型需要融合不同的学科的观点 , 包括但不限于认知科学、系统神经科学、最优控制、强化学习以及"传统"人工智能 。 必须将它们与机器学习的新概念相结合 , 如自监督学习和联合嵌入架构(joint-embeddingarchitectures) 。
【Yann LeCun最新发声:自监督+世界模型,让 AI 像人类一样学习与推理】2AI新架构:自主智能架构
在上述世界模型思想的基础上 , LeCun提出了自主智能机构 , 由六个独立模块组成 , 且假设每个都可微:可以容易地计算一些目标函数 , 以及相对应的梯度估计 , 并将梯度信息传播到上游模块 。
文章图片
自主智能的系统架构:配置器(configurator)是核心 , 从其他模块获取输入 。
配置器的角色是控制 。 给定一个要执行的任务 , 它会通过调整参数预先配置感知模块、世界模型 , 以及计算成本和添加参与者(actor) 。
感知模块能够接收信息 , 估计现实世界 。 对于一个特定的任务 , 只有一小部分感知到的世界状态是相关和有用的 。 配置器为感知模块提供动力 , 从感知中提取与任务相关的信息 。
更多内容↓↓↓世界模型模块是最复杂的部分 , 具有双重作用 。 1.估计感知模块无法得到的缺失信息;2.合理预测世界的未来状态 , 其中包括世界的自然演变以及参与者行动的影响 。 世界模型是现实世界的模拟器 , 由于世界充满了不确定性 , 该模型必须能够处理多种可能的预测 。 直观的例子是:一个接近十字路口的司机可能会放慢汽车行驶的速度 , 防止另一辆接近十字路口的车没有按规矩停在停车标志上 。
- 第一名|最新手机销售排行榜,第一名意料之外,均价不超过三千
- 抽象|Yann LeCun最新发声:自监督+世界模型,让 AI 像人类一样学习与推理
- 人天生就会除法,宾大最新研究:儿童啥都不学也能算出来
- PHP|Thinkphp最新版本漏洞分析
- 大木博士|宝可梦官方正式公开系列最新作品:《宝可梦 朱/紫》
- 理想汽车|最新财报显示:阿里云增速放缓,竞争加剧,未来出路在to B和to G
- 高通骁龙|近期换机怎么选?众多老款旗舰价格探底,2022年最新购机指南
- 苹果|电子产品买新不买旧,这款手机是最新一代的处理器,最新的传感器
- 虽然这次Intel第12代AlderLake处理器已经有多项实测证实|最新路线图显示Intel正计划功耗表现也要超越Apple
- ar|谁在用唯品会?最新财报结果出炉,2021年“铁粉”增长50%