贝叶斯深度学习:一个统一深度学习和概率图模型的框架

贝叶斯深度学习:一个统一深度学习和概率图模型的框架
文章图片
作者|王灏整理|维克多人工智能(AI)的进展显示 , 通过构建多层的深度网络 , 利用大量数据进行学习 , 可以获得性能的显著提升 。 但这些进展基本上是发生在感知任务中 , 对于认知任务 , 需要扩展传统的AI范式 。
4月9日 , 罗格斯大学计算机科学系助理教授王灏 , 在AITIME青年科学家——AI2000学者专场论坛上 , 分享了一种基于贝叶斯的概率框架 , 能够统一深度学习和概率图模型 , 以及统一AI感知和推理任务 。
据介绍 , 框架有两个模块:深度模块 , 用概率型的深度模型表示;图模块 , 即概率图模型 。 深度模块处理高维信号 , 图模块处理偏推断的任务 。
以下是演讲全文 , AI科技评论做了不改变原意的整理:
今天和大家分享关于贝叶斯深度学习的工作 , 主题是我们一直研究的概率框架 , 希望用它统一深度学习和概率图模型 , 以及统一AI感知和推理任务 。
众所周知 , 深度学习加持下的AI技术已经拥有了一定的视觉能力 , 能够识别物体;阅读能力 , 能够文本理解;听觉能力 , 能够语音识别 。 但还欠缺一些思考能力 。
“思考”对应推理推断任务 , 具体指它能够处理复杂的关系 , 包括条件概率关系或者因果关系 。
深度学习适合处理感知任务 , 但“思考”涉及到高层次的智能 , 例如决策数据分析、逻辑推理 。 概率图由于能非常自然的表示变量之间的复杂关系 , 所以处理推理任务具有优势 。
贝叶斯深度学习:一个统一深度学习和概率图模型的框架
文章图片
如上图 , 概览图示例 。 任务是:想通过目前草地上喷头开或关 , 以及外面的天气来推断外面的草地被打湿的概率是多少 , 也可以通过草地被打湿反推天气如何 。 概率图的缺点是无法高效处理高维数据 。
贝叶斯深度学习:一个统一深度学习和概率图模型的框架
文章图片
总结一下 , 深度学习比较擅长感知类的任务 , 不擅长推理、推断任务 , 概率图模型擅长推理任务 , 但不擅长感知任务 。
很不幸 , 现实生活中这两类任务一般是同时出现、相互交互 。 因此 , 我们希望能够把深度学习的概率图统一成单一的框架 , 希望达到两全其美 。
贝叶斯深度学习:一个统一深度学习和概率图模型的框架
文章图片
我们提出的框架是贝叶斯深度学习 。 有两个模块:深度模块 , 用概率型的深度模型表示;图模块 , 即概率图模型 。 深度模块处理高维信号 , 图模块处理偏推断的任务 。
值得一提的是 , 图模块本质是概率型的模型 , 因此为了保证能够融合 , 需要深度模型也是概率型 。 模型的训练可以用经典算法 , 例如MAP、MCMC、VI 。
贝叶斯深度学习:一个统一深度学习和概率图模型的框架
文章图片
给具体的例子 , 在医疗诊断领域 , 深度模块可以想象成是医生在看病人的医疗图像 , 图模块就是医生根据图像 , 在大脑中判断、推理病症 。 从医生的角度 , 医疗图像中的生理信号是推理的基础 , 优秀的能力能够加深他对医疗图像的理解 。
贝叶斯深度学习:一个统一深度学习和概率图模型的框架
文章图片
引申一下 , 电影推荐系统里 , 可以把深度模块想象成是对电影的视频情节、演员等内容的理解 , 而图模块需要对用户喜好、电影偏爱之间的相似性进行建模 。 进一步 , 视频内容理解和“喜好”建模也是相辅相成的 。
贝叶斯深度学习:一个统一深度学习和概率图模型的框架