多大获杰出论文奖，田渊栋、陆昱成获荣誉提名，ICML 2021奖项公布( 三 ) 机器之心报道机器之心编辑部

【多大获杰出论文奖，田渊栋、陆昱成获荣誉提名，ICML 2021奖项公布】最后，该研究还简单概括了所提方法在STL-10和ImageNet消融研究的结果。
论文4：Solvinghigh-dimensionalparabolicPDEsusingthetensortrainformat

文章图片
论文地址：https://arxiv.org/pdf/2102.11830.pdf论文作者：LorenzRichter、LeonSallandt、NikolasNüsken机构：德国柏林自由大学、德国波茨坦大学等高维偏微分方程（PDE）在经济学、科学和工程中无处不在。然而，对PDE数值的处理还存在巨大的挑战，因为传统的基于网格（gridbased）的方法往往会受到维数诅咒的阻碍。在本文中，研究者认为张量训练为抛物偏微分方程提供了一个合理的近似框架：将倒向随机微分方程和张量格式的回归型方法相结合，有望利用潜在的低秩结构，实现压缩和高效计算。
依照此范式，研究者开发了新的迭代方案，包括显式、快速的或者隐式、准确的更新。与SOTA性能的神经网络相比所提方法在准确率和计算效率之间取得了很好的权衡。
时间检验奖

文章图片
获得本次大会时间检验奖的是一篇ICML2011的论文，主题是「基于随机梯度Langevin动力学的贝叶斯学习」。

文章图片
论文地址：https://www.cse.iitk.ac.in/users/piyush/courses/tpmi_winter21/readings/sgld.pdf论文作者：MaxWelling、YeeWhyeTeh
文章图片
MaxWelling是阿姆斯特丹大学机器学习研究负责人、高通公司技术副总裁，同时也是加拿大高级研究院（CIFAR）的高级研究员。 1998年， MaxWelling在诺贝尔经济学奖获得者Gerard'tHooft的指导下获得博士学位。 MaxWelling在加州理工学院（98-00）、伦敦大学学院（00-01）和多伦多大学（01-03）均有过博士后工作经历，目前拥有超过250篇机器学习、计算机视觉、统计学和物理学方面的科学出版物， h-index指数为62 。

文章图片
YeeWhyeTeh（郑宇怀）是牛津大学统计学系教授、DeepMind研究科学家，马来西亚华人。郑宇怀在多伦多大学获得博士学位，师从GerofferyHinton ，并在加州大学伯克利分校和新加坡国立大学从事博士后工作。他的研究兴趣包括机器学习、计算统计学和人工智能，特别是概率模型、非参数贝叶斯、大规模学习和深度学习。他是深度信念网络和层次狄利克雷过程的最初提出者之一。
在这篇论文中，研究者提出了一种基于smallmini-batches迭代学习的大规模数据集学习框架。通过在标准的随机梯度优化算法中加入适量噪声，研究者证明了stepsize退火时迭代会收敛到真实后验概率的样本。这种优化和贝叶斯后验采样之间的无缝衔接提供了一个防止过拟合的内置保护。此外，论文提出了一种蒙特卡罗后验统计量估计的实用方法，该方法可监测「采样阈值」，并在超过采样阈值后收集样本。研究者将这种方法应用于高斯、逻辑回归、ICA三种模型的混合，并使用自然梯度。
同样地，为了帮助研究者快速了解本次会议入选的工作，这一次PaperDigestTeam整理了所有被接收的论文，并给每篇论文提炼了一个金句（通常是主题），帮助读者快速了解每篇论文的主要思想。
网站地址：https://www.paperdigest.org/2021/07/icml-2021-highlights/