LeCun称梯度下降是最优雅的 ML 算法,Marcus:我不同意( 二 )


我感觉自己又被「稻草人谬误」攻击了 , 附上我的论点核心:我从未呼吁要替代深度学习/梯度下降 。 未来会出现的是「其他」工具 , 比如与SGD一起工作的符号处理操作 。 LeCun称梯度下降是最优雅的 ML 算法,Marcus:我不同意
文章图片
Marcus还搬出发表于2018年的一篇文章“DeepLearning:ACriticalAppraisal”作为证据:
尽管有我所描述的这些问题 , 但我认为我们不需要抛弃深度学习 。 相反 , 我们需要重新定义它:不是一种通用的办法 , 而只是众多工具的一种 。 LeCun称梯度下降是最优雅的 ML 算法,Marcus:我不同意
文章图片
还有最近的一场keynote演讲:
我们不需要舍弃深度学习 , 但我们需要找到办法来作为对它的补充 , 因为智能本身是多方面的 。 LeCun称梯度下降是最优雅的 ML 算法,Marcus:我不同意
文章图片
但是 , LeCun并不买账 , 他接着Marcus的话回复:
所以「DL是办法的一种 , 但我们需要新的推理组建」?欢迎来到我的世界!LeCun称梯度下降是最优雅的 ML 算法,Marcus:我不同意
文章图片
LeCun称梯度下降是最优雅的 ML 算法,Marcus:我不同意
文章图片
这可把Marcus惹急了:
我给的引用是来自2018年 , 那篇你称之为「大部分都是错误的」的文章 。 我的主张自1992年以来就没变过 , 唯一迟到的是你「欢迎来到我的世界」这句话 , 而这句话其实是你对我实际立场的认可 。 LeCun称梯度下降是最优雅的 ML 算法,Marcus:我不同意
文章图片
那就来翻翻旧账 , 针对Marcus在2018年写的那篇文章 , LeCun的确曾这样评论(虾仁猪心):
LeCun称梯度下降是最优雅的 ML 算法,Marcus:我不同意
文章图片
到这儿大家也能看出来 , 二人讨论的对象和观点是有错位的 。 LeCun希望如果有新的方案 , 仍需要封装在DL下 , 而Marcus的意思是新的方案需要围绕着DL进行封装 , 前者是关于规模的扩展 , 后者则是一种混合和补充 。
大家怎么看?
LeCun称梯度下降是最优雅的 ML 算法,Marcus:我不同意
文章图片
LeCun称梯度下降是最优雅的 ML 算法,Marcus:我不同意】雷峰网