上海砍人2022最新资讯LeCun称梯度下降是最优雅的 ML 算法Marcus却坚定地表示反对这种算

作者|李梅

编辑|陈彩娴

前几天,Gary Marcus又一次在社交媒体上与人激烈讨论,这次他是与Yann LeCun发生了争执。Marcus对LeCun的观点持有异议,他认为深度学习需要补充,而不是完全替换。

这场争论源于一个关于机器学习中最优雅美丽的想法的问题。在这个问题下,网友们提出了多重权重更新算法、核技巧、降维和凸优化方法等多种观点。LeCun则强调了梯度下降(GD)的重要性,并回忆起2000年丹佛NIPS会议上的一个经历,当时他回答“梯度下降”是机器学习中学到的最重要的事情,这让那位ML研究人员大为震惊。

Marcus对此表示不满,他认为虽然GD很了不起,但它并不是人工智能(AI)的全部。他提出基于GD的优化只是学习的一个要素,而非人类级AI的一整套组件,并询问未来可能会出现什么方案来替代基于GD的优化。Marcus还引用了自己的2018年文章《深度学习:一种批判性评价》,在文章中他指出尽管存在问题,但并不建议抛弃深度学习,而是应该将其作为众多工具中的一个重新定义。

LeCun对Marcus的立场持有疑问,他认为如果有新的方案,它仍然需要被嵌入到深度学习框架中。而Marcus则坚持新方案应该围绕着深度学习进行封装,以实现规模扩展和混合使用。

对于这一场讨论,有关是否应该寻找替代或补充现有的技术,以及这些技术如何融合以达到更高水平的人工智能成果,大家都有不同的看法。这场辩论表明,即使是在同一领域内,也存在不同观点和理解,对于未来的发展路径也提出了不同的思考方向。

猜你喜欢