化妆品最新资讯:深度学习与组合求解器的巧妙融合,解决组合泛化能力不足的问题
在计算机科学领域,有两个重要的研究方向:一是传统的离散优化算法,如图算法(SAT求解器、整数规划求解器);二是近年来的深度学习,它使得数据驱动特征提取和端到端系统设计成为可能。那么,我们能否将组合泛化能力较差的组合器与深度学习相结合?
ICLR 2020 spotlight 论文《Differentiation of Blackbox Combinatorial Solvers》探讨了这一问题。论文中,作者试图将无缝融入深度神经网络,并在魔兽争霸最短路径问题、最小损失完美匹配问题以及旅行商问题中进行了测试。结果表明,其方法比传统方法更有效。
此外,文章还介绍了如何利用仿射插值来定义分段目标函数,使得梯度不再处处为零,而不会影响求解器的最优性。此技术可以通过超参数λ控制多面体偏移,从而提供有用的梯格。
为了验证该方法,实验设计了一些具有复杂性的综合任务。在这些任务中,该方法已经证明其对于组合泛化至关重要。此外,由于简单监督学习无法泛化至未见过的数据,这些任务也展示了此方法对解决未知数据集上的问题的必要性。
总结来说,这篇论文成功地结合了深度学习和现有的组合求解器,以提高对各种复杂问题(如魔兽争霸中的最短路径)的解决能力。这项工作有望开辟新的可能性,将AI技术应用于实践场景。