在双十一背后的AI推荐系统,支撑着价值千亿的交易。然而,这个系统是如何运作的?它依赖于什么样的芯片和材料呢?
AI推荐系统背后的算力演进是一个曲折的过程。从传统方法如协同过滤到深度学习,推荐系统不断演进,其对算力的需求也随之增长。在深度学习时代,CPU虽然足够,但当神经网络变得更加复杂时,就需要更强大的GPU来加速计算。
GPU在嵌入表处理方面有显著优势。嵌入表通常包含大量离散特征数据,对内存带宽和容量要求极高,而GPU提供了远超CPU的内存带宽,并且通过NVLink通信可以实现速度提升。
但推广这样的技术并非易事。首先存在差异化问题,即不同业务领域可能不需要相同类型的大模型。而其次,是高门槛的问题。大型企业有能力投入大量资源开发推荐系统,而中小企业则面临巨大挑战。
为了解决这些问题,科技公司正在寻找新的解决方案,比如模块化的NVIDIA Merlin框架,它可以根据客户需求选择不同的模块,以降低成本并提高效率。此外,与云服务提供商合作,也为中小企业打开了使用高级API和预定义模型的大门,使得他们能够构建出不错的推荐系统,只需投入少数数据科学家即可。
未来十年,加速计算将会成为主流,不仅能降低成本、提高能源利用率,还能给行业带来更多可能性。据英伟达CEO黄仁勋预测,将会加速世界上5%计算任务——价值百亿美金。这意味着,在未来的世界里,我们将见证一个全新的计算时代,一场十年100倍、价值千亿美元巨大的变革。如果我们想要了解这场变革背后隐藏的是什么,我们就不得不探索那些支撑这个变革所必需的心智与技术力量:芯片是什么材料?