高通的新举措:让AI开发者兴奋的“一次开发,随处运行”解决方案
在智能化浪潮中,AI边缘芯片公司面临的一个重大挑战是落地应用场景的多样性和复杂性。开发者则苦于缺乏统一的开发平台来实现跨平台兼容。消费者对AI体验可能感到不满,因为即便在智能手机上普及,AI功能仍未达到预期水平。
为了克服这些问题,所有AI芯片公司都致力于从硬件到软件、系统深度融合以提升用户体验。高通技术公司最近推出了其最新解决方案——高通AI软件栈(Qualcomm AI Stack),旨在提供一次开发,便可应用于智能手机、物联网设备、汽车、增强现实(XR)、云端服务以及移动个人电脑等多种场景。
然而,这项任务并不简单。产品管理副总裁Ziad Asghar指出,不同场景下的功耗需求、模型类型和部署方式各有差异,而业务对于准确性、功耗和时延平衡也有不同的要求。在XR应用中追踪手势或眼球,以及3D重建与激光雷达领域所需的模型精度标准大相径庭。
要应对这一挑战,高通推出了一个全面的产品组合,从底层硬件到上层软件和工具进行优化,以支持跨硬件平台运行。这意味着需要支持多个操作系统,如Android、Windows、Linux以及面向网联汽车的QNX等,并且必须完整支持系统接口加速器驱动仿真,以及数学库编译器虚拟平台分析器调试器编程语言核心库等。
这些努力得到了高通技术副总裁Jeff Gehlhaar的大力肯定:“如何让我们的所有不同IP获得相同访问权限,让每个IP能够以统一方式选择相应解决方案,是主要挑战之一。” 高通最终通过Direct AI引擎提供了基础库,可以在靠近模型或硬件位置进行编辑,以释放最大性能并保证最佳表现。此外,还包括了一系列工具套件,如模型增效工具包(AIMET)用于量化感知训练,将浮点运算转换为整数运算,从而提升能效至4倍。
尽管如此,对于实现这一愿景还有很长路要走。Ziad Asghar表示,“任何单一终端上的特性都可轻松部署到其他终端,但编译器仅是众多组成部分之一,还包括准备优化调度器硬件调试以及充分利用资源等因素。”
如果成功,这将成为高通统一技术路线图战略取得巨大成功的一环,也是其在AI市场站稳脚跟的关键步骤。而这段旅程还远未结束,不仅需要时间,更需要持续投入与客户紧密合作才能最终实现目标。