高通的秘密:一次开发,随处运行的AI革命
在AI边缘芯片公司中,最难的事情可能是面对众多复杂的应用场景,而对于开发者来说,缺乏统一的开发平台则是个大问题。消费者体验中的最大不满可能是对AI智能程度的期望落空。尽管AI已经成为智能手机的一部分,但其体验仍需完善,功能需要加强,以便实现优秀体验和产品。
所有AI芯片公司都在谈论自己的优势,但即使对于有能力和经验的开发者,将一个应用程序迁移到不同的设备上也常常伴随着大量转移工作,这阻碍了AI技术的普及与创新。
为了解决这一问题,高通推出了最新方案——高通AI软件栈(Qualcomm AI Stack),包括硬件、软件以及工具,让OEM厂商或开发者的“一次编码,就能在智能手机、物联网设备、汽车、增强现实(XR)、云端和移动个人电脑等多个领域实现无缝运行。这不仅让开发者兴奋,也为行业带来了新的可能性。
然而,要达成这个目标,对于高通来说是一个巨大的挑战。产品管理副总裁Ziad Asghar指出,“不同场景下的功耗需求、模型类型以及部署方式各异,而且业务对于准确性、高效率以及时延等方面要求也有所不同。”
为了应对这些挑战,高通最终推出了一个包含从底层硬件到上层软件和工具优化的一系列产品组合,使得通过统一的AI软件栈,可跨越多种硬件平台进行无缝运行。这涉及支持各种操作系统,如Android、Windows、Linux以及针对联网汽车系统QNX等;提供完整支持系统接口、中间件驱动、中间件仿真服务,以及数学库编译器虚拟平台分析器调试器等。此外,还要支持编程语言核心库,并基于Direct AI引擎进行编辑,以释放硬件性能并保证最佳表现。
此外,高通还提供了一系列工具套件,比如模型增效工具包(AIMET)用于量化感知训练,将浮点运算转换为整数运算以提高能效;神经网络架构搜索(NAS)用于自动优化网络结构;还有Prometheus基础设施集成等。
通过Snapdragon Ride SDK面向汽车ADAS解决方案、高通智能多媒体SDK面向物联网设备,以及Snapdragon Spaces XR开发者平台,为广泛范围内的一致SDK奠定了基础。Ziad Asghar表示,“实现任何特性可轻松部署至其他终端,我们需要确保所有组成部分能够协同工作。”虽然发布只是起始点,有很长路要走,但如果成功,它将是关键一步,对于建立统一技术路线图战略乃至在全球市场中取得领导地位具有重要意义。