中国芯片巨擘的秘密行动会让AI开发者心跳加速的决定

高通的AI软件栈:一次开发,随处运行的梦想

如果你问AI边缘芯片公司最难的是什么,他们大概率会说落地的应用场景太多、太复杂。如果你问开发者使用AI芯片最难的是什么,他们可能会说没有统一的开发平台。如果你问消费者使用AI的最大感受是什么,他们或许会表达一些对AI智能程度的不满。

AI已经在智能手机中普及,但AI的体验还不够完善,AI的功能也还不够强大。想要实现体验优秀的AI功能和产品,一定需要从底层的硬件到上层的软件和系统深度融合。所有AI芯片公司都在大谈自家产品优势,但即便对于有能力和经验的人员,想要将一个应用程序部署到不同的产品中总是有许多迁移工作,这也在很大程度上阻碍了AI技术普及和进一步创新。

为了解决这个问题,高通给出了最新解决方案——高通全能型人工智能(Qualcomm AI Stack),包括硬件、软件工具,让OEM厂商或者开发者的一次编码,就可以应用到智能手机、物联网设备、汽车、高性能计算机(HPC)、云端服务以及移动个人电脑等多个领域。这是足以让开发者兴奋的一次编码,可以随处运行。

然而,要实现这一目标,面临着诸多挑战。高通技术公司产品管理副总裁 Ziad Asghar 指出,“不同业务对于准确性、功耗以及时延等方面平衡要求各异,比如XR应用所需的手势追踪与汽车激光雷达相比,其精准度要求差异巨大。” 高通技术公司技术副总裁 Jeff Gehlhaar 提到,“如何让我们的IP获得同样的访问权限,使得每个IP都能以统一方式选择相应解决方案,这是一个主要挑战。”

为了克服这些挑战,高通推出了全方位的人工智能(Artificial Intelligence)软件组合,从底层硬件联合上层软件优化,以此来实现跨硬件平台运行。这是一项十分具有挑战性的工作,因为要支持不同的操作系统,如Android、Windows、Linux,以及面向联网车辆QNX等;要完整支持系统接口,加速器驱动仿真支持;还要提供数学库编译器虚拟平台,以及分析器调试器。此外,还必须包含编程语言核心库,并且能够进行模型增效工具包量化感知训练无数据训练,将浮点运算转换为整数运算提升模型效能。

除了这些,还有基础设施支持,如Prometheus Kubernetes Docker,以及大量SDK,如Snapdragon Ride SDK用于自动驾驶辅助解决方案、高通智能多媒体SDK用于物联网设备,以及Snapdragon Spaces XR开发者平台用于扩展现实设备,这些都为建立统一SDK奠定了基础。

Ziad Asghar 表示,“任何面向单一终端可轻松部署特性,都需要关键组成部分协作执行,其中包括模型准备优化调度器硬件调试以及确保软件充分利用资源。” 但这并非易事,它们需要时间持续投入才能成功。但如果成功,不仅是其统一技术路线图策略成功,更是其在人工智能市场获得巨大成功关键之一。

猜你喜欢