高通的AI软件栈：一次开发，随处运行的梦想
如果你问AI边缘芯片公司最难的是什么，他们大概率会说落地的应用场景太多、太复杂。如果你问开发者使用AI芯片最难的是什么，他们可能会说没有统一的开发平台。如果你问消费者使用AI的最大感受是什么，他们或许会表达一些对AI智能程度的不满。
AI已经在智能手机中普及，但AI的体验还不够完善，AI的功能也还不够强大。想要实现体验优秀的AI功能和产品，一定需要从底层的硬件到上层的软件和系统深度融合。所有AI芯片公司都在大谈自家产品优势，但即便对于有能力和经验的人员，想要将一个应用程序部署到不同的产品中总是有许多迁移工作，这也在很大程度上阻碍了AI技术普及和进一步创新。
为了解决这个问题，高通给出了最新解决方案——高通全能型人工智能（Qualcomm AI Stack），包括硬件、软件工具，让OEM厂商或者开发者的一次编码，就可以应用到智能手机、物联网设备、汽车、高性能计算机等多个领域。
这是足以让每位专业人士兴奋的一次编写、一致执行。这项任务面临着诸多挑战。高通技术公司产品管理副总裁 Ziad Asghar指出，“不同业务对于准确性、功耗以及时延等方面平衡要求也有所不同。” 高通技术公司技术副总裁Jeff Gehlhaar提到，“如何让我们所有不同的IP都能获得同样的访问权限，让每个IP都能够以统一方式选择相应解决方案，这是一个主要挑战。”
要实现这一愿望，有必要支持不同的操作系统，从Android至Windows，再至Linux，以及专门面向网联汽车QNX等。此外，还需支持完整系统接口加速器驱动仿真支持，以及数学库编译器虚拟平台分析器调试器，以及编程语言核心库。在此基础之上，还必须拥有Direct ML ONNX runtimes TF Lite Micro Direct ML API SDKs 和其他相关工具套件。
这项工作涉及深入研究模型增效工具包（AIMET）、用于增强量化与优化模型分析器以及神经网络架构搜索（NAS）。通过这些工具，可以进行量化感知训练，将浮点运算模型转换为整数运算模型，如将32位浮点模型转换为8位整数模式，提升能效4倍。此外，还可采用Prometheus Kubernetes Docker基础设施集成，不仅限于Snapdragon Ride SDK Snapdragon Spaces XR开发者平台，同时包括广泛适用SDK提供全面兼容性。
Ziad Asghar表示：“任何特定的终端可以轻松部署其特性的任何面向单一终端发展出的特征，要做到的关键就是利用有效通信使得这些组成部分协作发挥作用。”
虽然刚发布但要真正实现其愿景还有很长路需要走，并且必须不断优化与客户紧密合作来推进前进方向。这是一段漫长而艰巨之旅。但若成功，它无疑将成为高通在人工智能市场取得巨大成功的一个重要里程碑。
