高通的新举措：一款将颠覆AI开发者的革命性芯片封装工艺流程
在探索AI边缘芯片公司面临的挑战时，难点之一便是落地应用场景的多样性和复杂性。对于开发者来说，缺乏统一的开发平台同样是一个大问题。而消费者使用AI产品时往往对其智能程度有所不满，这表明尽管AI已经普及到智能手机，但体验仍需改善，以及功能还需要更加强大。
为了实现优秀的AI体验和功能，硬件、软件和系统必须深度融合。这正是所有AI芯片公司正在努力解决的问题——如何让一个开发项目能够轻松迁移到不同的产品中？这确实是一个阻碍了AI普及与创新的大障碍。
高通科技公司意识到了这一点，并推出了他们最新的解决方案——高通AI软件栈（Qualcomm AI Stack），包括硬件、软件以及工具，以便OEM厂商或开发者可以通过一次编码就能应用到各种智能设备，如智能手机、物联网设备、汽车、虚拟现实（XR）、云计算和移动个人电脑上。这是一种令人兴奋的事，即“一次编码，随处运行。”
然而，要实现这个目标并不容易。Ziad Asghar、高通技术副总裁指出：“不同场景下的功耗需求、模型类型以及部署方式都有所不同，不同业务对于准确性、功耗以及时间延迟等方面要求也各不相同。”例如，在XR领域所需的手势追踪、三维重建模型，与在汽车领域所需激光雷达模型，其精度要求也有很大的差异。
Jeff Gehlhaar、高通技术副总裁进一步解释说：“要让我们的所有IP都能获得同样的访问权限，让每个IP都能够以统一方式选择相应解决方案，这是一个主要挑战。”
为了克服这些挑战，高通最终推出了一个综合性的产品组合，从底层硬件到上层工具进行优化，以实现跨硬件平台运行。这涉及支持多种操作系统，如Android、Windows、Linux，还有面向网联汽车的QNX等。在系统软件层面，它提供完整支持系统接口加速器驱动仿真支持；在开发者库与服务层面，它支持数学库编译器虚拟平台等；而且它还包括分析器调试器帮助了解开发过程中的模型使用情况，以及如何配置权重进行分析。此外，它还提供了编程语言核心库。
基于Direct AI引擎，上述这些高通AI软件都可以实现。Direct可视为一个较低级别库，可以直接编辑最靠近模型或硬件位置，以充分释放硬件性能并保证最高表现。Direct之上运行着更多用于完成各种用例工作效率更高的运行时环境，也支持广泛使用神经网络处理SDK ONNX runtimes TF Lite Micro Direct ML。此外，还包含TensorFlow PyTorch ONNX框架。
此外，高通还提供了一系列工具套装，如AIMET AI图形用户界面用于增强量化优化神经网络架构搜索Nas。
AIMET 提供了量化感知训练无数据训练浮点转整数运算提升效率至4倍。
同时，该栈也支持基础设施如Prometheus Kubernetes Docker。
该栈可兼容诸多SDK，如Snapdragon Ride SDK Snapdragon Spaces XR 开发者平台，为建立统一SDK奠定基础。
Ziad Asghar表示，“要实现任何特定的单一终端发展特征，使其能够轻松部署其他终端，是非常重要的一步，但这只是众多因素之一，我们需要确保所有组成部分协作达到最佳效果。”
虽然刚发布但要真正实施愿景还有长路要走，对于软体复杂性的提升投入大量细致优化与客户紧密合作才可能成功。但如果成功，将成为其在市场上的巨大成功关键。
