高通的新举措：让AI开发者兴奋的“一次开发，随处运行”解决方案
在2022年，芯片行业中排名前十的龙头股公司中，高通技术公司正准备揭晓一个令人振奋的决定，这将直接影响到所有AI开发者的工作流程。这个决定涉及到如何实现跨平台的一次开发，使得AI应用能够轻松地迁移到不同的设备和场景上。
如果我们询问使用边缘芯片最困难的问题，那么他们可能会指出的是落地应用场景过多、复杂，而不是硬件本身。对于开发者而言，他们面临着缺乏统一的开发平台，这使得他们不得不不断适应不同的环境。消费者对AI体验中的不足也表达了不满，他们希望看到更完善、功能更强大的智能体验。
为了达到这一目标，需要从底层硬件到上层软件和系统进行深度融合。这意味着除了硬件之外，还需要考虑软件栈和工具链，以及整个生态系统。在这个过程中，各个芯片制造商都在争取提供自己的优势，但即便是有能力且经验丰富的AI开发者，也必须投入大量时间来适配不同产品，这阻碍了AI技术的普及和创新。
高通今天宣布推出了其最新解决方案——高通AI软件栈（Qualcomm AI Stack），它包括了硬件、软件以及工具，让OEM厂商或是开发者可以通过一次性的工作就能将应用部署到智能手机、物联网设备、汽车、大型虚拟现实等多种场景。这是一个充满挑战但又非常激动人心的事业，因为它要求跨越各种不同的功耗需求、模型类型以及部署方式，并且要平衡准确性、功耗以及时延等方面。
为了克服这些挑战，高通推出了其专门设计用于支持不同IP访问权限并以统一方式选择相应解决方案的一套产品组合，从底层硬件联合上层软件优化，以此实现跨平台运行。此外，它还支持广泛使用的数学库编译器虚拟平台分析器调试器，以及编程语言核心库等关键组成部分。
根据Ziad Asghar、高通技术公司产品管理副总裁所说，“基于Direct AI引擎，上述这些高通AI软件都可以实现。” Direct可视为一个较低级别库，可以在最靠近模型或硬件的地方进行编辑，以释放最大性能并保证最佳表现。而Direct之上的还有更多API，如神经网络处理SDK ONNX runtimes TF Lite Micro Direct ML等。此外，还有一系列工具套件，如增效模型增效工具包（AIMET）用于量化感知训练与无数据量化，以及神经网络架构搜索（NAS）。
尽管如此，要真正实现这种愿景仍然有很长的一段路要走，而且这条路线需要持续投入时间与资源。不过，如果成功的话，不仅代表了一大步向前，也将成为其在市场上的巨大成功之一。
