千亿芯片大骗局高通做了一个会让AI开发者兴奋的决定

千亿芯片大骗局:高通推出AI软件栈,实现一次开发随处运行的梦想

在智能手机、物联网、汽车、虚拟现实(XR)、云端和移动PC等众多智能网联边缘产品中,人工智能(AI)技术的应用日益普及。然而,尽管AI已经渗透到我们的生活各个角落,但其体验仍然不够完善,而AI功能也远未达到强大的水平。这一切都需要从硬件到软件再到系统的深度融合。

所有的AI芯片公司都在争取优势,但对于有能力和经验的AI开发者来说,将一个应用程序迁移到不同的产品中总是存在大量转移工作,这不仅阻碍了AI技术的普及,也限制了进一步创新。为了解决这一问题,高通公司提供了一份最新解决方案——高通AI软件栈(Qualcomm AI Stack),包括硬件、软件以及工具,让原厂商或开发者可以通过一次开发实现对智能手机、物联网设备、汽车等多种场景下的应用支持。

这是足以让开发者兴奋的事情——“一次编码,一切皆可”这听起来像是一个理想化目标。但要达成这个目标并不容易。根据Ziad Asghar、高通技术公司产品管理副总裁指出,“不同场景下,对准确性、高效率和低功耗等方面有着不同的需求。”例如,在虚拟现实领域所需的手势追踪与眼球追踪模型,与在车辆领域所需激光雷达模型大相径庭,它们对于精准度要求也有很大差异。

为了应对这些挑战,高通推出了一个全面的解决方案,从底层硬件联合上层软件和工具优化,以此实现统一跨平台运行。这是一项极其具有挑战性的工作,因为它涉及支持各种操作系统,如Android、Windows和Linux,以及面向连接汽车市场的QNX等。在系统软件层面,要能完整支持接口加速器驱动仿真支持;在开发者的库与服务层面,要能够支持数学库编译器虚拟平台;还要提供分析器调试器帮助了解过程中的模型使用情况以及如何利用硬件资源。此外,还需要编程语言核心库。

基于Direct上述这些高通全部可以进行编辑。Direct可视为一个较低级别库,可以进行最靠近模型或硬件位置上的编辑,以释放最大性能并保证最佳表现。而上面的运行着人工神经网络处理SDK ONNX runtimes TF Lite Micro Direct ML 最顶部则是框架如TensorFlow PyTorch ONNX。

此外,该栈还包括一系列工具套装,如增强量化优化分析师用于增强量化与优化神经网络架构搜索NasPrometheusKubernetesDocker基础设施,并且可以结合诸多SDK,比如Snapdragon Ride SDK 高通智慧多媒体SDK 以及Snapdragon Spaces XR 开发者平台,为建立统一SDK奠定基础。

但即使这样,也还有很长的一段路要走来真正实现愿景,不仅需要持续投入,还需要时间去细致地优化,并与客户紧密合作才能成功。如果HighTech能够成功,其将不仅是其独特技术路径战略的一次成功,而且也是获得巨大成功关键之一。

标签: 智能装备方案

猜你喜欢