高通正酝酿一项革命性决定它可能彻底改变AI开发者的世界这个秘密究竟是什么它是否能解决半导体与芯片之间

高通的新举措:让AI开发者兴奋的“一次开发,随处运行”解决方案

在AI边缘芯片领域,最大的挑战之一是将复杂多变的应用场景落地。开发者面临着没有统一平台的问题,而消费者的最大感受则是对AI智能程度的一种不满。尽管AI已经普及于智能手机中,但体验仍需完善,功能需要加强,以实现优秀体验和产品。

为了克服这些障碍,所有AI芯片公司都在努力打造自己的优势。但即便有能力和经验的开发者,要将一个应用迁移到不同的产品中,也常伴随着大量迁移工作,这阻碍了AI的普及和创新。

高通最新推出的解决方案——高通AI软件栈(Qualcomm AI Stack),包括硬件、软件和工具,它旨在让OEM厂商或开发者的一次开发,就能应用到智能手机、物联网、汽车、XR、云和移动PC等智能网联边缘产品。这正是足以激发开发者兴奋情绪的事物——“一次开发,随处运行”。

然而,这项目标并非易事。高通技术公司产品管理副总裁Ziad Asghar指出,“不同场景下的功耗需求、模型类型以及部署方式各异,对准确性、功耗以及时延等方面的平衡要求也大相径庭。”例如,在XR应用中所需的手势追踪与眼球追踪与3D重建模型,与汽车领域所需激光雷达模型大有不同,他们对于精准度要求也有很大区别。

要实现这一愿景,还需要支持各种操作系统,如Android、Windows、Linux以及面向网联汽车的QNX等。在系统软件层面,要完整支持系统接口、中间件驱动仿真支持;在库与服务层面,要支持数学库编译器虚拟平台等。此外,还要提供分析器调试器帮助了解AI模型使用情况,以及如何配置权重进行分析。此外,还要支持编程语言核心库。

基于Direct上述这些高通AI软件都可以实现。“这是一系列较低层级的库,可以直接编辑最靠近模型或硬件的地方,以释放硬件性能并保证最高峰值表现。” Ziad Asghar说:“Direct之上运行的是更为广泛使用的人工神经网络处理SDK ONNX runtimes TF Lite and TF Lite Micro Direct ML。”

此外,高通还提供了一系列工具套件,如AIMET用于增效量化优化分析器NAS神经网络架构搜索图形用户界面的GUI基础设施如Prometheus Kubernetes Docker,以及诸多SDK如Snapdragon Ride SDK、高通智能多媒体SDK还有Snapdragon Spaces XR 开发者平台。

Ziad Asghar表示,“任何想要单一终端上的特性可轻松跨其他终端部署,都依赖于编译器,但它只是众多组成部分之一。此外还包括模型准备优化调度器硬件调试以及确保软件充分利用资源。”

尽管刚发布但想要真正实现其愿景还有很长路要走,并且需要大量细致优化与客户紧密合作才能成功。而如果能够成功,不仅是其统一技术路线图战略的大胜,更可能成为其在市场获得巨大成功关键。

猜你喜欢