高通正酝酿一项革命性决定它将彻底改变AI开发者的世界这个秘密计划与IC芯片的集成紧密相关预计能够打开

高通的新举措:让AI开发者兴奋的“一次开发,随处运行”解决方案

在AI边缘芯片公司中,最难的问题之一是落地应用场景的复杂性。开发者面临的是缺乏统一的开发平台,而消费者的最大感受则是对AI智能程度的一种不满。尽管AI已经普及到智能手机,但体验仍需改进,功能需要加强,以实现优秀体验和产品。

为了克服这些挑战,所有AI芯片公司都致力于从硬件到软件和系统深度融合。高通技术公司最新推出的解决方案——高通AI软件栈(Qualcomm AI Stack),旨在提供一个跨越智能手机、物联网、汽车、虚拟现实(XR)、云端以及移动PC等多个领域的一站式解决方案,使得OEM厂商或开发者能以一次编码就能应用于不同设备。

这项令人振奋的“一次开发,随处运行”的目标并非易事。在不同的应用场景中,对功耗需求、模型类型以及部署方式有所不同。而且,每个业务对于准确性、功耗和时延要求也各不相同,如XR应用与汽车激光雷达模型间存在显著差异。

高通最终通过其AI软件栈产品组合,从底层硬件联合上层软件和工具优化,为跨硬件平台运行提供了支持。这涉及支持多种操作系统,如Android、Windows和Linux,以及专门针对网联汽车的QNX等。此外,还包括完整支持系统接口、加速器驱动、高级仿真能力,以及数学库编译器等发展库服务。

此外,这还包括分析器调试器帮助追踪模型使用情况,并指导如何在硬件上进行权重分析。此外,还必须考虑编程语言核心库支持。Ziad Asghar指出,这些都是通过高通引擎Direct来实现,它是一个较低层级库,可以直接编辑位于最靠近模型或硬件位置的地方,以释放最佳性能表现。

此外,高通还提供了一系列工具套件,如AIMET用于模型增效量化与优化;图形用户界面(GUI)用于辅助创建;以及神经网络架构搜索(NAS)。这些工具能够进行量化感知训练,将浮点运算转换为整数运算,比如将32位浮点转换为8位整数,可提升4倍效率。

此外,高通还支持诸如Prometheus Kubernetes Docker这样的基础设施,并可以集成诸多SDK,如Snapdragon Ride SDK车载ADAS解决方案、高通智能多媒体SDK以及Snapdragon Spaces XR平台。这为建立统一SDK奠定了基础。

然而,要真正实现这一愿景还有很长路要走,不仅要应对复杂性的提升,还需要大量细致优化,与客户紧密合作才能成功。这是一个时间消耗巨大且持续投入不断更新过程。但如果能够成功,它将成为其统一技术路线图战略成功关键,也可能带来巨大的市场成功。

猜你喜欢