高通宣布的决定将让AI开发者心跳加速揭秘台积电芯片的神秘力量

如果你问AI边缘芯片公司最难的是什么,他们大概率会说落地的应用场景太多、太复杂。

如果你问开发者使用AI芯片最难的是什么,他们可能会说没有统一的开发平台。

如果你问消费者使用AI的最大感受是什么,他们或许会表达一些对AI智能程度的不满。

AI已经在智能手机中普及,但AI的体验还不够完善,AI的功能也还不够强大。想要实现体验优秀的AI功能和产品,一定需要从底层的硬件到上层的软件和系统深度融合。

所有AI芯片公司都在大谈自家产品优势,但即便对于有能力和经验的人才,想要将一个开发应用到不同的产品中,总是有许多迁移工作,这也在很大程度上阻碍了技术创新和应用推广。

为了解决这个问题,高通给出了最新解决方案——高通全方位人工智能软件栈(Qualcomm AI Stack),包括硬件、软件工具,让OEM厂商或者开发者的一次编码,就可以应用到智能手机、物联网设备、汽车内控屏幕、虚拟现实/增强现实设备等多个领域。

这是足以激发每一位技术爱好者兴奋的情报“一次编码,随处运行。”

但要实现这一目标面临着挑战。高通技术公司产品管理副总裁 Ziad Asghar指出,“不同业务对于准确性、高效能以及时延等方面平衡要求各不相同。”而且,每种场景下所需的手势追踪、眼球追踪与3D重建模型,以及激光雷达模型,都各具特点,对精准度要求也不尽相同。

为了跨越这些障碍,高通推出了全方位人工智能软件栈,它通过优化底层硬件与上层工具,从而实现仅通过统一的人工智能软件栈,可跨硬件平台运行。这是一个极其挑战性的任务,要支持不同操作系统,如Android、Windows、Linux以及专用于网联汽车的地QNX;要支持完整接口系统加速器驱动仿真环境;并且提供数学库编译器虚拟平台分析器调试器,以及程序语言核心库,还要支持编程语言核心库。此外,还必须包含分析器调试器,以帮助了解如何利用具体硬件进行权重分析。此外,还需考虑整个过程中的兼容性问题。

“基于Direct AI引擎,上述这些高通全方位人工智能都可以实现。” Ziad Asghar说,“Direct AI引擎可视为一个较低级别库,可以在最靠近模型或硬件的地方进行编辑,使得充分释放硬件性能,并保证最高峰值表现。”

此外,全方位人工智能还包含了一系列工具套装,比如Model Efficiency Tools (MET)图形用户界面(GUI)用于量化感知训练无数据训练整数运算模型,将浮点运算转换为8位整数模型提升4倍能效。它也支持包括Prometheus Kubernetes Docker基础设施,同时支持诸多SDK,如Snapdragon Ride SDK物联网Smart Multimedia SDKXR Spaces XR Developer Platform,为建立统一SDK奠定基础。

Ziad Asghar表示,“要实现任何单一终端上的特性,在其他终端轻松部署,不仅需要编译器,而且还有准备优化调度测试 硬件调试以及如何充分利用资源等重要因素,我们需要确保这组成部分协同工作才能达到效率。”

虽然刚发布,但该全方位人工智能解决方案仍然有很长路要走:除了复杂性的提升之外,还需要大量细致优化与客户紧密合作来确定是否能够成功执行愿景,这个过程既耗时又需要持续投入。但如果能够成功,那么它将成为高通在人工智能市场取得巨大成功关键的一环。

猜你喜欢