高通即将揭晓令AI开发者振奋的决定关注焦点集中在芯片采购网站上

如果你问AI边缘芯片公司最难的是什么,他们大概率会说落地的应用场景太多、太复杂。如果你问开发者使用AI芯片最难的是什么,他们可能会说没有统一的开发平台。想要实现体验优秀的AI功能和产品,一定需要从底层的硬件到上层的软件和系统的深度融合。

所有AI芯片公司都在大谈自家产品的优势,但即便对于有能力和经验的AI开发者,想要将一个开发应用到不同的产品中,总是有许多迁移的工作,这也在很大程度上阻碍了AI的普及和进一步创新。高通今天给出的最新解决方案高通AI软件栈(Qualcomm AI Stack),包括硬件、软件和工具,让OEM厂商或者开发者的一次开发,就可以应用到智能手机、物联网、汽车、XR、云和移动PC等智能网联边缘产品。这是一项十分挑战性的工作,想要一次开发跨平台运行,首先就需要支持不同的操作系统,以及完整支持系统接口、加速器驱动、仿真支持等。

“基于高通AI引擎Direct,上述这些高通AI软件都可以实现。” Ziad Asghar说,“高通AI引擎Direct可视为一个较低层级的库,可以在最靠近模型或硬件的地方进行软件编辑,以充分释放硬件性能并确保最高峰值表现。”

此外,高通还提供了一系列工具套件,如AIMET模型增效工具包,将浮点运算模型转化为整数运算模型,比如,将32位浮点模型转换为8位整数模型,可提升能效至4倍。此外,还有Prometheus基础设施支持,以及面向单一终端发展而又可轻松部署到的SDK。

然而,要真正实现其愿景还有很长路需要走,对于软硬结合的问题、高度优化以及与客户紧密合作都是必不可少。在这条道路上,即使面对着巨大的挑战,但如果能够成功,不仅是其统一技术路线图战略成功,更是其在未来的市场竞争中取得重要一步。

猜你喜欢