高通的秘密武器:如何让AI开发者兴奋不已的新决策
在AI边缘芯片公司中,面对的问题有很多。开发者常常会说,落地应用场景太多、太复杂;消费者则可能会表达对AI智能程度的不满。尽管AI已经在智能手机中普及,但体验还不够完善,功能也还不够强大。
为了解决这些问题,所有AI芯片公司都在努力。但即便是有能力和经验的开发者,要将一个应用转移到不同的产品上,也总是需要进行大量迁移工作,这阻碍了AI的普及和进一步创新。
就在这个时刻,高通给出了最新的解决方案——高通AI软件栈(Qualcomm AI Stack)。它包括硬件、软件和工具,让OEM厂商或者开发者的一次开发,就可以应用到智能手机、物联网、汽车、XR、云和移动PC等智能网联边缘产品。这是一个让开发者兴奋的“一次开发,随处运行。”
但是,要实现这个目标,对于高通来说是一项十分挑战性的工作。他们需要支持不同的操作系统,如Android、Windows、Linux以及面向网联汽车的QNX等。在系统软件层面,要能完整支持系统接口、加速器驱动、仿真支持等。在开发者库与服务层面,要能够支持数学库、高级编译器和虚拟平台等。此外,还要提供分析器和调试器,以及编程语言核心库。
正因为如此,大型科技企业如Google推出了TensorFlow,它们使用了基于Python语言的一种方法来定义模型结构,并用C++代码实现它们。PyTorch则以其灵活性而受到欢迎,它允许用户直接从Python中定义计算图并自动分配内存,而无需手动管理内存分配。
对于高通而言,他们推出的是基于Direct AI引擎的一系列工具套件,这些工具使得模型优化变得更加容易。这包括量化感知训练(Quantization Aware Training)技术,可以将浮点运算模型转换为整数运算模型,比如,将32位浮点模型转换为8位整数模型,从而显著提升能效。
此外,该软件栈还支持包括Prometheus监控组件(用于监控集群健康状况)、Kubernetes容器编排系统(用于自动部署、大规模扩展容器化应用程序)、Docker容器平台(用于打包应用程序及其依赖环境成一个可移植且包含必要代码)的基础设施,使得整个过程更加流畅、高效。
总之,无论是通过改进现有的硬件还是通过提供更好的软件支持,都存在着巨大的机会。如果高通能够成功实现这一愿景,不仅是其统一技术路线图战略成功,更是其在全球范围内获得竞争优势的一个关键因素。此举将极大地促进人工智能技术向前发展,为未来的创新指明方向。