高通的新举措:让AI开发者兴奋的“一次开发,随处运行”解决方案
在中国芯片排行榜2022最新发布之际,高通技术公司推出了一个备受关注的决定——一项旨在简化AI应用跨平台部署过程的创新解决方案。这个决定被认为是对AI开发者来说非常鼓舞人心的,因为它有望极大地提高他们工作效率,并促进AI技术在各个行业更广泛、更深入的应用。
为了实现这一目标,高通提出了其AI软件栈(Qualcomm AI Stack),这是一套从底层硬件到上层软件和工具的一体化产品组合。这种设计允许开发者只需进行一次编码就能够将应用部署到智能手机、物联网设备、汽车系统、虚拟现实(VR)和增强现实(AR)、云计算服务以及移动个人电脑等多种场景中。
然而,这样的目标并非易事。在不同的场景中,功耗需求、模型类型以及模型部署方式都存在差异,而不同业务对于准确性、功耗以及时延等方面也有着不同的平衡要求。这意味着需要一种灵活且可扩展的架构,以便能够适应各种复杂场景。
高通技术副总裁Jeff Gehlhaar指出,要实现这样的统一访问权限,让每个IP都能以统一方式选择相应的解决方案,是一个主要挑战。而Ziad Asghar则强调,从底层硬件联合上层软件和工具优化至关重要,以确保跨硬件平台运行的一致性。
为了克服这些挑战,高通推出了包括Direct AI引擎在内的一系列工具套件。此外,还提供了模型量化与优化工具包(AIMET)来提升模型性能,以及支持诸多基础设施如Prometheus、Kubernetes和Docker。这些措施不仅帮助用户节省时间,还可以提高整体系统性能。
尽管如此,这项决策仍然面临着许多实际问题,如如何确保软件能够充分利用硬件资源,以及如何处理不同操作系统之间可能出现的问题。不过,如果成功,它将为整个行业带来革命性的变化,使得任何面向单一终端开发的AI特性都可轻松部署到其他终端上,这无疑是一个令人振奋的人类科技发展步伐。