在2023年的芯片排行榜中，存储器的挑战越来越显著，它不仅影响了边缘计算的性能提升，还为芯片设计者带来了选择和配置上的难题。不同应用市场对存储器类型和配置的需求各异，而数据在芯片、设备以及系统之间如何流动并不是总清楚。这就让芯片设计人员面临一个重要抉择：是选择共享内存以降低成本，还是增加不同类型内存以提高性能并降低功耗。
安全性始终是这些决策的前提，并且不同的市场对设计有着不同的要求。例如，在汽车中各种图像传感器（如激光雷达和摄像头）产生的大量数据需要在本地进行处理，而AI芯片则希望能够实现性能提升100倍。
解决内存问题的一种方法是将存储器集成到运算单元旁，这种方法称为“存算一体”，它旨在通过减少数据搬移来突破内存瓶颈，同时也能降低功耗。“虽然‘存算一体’可能是一条日益增长的趋势，但实际情况似乎大相径庭。”Cadence Digital＆Signoff Group高级首席产品经理Dave Pursley表示。
尽管市场出现了新变化，SRAM和DRAM仍然是主流。已经有专家预测多年后DRAM将“死亡”，但它仍然是最经济、可靠的选择。DRAM具有高密度、高架构简单性、低延迟、高性能特点，同时兼具耐用性与低功耗特性。
然而，随着7nm及以下技术节点使用频繁，数据访问速度加快，这也会导致更高功耗的问题。不过，如HBM2等新架构允许通过堆叠模块方式而不是使用DIMM垂直增加密度，这种方法还能让DRAM更接近处理单元。此外，SRAM价格昂贵且密度有限，但其高速性能多年来已被验证。在某些情况下，为保证安全性需要增加冗余。
所有这些要求都会影响存储器类型和数量的选择，以及片上与片外之间权衡，以及访问每个互连复杂性的考量。而为了应对手持移动设备等电池供电设备中的极低功耗需求，一些极新的技术正在发展，其中包括电池支持型边缘设备，以此提高效率并缩短响应时间。
开发这种极低功耗技术是一个挑战，因为它们支持广泛速率范围，而且通常由几个主要应用驱动。如果我们回顾历史，我们可以看到手机市场正是在这个方向上成功推进。如果与不同的手机制造商交谈，他们都希望获得既能提供良好性能又能节省能源的更先进型号。这对于其他想要采用类似技术公司来说，将是一个巨大的福音，因为他们会从他人的创新中受益匪浅。
通常，这些合格产品可能运行于几种不同的速率下，但速率非常接近。一方面，有一个每秒4.2千兆比特的速率；另一方面，有3.2千兆比特。这使得制造商能够生产出所谓“分级”产品，即那些部分部件未达到全速运行时仍可销售给那些寻求便宜价格购买较弱表现产品客户。在这样的标准之下，即使有些部件并不全速工作，也不会因此成为废品——因为它们依旧符合质量标准，是合格品之一。
人工智能正迅猛发展，而其中的一大关键因素就是适当的地理位置——即足够快速且尽可能节省能源的地方。而这往往意味着必须减少一些外部硬盘或RAM卡，以促进更多内部计算，并尝试限制非必要数据流向外部记忆单位，从而改善整体效率。此时，与GDDR6相比，其速度几乎相同，但却消耗更少能源，使得GDDR6变得更加受到欢迎。在任何一种情形下，无论是否涉及AI训练或终端推理，都存在争夺空白空间的问题，其中最主要的是三款竞争者：GDDR, DRAM, 和 HBM.
最后，由于PPA（Power, Performance & Area）的重要性不断增强，无论何处，对于任何嵌入式系统来说，都必须考虑到三个关键因素：即同样值得注意的是，不同温度下的线性的稳定性也是至关重要的一个因素。不管是在汽车行业还是其他领域，只要涉及到了长期持续操作，那么保持稳定的功能就成了首要任务之一。而这一切都直接关系到我们的未来世界——一个充满自动化、物联网连接以及人工智能协作的小小宇宙。
