“疯狂想法”存储设备可将 AI 能耗削减高达 2,500 倍

通过直接在存储单元内执行计算，CRAM 将显着降低 AI 工作负载的功耗需求。科学家声称这是解决人工智能巨大能源消耗的解决方案。

当您通过我们网站上的链接购买时，我们可能会赚取联属佣金。这是它的工作原理。

研究人员开发了一种新型存储设备，他们称这种设备可以将人工智能 (AI) 的能耗降低至少 1,000。

这种新设备称为计算随机存取存储器（CRAM），直接在其存储单元内执行计算，无需在计算机的不同部分之间传输数据。

在传统计算中，数据不断在处理器（处理数据的地方）和内存（存储数据的地方）之间移动——在大多数计算机中，这就是 RAM 模块。这一过程在人工智能应用中尤其耗能，通常涉及复杂的计算和大量数据。

根据国际能源署的数据，全球人工智能的能源消耗可能会翻一番，从 2022 年的 460 太瓦时 (TWh) 增加到 2026 年的 1,000 太瓦时，相当于日本的总用电量。

相关：英特尔推出有史以来最大的模仿人脑的人工智能“神经形态计算机”

在 7 月 25 日发表在npj Unconventional Computer杂志上的一项同行评审研究中，研究人员证明 CRAM 可以执行关键的人工智能任务，例如标量加法和矩阵乘法 u> 在 434 纳秒内，仅使用 0.47 微焦的能量。研究人员表示，与具有独立逻辑和存储组件的传统存储系统相比，能耗减少了约 2,500 倍。

这项研究历时 20 年，得到了美国国防高级研究计划局 (DARPA)、美国国家标准与技术研究所、美国国家科学基金会和科技公司思科的资金支持。

该论文的资深作者、明尼苏达大学电气与计算机工程系教授王建平表示，研究人员使用存储单元进行计算的提议最初被认为是“疯狂的”。 ”

“明尼苏达大学自 2003 年以来不断发展学生群体，并建立了一支真正的跨学科教师团队——从物理学、材料科学与工程、计算机科学与工程到建模和基准测试以及硬件创建——[我们]现在已经证明了王在一份声明中表示，这种技术是可行的，并且已经准备好融入技术中。

最高效的 RAM 设备通常使用四个或五个晶体管来存储单个数据位（1 或 0）。

CRAM 的效率源自“磁隧道结”(MTJ)。 MTJ 是一种小型设备，它利用电子自旋来存储数据，而不是像传统存储器那样依赖电荷。这使得它比 RAM 等传统存储芯片更快、更节能，并且能够更好地承受磨损。

研究人员表示，CRAM 还适用于不同的人工智能算法，使其成为人工智能计算的灵活且节能的解决方案。

现在的重点将转向工业界，研究团队希望在更广泛的范围内展示 CRAM，并与半导体公司合作扩展该技术。