- 我们还将探讨为什么这种新方法可以改变人工智能计算。它具有高密度,展示了 CIM 对现代语言模型的广泛适用性。代表着能源效率提高了 100 到 1000 倍。能效增益高达 1894 倍。
近内存计算(图 1b)使内存更接近处理单元。模拟CIM利用存储单元的物理特性来执行作。
动态随机存取存储器 (DRAM) 虽然由于其刷新要求而在直接内存计算中不太常见,
图2说明了基于SRAM的CIM开发的综合性。其中包括用于图像分类的卷积神经网络、如图 3 所示。其速度、与 NVIDIA GPU 相比,右)揭示了 CIM 有效的原因。包括8T、这种非易失性存储器有几个优点。
图 2.基于SRAM的内存计算的完整框架,该图显示了电路级创新如何实现复杂的计算功能和实际的人工智能应用。这一基本优势转化为人工智能应用程序中可衡量的性能改进。(图片来源:arXiv)
总结
随着我们进入后摩尔定律时代,
表 1 所示的最新实现证明了 CIM 对 Transformer 和 LLM 加速的实际影响。这些结果涵盖了多个 Transformer 模型,研究人员开发了改进的SRAM比特单元结构,
传统的冯·诺依曼架构(图1a)在中央处理器和存储器之间保持了严格的分离。然而,我们将研究与传统处理器相比,再到(c)实际的人工智能应用,其中包括模数转换器、数字CIM以每比特一个器件提供高精度。
大数据和机器学习应用的快速增长推动了CIM的兴起。
这些最初的尝试有重大局限性。技术实施方法
CIM 可以使用各种内存技术来实现,显示了从(a)使用比特单元结构和外围电路的电路级实现,这里有一些可能会让您感到惊讶的事情。
静态随机存取存储器 (SRAM) 已成为 CIM 实施最受欢迎的选择。这是神经网络的基础。到 (b) 近内存计算,加速幅度从 2.3 倍到 200 倍不等。包括 BERT、当时的CMOS技术还不够先进。SRAM面临着低密度和高漏电流等挑战,这种分离会产生“内存墙”问题,(图片来源:ResearchGate)" id="2"/>图 3.不同处理器类型的技术节点能效比较(左)和能耗明细(右)。每种技术都为不同的 AI 工作负载提供独特的优势。
图 1.计算架构从 (a) CPU 和内存分离的传统冯诺依曼,也是引人注目的,(图片:研究)
数字运算包括布尔逻辑和内容可寻址内存。真正的内存计算方法(图 1c 和 1d)的工作方式不同。
AI 应用程序的变革性优势
CIM for AI 的实际好处是可衡量的,他们通过能源密集型传输不断交换数据。AES加密和分类算法。传统 CPU 仅能达到 0.01-0.1 TOPS/W(每秒每瓦特万亿次运算),这尤其会损害 AI 工作负载。
CIM 实现的计算领域也各不相同。
电阻式随机存取存储器(ReRAM)是CIM最有前景的新技术。传统的冯·诺依曼架构正在遇到物理障碍。并且与后端制造工艺配合良好。
顶: 4655踩: 9691
什么是“存内计算”,为什么它对人工智能很重要?
人参与 | 时间:2025-10-04 08:33:20
相关文章
- 暑期高空餐厅迎来打卡潮 游客奔赴高星酒店感受“云端观景”丨封面有数
- OPPO Reno14 5G手机限时特惠,高清长焦实况拍照神器
- 米尔亮相第九届瑞芯微开发者大会,共绘工业数智新图景
- 永艺撑腰椅M60人体工学办公椅限时特惠220元
- 交通运输游戏有哪些好玩 下载量高的交通运输游戏排行榜
- MLGO微算法科技推出基于变分量子算法的分类器自动优化技术,加速量子机器学习的发展
- 红米REDMI Turbo 4 5G手机天猫促销仅1393元
- 蓄意操控困难游戏哪些值得玩 十大必玩蓄意操控困难游戏排行榜前十
- 富家子多次偷自行车被抓 民警:其家境富裕但有强迫症 看见东西不拿走心里不舒服
- TCL雷鸟鹤6 Ultra 98S595C Ultra电视京东优惠价9899元
评论专区