自1945年冯·诺依曼提出”存储程序”架构以来，几乎所有计算机都遵循同一设计：处理器（CPU）与存储器（内存）分离，数据在两者之间来回搬运。这个80年不变的架构正面临一个越来越尖锐的问题——存储墙（Memory Wall）：处理器越来越快，但内存带宽的增长远远落后，数据搬运成了真正的瓶颈。尤其在AI大模型时代，权重参数动辄千亿级，每次计算都要反复读取海量数据，冯诺依曼瓶颈被推到了极限。存内计算（Computing-in-Memory, CIM），正是打破这堵墙的激进方案。
一、瓶颈的本质：数据搬运的代价
冯诺依曼架构中，每一次运算都包含”取指令—取数据—计算—写回”的循环。对AI推理而言，绝大部分能耗和时间消耗在数据搬运而非计算本身：研究显示，在典型的深度学习推理中，数据移动的能耗比浮点运算高出2-3个数量级（从内存读1字节的能耗约是执行一次乘加运算的200倍）。以GPT级别的模型为例，每生成一个token都要访问数十亿权重，如果权重存于片外DRAM，内存带宽直接决定推理速度。这就是为什么英伟达H100的HBM带宽高达3.35TB/s仍不够用——模型增长比带宽增长快得多。
二、存内计算的思路：让计算发生在数据所在处
存内计算的核心思想简单而颠覆：不把数据搬到计算单元，而是让存储单元本身参与计算。最成熟的技术路线是基于非易失性存储器（NVM）的模拟计算：利用忆阻器（RRAM）、相变存储器（PCM）、磁存储器（MRAM）或闪存的物理特性，在存储阵列内直接完成矩阵-向量乘法——AI计算的绝对核心操作。以忆阻器为例，其电阻状态可以编码神经网络权重，当输入电压信号通过存储阵列时，基尔霍夫定律和欧姆定律自动完成乘累加运算（MAC），一次读操作同时完成”读取权重+执行乘法+累加”，理论上可将AI推理能效提升100-1000倍。
三、从论文到芯片：产业化的冲刺
存内计算已走出实验室。IBM研究团队2019年展示了基于PCM的MNIST手写识别芯片，能效比GPU高两个数量级；2023-2024年，多家创业公司（如d-Matrix、Mythic）推出面向AI推理的CIM芯片，d-Matrix的”Corsair”平台声称在LLM推理上能效可达传统GPU的10倍以上。台积电、三星等代工厂已为RRAM、MRAM等新型存储提供成熟工艺，存内计算芯片的流片成本正在快速下降。中国学界和产业界同样活跃：清华大学、中科院计算所等机构的多款CIM芯片（如”天机””行歌”系列）相继亮相，国内初创公司（如知存科技、恒烁股份）已推出商用CIM解决方案。2024年，AI芯片巨头英伟达也公开讨论将存内计算纳入未来架构研究——风向已经明确。
四、挑战与局限：并非万能钥匙
存内计算并非没有代价。模拟计算的精度问题首当其冲：忆阻器的电阻值存在波动和漂移，导致计算误差，需要复杂的校准和纠错机制，这对要求确定性的通用计算是硬伤。因此，当前存内计算主要聚焦于”容错性强、以能效为先”的AI推理场景，而非通用CPU。此外，新存储器的耐久性（写次数限制）、与CMOS工艺的集成复杂度、编程模型和编译器生态的缺失，都制约着大规模商用。学术界正在探索数字CIM（保持精度但牺牲部分能效优势）和混合架构（CIM加速器与通用处理器协同），以平衡精度与能效。
五、后冯诺依曼时代的第一块基石
存内计算的意义超越单一技术：它标志着”后冯诺依曼计算”时代的开端——计算架构开始根据应用特征（而非通用性）来定制。类似的探索还包括神经形态计算（模拟突触与脉冲）、光计算（光子矩阵乘法）、量子计算。它们共享同一个信念：信息处理的效率极限，取决于物理实现与问题结构的匹配程度。对AI产业而言，存内计算提供了一条降低推理成本、把大模型推向边缘设备的现实路径——当模型可以在手机和嵌入式设备上本地运行而无需云端时，隐私、延迟和能耗三大问题将同时缓解。存储墙不会自动消失，但存内计算证明：墙是可以绕过去的。