脉动阵列：AI 芯片的矩阵乘法为什么爱用它

一、先看痛点：AI 计算的本质是矩阵乘法

全连接层是矩阵乘法，卷积可以展开成矩阵乘法，Transformer 里的注意力机制，核心还是 Q×Kᵀ 这样的大矩阵乘法。AI 芯片设计的第一性原理就是：把矩阵乘法做快、做省电，其他的都是添头。

二、通用架构的尴尬：算得快，搬得慢

CPU、GPU 做矩阵乘法，数据要在寄存器、缓存、内存之间来回搬。乘加单元本身很快，但等数据的功夫占了大头——业界叫"访存墙"或"内存墙"。AI 芯片要破局，就得让数据少搬、复用多。

三、脉动阵列：让数据像脉搏一样流动

脉动阵列（Systolic Array）是上世纪 70 年代末提出的老思想，在 AI 时代焕发第二春：它把成百上千个乘加单元（PE）排成二维网格，数据从一边"泵"进去，像脉搏一样逐拍在阵列中流动，每个 PE 拿到数据就地计算，结果传给邻居。

最经典的用法是"权重驻留"：把权重预先装进每个 PE，输入数据流进来，部分和在阵列中累积流出。权重只加载一次，却被复用了成百上千次——访存开销直接砍掉一大截。公开论文披露的第一代 TPU 就采用了大规模脉动阵列，这也是它能效突出的关键。

四、为什么它这么对 AI 的胃口

AI 计算的特点是：数据规整、计算密集、复用度高。脉动阵列的数据流完全规整，没有分支预测、没有乱序发射，控制逻辑极简，面积和功耗几乎全花在乘加单元上。对矩阵乘法这种"体力活"，这是最划算的组织形式。

五、它也不是万能的

脉动阵列怕"不规整"：稀疏矩阵、变长序列会让大量 PE 空转，利用率掉下来。所以现代 AI 芯片会在阵列之外再配向量单元、稀疏加速逻辑，或者做多阵列拼搭。选型时别只看峰值算力，问一句"在我这个模型形状下阵列利用率多少"，比看 TOPS 实在得多。

六、结论

脉动阵列没有发明新数学，它只是把"数据复用"四个字做到了极致。理解了它，就理解了为什么 AI 芯片长得越来越不像 CPU：当计算模式固定下来，架构就该为数据流让路。

脉动阵列受青睐的核心是「数据复用」：矩阵乘法的本质是大量乘加，数据搬运的能耗远高于计算本身（尤其是在片外访存能耗比片上高一个数量级以上）。脉动阵列让数据像流水一样在 PE 阵列中横向/纵向流动，每个数据被多次复用而不用反复从存储器取，把访存开销摊薄。另外一个优势是结构规整、没有复杂控制逻辑，容易做高主频和大规模。局限是适应性问题——为特定矩阵形状设计的阵列跑非规则计算（如稀疏、变长）时利用率会掉很多，所以现在很多方案是脉动阵列 + 灵活路由结合，兼顾效率和通用性。