近日，小米玄戒O100 AI加速芯片与苹果新款Mac mini及Mac Studio先后亮相，两者均将内存带宽推至TB/s级别，这预示着"喂饱GPU"的数据之争已经全面打响。
这并非偶然，这一趋势与2025年初发布的英伟达RTX 5090不谋而合——无论是桌面SoC、端侧NPU还是独立GPU，都在将内存带宽推向新的高度，以解决AI大模型运行时数据搬运的瓶颈问题。
为什么是内存带宽？ 内存带宽是计算核心与数据之间的通道宽度。大语言模型在自回归生成阶段，每输出一个Token，都需要将内存中数千亿参数的权重完整读取一遍。换句话说，计算单元再强大，大部分时间也在等待数据到达。这种"内存受限"现象已成为制约AI性能的关键瓶颈，也就是业界所说的"内存墙"。
苹果Mac产品营销总监Laura Metz对此解释称，M6系列之所以将内存带宽提升数倍，是因为在运行AI Agent时，模型必须驻留在统一内存中随时待命。
三家的技术路径各有侧重，但方向惊人一致。苹果M6系列的三档配置，恰好标出了AI硬件内存带宽的三个门槛：标准版M6为170GB/s，Pro版307GB/s，顶配Ultra版则突破至1.2TB/s——相比M3 Ultra提升50%，同时配备最高512GB统一内存，可本地运行数千亿参数的大模型。
小米玄戒O100则选择了更激进的方案：通过6nm晶圆级垂直堆叠工艺，将两层AI专用DRAM晶圆与一层NPU晶圆直接压合，配合Hybrid Bonding混合键合技术，键合间距缩短至1.4μm，数据通路从传统封装的96路暴增至28672路，最终实现1.22TB/s带宽——约为主流旗舰手机的16倍。原型机实测端侧推理速度最高可达330 Tokens/s。
英伟达RTX 5090则依托传统的独立显存方案，通过512-bit位宽配合32GB GDDR7显存，将带宽推至接近1.8TB/s，仍是消费级显卡的带宽天花板。
三家带宽齐冲TB/s，虽然路径不同——苹果靠UltraFusion多晶粒封装堆统一内存，小米用晶圆级3D堆叠实现"近存计算"，英伟达押注GDDR7位宽与频率——但指向同一个结论：数据喂给计算核心的速度，决定了AI硬件的真实性能。
这项竞赛让内存带宽成为比核心数、比算力TFLOPS更值得关注的AI性能指标。谁能率先在数据搬运速度上建立优势，谁就能在下一个计算时代占得先机。
