车规芯片

内存瓶颈难破?AI芯片行业正通过“解耦内存”提速

华尔街见闻·2026/9/18 01:46:05🔗 原文

📋总体概括

在美银证券主办的2026年AI基础设施峰会上,Micron、三星、SK海力士、博通、Marvell、英特尔、高通、OpenAI、AWS、谷歌等厂商集体聚焦「内存墙」问题,内存与存储分层解耦成为最具共识的路线。Transformer模型规模每两年增长约240倍,而内存带宽与容量仅增长约2倍,结构性剪刀差迫使行业重构架构:高通展示HBC方案、三星推zHBM、SK海力士发布PIM、HBF与SALT-KV,行业标尺也从FLOPs转向tokens/W与tokens/$。

关键信息

  • Transformer模型规模每两年增长约240倍,内存带宽与容量仅增长约2倍,剪刀差持续扩大
  • 峰会共识:内存与存储分层解耦成为应对内存墙的主流技术路径
  • 高通HBC方案将LPDDR堆叠于计算芯片上,容量/功耗比较SRAM高约200倍,带宽/功耗比较HBM高约6倍
  • SK海力士推出PIM、HBF(容量约为HBM的10倍)及SALT-KV跨层KV缓存调度三类方案
  • 行业效率标尺从FLOPs转向tokens/W和tokens/$,博通、Marvell、Astera Labs等定制芯片与互联厂商受关注

🔥犀利点评

内存墙本质是摩尔定律失速后,GPU中心架构的遮羞布被扯掉了。算力不稀缺,带宽和容量才稀缺,所以行业集体转向解耦内存和每瓦令牌数——这是从卖FLOPs到卖效率的范式切换。但别急着欢呼:PIM、HBF、zHBM各家各说各话,互操作标准和生态统一还遥遥无期,解耦谈何容易。真正确定的赢家是博通、Marvell这些互联中间层玩家,蛋糕再怎么切,管道钱先赚到。

本文由本站自动聚合,以下为原始来源:前往 华尔街见闻 阅读全文