消息称美光正探索开发近GPU NAND闪存以运行更大的LLM

📋总体概括

据新浪财经报道，美光正探索开发「近GPU NAND」闪存方案，将高耐久性NAND模块布置在更靠近GPU的位置，服务那些无需HBM或常规DRAM级别延迟与带宽的工作负载。该架构牺牲部分密度（低于传统TLC/QLC），换取更高的I/O速度、带宽和读取速度，目标让GPU直接访问数百GB存储池，从而缓解大模型推理时的内存容量瓶颈。若落地，将为LLM推理提供HBM之外的性价比路线，重塑存储层与计算层的耦合方式，对存储厂商是新的增量战场。