天价内存把大厂逼成垃圾佬！拆退役服务器抠DDR4用

📋总体概括

快科技9月3日报道，谷歌供应链高级总监Nikhil Cherian透露，AI行业已从算力受限转向内存受限，高性能内存约占单台AI服务器物料成本的75%。为此谷歌在硬件上建立内部回收供应链，拆解退役服务器回收DDR4模组，并设计转接器让本应使用DDR5的新AI服务器降级兼容DDR4；软件端则通过优化底层函数库、模型架构和KV Cache压缩来降低内存消耗，并推出TPU8t/TPU8i两款ASIC，其中TPU8i配288GB HBM3e、8.6TB/s带宽及384MB片上SRAM。这一罕见举措凸显DRAM供应紧张已到影响AI基建扩张的程度。