产业观察
PS5主机都能跑本地AI了:6年的技术比AMD、NV顶级芯片还要强
📋总体概括
有网友逆向改造2019年发布的PS5主机,将其变成可运行本地大模型的AI设备,成功跑通Qwen 27B模型,量化到2bit后速度约20 Token/s。PS5的Zen2 CPU与RDNA2 GPU规格早已落后,但其杀手锏是统一的GDDR6内存系统:256bit位宽带来448GB/s带宽,至今仍超过苹果M4 Max(410GB/s)、M5 Pro(307GB/s)乃至NVIDIA DGX Spark的273GB/s。这说明大模型本地推理的关键瓶颈在内存带宽而非算力,老旧游戏主机凭内存设计意外翻身。
⚡关键信息
- ▸网友逆向PS5改造为AI设备,跑通Qwen 27B模型,2bit量化下速度约20 Token/s
- ▸PS5为2019年硬件:Zen2 CPU加RDNA2 GPU,GPU算力仅10.3TFLOPS,规格已明显过时
- ▸PS5采用GDDR6统一内存设计,256bit位宽实现448GB/s带宽
- ▸该带宽领先苹果M4 Max的410GB/s、M5 Pro的307GB/s及NVIDIA DGX Spark的273GB/s
🔥犀利点评
这事最好笑的地方在于:花几万配AI主机的玩家,被一台吃灰的PS5按在地上摩擦。本质不是PS5神,而是内存带宽才是本地推理的真正瓶颈——LLM推理大部分时间在搬数据,算力再猛也喂不饱。苹果和NVIDIA搞紧凑设备却把带宽做不过6年前的游戏机,说明多少厂商根本没想清楚推理场景的真实需求。想要大内存大带宽,游戏主机的方案反而最诚实。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →