资讯
一台跑不动就上16台!英伟达DGX Spark集群成功跑通Kimi K3:生成速度达38 t/s
📋总体概括
快科技9月5日消息, 英伟达开发者论坛用户ciprianveg近日公布了一项本地AI算力测试,通过将16台英伟达DGX Spark组成运算集群,成功运行了完整的Kimi-K3大模型,测试结果表明,该系统在16000深度下的最高生成速度可达38 t/s。 英伟达DGX Spark原本是面向本地AI开发和推理的桌面设备,随着Qwen、DeepSeek等模型的普及,单台设备的计算和显存资源往往难以满
⚡关键信息
- ▸快科技9月5日消息, 英伟达开发者论坛用户ciprianveg近日公布了一项本地AI算力测试,通过将16台英伟达DGX
- ▸英伟达DGX Spark原本是面向本地AI开发和推理的桌面设备,随着Qwen、DeepSeek等模型的普及,单台设备的计
- ▸该项目通过直接增加计算节点的方式,将应用场景从单机测试扩展到了多机并行。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →