资讯
奥特曼需要所有内存
📋总体概括
包括PC爹爹个人持有的内存条。 OpenAI首席执行官山姆·奥特曼在播客节目中谈到内存紧缺话题,他认为将内存装在PC中供开源模型使用是一个糟糕的主意: “很多人想跑本地推理,他们以为这个东西堪用了,开源模型加本地运行,以后就不需要数据中心了。” “但以资源分配的角度来看,每个人都把宝贵的内存闲置在自己的电脑里,利用率只有5%,这其实很糟糕。在资源受限的情况下,最集约的办法是使云端资
⚡关键信息
- ▸包括PC爹爹个人持有的内存条。
- ▸OpenAI首席执行官山姆·奥特曼在播客节目中谈到内存紧缺话题,他认为将内存装在PC中供开源模型使用是一个糟糕的主意:
- ▸“很多人想跑本地推理,他们以为这个东西堪用了,开源模型加本地运行,以后就不需要数据中心了。”
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →