产业观察
砍价砍到六折!网友250元捡漏9卡废旧矿机:54GB显存能跑70B模型
📋总体概括
一名Reddit网友在俄罗斯二手平台Avito上花约3000卢布(约250元人民币)购入一台9卡退役矿机,显卡为GTX 1060挖矿版P106,单卡6GB显存,合计54GB。经砍价从5000卢布砍至六折成交。该系统在8-bit量化下可运行Qwen3.8-27B等模型,4-bit或5-bit量化下最高支持70B参数模型,Ollama运行Qwen3.6-35B-A3B时生成速度超每秒30 token。但矿机主板PCIe带宽等物理瓶颈限制了推理效率,属于极客式低成本玩AI的典型样本。
⚡关键信息
- ▸网友在俄二手平台Avito以约3000卢布(约250元)购入9卡退役矿机,从5000卢布砍至六折成交
- ▸9张P106显卡为GTX 1060挖矿版,单卡6GB显存,合计54GB总显存
- ▸8-bit量化可运行Qwen3.8-27B等模型,4-bit或5-bit量化下最高支持70B参数模型
- ▸Ollama运行Qwen3.6-35B-A3B时token生成速度达每秒30个以上,仍有优化空间
- ▸矿机主板PCIe带宽有限,显存容量之外的数据传输带宽成为推理效率的物理瓶颈
🔥犀利点评
250元跑70B模型,看着像AI平权童话,实则是矿难遗产的最后一波收割。P106无视频输出、PCIe带宽被矿板掐死,30 token每秒的成绩全靠小模型量化硬撑,真跑70B大概率卡成幻灯片。这事的本质是算力过剩时代的废品再定价:对极客是玩具,对想省云API钱的人是坑。别被54GB显存的数字迷了眼,带宽才是推理的命门。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →