Tesla V100 是 2017 年发布的老卡，单卡 32GB HBM2、900GB/s 带宽。YouTuber Jun Yamog 把四块 V100 装到一块 NVLink 载板上，拿它跑了本地大模型推理，结果在部分项目上超过了 M5 Ultra 和两台 DGX Spark。代价是硬件改造：载板、散热、转接，一样都不能少。

怎么把四块 V100 塞进去没有 NVLink 载板，四块 V100 根本装不进一台机器。Jun 找到了能提供 300GB/s 带宽、带六个 NVLink 2.0 通道的载板，安装本身还算可控，真正麻烦的是散热。他的办法是把 NVIDIA A100 的散热器铣削改造，让它适配 V100，改完之后这个大家伙能压住每颗芯片 300W 的发热。载板再通过几个转接适配器接到 PCIe x8 上。
跑分结果测试项目是 Qwen3.8-Flash-Next，采用 4-bit 量化，对比对象是两台 DGX Spark（128GB LPDDR5X 统一内存）和一台 M5 Ultra。长提示词的 prompt 处理环节，四块 V100 比 DGX Spark 集群快 40%，比 M5 Ultra 快 230%。换成短提示词，对 DGX Spark 的领先幅度仍是 40%，对 M5 Ultra 扩大到 163%。短提示词的 token 生成环节，V100 平台的领先幅度为 121%，同一测试里 M5 Ultra 的成绩是 44.5 tok/s。

差距不全在硬件Jun 自己指出，与 Apple Silicon 之间的巨大差距很可能来自软件优化不足，而不全是算力本身的差距。基准里还加入了另一位 YouTuber Alex Ziskind 的八块 RTX PRO 6000 作为参照。



老卡还有别的用法V100 被再利用的案例不止这一个。此前有用户把它和 RTX 4080 装进同一个机箱，靠多出来的显存和带宽跑 27B 模型。
价格便宜，门槛不低在 eBay 上，32GB 版本的 V100 大约 744 美元一块，买两块就能把能跑的模型规模放宽一档，账面上比买新平台划算。但这笔账没算上载板、散热改造、转接件和电费，也没有算上折腾的时间。想省下每月订阅费又愿意动手的人，这套方案才有意义。