近期谷歌透露了他们通过拆解退役服务器回收 DDR4 内存,重新用于新一代 AI 服务器应对内存短缺并延长相关硬件使用寿命的方案。
一般来说服务器本身的生命周期通常为3到6年,而内存的使用寿命往往比服务器长的多。但是数据中心在硬件财务折旧后,因为性能、能耗和可靠性直接报废,部分性价比DIY用户“垃圾佬”会购买这些淘汰处理的“洋垃圾”,称其为大船靠岸。但在大厂都勒紧裤腰带过日子的当下,这种捡漏似乎变得困难。
谷歌将退役服务器重新调回机房,拆解可用的DDR4内存然后使用专用硬件转接器/适配器接入AI 服务器。谷歌一方面优化底层库、模型架构和 KV Cache 压缩技术,降低单位算力的内存消耗。另一方面TPU芯片使用HBM3e和DDR5搭配回收的DDR4内存降低成本。但这些依然杯水车薪,谷歌呼吁 DRAM 厂商加速扩产解决缺口。
Meta在6月公布了自研Vistara CXL 2.0 ASIC(通过 PCIe Gen5 x16 接口桥接),将 DDR4 作为扩展内存池使用。每台服务器搭配768 GB DDR5 + 256 GB回收的DDR4(总计约 1 TB),优先使用本地高速 DDR5,冷数据再落到回收的 DDR4。微软与卡内基梅隆大学、华盛顿大学等合作研究 GreenSKUs 框架。重点是通过 CXL 等技术实现后向兼容,复用退役服务器的 RAM 和 SSD 等组件,降低碳足迹和制造相关排放。