最近一段时间,内存价格的持续上涨牵动着无数人的心。不仅是普通消费者在抱怨“开学三件套”变得昂贵,就连财大气粗的互联网大厂也深陷其中。甚至有媒体报道,知名科技巨头谷歌竟被这天价内存逼得不得不当起“垃圾佬”,开始拆解旧服务器内存来救急。这究竟是怎么回事?
据快科技报道,DRAM供应持续紧张,已迫使AI巨头转向回收旧服务器内存。谷歌供应链基础设施高级总监Nikhil Cherian透露,AI行业已从算力受限快速转向内存受限,高性能内存目前占单台AI服务器物料成本的约百分之七十五。为突破这一瓶颈,谷歌在软硬件两端同时发力。硬件层面,谷歌甚至建立了内部回收供应链,将退役服务器拆解,回收可用的DDR4内存模块。Cherian坦言,谷歌专门设计了硬件转接器,使上一代DDR4内存能够连接到新一代AI服务器上,并正在重新导入退役服务器以拆取其中的DDR4模组。软件层面,谷歌持续优化底层函数库、模型架构和KV Cache压缩技术,试图降低单位算力的内存消耗。今年谷歌推出的两款TPU ASIC——面向训练的TPU8t和面向推理的TPU8i,其中TPU8i每颗芯片配备了288GB HBM3e,提供8.6 TB/s内存带宽,并集成384MB片上SRAM用于存储活跃的KV缓存,减少对外部系统内存的查询需求。TPU8i服务器采用谷歌自研基于Arm架构的Axion处理器替代传统x86主机CPU,依赖高速DDR5内存架构处理数据预处理等主机级任务。
谷歌当“垃圾佬”乍一听颇为魔幻,万亿市值的科技巨头居然也开始干起“捡破烂”的活儿。很多人第一反应是谷歌没钱了,或者是在搞公关噱头。其实,AI产业的竞争重心早已从算力过渡到了内存。过去,行业讨论AI瓶颈时,目光总是聚焦在显卡芯片上,认为只要拿到足够多的高性能GPU,算力问题就能迎刃而解。但现实跑下来大家才醒悟,GPU再强,如果内存跟不上,大量的模型权重和上下文数据就无法存放,强悍的算力也发挥不出价值。大模型越做越大,上下文窗口越拉越长,每一次推理和训练都要消耗巨量内存。内存不再是配角,而是直接制约AI业务扩张的核心短板,木桶效应的短板已从显卡芯片转移到了更为现实的存储芯片。对于谷歌而言,内存是刚需而非选配。买全新服务器内存的代价已高到难以接受,继续大规模采购会直接吃掉云计算业务的利润空间。
退役服务器中的DDR4内存硬件本身并未失效,只是整机到达服役周期。熟悉硬件的朋友都知道,除非产品彻底更新换代,一根内存条的使用寿命往往很长。谷歌通过设计硬件转接适配器,将旧内存改造适配进新一代AI服务器,本质上是盘活沉淀在自家体系内的硬件资产。很多人疑问为何要强行复用DDR4,因为并非所有AI任务都需要极致的内存带宽,部分推理场景完全接纳旧规格内存,够用就是最优解。更深层次的原因在于供应端的结构性失衡。以三星、海力士、美光为代表的供给端,为了追逐AI风口下HBM的高利润,已将绝大部分先进制程产能和封装资源向HBM倾斜。这种战略选择挤占了原本服务于通用市场的产能,导致消费级和服务器级市场出现严重的结构性短缺。巨头们为了高利润放弃了对通用市场的供给保障,打破了产业链生态平衡。谷歌即便手握重金,在公开市场上也很难买到性价比合适的通用内存,尤其是当市场呈现“高端产能挤爆,中低端断供”的局面时。这种结构性短缺让供应链变得极其脆弱,谷歌拆解旧服务器也是被这种错配逼出来的招数。
谷歌拆解服务器内存,虽然国内很多“垃圾佬”都在使用,但这背后藏着极致的成本控制哲学。一方面,谷歌在构建内部循环经济体系。服务器核心零部件,尤其是内存颗粒的物理寿命往往远未终结,传统报废流程是巨大浪费,现在把这些拆下来重新循环利用,在自己的生态闭环里消化成本,这是在提高资产周转率和残值利用率。另一方面,这是在提升供应链弹性。外部供应商的产能随时可能因不可抗力或博弈而断供,谷歌不能把大模型命脉交给别人。通过建立内部循环机制,相当于在庞大的数据中心里建了一个“蓄水池”,外面缺水我不怕,自己池子里还有存货。这种供应链弹性在极端市场环境下的价值,远比省下的硬件采购费要大得多。这本质上是用空间换时间,用存量兜底增量。
连谷歌这种供应链话语权极强的绝对头部大厂都被逼得如此精打细算,这其实释放了一个非常危险的产业信号,代表着当前内存市场的问题已到了危如累卵的境地。大厂是产业链的“春江水暖鸭先知”,如果连谷歌都开始为内存发愁,中小型AI企业面临的生存环境将何其恶劣?内存如果继续毫无节制地涨价,对于整个产业发展将是巨大负面影响,甚至可能成为压垮部分AI创新公司的最后一根稻草。产业升级不能变成少数上游供应商收割全产业链的工具。当基础设施成本高到连最大应用方都觉得难以承受时,泡沫就离破灭不远了。现在的AI产业就像是在修一条通向未来的高速公路,结果修路必备的沥青被几个供应商炒到了天价,连最大的施工方都只能去刨旧马路上的沥青来补窟窿,这条路还能修多远?如果不能尽快平衡存储市场的结构性矛盾,AI产业的大规模落地和商业化闭环,很可能会在“天价内存”这道关卡前戛然而止。这个问题,值得全行业警惕。
