**存储器决定AI的未来：专访HBM之父金正浩**
“我认为，十年以后，NAND Flash和HBF的市场需求，可能会比HBM还要大。”“冷却技术会成为三星和SK海力士之间的性能差异来源。”“HBM、HBF，甚至其他高带宽存储器，未来都会变成一栋栋‘百层大楼’。最上面再放上GPU，进行冷却。这样的3D半导体结构，几乎必然会成为未来AI计算机的架构。这是我现在的判断。其中最难的技术之一，就是供电。因为你要供应几千安培的电流。未来最难的，可能就是电源供应网络的设计。这会成为真正的技术壁垒。”
存储业是2026年资本市场最喧嚣的叙事。7月10日，SK海力士以265亿美元登陆纳斯达克，创下外国公司在美上市的最大规模纪录。然而仅仅三天后，它在韩国市场创下单日暴跌15%的历史纪录，三星同日跌幅超10%，抛售蔓延至美股，美光、闪迪、西部数据无一幸免。订单端却是另一番景象，美光的HBM产能已卖空到2027年，铠侠2026年全年NAND产出在1月就被订完。
在股价的剧烈分歧面前，回到技术源头，不妨听听一个在技术设计上做了30多年的人怎么讲。
金正浩，韩国科学技术院（KAIST）教授，业界称他为“HBM之父”，领导的TERA Lab主导HBM设计技术二十余年，2010年起直接参与商用化设计，2025年发布了从HBM4到HBM8、覆盖至2040年的路线图。
1993年金正浩在密歇根大学拿到博士学位，用激光在飞秒尺度测量世界上最快的电信号，导师是2018年诺贝尔物理学奖得主杰哈·穆胡。30年后，AI时代的数字电路提速到皮秒甚至飞秒级别，“我30年前做的东西，现在反而全都派上了用场。”
在7月初《东亚日报》这场访谈里，金正浩有几个判断值得投资人细读：
1. 10年后NAND Flash和HBF的市场需求可能会比HBM大；
2. AI能力最终是由存储器能力决定的。他把AI数据中心直接叫作“存储器工厂”，并主张把CPU、GPU放进HBM里面；
3. 定制化HBM会打破存储器周期。其以客户的长期采购协议为开发前提，市场变成卖方市场；
4. HBM、HBF、HBS层层堆叠，到那时，电源供应网络和冷却技术会变得极其重要。
需要注意下他的立场，毕竟身为韩国人和存储技术专家，金正浩对于三星和海力士的乐观听下来确实有点满满当当。当然，他也讲到风险，包括中国存储企业的竞争力，以及美国本身技术的追赶和客户订单的其他考量，都会对两家企业产生很大影响。至于存储股价，他把自己留在能力圈内，直言“股价预测不是我的领域”。但技术的底层逻辑和发展路线，讲得非常清晰。
**HBM的真正爆发是在ChatGPT出现之后**
主持人：我们可能得先从HBM讲起。其实HBM真正开始量产、被大规模采用，也就是最近两年左右的事情？
金正浩：准确地说，HBM3是这样。但HBM1其实从2010年代初就开始了。当时SK海力士已经参与进来，GPU这一边则有英伟达和AMD。所以，HBM1大概是在2010年代初开始的。只不过那时候主要还是用在显卡上。
主持人：你拿到博士学位是在1990年代，对吧？
金正浩：没错。
主持人：但你很早就开始研究后来被称为HBM的东西了。
金正浩：是的。我是在1993年拿到博士学位的。当时我的研究方向其实更接近物理学。我做的是一种测量仪器，用来测量世界上最快的电信号，是用激光来测的。我的导师几年前还拿了诺贝尔物理学奖。那个时候，我做的设备可以在飞秒级别观察现象。所谓飞秒，就是连光都几乎像静止了一样的极端时间尺度。我们用激光去观察那个尺度下发生的事情。而今天进入AI时代以后，因为需要处理的数据实在太多，数字电路的运行速度已经快到皮秒，甚至飞秒级别。所以我三十年前读博士时做的东西，现在反而全都派上了用场。
不过，当时博士阶段研究的领域太窄、太深了。我这个人性格上又希望和现实世界多一点连接，不想只活在一个特别狭窄的学术领域里。也不知道当时怎么想的，我觉得未来存储器会变得非常重要。所以1994年，我加入了三星电子的存储器事业部。从那时起，我就一直在学习和研究存储器。后来1996年，我来到KAIST任教。大概到了2010年前后，在此之前十多年里，其实一直有很多HBM前期的基础研究在进行。后来这些研究以商品的形式，落到了HBM这个产品上。
主持人：你当年研究、思考HBM这个概念的时候，有没有预想到未来会进入人工智能时代？有没有想到它会成为AI时代的核心？
金正浩：没有。当时AMD和英伟达想的是把它用在显卡里。但显卡需要的数学，和人工智能需要的数学，其实是一样的。所以后来HBM成了人工智能的核心零部件。但一开始，站在英伟达的角度，他们知道这个东西可以用在显卡上。而我当时想的是，韩国电视产业很发达，我想把这个芯片放进电视机里。我觉得它会让电视画面更华丽、更生动、更有真实感。所以我当时设想的用途是电视。
大概到了2015年，我在学校里和一些年轻教授开会，他们开始提到“深度学习”这个词。那是人工智能比较早期的时候。他们半开玩笑地说：“原来还有这种技术。”但在场的人里，好像只有我没听明白。也正是从那时候开始，我意识到自己必须认真学习AI。所以从2015年前后起，我事实上把自己的研究重心转向了AI。研究了几年以后，我发现AI算法和HBM正好吻合，并意识到，这个东西会在AI里爆发式使用。当时主要还是CNN，也就是把摄像头接上去识别物体；再往后一点，是强化学习，比如让AI下围棋之类。即便在那些应用里，也大量用到矩阵，所以需要HBM。但真正像今天这样爆发，是在ChatGPT出现之后。
**HBM的核心是堆叠扩容和并行加速**
主持人：我理解的HBM，就是把多个DRAM堆叠起来。这个理解对吗？
金正浩：对，是这样的。不过刚才也说了，无论是显卡还是AI，它们本质上都要做计算，而计算时必须从存储器里快速读取数据。HBM之所以必要，有两个原因。
第一个，是容量必须足够大。尤其是AI正在走向上下文工程、多模态和物理AI，存储器里需要存放的数据量越来越大。我感觉这个容量大概每年都会翻倍。如果每年翻倍，十年就是一千倍。如果要增加存储器容量，传统做法是把半导体里的晶体管和存储单元继续缩小。但现在已经到了非常困难的边界。因为晶体管和存储单元之间会产生干扰，也会有漏电现象。基本上已经接近量子力学边界了，很难再继续缩小。也就是说，容量很难再靠缩小尺寸来增加。所以我从2000年代初就开始讲，未来的存储器一定会堆叠，也必须堆叠。当大多数人还在设计单层半导体的时候，我们就开始想：我们要把它堆起来。当然，我们主要做的是设计，真正把它实现出来的是三星和海力士。但我们很早就有“必须堆叠”的想法。后来以产品形式出现的，就是HBM。
第二个，是即使容量够大，数据也必须快速供应给GPU。只有这样，ChatGPT才能快速把文章、文字回复给我们，现在甚至还要生成视频、电影。要提升速度，就必须让数据并行、同时传输。如果传统存储器像一条八车道高速公路，那么HBM就是1024车道。现在已经到了2048车道，几年以后可能会变成一百万车道。所以HBM的两个核心特点是：一是通过堆叠来增加容量；二是安装“电梯”和“高速公路”，用接近光速的方式，把数据以比传统存储器快一千倍、甚至一百万倍的速度传出去。这就是所谓的并行结构。这两点也是HBM的核心。
**10年后NAND Flash和HBF的市场需求可能会比HBM大**
主持人：现在大家都在谈HBM，不过也开始出现HBF这个概念。HBF是什么？它和HBM有什么不同？
金正浩：一般来说，存储器主要分两类：DRAM和NAND Flash（一种非易失性存储器）。DRAM速度快，但不能长时间保存数据。NAND Flash容量大，速度相对慢一些，但容量非常大，大概是DRAM的十倍左右，而且可以长时间保存数据。所以它通常用于相机等设备。
刚才说了，HBM是把DRAM堆起来，放在GPU旁边。但现在的问题是，容量还是不够。为什么？因为AI开始讲Context Engineering，也就是上下文工程。输入AI的时候，不再只是输入文字，还会附上参考文件，甚至附上YouTube视频。这样一来，视频文件、图像文件都会急剧增加。于是存储器容量还要继续扩大。在计算过程中，中间阶段的数据也都要保存下来。我们一般叫KV Cache，也就是键值缓存。再进一步，如果进入Agentic AI，我可能会雇用10个、100个AI来替我工作。那AI替我做的工作量，会比我自己多一百倍，而且Agentic AI是24小时工作的。人中间还会休息，还要睡觉。AI不会。所以工作量会大幅增加，存储器容量也会随之大幅增加。即使我们已经把DRAM堆起来了，容量还是不够。那还有没有别的方法？于是就有人提出，把NAND Flash也堆起来。把NAND Flash堆叠起来，就是HBF。
现在正在开发HBF的公司包括SK海力士、闪迪、三星电子。日本的铠侠应该也在开发。最近铠侠的股价甚至超过丰田汽车，成为日本股市第一。美国这边，做NAND Flash或者HBF的美光、闪迪，股价一直在上涨。韩国这边，三星和海力士在做，所以它们的市值排在前面。
现在GPU旁边会连接两类存储器：一种是HBM，一种是HBF。还有一种说法是，紧挨着GPU、帮助GPU计算的存储器，叫Hot Memory，也就是热存储器。而我们过去留下的各种记录，也需要放在旁边长期保存。AI要记住关于我的信息，这类装置可以叫Cold Memory，也就是冷存储器。现在这两边的需求都在增长。从长期看，我认为十年以后，NAND Flash和HBF的市场需求，可能会比HBM还要大。所以现在是HBM的时代，但三星电子和SK海力士必须好好准备，迎接HBF时代。这是我的主张。
主持人：你之前经常提到，2038年可能会出现HBM8。到那个时候，HBM和HBF可能都会实现商业化。它们两者是互补关系吗？
金正浩：是的。今年已经出现HBM4了，几年后会出现HBM5。接下来每两三年就会更换一代。十年左右以后，可能会发展到HBM8。到了HBM8这个阶段，我认为HBM和HBF会一起使用。HBM容量相对小一些，但速度更快；HBF速度慢一些，而且在物理上也有一些限制，但它的容量大。所以最理想的是HBM，但如果容量不够，旁边可能就会接上HBF。也就是说，到HBM8左右，不会只有一种存储器，而是两者共存。这有点像一片公寓社区。最中心可能有百货商场，周边是各种住宅区。有商住混合的办公住宅，也有普通住宅。未来也会有各种形态的HBM和HBF，组成一个复合体，相互连接，然后一起向GPU供应数据。从总容量看，到HBM8这个阶段，HBF的容量可能会比HBM更大。
主持人：归根结底，就是一个堆DRAM，一个堆NAND。只靠一种不够，所以两种都必不可少。
金正浩：没错。而且在全世界范围内，能同时做这两件事的公司，只有三星电子和SK海力士。现在闪迪和铠侠的股价虽然涨得很厉害，但它们只能做HBF。eSSD也是一种堆叠NAND的技术，但它们做不了HBM。所以我认为，三星电子和SK海力士手里拥有引领未来最强大的工具。至于三星电子的会长、上一代会长、现任会长，以及SK海力士的会长，他们是不是已经把这些蓝图都画好了，我不太清楚，我没有和他们直接聊过，但我想他们应该也在努力学习。而我自己，是基于对未来的洞察，以及最基本的物理和数学，做出这样的预测。我认为未来大概率会这样发展。
**AI能力最终是由存储器能力决定的**
主持人：哇，那是不是可以说，三星电子和海力士拥有非常强的绝对优势？
金正浩：今天早上三星电子股价是不是又涨上去了？当然，股价预测不是我的领域。但股价背后的底层逻辑是，世界正在进入AI霸权时代。而在我看来，AI能力最终是由存储器能力决定的。直到去年，我还同时研究存储器、HBM和AI。那时我以为AI的能力来自数学。AI里有一个叫Attention的机制，也就是注意力机制。但要实现它，就必须有存储器。结果到最后，存储器的性能就变成了AI的性能。所以我现在把AI定义为：AI等于存储器。也就是说，做AI的企业、做AI的国家，或者用半导体建设数据中心的人，都不得不去排队找存储器公司。一个甲乙关系正在反转的时代正在到来。
更惊人的是，现在HBM和HBF是建设AI数据中心所必需的。现在也有人把它叫AI Factory，也就是AI工厂。它本质上是制造AI的工厂。而我最近会把它叫作Memory Factory，也就是存储器工厂。因为AI工厂的核心就是存储器。一个国家或一家企业拥有多少这样的设施，会决定AI国家霸权，也会决定AI企业的竞争力。谷歌Gemini、OpenAI、Anthropic Claude，到底谁更强？我的主张是：这由存储器决定。
而且最近还有一个趋势，就是为了保护个人信息，未来我的AI可能会直接在我的电脑上计算。这种个人电脑叫AI PC。英伟达现在也想做这个方向。它和台积电一起做这种PC，里面会放128GB的LPDDR之类的存储器。存储器用量非常大。如果要真正做好，可能需要TB级别的存储器。那一台PC的价格可能就会变成1000万韩元。也就是说，存储器价格会直接决定PC价格。还有一点，我认为未来的智能手机也不会是今天这样的智能手机，而会变成AI手机。屏幕上可能只剩一个窗口，问你：“有什么可以帮你？”其他东西都消失，AI会替我们完成一切。未来可能还会出现AI眼镜。但我认为，一部智能手机价格的一半以上，都会是存储器价格。所以我想强调的是：AI基础设施，以及AI模型继续发展，都会让存储器需求不断扩大，而另一个重要轴心，就是AI PC和AI手机。
**在推理阶段更重要的半导体是存储器**
主持人：现在全球大型科技公司里，英伟达的表现当然是压倒性的。那你认为，英伟达能够保持最强地位，最大的秘诀是什么？
金正浩：到去年为止，人工智能最重要的是训练。训练能力就是AI能力。在训练里，从计算角度看，Transformer模型有编码器和解码器。训练主要做的是编码器相关工作，还涉及反向传播，也就是数学里的微分。最擅长做这件事的半导体，就是GPU。所以在训练时代，就是GPU时代，因为做AI必须有GPU。于是大家排队，用很高的价格去买。但从去年夏天开始，推理变得更重要，也就是Inference变得更重要。这时候，更重要的反而是把大量数据输入进去。只靠训练，无法克服幻觉问题。幻觉是AI非常致命的问题。它会给出毫无根据的错误答案。这样就没法真正使用。所以如果要做个性化AI，推理就变得重要。而我认为，在推理阶段更重要的半导体是存储器。如果进入推理时代，存储器可能会比GPU更贵，需求量也会更大。
另外还有一个原因。GPU要提高性能，就必须扩大GPU面积，也就是放进去更多计算单元。其中有一家公司叫Cerebras，它的做法是把整个12英寸晶圆做成一个GPU。但这种方式很难形成大规模需求。因为如果晶圆上某个位置出现一个缺陷，可能整片晶圆都要报废。所以它的经济性不好，只能用于一些特殊目的。当然，不管怎样，这也是一种方法。但问题是，Cerebras也没有HBM、HBF。也就是说，它的存储器跟不上。所以到了推理时代，它会变弱。那英伟达能不能像存储器一样，把GPU也堆起来？堆不了。因为GPU太热，必须在背后加冷却装置，所以没办法堆叠。从这个角度看，GPU现在有点被逼到死角了。所以黄仁勋最近也有点坐立不安。他来韩国，上电视、投棒球、吃炸鸡、喝啤酒，见很多人……一个人如果心里很踏实，通常不会这么忙。其中一个原因就是，GPU的技术成长几乎正在走向停滞。相反，人工智能计算机未来的成长和演化，会取决于存储器。这是我的判断。
当然，现在还是英伟达的世界。
**主张把CPU、GPU放进HBM里面**
主持人：你说实际运行中的GPU可能只有10%在工作，这是什么意思？
金正浩：意思是，即使安装了100万台GPU，它们真正工作的时间可能也只有20%，甚至只有10%。为什么？因为GPU要等存储器把数据送过来，才能计算，再把结果送回去。但现在的问题是，数据不能很好地从存储器传过来。我们看到ChatGPT一个词一个词往外输出。每一个瞬间，它都要从HBM、HBF里读取数据，计算之后再写回去。但时间几乎都花在读写上了。在这期间，GPU其实是在等着，基本上是在闲着。所以关键在于：能不能更快读取数据，以及一次能读多少数据。这就是为什么需要HBM和HBF。但不管怎样，从计算角度看，不管算法怎么改善，用Turbo Control也好，用各种方法也好，我感觉GPU实际也就工作20%、30%的时间，其余时间大多在闲着。
主持人：所以你才说，未来会进入一个“GPU进入HBM或HBF内部”的时代。
金正浩：对。现在是HBM、HBF把数据送给GPU，GPU在那边眼巴巴等着。那我们干脆自己算不就好了？如果HBM是一栋公寓楼，那就在公寓一楼装一个GPU，让数据坐电梯下来，在同一栋楼里完成计算。这样中午吃饭也不用跑到别的楼，在自己楼里就解决了。所以我的主张是，把CPU、GPU放进HBM里面。也就是说，让GPU被彻底边缘化。不过如果太过分地把它排挤掉，可能会引发反弹，所以要适当分工，安抚一下它：“贵一点、难一点的活儿我们来做，你在旁边等着。”核心就是让GPU永远有点“口渴”，永远需要依赖我们。我把这种架构叫作Memory-Centric Computing，也就是以存储器为中心的计算。其实从HBM4开始，已经在朝这个方向走了。
主持人：如果把GPU放进HBM和HBF里，它也不是把很多GPU一层层堆起来，所以冷却问题应该不会那么严重吧？
金正浩：还是会有一些冷却问题。从HBM4开始，SK海力士和三星都在做，但性能可能会有一些差异。这个差异就和冷却有关。也就是谁能把热量更好地排出去。比如刚才用公寓楼来比喻，如果一楼商铺里放进了一部分GPU功能，一楼就会非常热。那上面的存储器就像住在地暖房上面一样。这样一来，性能就会下降，必须把“地暖房”的温度降下来。冷却技术会成为三星和SK海力士之间的性能差异来源。尤其从HBM4开始，出人意料的是，谁能更好地控制温度、冷却温度，会决定HBM的性能。GPU也是一样。所以现在冷却技术非常重要。我们实验室现在的想法是，既然一楼太热，那就把HBM里的部分GPU功能放到“屋顶”上去，然后在屋顶上装冷却塔，从上面直接冷却。这是我们提出的核心关键架构之一。我们的学生现在正在围绕HBM5做硕士、博士研究。我觉得这里面可能会出现一个很大的成果，可以再等等看。我们做这类研究，通常会发表很多论文，英伟达、AMD、三星、海力士应该都会看到。一开始他们心理上可能会抗拒，但如果最后发现“只能这么做”，那事情就会自然往这个方向滚动起来。
主持人：如果像你说的那样，未来GPU会进入HBM和HBF内部……
金正浩：我后来还主张，连CPU也应该放进去。
主持人：如果真是这样，那三星电子和海力士是不是会变得更强？
金正浩：现在机会正在到来。所谓更强，就是它们会拥有更大的主导权。那样一来，它们就有可能成为超越英伟达的企业。但要做到这一点，必须开发技术，必须投资，也必须培养人才。还要有政策判断和经营判断。不能一听就说：“为什么要做这种没用的东西？”管理层要有开放心态。我觉得经营者的判断是最重要的。
**NPU这样的利基市场也会有机会**
主持人：你认为，未来会从GPU时代走向存储器时代，这个趋势似乎已经开始了。不过现在GPU势头这么猛，又出现了NPU。NPU到底是什么？
金正浩：它们本质上都是处理器，都是做数学里的矩阵计算，都是AI所需要的东西。GPU原本的完整说法是GPGPU。TPU里也要放HBM。所以无论如何，它离不开HBM，离不开存储器。比如Gemini既可以写文章，也可以做LLM，还可以画图，功能非常多。而如果不是做这么多功能，而是只为了把写文章这类特定功能做好，把功能缩小、简化，就会出现一种芯片，叫NPU。也有人把它叫LPU。它们都是人工智能所需要的计算器，只是更适合特定目的，规模更小，耗电更低，成本也更低。这种处理器，我们称之为NPU。韩国国内现在有Rebellions、Furiosa AI、HyperAccel这些公司。全世界大概有十来家公司在做NPU。Furiosa和Rebellions虽然都是做NPU，但它们也会用到HBM。因为想要性能好，存储器就必须好。所以最后还是只能往这个方向走。
主持人：最近Furiosa和Rebellions都获得了韩国“国民成长基金”的大额投资。
金正浩：是的。
主持人：这是不是意味着，要它们好好和英伟达较量一下？这两家公司真的具备世界级竞争力吗？
金正浩：我当时就是评审委员。
主持人：你是评审委员？
金正浩：对。这里面有一层意思：英伟达不可能掌控世界上的所有东西。NPU、TPU也是如此。所以一定会存在利基市场，也就是缝隙市场。比如，如果我在沙特阿拉伯建设数据中心，假设全部用美国方案，依赖度就太高了。那我可能会想，至少其中10%用其他解决方案。在这种情况下，韩国的NPU企业就可能成为候选。还有一个角度是韩国国内。如果我们国内也要建设AI数据中心，刚才说到将来可能要建到100万台规模，那么其中10%如果全部用英伟达芯片，我们的依赖度就太高了。所以韩国有必要培养本土企业。因此，当时我们决定投资，核心就是想扶持韩国自己的本土公司。总结起来，就是这样。当然，从技术角度看，它们也有自己的优势。
**中国存储器企业可能会拿到5%或10%的市场份额**
主持人：现在不得不谈中国。大家也知道，中国已经开始开发HBM。下个月要上市的长鑫存储（CXMT），据说从今年开始量产HBM3。
金正浩：这个我还没有确认过。不过现在存储器需求爆发得太厉害，光靠三星、海力士和现有企业已经不够，所以市场可能会开始使用中国产品。因此，中国存储器企业可能会拿到5%或者10%的市场份额。中国国内市场也会扶持它们。比如华为、阿里巴巴这些公司，如果开始做NPU或GPU，就会需要存储器。所以中国进入存储器产业，某种程度上是不可避免的。他们现在似乎也想做HBM。从我收到的一些联系来看，是这样的。几年后，中国也许能做出HBM3。但到那时，它的良率和性能，和三星、海力士相比，应该还会有相当大的差距。而且到那个时候，三星和海力士可能已经把HBM5推向市场了。所以我们能做的，就是始终保持高市场份额，始终保持最强技术力，用这种方式继续领先。总有一天，美国企业、中国企业都会追赶HBM和HBF。所以这是一场关系到生存的游戏。我们必须活到最后。
主持人：现在长鑫存储和三星电子、海力士之间的技术差距，据说大概是三年左右，也有人说是三到五年。这个差距未来被缩小的可能性大吗？
金正浩：有几种风险。比如我们自己经营判断失误，投资没有及时跟上，人才没有充分储备；还有战争风险；又或者美中关系突然和解，美国解除技术封锁，这些都是最大的风险因素，比如英伟达说“我要使用中国存储器”，那对韩国来说几乎是致命的。所以国际政治也必须做好。
主持人：虽然这是极端情况，但也不能完全排除这种可能性吧？
金正浩：没法知道。如果从三十年、十年的尺度来看，哪里有永远的敌人，哪里有永远的朋友？
主持人：所以不能忽视中国的追赶。
金正浩：美国的追赶也存在。因为英伟达和谷歌不可能永远只看三星、海力士的脸色生活。它们很可能会不断给美光订单，也会给闪迪订单，还会给铠侠订单。
**未来电源供应网络和冷却技术会变得极其重要**
主持人：我最近看到你的一些研究，提到了一个概念：高带宽SRAM，也就是HBS。这个概念是你最早提出的吗？
金正浩：就像我刚才说的，我可以提出概念，但如果要真正实现，还需要三星、SK海力士工程师们大量努力。有些概念，十年、二十年后可能会引发很大的变化。刚才我提到过Cerebras。它有一个非常大的GPU。在NPU里，美国还有一种叫LPU的芯片。它们觉得用HBM有点没面子，而且会过度依赖别人，所以它们把存储器放进GPU里面。放进GPU内部的这种存储器，就叫SRAM。SRAM比DRAM快大约一千倍，但容量小很多。我后来仔细看了看，无论是Cerebras还是LPU，它们都用了SRAM，但容量不够。据我所知，Cerebras那颗覆盖整片12英寸晶圆的芯片，SRAM容量也只有44GB。而我的判断是，至少要有440GB，才能真正做点事情。所以我的想法是，干脆把整片12英寸晶圆全部铺满SRAM，做成一个芯片。然后把这种芯片再堆10层、12层，甚至16层。这样一来，容量就可以从100GB级别做到1600GB。这就非常惊人了。也就是说，把SRAM做成晶圆级规模，再堆叠起来，然后在上面放GPU。SRAM速度快一千倍，容量又足够，那这件事就说得通了。这种SRAM，我们称为HBS，也就是High Bandwidth SRAM。我未来的梦想是：HBM、HBF、HBS都变成一栋栋百层大楼，最上面放着GPU，再进行冷却。这种3D半导体结构，几乎必然会成为未来AI计算机的架构。这可能需要十年、二十年，甚至三十年。但其中最难的技术之一，就是供电。如果反过来把GPU堆在HBS、HBM上面，就要供应几千安培的电流。电源供应网络设计会成为最困难的问题。这会成为真正的技术力。无论是SK海力士、三星、美光，还是台积电，都是一样。接下来还有一个难题，就是如何冷却。这会成为实现这种结构的障碍。所以，电源供应网络和冷却技术会变得极其重要。现在我们讨论的是，台积电做得好还是三星做得好，几纳米制程做得怎么样，良率怎么样。但未来真正决定企业生存的，可能会变成：谁能给包含HBS在内的3D AI计算机供电，谁能把它冷却下来。
**定制化HBM会打破存储器周期**
主持人：HBS简直就是存储器半导体的终极形态。
金正浩：可以说是终极形态。我也想过这个问题。大概十年前，我听说Cerebras要用12英寸晶圆做GPU。我当时想：这是什么？要用在哪里？后来发现，可能主要是用于国防AI。当时我心里还有点傲慢，觉得这东西有什么用。但大概两周前，它在纳斯达克提交IPO了。这件事让我的想法有点变化，原来这种东西还是有地方能用。那如果Cerebras芯片最大的弱点是存储器不够，为什么不把存储器也堆起来？有一天早上，我突然想出这个概念，就给学生发邮件说：“帮我把这个画出来。”最近我开始讲HBS，就是从这里开始的。等今年新的硕士生进来，我想让他们从HBS开始做硕士、博士论文。
主持人：那首先得做SRAM，对吧？
金正浩：对。
主持人：现在谁能做SRAM？
金正浩：主要是代工厂。台积电和三星电子都能做。
主持人：今年三星电子和海力士加起来的营业利润，有人预测会达到500万亿到600万亿韩元之间。这现实吗？还是过于乐观？
金正浩：我觉得现实。
主持人：你认为这是非常合理的预测？
金正浩：我经常和三星电子、海力士的高管开技术会议，我感觉他们的眼神越来越亮。他们不会跟我讲销售额这种事情。但现在HBM、HBF还有一个非常重要的特点，就是Custom HBM，也就是定制化HBM。过去的模式是，先做出标准化产品，然后大量生产。买家买多买少，会导致价格上下波动。我们把这叫作周期。也就是说，主导权不在存储器厂商手里，而在CPU厂商、微软，或者电脑厂商手里。他们决定买多少。存储器厂商只能提前多做一些，看客户脸色，猜着多做。有时候客户让你多做，结果最后又不买，库存压力就落到我们自己身上。这就是所谓的存储器周期。但从HBM4开始，因为里面会加入GPU功能，还有一个重要功能是：HBM之间开始互相通信。过去HBM只做GPU吩咐的事情。而我的主张是，未来HBM之间要自己沟通，未来的HBM甚至可以让GPU之间互相竞争，谁对我更好，我就把更多存储器资源给谁。这有点像我们存储器之间成立一个“组合”或者“联盟”。我们自己决定，如果哪个GPU不讨我们喜欢，就不给它资源。大概是这个意思。这种变化意味着，随着算法、通信功能、GPU功能都进入HBM，不同公司的HBM设计会变得不一样。谷歌、AMD、英伟达，各自需要的HBM设计都会不同。而一旦进入定制化HBM，开发初期就会先拿到客户的采购承诺。这叫Long-Term Agreement，长期协议。如果客户不先承诺采购，开发可能根本不会启动。但现在AI企业太需要高性能HBM了，所以它们只能排队。于是市场变成了卖方市场，供应商开始决定价格。这和过去的范式完全不同。