“我认为十年以后，NAND Flash和HBF的市场需求，可能会比HBM还要大。”

“冷却技术会成为三星和SK海力士之间的性能差异来源。”

“HBM、HBF，甚至其他高带宽存储器，未来都会变成一栋栋‘百层大楼’。最上面再放上GPU，进行冷却。这样的3D半导体结构，几乎必然会成为未来AI计算机的架构。这是我现在的判断。

其中最难的技术之一，就是供电。因为你要供应几千安培的电流。未来最难的，可能就是电源供应网络的设计。这会成为真正的技术壁垒。”

存储是2026年资本市场最喧嚣的叙事。

7月10日，SK海力士以265亿美元登陆纳斯达克，创下外国公司在美上市的最大规模纪录。仅仅三天后，它在韩国市场创下单日暴跌15%的历史纪录，三星同日跌超10%，抛售蔓延至美股，美光、闪迪、西部数据无一幸免。

订单端却是另一番景象，美光的HBM产能已卖空到2027年，铠侠2026年全年NAND产出在1月就被订完。

股价的剧烈分歧面前，回到技术源头，不妨听听一个在技术设计上做了30多年的人怎么讲。

金正浩，韩国科学技术院（KAIST）教授，业界称他为“HBM之父”，领导的TERA Lab主导HBM设计技术二十余年，2010年起直接参与商用化设计，2025年发布了从HBM4到HBM8、覆盖至2040年的路线图。

1993年金正浩在密歇根大学拿到博士学位，用激光在飞秒尺度测量世界上最快的电信号，导师是2018年诺贝尔物理学奖得主杰哈·穆胡。30年后，AI时代的数字电路提速到皮秒甚至飞秒级别，“我30年前做的东西，现在反而全都派上了用场。”

在7月初《东亚日报》这场访谈里，金正浩有几个判断值得投资人细读。

1、10年后NAND Flash和HBF的市场需求可能会比HBM大；

2、AI能力最终是由存储器能力决定的。他把AI数据中心直接叫作“存储器工厂”，并主张把CPU、GPU放进HBM里面；

3、定制化HBM会打破存储器周期。其以客户的长期采购协议为开发前提，市场变成卖方市场；

4、HBM、HBF、HBS层层堆叠，到那时，电源供应网络和冷却技术会变得极其重要。

需要注意下他的立场，毕竟身为韩国人和存储技术专家，金正浩对于三星和海力士的乐观听下来确实有点满满当当。当然，他也讲到风险，包括中国存储企业的竞争力，以及美国本身技术的追赶和客户订单的其他考量，都会对两家企业产生很大影响。

至于存储股价，他把自己留在能力圈内，直言“股价预测不是我的领域”。

但技术的底层逻辑和发展路线，讲得非常清晰。值得认真一听！

聪明投资者整理了这场对话的全文，分享给大家。

HBM的真正爆发是在ChatGPT出现之后

 主持人 我们可能得先从HBM讲起。其实HBM真正开始量产、被大规模采用，也就是最近两年左右的事情？

 金正浩 准确地说，HBM3是这样。

但HBM1其实从2010年代初就开始了。当时SK海力士已经参与进来，GPU这一边则有英伟达和AMD。

所以，HBM1大概是在2010年代初开始的。只不过那时候主要还是用在显卡上。

 主持人  你拿到博士学位是在1990年代，对吧？

 金正浩  没错。

 主持人  但你很早就开始研究后来被称为HBM的东西了。

 金正浩  是的。我是在1993年拿到博士学位的。当时我的研究方向其实更接近物理学。

我做的是一种测量仪器，用来测量世界上最快的电信号，是用激光来测的。

我的导师几年前还拿了诺贝尔物理学奖。

那个时候，我做的设备可以在飞秒级别观察现象。所谓飞秒，就是连光都几乎像静止了一样的极端时间尺度。我们用激光去观察那个尺度下发生的事情。

而今天进入AI时代以后，因为需要处理的数据实在太多，数字电路的运行速度已经快到皮秒，甚至飞秒级别。

所以我三十年前读博士时做的东西，现在反而全都派上了用场。

不过，当时博士阶段研究的领域太窄、太深了。我这个人性格上又希望和现实世界多一点连接，不想只活在一个特别狭窄的学术领域里。

也不知道当时怎么想的，我觉得未来存储器会变得非常重要。

所以1994年，我加入了三星电子的存储器事业部。从那时起，我就一直在学习和研究存储器。

后来1996年，我来到KAIST任教。大概到了2010年前后，在此之前十多年里，其实一直有很多HBM前期的基础研究在进行。后来这些研究以商品的形式，落到了HBM这个产品上。

另外，HBM需要很多不同技术，比如量子力学、半导体物理、数学等等。

回头看，这些其实都是我大学二年级、三年级时学过的课程。尤其是数学，线性代数用得特别多。我是1981年学的线性代数。

所以从1981年算起，到今天HBM不断发展，再到我们实验室提出HBM8、往后三十年的路线图，整个时间跨度差不多有五十年。

 主持人  你当年研究、思考HBM这个概念的时候，有没有预想到未来会进入人工智能时代？有没有想到它会成为AI时代的核心？

 金正浩  没有。当时AMD和英伟达想的是把它用在显卡里。但显卡需要的数学，和人工智能需要的数学，其实是一样的。

所以后来HBM成了人工智能的核心零部件。

但一开始，站在英伟达的角度，他们知道这个东西可以用在显卡上。

而我当时想的是，韩国电视产业很发达，我想把这个芯片放进电视机里。我觉得它会让电视画面更华丽、更生动、更有真实感。所以我当时设想的用途是电视。

大概到了2015年，我在学校里和一些年轻教授开会，他们开始提到“深度学习”这个词。那是人工智能比较早期的时候。他们半开玩笑地说：“原来还有这种技术。”

但在场的人里，好像只有我没听明白。

也正是从那时候开始，我意识到自己必须认真学习AI。所以从2015年前后起，我事实上把自己的研究重心转向了AI。

研究了几年以后，我发现AI算法和HBM正好吻合，并意识到，这个东西会在AI里爆发式使用。

当时主要还是CNN，也就是把摄像头接上去识别物体；再往后一点，是强化学习，比如让AI下围棋之类。即便在那些应用里，也大量用到矩阵，所以需要HBM。

但真正像今天这样爆发，是在ChatGPT出现之后。

接下来，AI还会继续发展到Agentic AI，也就是智能体AI；一部分也会走向Physical AI，也就是物理AI。

从算法上看，Agentic AI和Physical AI对存储器的使用量，可能会比现在高出一千倍。

那时候需要的可能就不是HBM，而是Ultra HBM了。

所以我们现在也提出了一些新的想法。

但无论如何，一开始我并不知道会这样。这也可以说是一种运气。

我大学二年级的时候非常喜欢矩阵和线性代数，没想到后来显卡和AI用的都是同一套数学。这就是运气。

HBM的核心是堆叠扩容和并行加速

 主持人  我理解的HBM，就是把多个DRAM堆叠起来。这个理解对吗？

 金正浩  对，是这样的。

不过刚才也说了，无论是显卡还是AI，它们本质上都要做计算，而计算时必须从存储器里快速读取数据。

HBM之所以必要，有两个原因。

第一个，是容量必须足够大。

尤其是AI正在走向上下文工程、多模态和物理AI，存储器里需要存放的数据量越来越大。

我感觉这个容量大概每年都会翻一倍。如果每年翻一倍，十年就是一千倍。

如果要增加存储器容量，传统做法是把半导体里的晶体管和存储单元继续缩小。但现在已经到了非常困难的边界。因为晶体管和存储单元之间会产生干扰，也会有漏电现象。

基本上已经接近量子力学边界了，很难再继续缩小。也就是说，容量很难再靠缩小尺寸来增加。

所以我从2000年代初就开始讲，未来的存储器一定会堆叠，也必须堆叠。

当大多数人还在设计单层半导体的时候，我们就开始想：我们要把它堆起来。

当然，我们主要做的是设计，真正把它实现出来的是三星和海力士。但我们很早就有“必须堆叠”的想法。

后来以产品形式出现的，就是HBM。

第二个，是即使容量够大，数据也必须快速供应给GPU。

只有这样，ChatGPT才能快速把文章、文字回复给我们，现在甚至还要生成视频、电影。

要提升速度，就必须让数据并行、同时传输。

如果传统存储器像一条八车道高速公路，那么HBM就是1024车道。现在已经到了2048车道，几年以后可能会变成一百万车道。

所以HBM的两个核心特点是：

一是通过堆叠来增加容量；

二是安装“电梯”和“高速公路”，用接近光速的方式，把数据以比传统存储器快一千倍、甚至一百万倍的速度传出去。

这就是所谓的并行结构。这两点也是HBM的核心。

10年后NAND Flash和HBF的市场需求可能会比HBM大

 主持人  现在大家都在谈HBM，不过也开始出现HBF这个概念。HBF是什么？它和HBM有什么不同？

 金正浩  一般来说，存储器主要分两类：DRAM和NAND Flash（一种非易失性存储器）。

DRAM速度快，但不能长时间保存数据。

NAND Flash容量大，速度相对慢一些，但容量非常大，大概是DRAM的十倍左右，而且可以长时间保存数据。所以它通常用于相机等设备。

刚才说了，HBM是把DRAM堆起来，放在GPU旁边。但现在的问题是，容量还是不够。

为什么？因为AI开始讲Context Engineering，也就是上下文工程。输入AI的时候，不再只是输入文字，还会附上参考文件，甚至附上YouTube视频。

这样一来，视频文件、图像文件都会急剧增加。于是存储器容量还要继续扩大。

在计算过程中，中间阶段的数据也都要保存下来。我们一般叫KV Cache，也就是键值缓存。

再进一步，如果进入Agentic AI，我可能会雇用10个、100个AI来替我工作。

那AI替我做的工作量，会比我自己多一百倍，而且Agentic AI是24小时工作的。人中间还会休息，还要睡觉。AI不会。所以工作量会大幅增加，存储器容量也会随之大幅增加。

即使我们已经把DRAM堆起来了，容量还是不够。

那还有没有别的方法？于是就有人提出，把NAND Flash也堆起来。

把NAND Flash堆叠起来，就是HBF。

现在正在开发HBF的公司包括SK海力士、闪迪、三星电子。日本的铠侠应该也在开发。

最近铠侠的股价甚至超过丰田汽车，成为日本股市第一。

美国这边，做NAND Flash或者HBF的美光、闪迪，股价一直在上涨。

韩国这边，三星和海力士在做，所以它们的市值排在前面。

现在GPU旁边会连接两类存储器：一种是HBM，一种是HBF。

还有一种说法是，紧挨着GPU、帮助GPU计算的存储器，叫Hot Memory，也就是热存储器。

而我们过去留下的各种记录，也需要放在旁边长期保存。AI要记住关于我的信息，这类装置可以叫Cold Memory，也就是冷存储器。

现在这两边的需求都在增长。

从长期看，我认为十年以后，NAND Flash和HBF的市场需求，可能会比HBM还要大。

所以现在是HBM的时代，但三星电子和SK海力士必须好好准备，迎接HBF时代。

这是我的主张。

 主持人  你之前经常提到，2038年可能会出现HBM8。到那个时候，HBM和HBF可能都会实现商业化。它们两者是互补关系吗？

 金正浩  是的。今年已经出现HBM4了，几年后会出现HBM5。

接下来每两三年就会更换一代。十年左右以后，可能会发展到HBM8。

到了HBM8这个阶段，我认为HBM和HBF会一起使用。

HBM容量相对小一些，但速度更快；HBF速度慢一些，而且在物理上也有一些限制，但它的容量大。

所以最理想的是HBM，但如果容量不够，旁边可能就会接上HBF。

也就是说，到HBM8左右，不会只有一种存储器，而是两者共存。

这有点像一片公寓社区。最中心可能有百货商场，周边是各种住宅区。有商住混合的办公住宅，也有普通住宅。

未来也会有各种形态的HBM和HBF，组成一个复合体，相互连接，然后一起向GPU供应数据。

从总容量看，到HBM8这个阶段，HBF的容量可能会比HBM更大。

 主持人  归根结底，就是一个堆DRAM，一个堆NAND。只靠一种不够，所以两种都必不可少。

 金正浩  没错。而且在全世界范围内，能同时做这两件事的公司，只有三星电子和SK海力士。

现在闪迪和铠侠的股价虽然涨得很厉害，但它们只能做HBF。

eSSD也是一种堆叠NAND的技术，但它们做不了HBM。

所以我认为，三星电子和SK海力士手里拥有引领未来最强大的工具。

至于三星电子的会长、上一代会长、现任会长，以及SK海力士的会长，他们是不是已经把这些蓝图都画好了，我不太清楚，我没有和他们直接聊过，但我想他们应该也在努力学习。

而我自己，是基于对未来的洞察，以及最基本的物理和数学，做出这样的预测。

我认为未来大概率会这样发展。

AI能力最终是由存储器能力决定的

 主持人  哇，那是不是可以说，三星电子和海力士拥有非常强的绝对优势？

 金正浩  今天早上三星电子股价是不是又涨上去了？当然，股价预测不是我的领域。

但股价背后的底层逻辑是，世界正在进入AI霸权时代。而在我看来，AI能力最终是由存储器能力决定的。

直到去年，我还同时研究存储器、HBM和AI。那时我以为AI的能力来自数学。

AI里有一个叫Attention的机制，也就是注意力机制。但要实现它，就必须有存储器。结果到最后，存储器的性能就变成了AI的性能。

所以我现在把AI定义为：AI等于存储器。

也就是说，做AI的企业、做AI的国家，或者用半导体建设数据中心的人，都不得不去排队找存储器公司。

一个甲乙关系正在反转的时代正在到来。

更惊人的是，现在HBM和HBF是建设AI数据中心所必需的。

现在也有人把它叫AI Factory，也就是AI工厂。它本质上是制造AI的工厂。而我最近会把它叫作Memory Factory，也就是存储器工厂。因为AI工厂的核心就是存储器。

一个国家或一家企业拥有多少这样的设施，会决定AI国家霸权，也会决定AI企业的竞争力。

谷歌Gemini、OpenAI、Anthropic Claude，到底谁更强？

我的主张是：这由存储器决定。

而且最近还有一个趋势，就是为了保护个人信息，未来我的AI可能会直接在我的电脑上计算。这种个人电脑叫AI PC。

英伟达现在也想做这个方向。它和台积电一起做这种PC，里面会放128GB的LPDDR之类的存储器。

存储器用量非常大。如果要真正做好，可能需要TB级别的存储器。

那一台PC的价格可能就会变成1000万韩元。也就是说，存储器价格会直接决定PC价格。

还有一点，我认为未来的智能手机也不会是今天这样的智能手机，而会变成AI手机。

屏幕上可能只剩一个窗口，问你：“有什么可以帮你？”

其他东西都消失，AI会替我们完成一切。

未来可能还会出现AI眼镜。

但我认为，一部智能手机价格的一半以上，都会是存储器价格。

所以我想强调的是：AI基础设施，以及AI模型继续发展，都会让存储器需求不断扩大，而另一个重要轴心，就是AI PC和AI手机。

在推理阶段更重要的半导体是存储器

 主持人  现在全球大型科技公司里，英伟达的表现当然是压倒性的。那你认为，英伟达能够保持最强地位，最大的秘诀是什么？

 金正浩  到去年为止，人工智能最重要的是训练。训练能力就是AI能力。

在训练里，从计算角度看，Transformer模型有编码器和解码器。训练主要做的是编码器相关工作，还涉及反向传播，也就是数学里的微分。

最擅长做这件事的半导体，就是GPU。所以在训练时代，就是GPU时代，因为做AI必须有GPU。

于是大家排队，用很高的价格去买。

但从去年夏天开始，推理变得更重要，也就是Inference变得更重要。

这时候，更重要的反而是把大量数据输入进去。

只靠训练，无法克服幻觉问题。幻觉是AI非常致命的问题。它会给出毫无根据的错误答案。这样就没法真正使用。

所以如果要做个性化AI，推理就变得重要。

而我认为，在推理阶段更重要的半导体是存储器。如果进入推理时代，存储器可能会比GPU更贵，需求量也会更大。

另外还有一个原因。

GPU要提高性能，就必须扩大GPU面积，也就是放进去更多计算单元。

其中有一家公司叫Cerebras，它的做法是把整个12英寸晶圆做成一个GPU。

但这种方式很难形成大规模需求。因为如果晶圆上某个位置出现一个缺陷，可能整片晶圆都要报废。所以它的经济性不好，只能用于一些特殊目的。

当然，不管怎样，这也是一种方法。

但问题是，Cerebras也没有HBM、HBF。也就是说，它的存储器跟不上。所以到了推理时代，它会变弱。

那英伟达能不能像存储器一样，把GPU也堆起来？堆不了。

因为GPU太热，必须在背后加冷却装置，所以没办法堆叠。

从这个角度看，GPU现在有点被逼到死角了。

所以黄仁勋最近也有点坐立不安。他来韩国，上电视、投棒球、吃炸鸡、喝啤酒，见很多人……一个人如果心里很踏实，通常不会这么忙。

其中一个原因就是，GPU的技术成长几乎正在走向停滞。

相反，人工智能计算机未来的成长和演化，会取决于存储器。

这是我的判断。

当然，现在还是英伟达的世界。

主张把CPU、GPU放进HBM里面

 主持人  你说实际运行中的GPU可能只有10%在工作，这是什么意思？

 金正浩  意思是，即使安装了100万台GPU，它们真正工作的时间可能也只有20%，甚至只有10%。

为什么？因为GPU要等存储器把数据送过来，才能计算，再把结果送回去。

但现在的问题是，数据不能很好地从存储器传过来。

我们看到ChatGPT一个词一个词往外输出。每一个瞬间，它都要从HBM、HBF里读取数据，计算之后再写回去。

但时间几乎都花在读写上了。在这期间，GPU其实是在等着，基本上是在闲着。

所以关键在于：能不能更快读取数据，以及一次能读多少数据。

这就是为什么需要HBM和HBF。

但不管怎样，从计算角度看，不管算法怎么改善，用Turbo Control也好，用各种方法也好，我感觉GPU实际也就工作20%、30%的时间，其余时间大多在闲着。

 主持人  所以你才说，未来会进入一个“GPU进入HBM或HBF内部”的时代。

 金正浩  对。现在是HBM、HBF把数据送给GPU，GPU在那边眼巴巴等着。

那我们干脆自己算不就好了？如果HBM是一栋公寓楼，那就在公寓一楼装一个GPU，让数据坐电梯下来，在同一栋楼里完成计算。这样中午吃饭也不用跑到别的楼，在自己楼里就解决了。

所以我的主张是，把CPU、GPU放进HBM里面。

也就是说，让GPU被彻底边缘化。

不过如果太过分地把它排挤掉，可能会引发反弹，所以要适当分工，安抚一下它：

“贵一点、难一点的活儿我们来做，你在旁边等着。”

核心就是让GPU永远有点“口渴”，永远需要依赖我们。

我把这种架构叫作Memory-Centric Computing，也就是以存储器为中心的计算。

其实从HBM4开始，已经在朝这个方向走了。

 主持人  如果把GPU放进HBM和HBF里，它也不是把很多GPU一层层堆起来，所以冷却问题应该不会那么严重吧？

 金正浩  还是会有一些冷却问题。

从HBM4开始，SK海力士和三星都在做，但性能可能会有一些差异。

这个差异就和冷却有关。也就是谁能把热量更好地排出去。

比如刚才用公寓楼来比喻，如果一楼商铺里放进了一部分GPU功能，一楼就会非常热。

那上面的存储器就像住在地暖房上面一样。这样一来，性能就会下降，必须把“地暖房”的温度降下来。

冷却技术会成为三星和SK海力士之间的性能差异来源。

尤其从HBM4开始，出人意料的是，谁能更好地控制温度、冷却温度，会决定HBM的性能。

GPU也是一样。

所以现在冷却技术非常重要。

我们实验室现在的想法是，既然一楼太热，那就把HBM里的部分GPU功能放到“屋顶”上去，然后在屋顶上装冷却塔，从上面直接冷却。

这是我们提出的核心关键架构之一。

我们的学生现在正在围绕HBM5做硕士、博士研究。我觉得这里面可能会出现一个很大的成果，可以再等等看。

我们做这类研究，通常会发表很多论文，英伟达、AMD、三星、海力士应该都会看到。

一开始他们心理上可能会抗拒，但如果最后发现“只能这么做”，那事情就会自然往这个方向滚动起来。

 主持人  如果像你说的那样，未来GPU会进入HBM和HBF内部……

 金正浩  我后来还主张，连CPU也应该放进去。

 主持人  如果真是这样，那三星电子和海力士是不是会变得更强？

 金正浩  现在机会正在到来。

所谓更强，就是它们会拥有更大的主导权。那样一来，它们就有可能成为超越英伟达的企业。

但要做到这一点，必须开发技术，必须投资，也必须培养人才。

还要有政策判断和经营判断。

不能一听就说：“为什么要做这种没用的东西？”管理层要有开放心态。

我觉得经营者的判断是最重要的。

NPU这样的利基市场也会有机会

 主持人  你认为，未来会从GPU时代走向存储器时代，这个趋势似乎已经开始了。不过现在GPU势头这么猛，又出现了NPU。NPU到底是什么？

 金正浩  它们本质上都是处理器，都是做数学里的矩阵计算，都是AI所需要的东西。

GPU原本的完整说法是GPGPU。

TPU里也要放HBM。

所以无论如何，它离不开HBM，离不开存储器。

比如Gemini既可以写文章，也可以做LLM，还可以画图，功能非常多。

而如果不是做这么多功能，而是只为了把写文章这类特定功能做好，把功能缩小、简化，就会出现一种芯片，叫NPU。也有人把它叫LPU。

它们都是人工智能所需要的计算器，只是更适合特定目的，规模更小，耗电更低，成本也更低。

这种处理器，我们称之为NPU。

韩国国内现在有Rebellions、Furiosa AI、HyperAccel这些公司。

全世界大概有十来家公司在做NPU。

Furiosa和Rebellions虽然都是做NPU，但它们也会用到HBM。

因为想要性能好，存储器就必须好。

所以最后还是只能往这个方向走。

 主持人  最近Furiosa和Rebellions都获得了韩国“国民成长基金”的大额投资。

 金正浩  是的。

 主持人  这是不是意味着，要它们好好和英伟达较量一下？这两家公司真的具备世界级竞争力吗？

 金正浩  我当时就是评审委员。

 主持人  你是评审委员？

 金正浩  对。这里面有一层意思：英伟达不可能掌控世界上的所有东西。NPU、TPU也是如此。

所以一定会存在利基市场，也就是缝隙市场。

比如，如果我在沙特阿拉伯建设数据中心，假设全部用美国方案，依赖度就太高了。

那我可能会想，至少其中10%用其他解决方案。

在这种情况下，韩国的NPU企业就可能成为候选。

还有一个角度是韩国国内。

如果我们国内也要建设AI数据中心，刚才说到将来可能要建到100万台规模，那么其中10%如果全部用英伟达芯片，我们的依赖度就太高了。

所以韩国有必要培养本土企业。

因此，当时我们决定投资，核心就是想扶持韩国自己的本土公司。

总结起来，就是这样。

当然，从技术角度看，它们也有自己的优势。

中国存储器企业可能会拿到5%或10%的市场份额

 主持人  现在不得不谈中国。大家也知道，中国已经开始开发HBM。下个月要上市的长鑫存储（CXMT），据说从今年开始量产HBM3。

 金正浩  这个我还没有确认过。

不过现在存储器需求爆发得太厉害，光靠三星、海力士和现有企业已经不够，所以市场可能会开始使用中国产品。

因此，中国存储器企业可能会拿到5%或者10%的市场份额。

中国国内市场也会扶持它们。比如华为、阿里巴巴这些公司，如果开始做NPU或GPU，就会需要存储器。

所以中国进入存储器产业，某种程度上是不可避免的。

他们现在似乎也想做HBM。从我收到的一些联系来看，是这样的。

几年后，中国也许能做出HBM3。

但到那时，它的良率和性能，和三星、海力士相比，应该还会有相当大的差距。

而且到那个时候，三星和海力士可能已经把HBM5推向市场了。

所以我们能做的，就是始终保持高市场份额，始终保持最强技术力，用这种方式继续领先。

总有一天，美国企业、中国企业都会追赶HBM和HBF。所以这是一场关系到生存的游戏。我们必须活到最后。

 主持人  现在长鑫存储和三星电子、海力士之间的技术差距，据说大概是三年左右，也有人说是三到五年。这个差距未来被缩小的可能性大吗？

 金正浩  有几种风险。

比如我们自己经营判断失误，投资没有及时跟上，人才没有充分储备；还有战争风险；又或者美中关系突然和解，美国解除技术封锁，这些都是最大的风险因素，比如英伟达说“我要使用中国存储器”，那对韩国来说几乎是致命的。所以国际政治也必须做好。

 主持人  虽然这是极端情况，但也不能完全排除这种可能性吧？

 金正浩  没法知道。

如果从三十年、十年的尺度来看，哪里有永远的敌人，哪里有永远的朋友？

 主持人  所以不能忽视中国的追赶。

 金正浩  美国的追赶也存在。

因为英伟达和谷歌不可能永远只看三星、海力士的脸色生活。它们很可能会不断给美光订单，也会给闪迪订单，还会给铠侠订单。

未来电源供应网络和冷却技术会变得极其重要

 主持人  我最近看到你的一些研究，提到了一个概念：高带宽SRAM，也就是HBS。这个概念是你最早提出的吗？

 金正浩  就像我刚才说的，我可以提出概念，但如果要真正实现，还需要三星、SK海力士工程师们大量努力。

有些概念，十年、二十年后可能会引发很大的变化。

刚才我提到过Cerebras。它有一个非常大的GPU。

在NPU里，美国还有一种叫LPU的芯片。它们觉得用HBM有点没面子，而且会过度依赖别人，所以它们把存储器放进GPU里面。放进GPU内部的这种存储器，就叫SRAM。

SRAM比DRAM快大约一千倍，但容量小很多。

我后来仔细看了看，无论是Cerebras还是LPU，它们都用了SRAM，但容量不够。

据我所知，Cerebras那颗覆盖整片12英寸晶圆的芯片，SRAM容量也只有44GB。

而我的判断是，至少要有440GB，才能真正做点事情。

所以我的想法是，干脆把整片12英寸晶圆全部铺满SRAM，做成一个芯片。然后把这种芯片再堆10层、12层，甚至16层。

这样一来，容量就可以从100GB级别做到1600GB。

这就非常惊人了。

也就是说，把SRAM做成晶圆级规模，再堆叠起来，然后在上面放GPU。

SRAM速度快一千倍，容量又足够，那这件事就说得通了。

这种SRAM，我们称为HBS，也就是High Bandwidth SRAM。

我未来的梦想是：HBM、HBF、HBS都变成一栋栋百层大楼，最上面放着GPU，再进行冷却。

这种3D半导体结构，几乎必然会成为未来AI计算机的架构。

这可能需要十年、二十年，甚至三十年。

但其中最难的技术之一，就是供电。

如果反过来把GPU堆在HBS、HBM上面，就要供应几千安培的电流。

电源供应网络设计会成为最困难的问题。

这会成为真正的技术力。

无论是SK海力士、三星、美光，还是台积电，都是一样。

接下来还有一个难题，就是如何冷却。这会成为实现这种结构的障碍。

所以，电源供应网络和冷却技术会变得极其重要。

现在我们讨论的是，台积电做得好还是三星做得好，几纳米制程做得怎么样，良率怎么样。但未来真正决定企业生存的，可能会变成：谁能给包含HBS在内的3D AI计算机供电，谁能把它冷却下来。

定制化HBM会打破存储器周期

 主持人  HBS简直就是存储器半导体的终极形态。

 金正浩  可以说是终极形态。

我也想过这个问题。

大概十年前，我听说Cerebras要用12英寸晶圆做GPU。我当时想：这是什么？要用在哪里？

后来发现，可能主要是用于国防AI。

当时我心里还有点傲慢，觉得这东西有什么用。

但大概两周前，它在纳斯达克提交IPO了。

这件事让我的想法有点变化，原来这种东西还是有地方能用。

那如果Cerebras芯片最大的弱点是存储器不够，为什么不把存储器也堆起来？

有一天早上，我突然想出这个概念，就给学生发邮件说：“帮我把这个画出来。”

最近我开始讲HBS，就是从这里开始的。

等今年新的硕士生进来，我想让他们从HBS开始做硕士、博士论文。

 主持人  那首先得做SRAM，对吧？

 金正浩  对。

 主持人  现在谁能做SRAM？

 金正浩  主要是代工厂。台积电和三星电子都能做。

 主持人  今年三星电子和海力士加起来的营业利润，有人预测会达到500万亿到600万亿韩元之间。这现实吗？还是过于乐观？

 金正浩  我觉得现实。

 主持人  你认为这是非常合理的预测？

 金正浩  我经常和三星电子、海力士的高管开技术会议，我感觉他们的眼神越来越亮。

他们不会跟我讲销售额这种事情。

但现在HBM、HBF还有一个非常重要的特点，就是Custom HBM，也就是定制化HBM。

过去的模式是，先做出标准化产品，然后大量生产。

买家买多买少，会导致价格上下波动。我们把这叫作周期。

也就是说，主导权不在存储器厂商手里，而在CPU厂商、微软，或者电脑厂商手里。他们决定买多少。

存储器厂商只能提前多做一些，看客户脸色，猜着多做。有时候客户让你多做，结果最后又不买，库存压力就落到我们自己身上。

这就是所谓的存储器周期。

但从HBM4开始，因为里面会加入GPU功能，还有一个重要功能是：HBM之间开始互相通信。

过去HBM只做GPU吩咐的事情。而我的主张是，未来HBM之间要自己沟通，未来的HBM甚至可以让GPU之间互相竞争，谁对我更好，我就把更多存储器资源给谁。

这有点像我们存储器之间成立一个“组合”或者“联盟”。

我们自己决定，如果哪个GPU不讨我们喜欢，就不给它资源。

大概是这个意思。

这种变化意味着，随着算法、通信功能、GPU功能都进入HBM，不同公司的HBM设计会变得不一样。

谷歌、AMD、英伟达，各自需要的HBM设计都会不同。

而一旦进入定制化HBM，开发初期就会先拿到客户的采购承诺。这叫Long-Term Agreement，长期协议。如果客户不先承诺采购，开发可能根本不会启动。

但现在AI企业太需要高性能HBM了，所以它们只能排队。

于是市场变成了卖方市场，供应商开始决定价格。

这和过去的范式完全不同。