全球AI市场最大赢家英伟达，在股市不断刷新纪录高点。创始人黄仁勋更被誉为”人工智能时代的爱迪生”海力士内存条和三星内存条哪个好，名利双收。
然而，人们只看到英伟达在公众面前风光，却没有看到还有一家企业正在幕后笑到抽筋，那就是SK海力士。
23年开年来，SK海力士的HBM订单直接爆单，价格节节攀升。有市场人士透露，HBM3规格DRAM对比历史已经上涨了5倍。
对此，三星感到相当眼红，他们计划在23年下半年大规模生产面向人工智能的HBM芯片，首要目标就是迎头赶上SK海力士。
那么，HBM究竟是什么呢？为何在内存市场进入寒冬后依然如此火热？
说来也唏嘘，英伟达，用A100和H100两块显卡，拿下的万亿美元的市值，坐稳了AI时代的宝座，而它们用的显存，正是老对手AMD当初力推的HBM。
我们把时间拨回2015年，老对手AMD在北京举办了一场发布会。发布会中备受瞩目的产品是全新的Radeon R9 Fury X显卡。这款显卡采用了28nm制程GPU核心，并搭载了4GB的HBM堆叠式显存。
彼时，刚上任不久的苏姿丰站台力撑，她形象地比喻HBM。将DRAM颗粒由传统的“平房设计”转变为“楼房设计”，可实现更高的性能和带宽。
因此，AMD寄希望HBM可以率先应用于高端PC市场，直接和英伟达硬刚。这不是痴人说梦，源于HBM自身的特性给了AMD很大的底气。
HBM，最初由三星、AMD和SK海力士提出。该技术通过堆叠DRAM芯片和采用TSV和芯片堆叠技术来实现高速、低功耗的内存架构。
HBM的设计思路很直接。即将内存靠近CPU或GPU，通过将多个内存芯片堆叠在一起，形成一个矩阵，并与处理器紧密组合，从而创建一个基本组件。实现紧凑且高速的传输。因此，HBM几乎拥有可以媲美RAM的特性。
高性能应用驱动着高带宽内存的发展
并且，随着不断的更新迭代，HBM的处理速度也得到了显著提升。仅需1秒钟即可下载一部长度为163分钟、容量为5GB的全高清电影。
由于其高速、低功耗的特点，HBM非常适用于高性能图形加速器、网络设备、高性能数据中心的AI ASIC和FPGA以及一些超级计算机领域。
可八年过去了，AMD却完全转向，近乎放弃了HBM。唯一仍然保留HBM技术的是用于AI计算的加速卡。当初立下的大志，要把GDDR，扫进历史的垃圾堆的HBM、代表着未来的HBM、为何陨落？又为何在英伟达手中新生呢？
企业的驱动力还是利润，AMD也不例外。HBM的价格成为了一个难以承受的定时炸弹。尽管HBM1的成本已不可考，但8GB HBM2的成本约为150美元。此外，硅中介层的成本约为25美元，总计达到175美元。
相比之下，同期的8GB GDDR5显存仅需52美元。在没有考虑封测成本的情况下，HBM的成本已是GDDR的三倍左右。
这就导致一张零售为400美元的RX Vega 56显卡，其中一半的成本都花在了显存上。
原本GPU部门本来是要向CPU部门补贴的，但现实情况却要反过来。这给整个产品的利润带来了很大压力。又不是慈善家，谁能不计后果够承担这样的成本呢？
此外，发热量也是限制HBM普及的另一个关键因素。由于HBM的设计特点，它会产生比传统GDDR显存更高的热量。因为，使用HBM的处理器不仅需要冷却CPU芯片本身，还需要为五个或更多内存芯片提供共享的冷却器。
这意味着集成HBM的处理器将消耗大量功率，并且每个使用HBM的处理器都必须具备出色的热量管理能力。这也给制造商带来了更大的挑战，他们需要采取特殊的措施来确保HBM的稳定性和可靠性。
基于此，AMD取消了后续使用HBM的计划。但是，这就给老对手机会了。英伟达马上利用先发优势，以逸待劳。反正，我两个都有优势，那我就全都要。
16年4月，英伟达发布Tesla P100显卡，这款显卡内置16GB HBM2显存。随后称热打铁，英伟达又稳健地推出了一系列高算力显卡，都基于HBM。起了个大早海力士内存条和三星内存条哪个好项目加盟，赶了个晚集，就是对AMD在HBM上的最好概括。
不过，英伟达也是乘了东风。在与AMD缠斗时，领先的内存厂商也没闲着，开始了在HBM市场的你追我赶。这也直接帮助HBM更新换代加剧，又给英伟达加了一把燃料。
19年8月，SK海力士成功研发出，其新一代产品”HBM2E”。与此同时，另一家韩企也不甘落后。20年2月，三星也正式推出了16GB HBM2E产品”Flashbolt”，并开始在20年上半年进行量产。
时间进入22年1月，JEDEC组织发布了全新一代高带宽内存标准规范-HBM3。该规范在密度、带宽、通道、可靠性、能效等方面进行了扩充和升级，传输数据率相较于HBM2再次翻倍。
但是这波直接被预判。因为，早在21年10月，SK海力士就发布了全球首款HBM3，并在22年6月正式开始量产，这一成果直接为英伟达供应了巨大算力，也直接巩固了海力士的霸主地位。
进入22年底，尽管DRAM整体市场整体表现不佳，但HBM却呈现逆势增长。三星和SK海力士这两家领先的存储大厂都迎来了HBM订单的快速增长，直接导致HBM3规格DRAM价格上涨了5倍。这也太不合群了，是谁干的？
赠人玫瑰，手有余香。那还得是吃到HBM红利的英伟达。带来算力爆炸的AI大模型时代。AI大潮席卷全球，HBM作为内存市场的新蛋糕，是最鲜美的一块。
AI大模型的训练和推理过程依赖于海量数据和强大算力的支持。所以，作为一种重要的算力基础设施单元服务器，AI服务器的强大就十分重要。
AI服务器需要在短时间内处理大量数据。为了应对庞大的参数量，比如，ChatGPT所基于的GPT3.5大模型高达135B的参数量，数据处理量和传输速率的提升对AI服务器的带宽提出了更高要求，因此HBM已经成为AI服务器的标配。
而在AI服务器市场中，H100、A100、以及AMD MI250、MI250X系列是主要产品，它们几乎都配备了HBM。HBM方案已经成为扩展高带宽的一种主流解决方案，特别适用于高性能计算领域。
据TrendForce集邦咨询预测，到23年，AI服务器（包括搭载GPU、FPGA、ASIC等）的出货量将接近120万台，并将22-26年的AI服务器出货量年复合增长率上调至22%。
除了在AI服务器领域，HBM也是在汽车行业值得关注的应用领域。在汽车中，摄像头数量众多，这些摄像头产生的数据速率以及对所有信息的处理速度庞大而复杂。为了实现快速传输大量数据，HBM具有巨大的带宽优势。
此外，HBM在AR和VR领域也有很大的潜力。由于AR和VR系统需要高分辨率的显示器，这些显示器都需要更多的带宽来传输GPU和内存之间的数据。
不过目前，HBM主要应用于服务器、数据中心等领域，而在消费领域，由于对成本较为敏感，HBM的使用相对较少。但可以确定的是，随着对带宽的需求将不断增加，HBM将持续发展。
据Omdia的预测，到25年，HBM市场的总收入将达到25亿美元。谁会在里面分到一杯羹呢？
当前在HBM的竞争格局中，SK海力士是技术领先并拥有最高市场份额的公司，其市占率为50%。紧随其后的是三星，市占率约为40%，而美光占据了大约10%的市场份额。
根据预测，到23年，海力士的市场份额有望提升至53%，而三星和美光的市场份额将分别为38%和9%。
在下游厂商主要包括CPU/GPU制造商，例如英特尔、英伟达和AMD。由于HBM是与GPU封装在一起的，因此HBM的封装通常由晶圆代工厂完成。
反观到我们国内，目前HBM相关产业链布局相对较小，只有一些企业涉及封测领域。但是这并不意味着，我们找不到发展机会。
在A股市场中，涉及HBM产业链的公司主要包括雅克科技、中微公司、和拓荆科技等。其中，雅克的子公司UP Chemical是SK海力士的核心供应商，为其提供HBM前驱体。
据国盛证券表示，随着HBM堆叠DRAM裸片数量逐步增加到8层和12层，HBM对DRAM材料的需求将呈倍数级增长。同时，HBM前驱体的单位价值也将出现倍数级增长，这为前驱体市场带来了全新的发展机遇。
而在HBM工艺中，ALD沉积（单原子层沉积）起着重要作用。拓荆科技就是国内主要的ALD供应商之一，公司的PEALD产品用于沉积SiO2、SiN等介质薄膜，在客户端验证中都取得了令人满意的结果。
而TSV技术（硅通孔技术）也是HBM的核心技术之一，中微公司是TSV设备的主要供应商。硅通孔技术用于连接硅晶圆两面，并与硅衬底和其他通孔绝缘的电互连结构。
它能够通过硅基板实现硅片内部的垂直电互联，是实现2.5D和3D先进封装的关键。
尽管，HBM有很大的潜力，但也需要冷静看待，因为它仍处于相对早期的阶段，未来还有很长的路要走。
例如，东京工业大学的科研团队于近日，研发出一种可堆叠内存，其传输速度是HBM2E的4倍，功耗仅为五分之一，被称为BBCube。
当然，就目前言，随着越来越多的厂商在人工智能和机器学习等领域加大投入，HBM的火热地位也不会那么快被取代。
在此过程中，我们也要放开手脚，摸着石头过河。因为，从产业发展历程来看，国产厂商想要在市场中获得红利。就要与上下游生态系统合作伙伴携手合作和开放协同，将HBM的使用范围从现有系统扩展到潜在的下一代应用。
