HBM背后的重要玩家
发布时间：2023-12-29 09:27
发布者：eechina
关键词：
HBM
|
来源：半导体行业观察 如果要评选即将过去的2023年的半导体关键词，GPU必然要首先提及的。因为在ChatGPT的推动下，GPU正在过去一年里完成了完美的逆袭，并推动英伟达成为了万亿美元的半导体企业，也使得他们在今年有望成为全球第一的半导体供应商。需要提一句的是，这是一个在过去十多年里几乎都是由英特尔把持的位置，英伟达的登顶，足以见证GPU的魅力。 除此以外，HBM（High Band Memory）也是2023不得不提的一个重点。因为存储市场的千年老二SK海力士凭借这个技术和产品在这个领域实现了对三星的完胜。同时还为未来的继续发展挣下了足够的筹码。 市场分析机构Omdia也预计，在人工智能大模型的推动下，未来几年，HBM的需求将继续超过供应。他们提供的数据显示，从2023年到2027年，DRAM市场收入的年增长率预计为21%，而HBM市场预计将飙升52%。HBM在DRAM市场收入中的份额预计也将从今年的不超过10%增长到2027年将接近20%。 HBM，恰逢其时 其实HBM并不是一个新技术。 从维基百科可以看到，早在2008年，AMD就开始着手研发高带宽存储器来解决日益增长的能源使用及计算机内存的形状因数。其中，AMD高级研究员Bryan Black解决了裸晶堆叠问题。AMD还从内存行业（SK海力士）、中介层行业（联华电子）及封装行业（日月光半导体）的合作伙伴中获得了帮助，让高带宽存储器从设想变成现实。 到了2013年10月，JEDEC就将高带宽存储器正式采纳为业界标准。2015年，SK海力士在韩国利川市的工厂正式开始量产HBM。直到人工智能、生成式人工智能的火热，市场对训练数据的需求量暴增，于是英伟达等厂商就将HBM引入到相关产品，从而引爆了HBM的使用潮。 从相关报道我们也能看到，自2012年以来，大规模的AI训练所使用的数据集的计算量是以每年10倍的速度在增长。以推出大家所熟知的ChatGPT的OpenAI公司为例，在2022年11月推出的ChatGPT版本中，他们使用了1750亿个参数。到了今年3月的版本中，他们使用的参数则是达到1.5万亿个。 之所以发生这样的转变，其中背后的原因有以下三点：第一，AI模型变得日益复杂了；第二，有大量的数据在线被生成，而且可以被使用在AI训练过程中去；第三，这些人工智能的应用对于准确性和稳健性的期望也在持续提升。以上这些需求转化为对内存的需求，实际上就意味着需要更高带宽和更高容量。 这就带来了HBM的第二春。 
据Rambus 接口IP产品管理和营销副总裁 Joe Salvador先生介绍，高带宽内存（HBM）包含了中介层，以及处理器、内存堆栈。这就意味着我们可以通过HBM带来非常高的带宽，而且还有非常高的能效解决方案，及低延迟。正是由于以上的这些原因，HBM已经成为了目前首选的AI训练硬件。 
如上图所示，在过去多年的发展中，HBM进行了多代的更新，不断地提升速度，以满足终端市场的需求。在这背后，就需要各种各样的IP来给HBM提供支持。当中，内存控制器IP无疑是其中一个重中之重。 全球领先的IP供应商Rambus正是当中的一个重要供应商。 Rambus，深耕其中 据Rambus大中华区总经理苏雷先生介绍，成立于上个世纪的九十年代Rambus距现在已经有33年的历史。公司的主要业务包括了基础专业授权、半导体IP授权和芯片业务。其中半导体IP又主要分为接口IP和安全IP。 
首先看接口IP方面，Rambus大部分的产品都是集中供货给数据中心市场以及人工智能和边缘计算。具体而言，在内存控制器方面，Rambus所支持的内存类型包括了DDR、LPDDR、GDDR以及HBM；在接口IP所提供的互联控制器，可以支持CXL、PCIe以及MIPI；另外，Rambus提供视频压缩的IP，可以应用在MIPI以及DP（DisplayPort）接口。 
在安全IP产品组合方面，Rambus能提供的安全IP解决方案组合也是业内最广泛的。 
具体到HBM方面，Rambus方面表示，基于公司多去多年积累涵括的HBM内存、GDDR内存、LPDDR内存以及DDR内存在内的多年控制器设计经验，Rambus所设计出来的内存控制器可以做到性能高、功耗低，而且对于客户来说成本也相对较低。与此同时，Rambus也有多年跟主流内存厂商合作的经验，可以把后者的内存组件纳入到Rambus的兼容性、以及相关的性能测试环节当中来去进行相应的验证。 “我们在进行相应架构设计的时候还留足了一定自定义的配置空间，这样使得客户在面对不同需求的时候，可以根据需求来选择相应的控制器。”Joe Salvador说。在他看来，这些可调节的配置正是Rambus在这个领域建立起的难以跨越的门槛。 在这些雄厚实力的支持下，Rambus率先推出了9.6 Gbps HBM3内存控制器IP。Rambus方面表示，与HBM3 Gen1 6.4 Gbps 的数据速率，Rambus HBM3 内存控制器的数据速率提高了 50%，总内存吞吐量超过 1.2 TB/s，适用于推荐系统的训练、生成式 AI 以及其他要求苛刻的数据中心工作负载。 
Rambus进一步表示，HBM3控制器不仅仅作为独立的产品推出，公司还提供了一整套完整的经过验证的解决方案，能够跟市面上目前比较常见的HBM3以及相关的内存模组进行匹配，然后完整的得以应用。据介绍，公司目前已经跟SK海力士、美光、三星完成了一整套的测试。 “Rambus HBM相关的技术和控制器IP一直都是业内领先的，可以跟客户所选择的PHY进行很好的结合。而且都是能够通过大量的测试和验证，尽可能都保证一次流片成功，这对于客户来说是很大的价值。”Joe Salvador接着说。 
除了领先的产品以外，Rambus还有着非常强大的技术支持，能在客户芯片点亮的时候到现场进行支持，帮助客户。如苏雷所说，凭借Rambus多年扎实的技术基础和客户经验，可以避免客户可能遇到的一些技术困难，帮助他们的产品更早地面市。“这个对很多芯片公司非常重要，特别是AI芯片公司，很看重产品的时间。这也是我们公司的控制器IP产品在市场上处于领先位置非常重要的一个原因。”苏雷强调。 Joe Salvador则重申：“Rambus多年以来所构建的测试环境和验证的环节，都是跟许多的物理层提供商的合作伙伴共同去搭建的。这也就意味着我们的控制器和物理层结合之后，能够很好地集成在一起保持兼容，从而使得客户的子系统能够放心地去确保有良好的作用，很容易就获得产品的成功。” |
网友评论