董明珠“绯闻”员工王自如,到底什么来路? 这位CEO怒怼他后又道歉
2023-11-16
更新时间:2023-11-16 07:49:00作者:无忧百科
中国基金报记者 文夕
近日,英伟达官宣了其“地表最强AI芯片”H200,支撑这一称号需要两大关键技术:即台积电主导的CoWoS高端封装和头部存储厂持续迭代的HBM(高带宽存储)。
根据英伟达方面透露,相比上一代A100和H100,H200主要变化便在于内存,其成为首款采用HBM3e(高频宽存储器)的GPU。
业内普遍预计,AI芯片演进有望拉动存储需求,HBM也将成为明年为DRAM(动态随机存取内存)大厂贡献营收的主力。
近两日,A股存储概念股集体异动。其中为HBM巨头SK海力士代理产品销售的香农新创在15日一度涨逾18%。近两个交易日内,其股价涨幅高达18.69%。另外,协创数据15日也收涨13.43%,万润科技在两个交易日内也涨逾10%。
突破带宽瓶颈
当地时间11月13日,英伟达宣布在AI芯片H100的基础上,发布新一代H200芯片。基于Meta的Llama 2大模型的测试表明,H200的输出速度大约是H100的两倍。另外,H200在推理速度上几乎达到了H100的两倍,带宽增加了2.4倍。
而相比上一代A100和H100,H200主要变化在于内存,成为首款采用HBM3e(高频宽存储器)的GPU,使得带宽从H100的每秒3.35TB提高至4.8TB,提高1.4倍,存储器总容量从H100的80GB提高至141GB,容量提高1.8倍,同时推理能耗大幅降低。
资料显示,HBM(High Bandwidth Memory)即高带宽存储器。HBM属于图形DDR内存的一种,通过使用先进的封装方法垂直堆叠多个DRAM,与GPU通过中介层互联封装在一起,在较小的物理空间里实现高容量、高带宽、低延时与低功耗,已成为数据中心新一代内存解决方案。
英伟达创始人黄仁勋曾表示,计算性能扩展的最大弱点就是内存带宽。以谷歌第一代TPU为例,其理论算力值为90TFOPS,但最差真实值仅1/9,即10TFOPS算力,因为其相应内存带宽仅34GB/s。
此外,在传统架构下,数据从内存到计算单元的传输功耗是计算本身能耗的约200倍,而用于计算的能耗和时间占比很低,数据在内存与处理器之间的频繁迁移带来严重的功耗问题。
据Trend Force集邦咨询研究指出,当前HBM市场主流为HBM2e,包含英伟达 A100/A800、AMD MI200以及多数云服务厂商自研加速芯片皆以此规格设计。
而作为AI芯片追赶者的AMD,对于HBM的使用也较为激进,其最新发布的MI300X GPU搭载容量高达192GB的HBM3显存,为H100的2.4倍,其内存带宽达5.2TB/s,为H100 的1.6倍。HBM正成为AI加速器芯片军备竞赛的核心。
三年市场规模料翻2.5倍
方正证券一份研报提及,2023年主流HBM从HBM2e升级为HBM3甚至HBM3e,HBM3比重预估约为39%,2024年则会提升至60%。
根据集邦咨询最新预测,全球HBM生产总量有望翻倍增长,成为贡献2024年DRAM大厂营收“重头戏”。方正证券也提及,2022年全球HBM市场规模约为36.3亿美元,预计至2026年市场规模将达127.4亿美元。
为顺应AI加速器芯片需求演进,各原厂计划于2024年推出新产品HBM3e,预期HBM3与HBM3e将成为明年市场主流。据了解,当前HBM市场仍由三家大厂主导,2022年全年,SK海力士占50%,三星占40%,美光占10%。
近期,三星、美光等存储大厂正在不断加快扩产步伐。
市场份额最大的SK海力士早在2021年10月率先发布HBM3,今年4月实现了全球首创12层硅通孔技术垂直堆叠芯片,容量达到 24GB,比上一代HBM3高出50%,SK海力士计划在 2023年年底前提供HBM3e样品,并于2024年量产,其目标2026年生产HBM4。
实际上,作为龙头,由于DDR5、HBM的需求强劲,SK海力士用于AI服务器的DRAM销售额已经出现大幅增长趋势。该公司今年三季度收入6.08万亿韩元,环比增加34.3%,出货量环比增长20%。要知道整体来看,存储芯片当前仍未走出“寒冬”。
为应对HBM市场需求,三星电子已从三星显示购买新建筑物和设备,用于建设新HBM封装线,总投资额达到7000-10000亿韩元。有消息称,三星电子打破了SK海力士为英伟达独家供应HBM3的局面,该公司计划从明年1月开始向英伟达提供HBM3。
而美光在此前的财报电话会议上表示将在2024年通过HBM3e实现追赶,预计其HBM3e将于2024年三季度或者四季度开始为英伟达的下一代GPU供应,初期产品设计为24GB 8-Hi堆栈,带宽超1.2TB/s,计划之后推出更大容量版。
存储概念股闻风而动
相对于HBM三大巨头,国内产业链目前整体位置较为边缘。不过,在二级市场上,相关概念股股价依然闻风而动。
其中为HBM巨头SK海力士代理的香农新创在15日一度涨逾18%,近两个交易日内,其股价涨幅高达18.69%。据了解,该公司目前约95%的营收来自于电子元器件分销业务,分销产品为应用于服务器级别的存储芯片。
该公司近期在互动平台中提到,其目前主要代理产品是SK海力士的存储器及MTK联发科的主控芯片,前者与后者的比例大致在80%和20%。在存储器中,DRAM占比约70%,NAND和SSD业务占比约30%。
不难看出,与SK海力士的合作关系引起了市场遐想。另外,雅创电子15日也透露,该公司全资子公司WE主要代理海力士的存储器,而上述产品后续将作为未来布局的重点方向。
而在国产存储厂商方面,由于存储行业话语权仍由海外大厂主导,多数国内厂商业务仍聚焦于中低端产品,但也正在发力企业级存储产品,布局算力服务器市场。
佰维存储最新在互动平台表示,该公司的企业级SSD和服务器内存条可应用于算力服务器,目前该类产品出货占公司总营收较小。据悉,该公司高端的存储芯片包括用于智能手表、AR/VR等旗舰穿戴产品ePOP存储芯片,面向中高端手机的UFS3.1、LPDDR5、uMCP存储芯片等。
江波龙方面在机构调研时则表示,公司的企业级存储产品组合中,eSSD产品和RDIMM产品主要用于服务器为主的高端企业级应用场景。据该公司透露,其eSSD、RDIMM 产品已经通过包括联想、京东云、BiliBili等重要客户的认证,并且已经取得了部分客户的正式订单实现了量产出货。
编辑:舰长
审核:木鱼
版权声明
《中国基金报》对本平台所刊载的原创内容享有著作权,未经授权禁止转载,否则将追究法律责任。
授权转载合作联系人:于先生(电话:0755-82468670)