存储芯片巨头 开启AI算力争霸赛

2023-08-01 06:08:35 来源:网络

存储芯片巨头 开启AI算力争霸赛

作者 | ZeR0

编辑 | 漠影

韩国存储芯片巨头们正在打一场翻身仗。

尽管从最新财报来看,存储芯片复苏未见好转,供应过剩导致营业利润大幅下降,但这些存储芯片巨头们的股价均在上周上涨。力挽狂澜的核心功臣,便是逐渐成为数据中心AI训练必备组件的AI相关内存芯片——高带宽内存(HBM)

因生成式AI开发和商业化竞争加剧,第二季度对AI相关内存的需求大幅增加。HBM的受关注程度,在上周SK海力士和三星发布最新财报后举行的电话会议期间可见一斑,分析师们就HBM相关进展和后续规划密集发问。

自去年英伟达发布世界首款采用HBM3的GPU H100以来,HBM3及更先进HBM芯片的热度一直居高不下。据英国《金融时报》援引两位接近SK海力士的消息人士报道,英伟达和AMD要求SK海力士提供尚未量产的下一代HBM3E芯片的样品。英伟达已要求SK海力士尽快供应HBM3E,并愿意支付“溢价”

国产自主GPU架构“天狼星”发布!三大技术优势、七大架构亮点解读

▲英伟达GPU及其他AI芯片HBM采用情况(图源:SemiAnaysis)

虽说今年缩减开支是重头戏,但存储芯片巨头们在HBM方向的投资仍相当舍得——合计掌控着全球90%HBM芯片市场的两家韩国大厂SK海力士和三星均表态,计划明年将HBM芯片产量提高一倍,并为了更好应对HBM不断增长的需求,而减少其他类别存储芯片的投资

一、英伟达AMD微软亚马逊排队,坐等用上HBM3E

高带宽内存(HBM)属于DRAM的一类分支,使用堆叠技术来提高图形处理器(GPU)等计算芯片的带宽和性能,相比传统DRAM芯片产品具有尺寸更小、功耗更低、带宽更高、处理数据速度更快等优势。

国产自主GPU架构“天狼星”发布!三大技术优势、七大架构亮点解读

▲2015年AMD介绍新型存储芯片HBM(图源:AMD)

HBM最初用于高端游戏显卡,目前在全球动态随机存取存储器(DRAM)市场中占有的市场份额较小,但潜力非常可观。随着云计算及生成式AI服务的发展,全球大型科技公司将越来越多地使用HBM,来快速处理快速增长的数据。

据芯片行业咨询公司SemiAnalysis披露,HBM的价格大约是标准DRAM芯片的5倍,利润丰厚,预计到HBM占全球内存收入的比例将从目前的不到5%增长到2026年的20%以上。

自2013年开发全球首款HBM芯片以来,全球第二大存储芯片巨头SK海力士一直处于HBM领先地位。这也是SK海力士首次在内存技术竞赛中领先于三星。随后两家韩企进入激烈的HBM抢位赛,争相开始量产HBM2、HBM2E等芯片。

2022年6月,SK海力士宣布开始量产业界首款HBM3内存,与英伟达H100 GPU配合使用,预计将于2022年第三季度发货。该内存将为H100提供高达819GB/s的内存带宽。

国产自主GPU架构“天狼星”发布!三大技术优势、七大架构亮点解读

▲历代HBM性能演进(图源:SK海力士和Rambus)

目前SK海力士是目前唯一一家批量出货HBM3的供应商,拥有超过95%的市场份额。它正在为AMD MI300X和英伟达H100生产数据速率为5.6GT/s的12层24GB HBM3。

今年5月30日,SK海力士乘胜追击推出最新的HBM3E,每个堆栈的带宽从HBM3的819GB/s增加到1TB/s,将于明年上半年投入生产,据说英伟达、AMD、微软、亚马逊等芯片大厂正排队抢货。这驱动HBM价格进一步大幅上涨。

据行研机构TrendForce的数据,SK海力士2022年在全球HBM市场占有50%的份额,三星以40%的份额紧随其后,美国存储芯片巨头对手美光以10%的份额排名第三。

SK海力士披露,生成式AI市场的扩张已迅速推高对AI服务器内存的需求。在AI相关需求激增的驱动下,上周三,SK海力士报告其今年第二季度同比由盈转亏,营业亏损为2.88万亿韩元,其股价上周却上涨了12%。

国产自主GPU架构“天狼星”发布!三大技术优势、七大架构亮点解读

▲过去半年SK海力士股价变化

次日,三星宣布第二季度营业利润为6685亿韩元,同比下降95%。受益于最新一代HBM3芯片在内的高端内存技术订单激增,三星股价周四上涨了2.4%,然后又有所回落。

国产自主GPU架构“天狼星”发布!三大技术优势、七大架构亮点解读

▲过去半年三星电子股价变化

TrendForce预测,2023年全球HBM芯片需求将增长60%,达到2.9亿GB,明年将再增长30%,2025年整体市场有望达20亿美元以上。预计明年SK海力士将占据HBM市场53%的份额,其次是三星(38%)和美光(9%)。

二、AI服务器使用的内存,比传统服务器至少多出1~8倍

在财报电话会议上,SK海力士首席财务官Kim Woohyun说:“与传统服务器相比,AI服务器使用的内存至少多出1~8倍,以实现更快的计算处理,并采用HBM等高性能内存产品,这不仅会推动需求,而且对盈利能力产生了积极影响。

他谈道,从今年年初开始,智能手机、个人电脑和服务器的需求一直疲软。但从第二季度开始,AI服务器的需求急剧上升,抵消了其他产品需求的部分损失。自第二季度以来,生成式AI引发的对高端服务器的需求迅速增加。相应地,高密度DDR5和HBM产品的需求也在快速增长。

三星内存业务执行副总裁Jaejune Kim在三星财报电话会议上谈到第二季度在服务器方面的内存需求,由于对生成式AI的强劲需求,数据中心领域的投资在有限的资本支出中集中在AI服务器上,对通用服务器和存储的需求相对有限。

今年随着企业投资水平的降低,存储芯片客户将重点放在昂贵的AI服务器上的投资,对传统服务器的投资可能会暂时下降。不过,SK海力士分析预测,通用服务器仍将广泛用于AI服务的开发、部署和运营,因此从长远来看也将刺激通用服务器的需求增长。

据Kim Woohyun披露,SK海力士的图形DRAM销售额(包括HBM产品)此前仅占DRAM销售额的个位数百分比。但自从去年第四季度达到DRAM销售额的10%以来,这一比例迅速增长到第二季度超过20%。SK海力士用于AI服务器的HBM和高密度DDR5模块的销量大幅增长。该公司预计今年HBM的销量预计将比去年增长两倍以上,并预计明年将进一步增长。

三、今明HBM需求预计陡峭增涨,两家大厂披露HBM最新路线图

业内专家表示,由于调整产能需要时间,未来两年HBM供应预计仍将紧张,而快速增加HBM产量也很困难,因为它需要专门的生产线。

SK海力士和三星给出了相近的产业趋势解读:内存需求一直在从去年创纪录的低增长水平中复苏,当前复苏尚不足以使全行业库存水平恢复正常,上半年库存水平仍较高,但库存已经见顶,并预测随着减产效果进一步显现,下半年存储芯片需求将较上半年有所改善。

为了进一步加速库存正常化,两家存储芯片大厂都在选择性地对DRAM和NAND的某些产品进行额外的生产调整,下半年重点抓盈利能力,专注于高附加值和高密度产品来优化其产品组合,特别是加强销售组合中HBM、DDR5等高价值前沿产品的份额的增长,减少库存水平较高、盈利能力不及DRAM的NAND的产量。

国产自主GPU架构“天狼星”发布!三大技术优势、七大架构亮点解读

▲SK海力士在财报电话会议期间披露公司后续规划,将支持高密度和HBM产品需求

SK海力士相信第三季度AI服务器需求将持续增涨,特别是高密度DDR模块和HBM,这两款产品的收入有望在下半年比上半年增速更高,HBM的需求将在明年保持相当健康的增长。

近期,特别是随着超大规模企业对生成式AI服务的竞争加剧,三星收到了来自此类客户的大量需求,预计今年和明年HBM的需求可能会出现相当陡峭的增长。

目前SK海力士的首要任务是投资增加HBM的大规模生产。该公司刚刚对今年年初制定的有关技术产能组合的规划进行了调整,以应对对高密度DDR5和HBM不断增长的需求。

对于HBM路线图来说,重要的是与GPU的发布或领先加速器市场的公司的时间表保持一致。SK海力士预计将在2026年某个时候转向HBM Gen 4,并正为此做准备。

根据其路线图,明年下半年将是HBM3E量产期,也是HBM3E的供应扩大期。今年SK海力士的重点是增加HBM量产所需的1Z纳米的比例,还准备增加1B纳米产能和TSV产能,为明年上半年开始供货的HBM3E做准备。

为了与市场增长预期保持一致,三星一直在扩展其HBM业务,产品方面拥有向主要客户独家供应HBM2的记录,后续还就HBM2E开展业务,计划2023年下半年开始大规模生产HBM3。三星HBM3正在接受具有行业顶级性能和密度或容量的客户资格认证,已开始向主要的AI SoC公司和云计算公司发货8层16GB和12层24GB产品。具有更高性能和容量的三星下一代HBM3P芯片计划于今年晚些时候发布

国产自主GPU架构“天狼星”发布!三大技术优势、七大架构亮点解读

▲三星HBM3介绍(图源:SemiAnalysis)

三星还一直投资HBM生产能力,基于此已经预订了大约10亿或十亿中值Gb级的客户需求,大约是去年的两倍,并正在通过提高生产力来进一步提高供应能力,到2024年计划将HBM产能增加至少是2023年水平的两倍。另据此前报道,三星拟投资1万亿韩元扩产HBM。

对于三星来说,它虽然在HBM竞争的反应比SK海力士慢半拍,但考虑到通常AI芯片与HBM存储器一起集成到单个封装中,三星拥有一个其他芯片企业所不具备的优势——兼具先进GAA工艺技术、HBM技术和先进封装技术

如果未来三星能够推出最大化发挥这三类关键技术协同效应的解决方案,这有望成为未来三星在AI算力市场竞争中的关键壁垒。

结语:存储芯片巨头打响HBM争霸赛

随着云计算和生成式AI服务越来越受欢迎,对HBM等高性能内存芯片的需求与日俱增。在HBM价格不断上涨的情况下,英伟达等芯片巨头仍在预订更多HBM产能来满足其GPU需求,这导致HBM3芯片的供给更加紧俏。

在今年资本支出大幅下降的情况下,在HBM市场领先的SK海力士正通过提高生产力、加快设备交付时间和削减其他领域的投资等努力,确保HBM3的产能和投资。稳居全球存储芯片第一的三星,自然不甘在HBM这一极具前景的细分市场屈居于SK海力士身后,亦加大马力争取新订单并专注于HBM等高附加值产品的销售。

全球排名第三的美国存储芯片巨头美光科技也在上周面向AI客户发布了最新DRAM四年路线图,包括用于AI和高性能计算应用的HBMNext。到2024年,美光科技HBM3E预计将在第三季度/第四季度开始出货。

国产自主GPU架构“天狼星”发布!三大技术优势、七大架构亮点解读

▲美光科技披露面向AI基础设施需求的解决方案路线图

存储芯片巨头们正在严阵以待,通过加大在先进技术突破和扩大产能方面的投资,为持续到来的HBM等支持大规模数据处理的高性能内存产品的需求激增做好准备。SK海力士能否在HBM技术和市场保持领先身位、长期掌握议价权,也是业界强烈关注的焦点。

,存储芯片巨头 开启AI算力争我是一个兵简谱 霸赛

相关:

国家防总:东淀蓄滞洪区8月1日凌晨2点启用记者从天津市水务局获悉,7月31日,国家防汛抗旱总指挥部发布通知,根据洪水预报,海河流域大清河上游新盖房枢纽流量加大,大清河水位持续上涨,大清河东淀蓄滞洪区达到启用条件,决定自8月1日凌晨2点起启用东淀蓄滞洪区。东淀蓄滞洪区位于河北省与天津交界处大清河南北两岸,主要涉及河北省和天津市静海区、西青区两区,总面积379平方公里,其中天津市境内面积100平方公里。按照蓄滞洪区启用预案,8月1日凌晨2点将启用东淀蓄滞..

特写:送别李玟:“你留下的爱化作星海”  中新社香港7月31日电 题:送别李玟:“你留下的爱化作星海”   中新社记者 韩星童   “今天你本可以选择去很多地方,但是你选择来这里,和我在一起,所以我要谢谢你。”7月31日傍晚,歌手李玟追思会在香港殡仪馆举行,二姐李思林眼眶泛红,用这句妹妹常在演唱会说的话开场,向到来的亲友、歌迷与媒体致谢。   灵堂内布置简单,中央摆放着棺木、3个用粉色玫瑰拼成的爱心花圈,一片李玟生前最爱的紫色花海簇拥着..

直击北京大暴雨:发生小规模山洪 已致2人遇难  中新社北京7月31日电 题:直击北京大暴雨:发生小规模山洪 已致2人遇难   中新社记者 陈杭   受台风“杜苏芮”残余环流北上影响,北京自7月29日起,一连数日遭遇强降雨,全市出现大暴雨,西南部特大暴雨。尤其是房山区、门头沟区平均降雨量大,发生多处塌方和小规模山洪。   持续降雨导致人员伤亡。中新社记者从北京市门头沟区了解到,该区在31日上午抢险巡查时,在河道中发现2人。发现时,2人均已失去生命..

北京本轮降雨已转移民众5.2万余人 在建工地停工4069项  中新网北京7月31日电 (记者 陈杭 徐婧 刘文曦)记者31日从北京市防汛办获悉,截至31日20时,全市共转移受威胁民众52384人;107条山区道路封闭,301处山洪沟道关闭。在建工地共停工4069项,全市所有景区、乡村民宿全部关闭。   自降雨以来,北京共接报108处积水信息,46处已处置完毕。丰台、石景山、房山、门头沟、昌平、怀柔等区多条路段因积水断路。塌方、山体滑坡等14处地质灾害中,2处处置完毕,东五环远通桥(南向..

列车因暴雨滞留,乘务员哽咽安抚旅客……  “我就是因为穿了这身衣服,   我得对得起大家!”   7月30日   因遭遇强降雨   K396次列车在中途停留   一女乘务员哽咽发言安抚旅客   7月30日   由乌海西开往北京丰台   搭载976名旅客的K396次列车   行驶至北京门头沟落坡岭站附近   因前方水害被迫停车   7月31日清晨5点   乘务组冒雨徒步前往站内   采买食品饮水1200余件   返回车厢向旅客发放餐品   解决旅客用餐问题 ..

“95后”小伙回乡创业:传承文化发展经济两不误  中新网合肥7月31日电(刘鸿鹤)在安徽省最南端,与浙江、江西两省交界的黄山市休宁县,五城米酒是这里的特产,也是国家地理标志产品。7月31日,“95后”小伙洪鑫正在自己的酒厂里忙着冷却蒸熟的糯米、拌酒曲。   据介绍,2018年,洪鑫大学毕业,被一家世界500强企业相中,并在该企业工作一年后成为质量执行官。2020年,他毅然决定辞去年薪20万元的工作,回到家乡开办了一家米酒厂。 洪鑫正在拌酒曲。刘鸿鹤 摄   “..

长城两边是故乡 晋冀联手开启康养之旅  中新网忻州7月31日电 (杨静)“忻州位于黄土高原东端,东部群山环抱,西部丘陵起伏、沟壑纵横,素有‘晋北锁钥’之称。忻州境内古迹众多、景点密布,集长城边塞文化、黄河黄土风情、温泉康养度假等于一市,到处皆诗境,随时有物华。”山西省忻州市文化和旅游局局长路向东向各方推介当地文旅资源。 山西省忻州市文化和旅游局局长路向东向各方推介当地文旅资源。 王斌田 摄   “长城两边是故乡”文化旅游季——“相约..

上海引导全市养老机构消防安全管理再上新台阶  中新网上海7月31日电(记者 李姝徵)《养老机构消防安全管理规定》8月1日将正式实施。作为老年人集中生活的人员密集场所,养老机构如何落实消防安全责任?万一发生火情,对重度失能的老年人,又该如何科学安排逃生?作为面临较大人口老龄化压力的上海,正着手引导全市养老机构消防安全管理再上新台阶。   7月31日,上海市民政局、上海市消防救援总队在虹口区彩虹湾老年福利院召开市养老机构消防安全标准化管理创建推进会,..

8月1日起中国对镓、锗相关物项实施出口管制7月31日,根据商务部、海关总署此前发布的《关于对镓、锗相关物项实施出口管制的公告》,8月1日起,对镓、锗相关物项实施出口管制。其中,镓相关物项包含氮化镓、砷化镓、铟镓砷等;锗相关物项包含磷锗锌、锗外延生长衬底、二氧化锗等。

国家安全部官方微信公众号亮相7月31日,澎湃新闻(www.thepaper.cn)注意到,国家安全部官方微信公众号已正式亮相。注册信息显示,该微信公众号注册于2023年7月31日,并于当天认证“国家安全部”。其认证类型为“政府”,认证主体为“中华人民共和国国家安全部”,IP属地位于北京。该微信公众号简介称,“国家安全是民族复兴的根基。坚持总体国家安全观,坚决维护国家主权、安全、发展利益。”