芯东西(公众号:aichip001)
(资料图)
作者 | ZeR0
编辑 | 漠影
韩国存储芯片巨头们正在打一场翻身仗。
尽管从最新财报来看,存储芯片复苏未见好转,供应过剩导致营业利润大幅下降,但这些存储芯片巨头们的股价均在上周上涨。力挽狂澜的核心功臣,便是逐渐成为数据中心 AI 训练必备组件的 AI 相关内存芯片——高带宽内存(HBM)。
因生成式 AI 开发和商业化竞争加剧,第二季度对 AI 相关内存的需求大幅增加。HBM 的受关注程度,在上周 SK 海力士和三星发布最新财报后举行的电话会议期间可见一斑,分析师们就 HBM 相关进展和后续规划密集发问。
自去年英伟达发布世界首款采用 HBM3 的 GPU H100 以来,HBM3 及更先进 HBM 芯片的热度一直居高不下。据报道,英伟达和 AMD 要求 SK 海力士提供尚未量产的下一代 HBM3E 芯片的样品。英伟达已要求 SK 海力士尽快供应 HBM3E,并愿意支付 " 溢价 "。
▲英伟达 GPU 及其他 AI 芯片 HBM 采用情况(图源:SemiAnaysis)虽说今年缩减开支是重头戏,但存储芯片巨头们在 HBM 方向的投资仍相当舍得——合计掌控着全球 90%HBM 芯片市场的两家韩国大厂 SK 海力士和三星均表态,计划明年将 HBM 芯片产量提高一倍,并为了更好应对 HBM 不断增长的需求,而减少其他类别存储芯片的投资。
一、英伟达 AMD 微软亚马逊排队,坐等用上 HBM3E
高带宽内存(HBM)属于 DRAM 的一类分支,使用堆叠技术来提高图形处理器(GPU)等计算芯片的带宽和性能,相比传统 DRAM 芯片产品具有尺寸更小、功耗更低、带宽更高、处理数据速度更快等优势。
▲ 2015 年 AMD 介绍新型存储芯片 HBM(图源:AMD)HBM 最初用于高端游戏显卡,目前在全球动态随机存取存储器(DRAM)市场中占有的市场份额较小,但潜力非常可观。随着云计算及生成式 AI 服务的发展,全球大型科技公司将越来越多地使用 HBM,来快速处理快速增长的数据。
据芯片行业咨询公司 SemiAnalysis 披露,HBM 的价格大约是标准 DRAM 芯片的 5 倍,利润丰厚,预计到 HBM 占全球内存收入的比例将从目前的不到 5% 增长到 2026 年的 20% 以上。
自 2013 年开发全球首款 HBM 芯片以来,全球第二大存储芯片巨头 SK 海力士一直处于 HBM 领先地位。这也是 SK 海力士首次在内存技术竞赛中领先于三星。随后两家韩企进入激烈的 HBM 抢位赛,争相开始量产 HBM2、HBM2E 等芯片。
2022 年 6 月,SK 海力士宣布开始量产业界首款 HBM3 内存,与英伟达 H100 GPU 配合使用,预计将于 2022 年第三季度发货。该内存将为 H100 提供高达 819GB/s 的内存带宽。
▲历代 HBM 性能演进(图源:SK 海力士和 Rambus)目前 SK 海力士是目前唯一一家批量出货 HBM3 的供应商,拥有超过 95% 的市场份额。它正在为 AMD MI300X 和英伟达 H100 生产数据速率为 5.6GT/s 的 12 层 24GB HBM3。
今年 5 月 30 日,SK 海力士乘胜追击推出最新的HBM3E,每个堆栈的带宽从 HBM3 的 819GB/s 增加到 1TB/s,将于明年上半年投入生产,据说英伟达、AMD、微软、亚马逊等芯片大厂正排队抢货。这驱动 HBM 价格进一步大幅上涨。
据行研机构 TrendForce 的数据,SK 海力士 2022 年在全球 HBM 市场占有 50% 的份额,三星以 40% 的份额紧随其后,美国存储芯片巨头对手美光以 10% 的份额排名第三。
SK 海力士披露,生成式 AI 市场的扩张已迅速推高对 AI 服务器内存的需求。在 AI 相关需求激增的驱动下,上周三,SK 海力士报告其今年第二季度同比由盈转亏,营业亏损为 2.88 万亿韩元,其股价上周却上涨了 12%。
▲过去半年 SK 海力士股价变化次日,三星宣布第二季度营业利润为 6685 亿韩元,同比下降 95%。受益于最新一代 HBM3 芯片在内的高端内存技术订单激增,三星股价周四上涨了 2.4%,然后又有所回落。
▲过去半年三星电子股价变化TrendForce 预测,2023 年全球 HBM 芯片需求将增长 60%,达到 2.9 亿 GB,明年将再增长 30%,2025 年整体市场有望达 20 亿美元以上。预计明年 SK 海力士将占据 HBM 市场 53% 的份额,其次是三星(38%)和美光(9%)。
二、AI 服务器使用的内存,比传统服务器至少多出 1~8 倍
在财报电话会议上,SK 海力士首席财务官 Kim Woohyun 说:"与传统服务器相比,AI 服务器使用的内存至少多出 1~8 倍,以实现更快的计算处理,并采用 HBM 等高性能内存产品,这不仅会推动需求,而且对盈利能力产生了积极影响。"
他谈道,从今年年初开始,智能手机、个人电脑和服务器的需求一直疲软。但从第二季度开始,AI 服务器的需求急剧上升,抵消了其他产品需求的部分损失。自第二季度以来,生成式 AI 引发的对高端服务器的需求迅速增加。相应地,高密度 DDR5 和 HBM 产品的需求也在快速增长。
三星内存业务执行副总裁 Jaejune Kim 在三星财报电话会议上谈到第二季度在服务器方面的内存需求,由于对生成式 AI 的强劲需求,数据中心领域的投资在有限的资本支出中集中在 AI 服务器上,对通用服务器和存储的需求相对有限。
今年随着企业投资水平的降低,存储芯片客户将重点放在昂贵的 AI 服务器上的投资,对传统服务器的投资可能会暂时下降。不过,SK 海力士分析预测,通用服务器仍将广泛用于 AI 服务的开发、部署和运营,因此从长远来看也将刺激通用服务器的需求增长。
据 Kim Woohyun 披露,SK 海力士的图形 DRAM 销售额(包括 HBM 产品)此前仅占 DRAM 销售额的个位数百分比。但自从去年第四季度达到 DRAM 销售额的 10% 以来,这一比例迅速增长到第二季度超过 20%。SK 海力士用于 AI 服务器的 HBM 和高密度 DDR5 模块的销量大幅增长。该公司预计今年 HBM 的销量预计将比去年增长两倍以上,并预计明年将进一步增长。
三、今明 HBM 需求预计陡峭增涨,两家大厂披露 HBM 最新路线图
业内专家表示,由于调整产能需要时间,未来两年 HBM 供应预计仍将紧张,而快速增加 HBM 产量也很困难,因为它需要专门的生产线。
SK 海力士和三星给出了相近的产业趋势解读:内存需求一直在从去年创纪录的低增长水平中复苏,当前复苏尚不足以使全行业库存水平恢复正常,上半年库存水平仍较高,但库存已经见顶,并预测随着减产效果进一步显现,下半年存储芯片需求将较上半年有所改善。
为了进一步加速库存正常化,两家存储芯片大厂都在选择性地对 DRAM 和 NAND 的某些产品进行额外的生产调整,下半年重点抓盈利能力,专注于高附加值和高密度产品来优化其产品组合,特别是加强销售组合中 HBM、DDR5 等高价值前沿产品的份额的增长,减少库存水平较高、盈利能力不及 DRAM 的 NAND 的产量。
▲ SK 海力士在财报电话会议期间披露公司后续规划,将支持高密度和 HBM 产品需求SK 海力士相信第三季度 AI 服务器需求将持续增涨,特别是高密度 DDR 模块和 HBM,这两款产品的收入有望在下半年比上半年增速更高,HBM 的需求将在明年保持相当健康的增长。
近期,特别是随着超大规模企业对生成式 AI 服务的竞争加剧,三星收到了来自此类客户的大量需求,预计今年和明年 HBM 的需求可能会出现相当陡峭的增长。
目前 SK 海力士的首要任务是投资增加 HBM 的大规模生产。该公司刚刚对今年年初制定的有关技术产能组合的规划进行了调整,以应对对高密度 DDR5 和 HBM 不断增长的需求。
对于 HBM 路线图来说,重要的是与 GPU 的发布或领先加速器市场的公司的时间表保持一致。SK 海力士预计将在 2026 年某个时候转向 HBM Gen 4,并正为此做准备。
根据其路线图,明年下半年将是 HBM3E 量产期,也是 HBM3E 的供应扩大期。今年 SK 海力士的重点是增加 HBM 量产所需的 1Z 纳米的比例,还准备增加 1B 纳米产能和 TSV 产能,为明年上半年开始供货的 HBM3E 做准备。
为了与市场增长预期保持一致,三星一直在扩展其 HBM 业务,产品方面拥有向主要客户独家供应 HBM2 的记录,后续还就 HBM2E 开展业务,计划 2023 年下半年开始大规模生产 HBM3。三星 HBM3 正在接受具有行业顶级性能和密度或容量的客户资格认证,已开始向主要的 AI SoC 公司和云计算公司发货 8 层 16GB 和 12 层 24GB 产品。具有更高性能和容量的三星下一代 HBM3P 芯片计划于今年晚些时候发布。
▲三星 HBM3 介绍(图源:SemiAnalysis)三星还一直投资 HBM 生产能力,基于此已经预订了大约 10 亿或十亿中值 Gb 级的客户需求,大约是去年的两倍,并正在通过提高生产力来进一步提高供应能力,到 2024 年计划将 HBM 产能增加至少是 2023 年水平的两倍。另据此前报道,三星拟投资 1 万亿韩元扩产 HBM。
对于三星来说,它虽然在 HBM 竞争的反应比 SK 海力士慢半拍,但考虑到通常 AI 芯片与 HBM 存储器一起集成到单个封装中,三星拥有一个其他芯片企业所不具备的优势——兼具先进 GAA 工艺技术、HBM 技术和先进封装技术。
如果未来三星能够推出最大化发挥这三类关键技术协同效应的解决方案,这有望成为未来三星在 AI 算力市场竞争中的关键壁垒。
结语:存储芯片巨头打响 HBM 争霸赛
随着云计算和生成式 AI 服务越来越受欢迎,对 HBM 等高性能内存芯片的需求与日俱增。在 HBM 价格不断上涨的情况下,英伟达等芯片巨头仍在预订更多 HBM 产能来满足其 GPU 需求,这导致 HBM3 芯片的供给更加紧俏。
在今年资本支出大幅下降的情况下,在 HBM 市场领先的 SK 海力士正通过提高生产力、加快设备交付时间和削减其他领域的投资等努力,确保 HBM3 的产能和投资。稳居全球存储芯片第一的三星,自然不甘在 HBM 这一极具前景的细分市场屈居于 SK 海力士身后,亦加大马力争取新订单并专注于 HBM 等高附加值产品的销售。
全球排名第三的美国存储芯片巨头美光科技也在上周面向 AI 客户发布了最新 DRAM 四年路线图,包括用于 AI 和高性能计算应用的 HBMNext。到 2024 年,美光科技 HBM3E 预计将在第三季度 / 第四季度开始出货。
▲美光科技披露面向 AI 基础设施需求的解决方案路线图存储芯片巨头们正在严阵以待,通过加大在先进技术突破和扩大产能方面的投资,为持续到来的 HBM 等支持大规模数据处理的高性能内存产品的需求激增做好准备。SK 海力士能否在 HBM 技术和市场保持领先身位、长期掌握议价权,也是业界强烈关注的焦点。
标签:
精彩推荐
芯东西(公众号:aichip001)作者|ZeR0编辑|漠影韩国存储芯片巨头们正
深圳市委书记孟凡利与复星国际郭广昌一行会谈:7月31日,深圳市委书记
智通财经获悉,7月31日(周一)美股盘前,全球汽车芯片领导者安森美半导
茶馆在川渝地区是最常见的休闲去处,在重庆市沙坪坝区回龙坝镇聚龙
记者从北京交通运行监测调度中心获悉,受降雨和4 9限行影响,预计明日
7月31日,记者从西安市医疗保障局获悉,8月1日起,我市基本医疗保险门
7月31日,中国女队在高新体育中心体育馆以3:0击败韩国队,顺利晋级成
7月28日-7月29日,薛之谦天外来物巡回演唱会在深圳举行。大家是不是非
编者按:新的一年Get新技能!大众网临沂推出《跟着麦片学拍照》系列策
赛伦生物董事长范志和因涉嫌职务犯罪被实施留置并立案调查
据顺德警察:7月30日19时许,110接报在顺德乐从新天地门口,有一名女子
四川男篮今天官方宣布,球队已经和李泓翰(上图)和郭金林(下图)两名
上海复旦(01385)现跌超4%,截至发稿,跌4 4%,报20 65港元,成交额5377
在7月30日的开学典礼上,西湖大学校长施一公向93名本科新生承诺:在西
气象部门统计显示,从29日20时至31日13时,北京地区全市平均降雨量176
中新真探:外出吃饭时用开水烫碗能杀菌吗?中新网7月31日电高温消毒要
0471房产来为大家解答以上的问题。马鞍规划建设项目,mag焊接什么意思
(相关资料图)2023年7月31日,20碧地04交易异常波动,盘中停牌,从10:56
证券时报网讯,华密新材7月28日发布2023年业绩报告,公司上半年实现营
近日,公募基金二季报已经基本披露完毕。数据显示,尽管二季度A股市场
资讯News
08-15
07-07
11-03
11-03
11-03
11-03
11-03
11-03
11-03
11-03
11-03
11-03
聚焦Policy
峰飞航空科技与世界领先的机场运营商-巴黎机场集团(Groupe ADP)签署战略合作协议(MoU),将于2024年...
该合作开辟了阿拉伯联合酋长国和沙特阿拉伯等极具前景的市场,随后将在亚洲和非洲部署峰飞航空科技(Aut...
当好农民工的“护薪人” 近日,罗某等7名农民工在收到被拖欠的工资后,纷纷打电话向江西省南昌市...
“通讯录里所有人都知道我欠钱了” □ 本报记者 韩丹东 □ 本报见习记者 张守坤 ...
大连宝马车撞人案肇事司机被判死刑 本报讯 记者韩宇 10月29日,辽宁省大连市中级人民法院一审...
医院财务迷上网络赌博输光5000万元公款 □ 本报记者 马维博 □ 本报通讯员 汪宇堂 曹...
辊环车削 雕琢毫厘(工匠绝活) 【绝活看点】 23年来,雷虎始终扎根一线,改进钢材轧制工艺...
交警严查超标电动自行车挪用“白牌” 截至昨晚6时,处罚电动自行车违法行为共计6585笔;下一步将...
明起寒潮来袭 北方气温普降10℃以上 中央气象台预计,本周日北京平原地区最低气温降至-4℃左右...
多种蔬菜价格降幅达五成 包括菠菜、蒿子秆等 预计本月中旬蔬菜恢复供需平衡 本报讯(记者...
北京周日最低气温或达-4℃ 本报讯(记者 赵婷婷)北京青年报记者昨天从中央气象台获悉,新一股...
昌平一家四口确诊新冠肺炎 天通北苑第二社区升级为中风险地区 朝阳两涉疫校区及16所学校停课 ...