分析师表示，今年高性能存储芯片可能仍将供应紧张，因为人工智能的爆炸性需求导致了这些芯片的短缺。SK海力士和美光这两家全球最大的存储芯片供应商表示，2024年的高带宽存储芯片缺货，而2025年的库存也几乎售罄。晨星（Morningstar）股票研究总监伊藤和之（Kazunori Ito）上周在一份报告中表示：“我们预计，整个2024年，通用内存供应将保持紧张。”。对人工智能芯片组的需求推动了高端存储芯片市场的发展，使全球前两大存储芯片制造商三星电子和SK海力士等公司受益匪浅。虽然SK海力士已经向英伟达供应芯片，但据报道，该公司也在考虑将三星作为潜在供应商。高性能存储芯片在大型语言模型（LLM）的训练中发挥着至关重要的作用，如OpenAI的ChatGPT，这导致人工智能的采用率飙升。LLM需要这些芯片来记住过去与用户对话的细节及其偏好，以生成对查询的类似人类的响应。纳斯达克IR Intelligence董事William Bailey表示：“这些芯片的制造更加复杂，提高产量一直很困难。这可能会在2024年剩余时间和2025年大部分时间造成短缺。”。市场情报公司TrendForce在3月份表示，与个人电脑和服务器中常见的DDR5内存芯片相比，HBM的生产周期延长了1.5到2个月。

为了满足不断飙升的需求，SK海力士计划通过投资美国印第安纳州的先进封装设施、清州的M15X晶圆厂和韩国的Yongin半导体集群来扩大产能。三星在4月份的第一季度电话财报会议上表示，其2024年HBM比特供应量“比去年增长了三倍多”。芯片容量是指存储芯片可以存储的数据比特数。三星表示：“我们已经完成了与客户就承诺供应量的讨论。到2025年，我们将继续将供应量同比扩大至少两倍或更多，我们已经在与客户就供应量进行顺利谈判。”。美光没有回应CNBC的置评请求。

大型科技公司微软、亚马逊和谷歌正在花费数十亿美元培训自己的LLM，以保持竞争力，从而刺激对人工智能芯片的需求。“人工智能芯片的大买家——Meta和微软等公司——已经表示，他们计划继续将资源投入到人工智能基础设施的建设中。这意味着，至少到2024年，他们将购买包括HBM在内的大量人工智能芯片，”半导体行业书籍《芯片战争》的作者克里斯·米勒说。

芯片制造商正在激烈竞争，以制造市场上最先进的存储芯片，从而抓住人工智能的繁荣。SK海力士在本月早些时候的新闻发布会上表示，将于第三季度开始大规模生产最新一代HBM芯片，即12层HBM3E，而三星电子计划在第二季度内开始生产，因为它是业界第一家运送最新芯片样品的公司。大和证券执行董事兼分析师SK Kim表示：“目前，三星在12层HBM3E采样过程中领先。如果他们能比同行更早获得资格，我认为它可以在2024年底和2025年底获得多数股权。”。