电子 发烧友网报道（文/黄晶晶）在早前的报道中，关于HBM产能能否行将过剩，业界有不同的声响，但丝毫未影响存储 芯片 厂商 对HBM 产品 更新的步调。 三大厂商12 层HBM3E 停顿 9月26日SK海力士宣布 公司 已开局量产12H HBM3E芯片，成功了现有HBM产品中最大的36GB容量。该产品重叠12颗3GB芯片，成功与现有的8层产品相反的厚度，同时容量优化50%。运转速度提高至9.6Gbps，这是在以搭载四个HBM的单个运转大型言语模型（LLM）“Llama 3 70B”时，每秒可读取35次700亿个全体 参数 的水平。SK海力士将在年外向客户提供12层HBM3E。 图源：SK海力士另外，SK海力士往年终曾地下繁多重叠的速度可达1280 GB/s的16层48GB HBM3E概念产品。据韩媒 最新 报道，SK海力士近期经外部检验，已成功确保16层HBM3E性能特性。往年9月，美光宣布推出12 层重叠HBM3E。美光示意，随着上班负载的始终开展和扩大，记忆体频宽和容量对优化系统效劳越来越关键。业界最新的 GPU 须要最高效劳的高频宽记忆体（HBM）、宏大的记忆体容量以及更高的功耗效率。为满足这些需求，美光走在记忆体翻新的最前线，目前正在向关键产业协作同伴提供可量产的 HBM3E 12 层重叠记忆体，并在整个 AI 生态系统启动 认证 。
图源：美光科技
美光抢先的 1ß（1-beta）记忆体技术和先进的封装技术确保 资料 流以最高效的模式进出 GPU。美光的 8 层重叠和 12 层重叠 HBM3E 记忆体进一步推进 AI 翻新，功耗比竞争对手低 30%。美光的 8 层重叠 2B HBM3E 已与 NVIDIA H200nsCore GPU 一同出货，并且可量产的 12 层重叠 36GB HBM3E 也已上市。美光提到，公司HBM3E 12 层重叠 36GB 与竞争对手的 8 层重叠 24GB 产品相比，不只功耗大幅降落，而且封装中的DRAM容量参与了50%。可让领有 700 亿个参数的大型 AI 模型（如 Llama 2）运转于单个 处置器 上。容量的参与防止了卸载和 GPU-GPU 通讯提前，因此能更快地取得洞见。美光 HBM3E 12 层重叠 36GB 提供每秒超越 1.2 TB/s 的记忆体频宽，n 速度超越每秒 9.2 Gb。美光 HBM3E 以最低的功耗提供最大的吞吐量。此外，美光 HBM3E 12 层重叠记忆体还整合了齐全可 编程 MBIST，能够以全 规格 速度运转系统典型流量，为放慢验证提供了更大的测试笼罩范围，缩短了产品上市期间，并提高了系统牢靠性。美光在其最新财报中示意，已从第四财季(2024年6-8月)开局向关键行业协作同伴交付可量产的12层HBM3E（36GB），估量将在2025年终提高12层HBM3E产量，并在2025年全年参与该产品出货。美光称HBM在2024年和2025年均已售罄，且定价已确定。到2025年和2026年，将领有愈加多元化的HBM支出状况，由于美光已仰仗行业抢先的HBM3E处置方案赢得了宽泛HBM客户的业务。韩媒此前报道， 三星 电子于往年2月初次推出了HBM3E 12H。在2024 年第 2 季度财报电话会议上，三星公司高管示意，曾经预备好量产 12 层 HBM3E 芯片，咱们将依据多家客户的需求方案，在往年下半年扩展供应。同时，三星示意，第五代 8 层 HBM3E 产品已交付客户评价，方案 2024 年第 3 季度开局量产。总之，HBM3E 芯片在三星 HBM 中所占的份额估量将在第三季度超越 10%，并有望在第四季度迅速扩展到 60%。 和 控制器 ，抢先IP 始终拓展 芯片IP厂商关键提供包含处置器核、内存控制器、 接口 协定、图形处置单元等 集成电路 设计中的常识产权组件。这些可复用的IP核能够提高设计效率、降落老本、缩短产品上市期间。目前包含新思、bus、 创意 电子、合见工软、芯耀辉等等厂商都推出了HBM IP 处置方案。Synopsys新思 科技 提供完整的 DesignWare HBM IP 处置方案，包含控制器、PHY 和验证 IP，以满足高性能计算、AI 和图形运行畛域的片上系统 (SoC) 设计对高带宽和低功耗内存的剧烈需求。该 IP 允许 HBM2、HBM2E 和 HBM3 规范所要求的配置，曾经过硅验证，可成功高达 921 GB/s 的高带宽。Rambus也踊跃规划HBM内存市场，去年底推出数据传输速率高达9.6Gb/s的HBM3内存控制器IP，可协助大幅提高AI性能。Rambus的这一内存控制器IP产品是经过验证的，可允许一切HBM3产品，也包含最新的HBM3E内存设施。最近，创意电子宣布其3纳米HBM3E控制器和实体层IP已获云端服务供应商（CSP）及多家高效运算（HPC）处置方案供应商驳回。这款尖端估量将于2024年投片，并将驳回最新的9.2Gbps HBM3E技术。此外，创意电子也踊跃与HBM供应商（如美光）协作，为下一代AI ASIC 开发HBM4 IP。创意电子的 HBM3E IP 已经过台积电 N7 / N6、N5 / N4P、N3E / N3P 先进工艺制程技术的验证，与一切干流 HBM3 厂商产品兼容，且在台积电 CoWoS-S 及 CoWoS-R 先进封装技术上都启动了流片验证。除 人工智能 运行畛域之外，创意也等候相关HBM IP可继续为高效劳运算、 网络 和汽车等各种运行提供允许。芯耀辉科技努力于为中国大算力产业提供高速接口IP处置方案。芯耀辉成功研收回全套自研接口IP，涵盖了PCIe、Serdes、、HBM、D2D、、MIPI、、，/eMMC等最先进协定规范，并构建了一套全栈式完整IP处置方案。前不久，合见工软新品颁布涵盖有UniVista HBM3/E IP，该产品包含HBM3/E内存控制器、物理层接口（PHY）和验证平台，驳回低功耗接口和翻新的 时钟 架构，成功了更高的总体吞吐量和更优的每瓦带宽效率，可协助芯片设计人员成功超小PHY面积的同时允许最高9.6 Gbps的数据速率，处置各类前沿运行对数据吞吐量和访问提前要求严苛的场景需求疑问，可宽泛运行于以AI/ 机器学习 运行为代表的数据与计算密集型SoC等多类芯片设计中，已实如今AI/ML、数据 核心 和HPC等畛域的国际头部企业中的成功部署运行。 小结： 依据集邦咨询的报告，HBM3e 12hi是2024年下半年市场关注的重点。估量于2025年 英伟达 推出的Blkwell Ultra将驳回8颗HBM3e 12hi，GB200也有更新或许，再加上B200A的规划，因此，预估2025年12hi产品在HBM3e当中的比重将优化至40%，且无时机回升。英伟达是HBM市场的最大买家，在Blackwell Ultra、B200A等产品推出后，英伟达在HBM市场的洽购比重将打破70%。产能方面，CFM闪存市场数据显示，估量至2024年底三星、SK海力士和美光算计到达30万片的HBM月产能，其中三星HBM增产最为保守。估量明年世界HBM市场规模将上望300亿美元，HBM将占DRAM晶圆产能约15%至20%。