在首尔 2026 半导体展上，韩国芯片巨头开发负责人 Ahn Hyun 发表主题演讲时指出，人工智能推理市场正同时在三个领域扩展——任务复杂度、每次处理的信息量、以及推理请求数量，并且这三个因素的相互作用正在迅速推高对人工智能基础设施的需求。
随着人工智能推理需求激增，存储和传输大量数据的内存变得越来越重要。
特别是，用于存储并重复使用 AI 模型先前处理过的信息的关键值缓存，其容量需求不断增长，因此需要将数据分布在不同类型的内存中，包括高带宽内存（HBM）、动态随机存取内存（DRAM）以及固态硬盘。
对此，Ahn Hyun 作出了这一预测，即人工智能基础设施的性能规模到 2030 年将增长约 20 倍。
此外该高管还补充道，SK 海力士正在推进下一代存储技术，包括三维堆叠 DRAM 和高带宽闪存，同时继续提升现有 HBM 产品的性能。
两大新技术
此外值得一提的是，同一时间，在旧金山的 2026 年 OCP 全球峰会上，SK 海力士推出了 MARS ——一款以内存为中心的 AI 机架级系统，这是一种解耦式机架级架构，旨在无缝协调计算和内存资源。
据了解，MARS 能够将计算和内存协调到一个共享的基础设施中，多轮智能体推理产生的键值缓存存进共享内存池，不必反复重算，首个词元的生成时间最多可提升 3 至 5 倍，尾延迟压缩更明显。
这一性能跃升直接针对现有以处理器为中心的集群架构所固有的资源失衡问题，有望降低 GPU 过度配置带来的总拥有成本。
与此同时，SK 海力士的高带宽闪存技术 HBF 在保持接近 HBM 级别带宽的前提下，将容量扩展至 HBM 的 14 倍，并计划于 2028 年初推出样品。
上述两项技术的发布，标志着 SK 海力士在 HBM 主赛道之外开辟了一条差异化路线，剑指当前人工智能推理与训练中日益严峻的内存瓶颈问题。在 HBM 供应持续紧张、英伟达等 AI 芯片厂商对 HBM 需求居高不下的背景下，这两项技术或将对现有人工智能存储架构形成重要补充，并对存储产业链竞争格局产生深远影响。
