SK 海力士正在以两项突破性技术重新定义 AI 基础设施的内存架构边界。在 2026 年 OCP 全球峰会上,这家韩国存储巨头发布了 MARS 内存加速架构与 HBF 高带宽闪存技术,剑指当前 AI 推理与训练中日益严峻的内存瓶颈问题。
SK 海力士高级副总裁 Hoshik Kim 在峰会上披露,MARS 系统可将多轮 AI 推理场景中的首次标记时间(TTFT)提升 3 至 5 倍,尾延迟亦大幅压缩。这一性能跃升直接针对现有以处理器为中心的集群架构所固有的资源失衡问题,有望降低 GPU 过度配置带来的总拥有成本(TCO)。
与此同时,HBF 技术在保持接近 HBM 级别带宽的前提下,将容量扩展至 HBM 的 14 倍,并计划于 2028 年初推出样品。
上述两项技术的发布,标志着 SK 海力士在 HBM 主赛道之外开辟了一条差异化路线。在 HBM 供应持续紧张、英伟达等 AI 芯片厂商对高带宽内存需求居高不下的背景下,这两项技术或将对现有 AI 存储架构形成重要补充,并对存储产业链竞争格局产生深远影响。
MARS:以内存解聚打破 GPU 过度配置困局
传统以处理器为中心的分布式计算集群面临结构性瓶颈。Kim 在峰会上指出,现有架构存在两大核心缺陷:其一,资源失衡——某台服务器上的闲置内存无法便捷地与其他节点共享;其二,扩展僵化——增加内存容量往往意味着购置整台新服务器节点。这两大问题叠加,迫使运营商不得不对 GPU 进行过度配置,推高 TCO 并造成系统效率低下。
MARS(Memory-Centric AI Rack-Scale System)的核心逻辑在于内存解聚。Kim 将其描述为 " 将内存从传统 CPU/GPU 服务器约束中解耦,构建一个专用的大规模内存池 ",从而实现从 " 单服务器内存余量 " 向 " 池化级效率 " 的跨越。在架构层面,MARS 将这一内存托盘级内存池的概念进一步扩展至机架规模,使计算与内存作为共享基础设施协同运作。
在实际应用场景中,MARS 的价值尤为突出。Kim 以多轮 AI 智能体推理服务为例说明,该系统能够将多轮对话中急剧膨胀的 KV 缓存存储于共享内存系统,而不会耗尽 GPU 内存与存储资源。据 TrendForce 现场报道,Kim 援引测试数据称,与重新计算方案相比,MARS 可实现 TTFT 提升 3 至 5 倍,尾延迟的改善尤为显著。
对于 AI 推理服务商而言,TTFT 是衡量用户体验的关键指标,尾延迟的压缩则直接关系到大规模并发场景下的服务稳定性。MARS 所针对的 GPU 过度配置问题,亦是当前 AI 数据中心运营成本居高不下的重要根源之一。
HBF:以容量换取架构弹性,2028 年进入样品阶段
HBF(High Bandwidth Flash,高带宽闪存)是 SK 海力士在 HBM 之外布局的另一技术路线。Kim 在峰会上明确了 HBF 与 HBM 的定位关系:"HBF 将 HBM 级别的带宽扩展至机架规模的容量…… HBF 的带宽约为 HBM 的一半,但容量约为 HBM 的 14 倍。"
这一定位揭示了 HBF 的核心价值主张:以适度的带宽折让换取大幅扩展的容量空间,从而在机架层面构建更具弹性的存储层级。对于大模型推理中需要承载海量参数与上下文的场景,容量瓶颈往往比带宽瓶颈更为制约系统性能,HBF 的 14 倍容量优势因此具有实质性意义。
在技术路线图方面,SK 海力士已于今年 7 月发布 OCP HBF 规范 0.7 版本,预计明年初推出 1.0 版本,HBF Cube 样品则计划于 2028 年初提供。这一时间线意味着 HBF 距离大规模商业化部署仍有约两年窗口期,但规范的持续推进表明产业标准化进程正在加速。
对 AI 芯片与存储产业链的潜在影响
MARS 与 HBF 的发布,折射出存储厂商在 HBM 供应紧张背景下寻求多元化突破的战略意图。当前,HBM 产能高度集中,英伟达等 AI 芯片厂商对 HBM 的旺盛需求持续推高供应压力,这为替代或补充性内存架构提供了市场空间。
从技术逻辑看,MARS 并非直接替代 HBM,而是通过内存解聚在系统架构层面提升整体内存利用效率,减少对 GPU 内存扩容的依赖。这意味着在不增加 HBM 采购量的前提下,数据中心运营商有望通过部署 MARS 改善推理性能,对 HBM 需求形成一定的边际抑制效应。HBF 则在存储层级上提供了 HBM 的容量补充,有助于缓解大模型部署中的容量约束,但其带宽折半的特性决定了其更适合作为分级存储架构中的补充层,而非 HBM 的直接替代。
对于存储产业链而言,SK 海力士此次在 OCP 峰会上的集中发布,亦是向云计算厂商和 AI 基础设施运营商传递技术路线图的重要信号。随着 HBF 规范走向 1.0 版本并于 2028 年进入样品阶段,围绕新型存储架构的生态竞争或将提前展开,三星、美光等竞争对手的应对策略值得持续关注。