Marvell 光子光互联方案登场用光打通共享内存,破解 AI 存储末日

Marvell 推出 Photonic Fabric 光子光互联架构,目标就是解决 AI 行业常说的存储末日(RAMpocalypse),依靠光互联把分散的 HBM、DDR5 内存池化共享,不再把内存绑定在单台 GPU 服务器里面,让多台、跨机架的 AI 加速卡共用一大片统一内存资源,专门用来扛大模型 KV 缓存的压力。现在 AI 推理的核心痛点就是 KV 缓存越做越大,单卡自带 HBM 容量不够,用电信号拉远内存的话带宽掉得快、延迟高、功耗还大,铜线的物理极限很难跨机架做内存池。Marvell 在今年 2 月收购 Celestial AI 拿到这套光子底层技术,联合 Penguin Solutions 做成整机设备,用光链路替代传统电互联,做到跨机架低延迟内存访问,不用跟着 GPU 数量同步成倍增加内存硬件,在现有机房供电和空间限制下,把推理吞吐量拉高 2 到 3 倍,缓解内存不足带来的 GPU 空转、token 出流变慢的问题。

Photonic Fabric 光子内存设备基础参数

项目规格信息
核心模块PFMM 光子结构内存模块
单模块配置72GB HBM3e 缓存 + 8 通道 DDR5
单模块双向带宽7.2Tbps(900GB/s)
整机首批容量16TB DDR5 + 1TB HBM,后续可扩容至 32TB DDR5
整机接入服务器数量最多 16 台 XPU/AI 服务器
整机交换总带宽57.6Tbps
最远传输距离30~50 米,跨机架部署
访问延迟约 350ns,接近 NUMA 内存访问水平
配套接口CXL3.1、PCIe Gen6,支持 CPO/NPO 共封装光模块接入

整套光子架构三大核心组件清单

  1. PFMM 光子内存模块:硅光子中介层集成 HBM3e 和 DDR5,是内存池的基础单元,负责存储 KV 缓存数据
  2. PF-NIC 光子网卡:装在 AI 服务器上,作为算力卡和光子内存池之间的光接口,协议兼容 CXL
  3. Photonic Fabric 交换芯片:光纤交换矩阵,负责在多台服务器和多组内存模块之间调度光信号

和传统电互联内存扩展方案对比

  1. 距离上限:铜线方案大多局限在单机或者同机架短距离;光子方案可以跨机架,几十米距离依旧维持高带宽
  2. 功耗表现:同等带宽下光互联每比特功耗更低,适合大规模长期跑推理
  3. 延迟特性:远低于 NVMe SSD 这类外存,接近远端内存,适合 KV 缓存这类需要频繁读取的热数据
  4. 扩容模式:内存池独立扩容,算力和内存解耦,不用买 GPU 就可以加内存
  5. 短板:整套光子硬件、光模块成本更高,软件调度、内存一致性管理更复杂

主要落地场景

  • 大模型 Agent 推理、长上下文对话场景,承载海量 KV 缓存
  • 多服务器集群共享内存,多模型混部,动态分配内存资源
  • 降低 GPU 因为内存不足频繁从 SSD 拉取数据的卡顿,减少 GPU 空转浪费
  • 面向云厂商、超算中心,在不新增大量机柜和供电的前提下提升推理密度

项目合作与时间线

  • 2026 年 2 月:Marvell 收购 Celestial AI,拿下 Photonic Fabric 光子底层技术
  • 2026 年 8 月:Marvell 正式对外发布光子内存池方案,聚焦 KV 缓存瓶颈
  • 近期:和 Penguin Solutions 合作推出可商用整机设备,面向数据中心客户送样验证

【相关 FAQ】

问题 1:Marvell 用光来终结存储末日,这个存储末日指的是什么?

回答 1:Marvell 要解决的存储末日也叫 RAMpocalypse,是 AI 大模型推理时 KV 缓存暴涨,单 GPU 自带 HBM 容量不够,用电互联很难低成本跨机架扩展内存,算力卡在等待内存数据,GPU 利用率上不去的行业瓶颈。

问题 2:Marvell Photonic Fabric 光子光互联方案,核心原理是什么?

回答 2:Marvell Photonic Fabric 光子光互联方案,用光链路代替传统电互联,把 HBM3e、DDR5 组成独立共享内存池,跨机架给多台 AI 服务器提供统一内存空间,低延迟承载 KV 缓存。

问题 3:Marvell 这套光子内存设备,一台最多可以给多少服务器共享内存?

回答 3:Marvell 光子内存整机设备最多可以接入 16 台 AI 服务器,首批版本支持 16TB DDR5+1TB HBM,后续版本扩容到 32TB DDR5。

问题 4:Marvell 光子光互联方案对比 CXL 电内存扩展,优势在哪?

回答 4:Marvell 光子光互联方案相比 CXL 电内存扩展,支持更远的跨机架距离,带宽衰减更小、单位比特功耗更低,适合大规模集群做内存池化,而 CXL 电方案更适合机架内部短距离扩展。

【参考资料】

[2026-11-17](Marvell 要用光,终结存储末日)腾讯新闻 - 半导体行业观察

[2026-11-16](Marvell Photonic Fabric Recognized as an AI Compute Gamechanger)Marvell 官网

[2026-08-22](Marvell Pushes Shared Optical Memory Across AI Racks for KV Cache)Converge Digest

[2026-08-04](Marvell Advances AI Memory Infrastructure Portfolio to Accelerate Agentic AI Inference)Marvell 官方新闻稿

【免责声明】

以上内容仅为行业技术资讯整理,不构成任何投资建议。Marvell 光子光互联内存方案尚处于早期商用验证阶段,存在光器件成本高、软件栈适配难度大、内存一致性调度复杂、大规模集群稳定性待验证等风险,相关产品参数、交付节奏请以 Marvell 和 Penguin Solutions 官方发布为准。

本文来自作者[幻核追踪]投稿,不代表岳鹿科技网立场,如若转载,请注明出处:https://www.newsyuelu.com/bdt/202611/1047.html

赞 (0)
反馈

发表回复

本站作者后才能评论

评论列表(4条)

  • 幻核追踪
    幻核追踪 2026年11月17日

    我是岳鹿科技网的签约作者“幻核追踪”!

  • 幻核追踪
    幻核追踪 2026年11月17日

    希望本篇文章《Marvell 光子光互联方案登场用光打通共享内存,破解 AI 存储末日》能对你有所帮助!

  • 幻核追踪
    幻核追踪 2026年11月17日

    本站[岳鹿科技网]内容主要涵盖:互联网行业的追踪与探索

  • 幻核追踪
    幻核追踪 2026年11月17日

    本文概览:Marvell 推出 Photonic Fabric 光子光互联架构,目标就是解决 AI 行业常说的存储末日(RAMpocalypse),依靠光互联把分散的 HBM、DDR5 内存池化共享,不再把内存绑定在单台 GPU 服务器里面,让多台、跨机架的 AI 加速卡共用一大片统一内存资源,专门用来扛大模型 KV 缓存的压力。现在 AI 推理的核心痛点就是 KV 缓存越做越大,单卡自带 HBM 容量不够,用电信号拉远内存的话带宽掉得快、延迟高、功耗还大,铜线的物理极限很难跨机架做内存池。Marvell 在今年 2 月收购 Celestial AI 拿到这套光子底层技术,联合 Penguin Solutions 做成整机设备,用光链路替代传统电互联,做到跨机架低延迟内存访问,不用跟着 GPU 数量同步成倍增加内存硬件,在现有机房供电和空间限制下,把推理吞吐量拉高 2 到 3 倍,缓解内存不足带来的 GPU 空转、token 出流变慢的问题。

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们