Marvell在AI基础设施领域的野心终于落地为实体硬件。该公司近期展示了“光子互连内存模块”（PFMM），称其为首款采用光学互连的高容量、高带宽内存产品。
其核心逻辑是以光代铜，将数十TB内存置于独立机柜，通过光纤供多处理器共享，旨在推动多服务器AI系统中共享内存的普及。
32TB共享内存池，2027年送样
需注意，32TB容量并非来自单个模块，而是由16个模块组成的“光子互连内存设备”，可向最多16个主机节点（服务器或加速器）共享内存池。目前该产品尚未发货，Marvell计划于2027年向客户提供样品。
据演示资料，单个模块包含72GB HBM3e内存、最多八个DDR5 DIMM插槽、一个光子互连ASIC芯片及7.2Tbps光学I/O接口。若填满256GB RDIMM并通过无源全对全光纤交换连接16个模块，可实现32TB DDR5和1,152GB HBM3e内存。Marvell将其估算为约1TB HBM，作为DRAM前端的高速写穿缓存。
该技术直指KV缓存（Key-Value Cache）痛点。在大语言模型处理长上下文时，本地HBM和主机DRAM往往不足，导致数据被驱逐重算或从慢速存储读取，严重影响性能。Marvell高管指出，共享层级允许跨节点重用已计算上下文，实现内存与计算能力的独立扩展。
尽管Marvell声称能降低每GB内存成本和推理成本，但至今未提供具体数据支撑。此外，该方案依赖的DDR5内存目前供应紧张，价格处于高位，可能影响短期经济性。
Nvidia的双重下注
竞争对手Nvidia并未袖手旁观，反而通过投资与技术自研双重布局。2026年3月，Nvidia向Marvell投资20亿美元，涵盖NVLink Fusion技术和硅光子学业务。由于NVLink Fusion平台必须包含至少一款Nvidia产品，无论定制化硅片市场如何变化，Nvidia均可获利。
同时，Nvidia也在构建自有内存层级。其Vera Rubin NVL72机架搭载54TB LPDDR5X内存；推出的BlueField-4 STX专为KV缓存设计，配套系统将于2026年下半年交付；此前还斥资超9亿美元收购Enfabrica以池化GPU集群内存。在光学领域，Nvidia不仅投入巨资布局Lumentum和Coherent，还计划在2028年的Feynman系列系统中提供共封装光学（CPO）选项。
Marvell仍面临诸多挑战：需验证硅片性能、锁定客户与内存合作伙伴，并在真实硬件上证明吞吐量优势。在此之前，其资本支出节省的优势仍停留在理论层面。