微软今日正式发布自主研发的人工智能加速器Maia 300。该芯片专为推理任务优化，微软估算其每兆瓦功耗处理的Token数量比“领先的基于GPU的系统”高出40%，后者通常指向英伟达产品。微软表示，Maia系列将成为其推理能力的核心支柱。
硬件规格与架构创新
Maia 300集成四颗采用台积电最新两纳米制程的计算Chiplet（小芯片），两侧配备八个HBM4模块，总显存容量达288GB，与英伟达旗舰级Rubin加速器持平，但内存带宽低约20%。
针对AI推理中数据在计算与存储电路间频繁移动导致的延迟问题，Maia 300采用数据流架构以最小化数据迁移。计算Chiplet优先将信息保留在内部SRAM缓存中；若必须使用HBM，则发送至物理邻近的内存堆栈，而非芯片远端。此外，芯片支持将数据压缩为MXFP4等轻量级格式，进一步提升片内数据传输效率。
微软高管Rani Borkar和Saurabh Dighe指出，更窄的数据表示降低了内存占用和数据移动开销，使系统能在同等功耗下支持更大模型、更长上下文及更多并发会话。
在芯片内部，设备控制Chiplet负责电源管理、遥测数据收集等辅助任务，另有两个辅助Chiplet专门管理数据进出。
集群部署与网络优化
微软计划将Maia 300部署于托盘式服务器，每托盘含四个加速器，并置于液冷机架中，每个机架共容纳96个加速器。官方预计，新机架的Token吞吐量约为搭载上一代Maia 200芯片系统的七倍。Maia 200已于今年1月推出并投入生产。
在大规模集群方面，微软将Maia 300机架组建为包含12,288个加速器的“超级Pod”。各芯片通过基于定制以太网协议的协议栈连接，该网络可动态调整机架内流量与机架间通信的带宽比例，实现针对特定工作负载的性能优化。
传统架构中，机架内与机架间数据交换需切换至CPU或独立网络芯片，而Maia 300对两类任务采用“相同的通信语义”，消除了额外硬件需求，提升了集群效率。Borkar和Dighe表示，这种设计允许作业跨机架边界利用算力，减少因工作负载规模与物理配置不匹配造成的资源闲置。
微软计划于明年在生产环境中正式部署Maia 300，预计其定制硅片将为数十GB规模的AI计算提供动力。