社区运营的开放基准测试首次提供可复现证据，证明Transformer语言模型可在不使用反向传播的情况下进行预训练，并实现低于主流Adam优化器的验证损失。
在Q Labs Noise Speedrun项目第二阶段排行榜上，“验证损失赛道”的最佳条目达到3.338的损失值，略优于ANVIL II反向传播基线的3.340；“开放架构赛道”表现更为突出，损失值降至3.211，远低于任何反向传播参考值。
里程碑：Dust算法与前向传播训练
这一结果标志着Q Labs于2026年10月发布的Dust算法取得关键进展。该算法由Samip Dahal、Bishwas Mandal、Serdar Gülbahar和Akshay Vegesna等研究人员提出。Dust仅利用前向传播训练Transformer，通过向中间激活值注入噪声来估计梯度方向，摒弃了传统的链式法则导数计算。
Noise Speedrun第二阶段于10月22日启动，训练数据集从1000万FineWeb令牌扩充至3000万，目标验证损失从4.2收紧至3.5，显著提升了挑战难度。
为何寻求替代反向传播？
过去四十年，反向传播一直是神经网络训练的通用算法。它通过链式法则将误差信号逐层向后传播，计算每个权重对输出误差的贡献。然而，这种机制存在两大局限：
首先，存储反向传播所需的中间激活值会随模型深度、批量大小和上下文长度的乘积扩展，巨大的内存负担限制了单机可训练的模型规模。其次，反向传播要求模型组件必须可微分，导致涉及离散操作、随机路由或不可微分组件的架构无法进行端到端训练。
致力于“深度学习登月计划”的Q Labs将Dust视为迈向“基于搜索的信用分配”的第一步，即通过探索变体并奖励有效方法来进化式地训练Transformer，而非单纯计算最陡下降方向。
Dust机制：从单次前向传播中提取梯度
Dust的核心创新在于将单次前向传播转化为数千次独立的梯度实验。传统零阶优化策略通过扰动模型权重来估计梯度，需生成多个网络副本分别运行前向传播，计算成本随模型规模急剧增加。
Dust改为扰动激活值——即每个线性层的中间输出。由于Transformer同时处理包含数千令牌的序列，在每一层为每个令牌的激活值添加独立高斯噪声，可在单次前向传播中产生数千种不同的扰动实验，论文称之为“虚拟种群”。在16,384次抽取的种群规模下，其评估效率比同等计算成本下的权重扰动进化策略高出至少三个数量级。
数学结构上，Dust生成的梯度估计与反向传播输出高度相似。随着虚拟种群增大，估计值的信噪比提高，并在极限情况下收敛于反向传播梯度。这一机制基于自然进化策略（NES）理论，但将其应用层面从权重转移至令牌，从而在Transformer预训练中实现了计算可行性。
基准测试：小规模下的性能对比
Dust论文基于3770万参数的GPT风格解码器-only Transformer进行实验，训练令牌预算为10万至2000万。结果显示：
- 在短训练周期内，Dust表现优于反向传播。例如在100万令牌、1024次抽取时，Dust验证损失为5.934，反向传播为5.959。
- 随着训练量增加至2000万令牌，反向传播逐渐反超。此时Dust损失为4.802，反向传播为4.633。
尽管论文通过幂律拟合外推预测，若种群足够大，Dust在2000万令牌时的损失可收敛至约4.431（低于反向传播的4.633），但作者强调这是松散约束的外推，并明确指出：“在Dust成为反向传播的实际替代品之前，还需要几个数量级的计算效率提升。”
与先前零阶替代方案相比，Dust优势明显。权重扰动进化策略EGGROLL在2000万令牌时的测试损失为5.865，远高于Dust的4.802。Q Labs估算，在同等种群规模下，Dust的计算效率比权重空间进化策略高出约1000至10,000倍。
内存优势与潜在影响
Dust消除了反向传播所需的激活缓存，理论上可大幅降低内存占用。标准反向传播需存储每一层的中间激活值以计算梯度，这在长上下文大模型中占据大量GPU内存。虽然Dust论文未量化具体节省比例，但参考2023年NeurIPS发表的MeZO方法（仅使用前向传播微调），其内存使用最多可减少12倍。Dust是否在预训练规模上实现同等增益，尚待独立验证。
Noise Speedrun：社区驱动的加速竞赛
为验证算法潜力，Q Labs同步启动了公开基准测试Noise Speedrun。第一阶段要求参与者在固定硬件（八卡H100节点）和模型架构下，以最快速度达到4.2的目标验证损失，且不得使用反向传播或自动微分。
Q Labs初始基线耗时1.76小时。社区贡献者通过优化梯度估计、并行性及初始化策略，将记录不断刷新。最终，结合“Drift Leap”提前停止和“无数据结构构化启动”等策略，第一阶段最佳记录压缩至1.6秒，实现约4000倍加速。在最低损失赛道，最佳结果为3.676，低于相同条件下Adam基线的3.769。
第二阶段于10月22日开启，引入3000万令牌数据和开放架构赛道。当前数据显示，固定架构赛道领先条目损失值为3.338，首次低于ANVIL II反向传播基线（3.340）；开放架构赛道更是达到3.211。第二阶段目标3.499已在8分20秒内达成。
需注意，这些基线是第二阶段开始时设定的固定参考点，而非反向传播研究的最新前沿。结果是否泛化至更大规模仍属开放问题，这也是扩大第二阶段测试的目的所在。
与其他替代方案及未来展望
Dust进入了一个主要关注微调而非预训练的研究领域。相较于MeZO（仅用于微调）和Sakana AI的PC-ALM（未在Transformer上验证），Dust的关键区别在于从头预训练。研究发现，在Dust方法下，较大模型表现出更高的种群效率，这与高维空间几何特性有关，即随机扰动携带有用方向信息的概率随维度增加而提升。
尽管理论前景广阔，但商业化应用仍遥不可及。当前实验模型参数量仅为3770万，数据量仅3000万令牌，相比商业大模型小约10,000倍且数据少100,000倍。Q Labs已在GitHub开源Dust实现及Noise Speedrun代码库（MIT许可证），旨在通过标准化协议继续探究该方法的可扩展性。
常见问题解答
Dust与其他无梯度方法有何不同？
传统方法通过扰动权重生成多个网络副本，计算成本高。Dust通过在单次前向传播中扰动每个令牌位置的激活值，利用Transformer并行处理特性，一次性产生数千个独立梯度实验（虚拟种群），效率高出数个数量级。
Dust能消除反向传播的内存开销吗？
理论上可以，因为无需存储中间激活值用于反向传播。虽然MeZO在微调场景中展示了12倍的内存节省，但Dust在预训练规模下的具体内存效率尚未得到独立量化验证。
既然在基准测试中击败Adam，为何尚未投入生产？
Noise基准测试属于研究规模实验（3770万参数、3000万令牌），与商业模型（万亿参数、万亿令牌）差距巨大。论文明确指出，Dust需提升数个数量级的计算效率才能成为实际替代品。当前的胜利是科学里程碑，而非工程就绪信号。
如果无反向传播训练可行，意味着什么？
这将打破“模型组件必须可微分”的限制，允许训练包含离散操作或不可微分组件的网络，极大拓展架构设计空间。但这目前仍是基于Richard Sutton《苦涩教训》理论的假设，有待进一步验证。