miniTE 技术报告:用原生 NVFP4 实现稳定高效的强化学习
LMSYS 发布 miniTE 技术报告,针对原生 NVFP4 强化学习在训练后期出现的不稳定问题,提出 TRIAGE 方法按更新方向控制残差失配风险,并让 miniTE 降低数值执行差异、优化低精度计算。在 8×B300 上,采用 BF16 反向传播的 miniTE 完整学习器更新相对 BF16 达到约 1.33–1.37× 加速,固定输出服务测试吞吐约 1.64×。报告同时指出,在线 RL 运行中权重转换与同步抵消了采样收益,miniTE checkpoint 在五项任务平均上仍低于 BF16。
ff --dry-run recipes 和 describe 可在不使用 Torch 或 TE 的情况下暴露名称、依赖关系和反向覆盖。 doctor 检查可见的 CUDA GPU、TE 量化器参数、选定的 dense/list 分组接口以及算子导入。 --dry-run 打印配方、相关环境和完整命令,而不启动训练或创建日志/缓存目录。实际运行会在 run meta.json. 中记录配方名称、前向/反向设置、布局请求和配置来源。 本次接口更新的全部 21 项 CPU 兼容性检查均已通过,涵盖解析、冲突选择器、无 GPU 依赖的检查、后端别名、试运行和元数据。新增的 GPU 等价性测试涵盖独立配置、受支持的 Dense/GroupedLinear 路径上的前向/反向行为,以及两种 BF16 反向选择。本次更新未在本地运行这些测试。第 6 节中的数值和性能结果保留其原始实验标识。在扩展低精度路径时,我们先检查算子,再检查模块和跨框架行为,最后完成训练。张量钩子收集激活、权重、输出和梯度统计信息。性能分析定位内核开销、调用间隙和内存分配。转储/比较脚本检查 MoE 中间结果和 token
匹配字段正文

