NVIDIA 介绍 Reshard 权重同步，实现仍属实验阶段
11月6日技术文章说明新方法；NeMo RL 文档仍标为实验功能。
Reshard 减少训练与推理 GPU 之间重复传送的权重数据。NVIDIA 在 DGX H100、GB200 的特定测试中，相比 gather-and-broadcast 录得 2.7至5.7倍权重同步加速，并非整个模型训练同幅提速。
NeMo RL 当前实现须分离训练／推理，配合 Megatron 训练及 vLLM 或 Megatron 推理；不支持推理端 PP 大于 1 或 ModelOpt real quantization。文章称参考实现已开源；本轮未核实完整许可、港澳台部署或总成本。
夜间版文档提醒，其性能表的测量早于权重处理重构；这不是对上述博客全部测试日期的判断。不能假定当前配置重现历史结果。
本文为技术资讯，并非消费者网页、App 或托管 API 上线公告。11月6日是文章发布日期，首次代码发布日期未核实；本文未实测。
NeMo RL 当前实现须分离训练／推理，配合 Megatron 训练及 vLLM 或 Megatron 推理；不支持推理端 PP 大于 1 或 ModelOpt real quantization。文章称参考实现已开源；本轮未核实完整许可、港澳台部署或总成本。
夜间版文档提醒，其性能表的测量早于权重处理重构；这不是对上述博客全部测试日期的判断。不能假定当前配置重现历史结果。
本文为技术资讯，并非消费者网页、App 或托管 API 上线公告。11月6日是文章发布日期，首次代码发布日期未核实；本文未实测。
使用条件
- 香港
- 属于开发者实验功能，须自行配置兼容 GPU 训练环境。本地部署资格、硬件供应、总成本及繁体中文／粤语界面支持均未核实。
- 澳门
- 属于开发者实验功能，须自行配置兼容 GPU 训练环境。本地部署资格、硬件供应、总成本及繁体中文／粤语界面支持均未核实。
- 台湾
- 属于开发者实验功能，须自行配置兼容 GPU 训练环境。本地部署资格、硬件供应、总成本及繁体中文／粤语界面支持均未核实。
官方来源: Accelerating Reinforcement Learning Weight Refit with the Reshard Collective