NVIDIA 介紹 Reshard 權重同步，實作仍屬實驗階段
11月6日技術文章說明新方法；NeMo RL 文件仍標為實驗功能。
Reshard 減少訓練與推理 GPU 之間重複傳送的權重資料。NVIDIA 在 DGX H100、GB200 的特定測試中，相對 gather-and-broadcast 錄得 2.7至5.7倍權重同步加速，並非整個模型訓練同幅提速。
NeMo RL 目前的實作須分離訓練／推理，配合 Megatron 訓練及 vLLM 或 Megatron 推理；不支援推理端 PP 大於 1 或 ModelOpt real quantization。文章稱參考實作已開源；本輪未核實完整授權、港澳台部署或總成本。
夜間版文件提醒，其性能表的測量早於權重處理重構；這不是對上述部落格全部測試日期的判定。不能假定目前配置重現歷史結果。
本篇為技術資訊，並非消費者網頁、App 或託管 API 上線公告。11月6日是文章發布日，首次程式釋出日期未核實；本文未實測。
NeMo RL 目前的實作須分離訓練／推理，配合 Megatron 訓練及 vLLM 或 Megatron 推理；不支援推理端 PP 大於 1 或 ModelOpt real quantization。文章稱參考實作已開源；本輪未核實完整授權、港澳台部署或總成本。
夜間版文件提醒，其性能表的測量早於權重處理重構；這不是對上述部落格全部測試日期的判定。不能假定目前配置重現歷史結果。
本篇為技術資訊，並非消費者網頁、App 或託管 API 上線公告。11月6日是文章發布日，首次程式釋出日期未核實；本文未實測。
使用條件
- 香港
- 屬開發者實驗功能，須自行配置相容 GPU 訓練環境。本地部署資格、硬件供應、總成本及繁體中文／粵語介面支援均未核實。
- 澳門
- 屬開發者實驗功能，須自行配置相容 GPU 訓練環境。本地部署資格、硬件供應、總成本及繁體中文／粵語介面支援均未核實。
- 台灣
- 屬開發者實驗功能，須自行配置相容 GPU 訓練環境。本地部署資格、硬件供應、總成本及繁體中文／粵語介面支援均未核實。
官方來源: Accelerating Reinforcement Learning Weight Refit with the Reshard Collective