NVIDIA 用 Reshard Collective 加速强化学习权重同步（Weight Refit）

NVIDIA 技术博客介绍，在强化学习（RL）后训练中，系统通过用当前策略模型运行推理来即时生成训练轨迹，并常采用推理与训练分离部署在不同 GPU 资源上并行运行的方式以提升训练效率。博客称，虽然策略模型只在训练 GPU 上更新，但系统需要周期性地刷新推理侧的权重。文章提出使用 Reshard Collective 来加速这一权重重同步（Weight Refit）过程。 对A股：利好英伟达链（推断），其强化学习权重同步技术优化GPU集群训练效率，带动配套需求。以上不构成投资建议。