如何从历史中学习？基于RhymeRL的强化学习系统优化实践｜QCon上海

摘要

上海交大副教授杜冬冬将在 QCon 上海站分享 RhymeRL。LLM 强化学习中 Rollout 占用大量耗时，长尾会让最早完成的 GPU 约 76% 时间空闲；团队发现相邻 epoch 有大量 token 可匹配，于是结合历史推测解码与长度调度，并引入离线后缀树、奖励感知选枝等机制，相比现有系统取得 2.6 倍性能提升。适合做强化学习训练与推理系统优化的工程师。