I built non-autoregressive decision models with RL a year ago

摘要

一位开发者表示自己在一年前用 RL 做出了非自回归的决策模型：单次前向传播即可覆盖 100 多种语言，在 GPU 上耗时约 33ms，基于 RLCD 与 proper scoring rules 构建，来自 Convai Innovations。这类做法的看点是绕开逐 token 生成，把多语言推理压进一次前向计算里。