·技术
1 分钟0
大模型强化学习综述:从 RLHF 到经验时代,一条四十年的因果链
> "大模型 RL" 并不是从 ChatGPT 才开始的。它背后是一条从 1989 年 Q-learning 延续至今的因果链。本篇是这个系列的总览:把前世(经典 RL → RLHF)、今生(DPO 浪潮 → RLVR 推理革命 → Agentic RL)、未来(经验时代)串成一张图,并给出后续五篇
> "大模型 RL" 并不是从 ChatGPT 才开始的。它背后是一条从 1989 年 Q-learning 延续至今的因果链。本篇是这个系列的总览:把前世(经典 RL → RLHF)、今生(DPO 浪潮 → RLVR 推理革命 → Agentic RL)、未来(经验时代)串成一张图,并给出后续五篇
> 2024 年 9 月 12 日,OpenAI 发布 o1,几乎不公布任何技术细节,只留下一句话:让模型在回答前花更长时间思考,而思考能力是用强化学习训出来的。四个月后,DeepSeek-R1 把整套配方连源码带权重砸给全世界。这是本系列的核心篇章:RL 如何第一次取代"模仿人类",成为大模型能力
想象一个具体场景:模型做一道竞赛数学题,写了一条 1000 token 的思维链,最后答案对了,奖励 +1。 这条链里,有真正决定走向的关键分叉(比如第 127 个 token 处的「Wait, let me reconsider」),有正确的代数推导,有中途算错又自己纠回来的一段,有重复验算了三