大模型强化学习综述:从 RLHF 到经验时代,一条四十年的因果链
> "大模型 RL" 并不是从 ChatGPT 才开始的。它背后是一条从 1989 年 Q-learning 延续至今的因果链。本篇是这个系列的总览:把前世(经典 RL → RLHF)、今生(DPO 浪潮 → RLVR 推理革命 → Agentic RL)、未来(经验时代)串成一张图,并给出后续五篇
> "大模型 RL" 并不是从 ChatGPT 才开始的。它背后是一条从 1989 年 Q-learning 延续至今的因果链。本篇是这个系列的总览:把前世(经典 RL → RLHF)、今生(DPO 浪潮 → RLVR 推理革命 → Agentic RL)、未来(经验时代)串成一张图,并给出后续五篇
> 2023 年 5 月,斯坦福的一篇论文把 RLHF 里最贵的两个部件——奖励模型和 PPO——用一行监督学习损失函数替换掉了。DPO 引发的"去 RL 化"浪潮在此后两年席卷开源社区,又在"在线 RL 派"的反击中退回到它最擅长的领域。本篇讲清这场范式之争:DPO 到底做对了什么、输在哪里、以及
想象一个具体场景:模型做一道竞赛数学题,写了一条 1000 token 的思维链,最后答案对了,奖励 +1。 这条链里,有真正决定走向的关键分叉(比如第 127 个 token 处的「Wait, let me reconsider」),有正确的代数推导,有中途算错又自己纠回来的一段,有重复验算了三
> 前六篇我们把 UMM 的架构演进讲透了:从 Transformer/VQGAN 的知识底座,到 Chameleon/Emu3/Show-o 的早期探索,再到 Janus-Pro/BAGEL/U1 的三种主流范式、VCoT 把视觉变成思维载体、以及向视频与世界模型的延伸。但架构只决定了模型"能做什
DeepSeek V4 Flash 深度解析:后训练驱动的 Agent 能力跃升与极致性价比 2026年7月31日,DeepSeek 正式上线了 V4-Flash 正式版 API。这次升级没有改动模型架构,纯粹靠后训练(Post-Training)就把 Agent 能力拉高了一大截,多项基准测