全部标签

#后训练

共 5 篇文章

·技术
1 分钟0

去 RL 化浪潮:DPO 家族与「在线 vs 离线」的三年之争

> 2023 年 5 月,斯坦福的一篇论文把 RLHF 里最贵的两个部件——奖励模型和 PPO——用一行监督学习损失函数替换掉了。DPO 引发的"去 RL 化"浪潮在此后两年席卷开源社区,又在"在线 RL 派"的反击中退回到它最擅长的领域。本篇讲清这场范式之争:DPO 到底做对了什么、输在哪里、以及

·多模态, 论文解读
1 分钟0

UMM论文解读07-后训练篇:从GRPO联合强化到自奖励闭环,统一模型如何自我进化

> 前六篇我们把 UMM 的架构演进讲透了:从 Transformer/VQGAN 的知识底座,到 Chameleon/Emu3/Show-o 的早期探索,再到 Janus-Pro/BAGEL/U1 的三种主流范式、VCoT 把视觉变成思维载体、以及向视频与世界模型的延伸。但架构只决定了模型"能做什