从 DPO 面试题延伸:从 RLHF 到 DPO,大模型对齐方法是怎么演进的
这篇文章延伸自一道经典面试题「DPO 为什么能替代 RLHF」。真题解析聚焦两者机制差异,本文换个视角:把对齐方法拉成一条演进线,看清每一代方法到底在解决上一代的什么短板,以及今天做选型时该按什么坐标系下判断。
这篇文章延伸自一道经典面试题「DPO 为什么能替代 RLHF」。真题解析聚焦两者机制差异,本文换个视角:把对齐方法拉成一条演进线,看清每一代方法到底在解决上一代的什么短板,以及今天做选型时该按什么坐标系下判断。
先说明属性:这是一篇经典题解析,题目出自本地历史面试资料整理,与任何公司的当前招聘无关。DPO 是大模型对齐方向的高频考点,面试官真正想听的往往不是「DPO 不用强化学习」这句结论,而是它凭什么可以不要、又付出了什么代价。