经典题解析：ZeRO 的三个阶段各切分什么状态
先说明属性：这是一篇经典题解析，题目出自本地历史面试资料整理，与任何公司的当前招聘无关。「ZeRO 三个阶段各切什么」是大模型训练方向的高频考点，答案本身一句话能背完，但面试官真正想听的是：为什么这些状态值得切，以及切了之后通信上付出了什么。
先说明属性：这是一篇经典题解析，题目出自本地历史面试资料整理，与任何公司的当前招聘无关。「ZeRO 三个阶段各切什么」是大模型训练方向的高频考点，答案本身一句话能背完，但面试官真正想听的是：为什么这些状态值得切，以及切了之后通信上付出了什么。