ohmyblog

#文本生成

从「复读机」面试题延伸:temperature、top-p、top-k,解码参数到底怎么调

这个系列的前一篇真题解析讲过「大模型为什么会变复读机」,成因机制那边已经讲透,本篇不重复展开。这里换个视角,写一份解码参数的调节手册:模型每生成一个 token 都要从概率分布里做一次选择,贪心、束搜索、temperature、top-k、top-p 这些旋钮各自改变什么、不同任…

经典题解析:大模型为什么会变成「复读机」

先说明属性:这是一篇经典题解析,题目出自本地历史面试资料整理,与任何公司的当前招聘无关。「大模型为什么会出现复读机问题」是文本生成方向的常考题,很多人的答案停在「解码策略不够好」这一句,但真正要讲清的是三层成因——解码、数据、概率自我强化——以及每层对策能管到哪、管不到哪。