ohmyblog

#解码策略

从「复读机」面试题延伸:temperature、top-p、top-k,解码参数到底怎么调

这个系列的前一篇真题解析讲过「大模型为什么会变复读机」,成因机制那边已经讲透,本篇不重复展开。这里换个视角,写一份解码参数的调节手册:模型每生成一个 token 都要从概率分布里做一次选择,贪心、束搜索、temperature、top-k、top-p 这些旋钮各自改变什么、不同任…