图 1:本文封面,点明五个基础概念的主题。
同样用大模型,有人把它用成全天候助手,有人用成高级复读机。差距真的在提示词技巧吗?多数时候不是——是底层概念。不理解模型「怎么工作」,技巧背得再多也是在碰运气。
先立一个核心心智模型:大模型不是搜索引擎,也不是人。
它是一个按概率续写下一段文字的系统。这句话听起来抽象,但下面五个概念全是它的推论。概念通了,用法全是顺理成章。
概念一:上下文窗口。
模型只能「看到」窗口内的内容,窗口外的一概不知——它没有你的记忆,也没有昨天的对话。推论有三:长对话会遗忘开头,重要约定要重复或置顶;超长资料别一次塞,分段喂、分段总结再合并;它接得住你三句话前的指代,不代表它记得三十轮之前的约定。
概念二:Token。
模型按 token 计数与计费,token 不是字也不是词——中文一个字常常占一个以上 token,英文一个单词也可能拆成几个。推论:输入越短越省,输出要求越具体越省。「简单聊聊」和「用三句话总结」,成本和结果都天差地别。
概念三:温度。
温度控制输出的随机程度:调低,模型倾向选概率最高的词,输出保守稳定;调高,它愿意冒险选低概率的词,输出发散跳跃。推论:查事实、写代码、改格式这类要稳的活,调低温度;起名、脑暴、写段子这类要飞的活,调高。同一个问题在不同温度下,几乎等于两个模型。
概念四:幻觉。
模型会编造看似合理的事实——不存在的论文、记错的数字、编造的引文,而且语气越自信越危险。这不是 bug,是概率续写的本性:它优化的是「像不像人话」,不是「是不是真的」。推论:涉及事实、数字、引用的内容必须人工核实;更稳的用法是把资料喂给它,让它「根据以上材料回答」,而不是凭记忆硬答。
概念五:系统提示词。
每段对话都有一条隐形的第一层:系统提示词,决定模型的角色、边界与默认行为。你输入的每句话都排在它后面。推论:先设角色和约束再提问(「你是资深编辑,只改病句,不重写」),效果远好于裸问;自己搭工具时,把长期规则写进系统层,别塞进每条用户消息里。
把五个概念串成一个工作习惯。
接到任务先想三件事:窗口够不够(要不要分段)、要稳还是要飞(温度怎么设)、规则放哪层(系统提示词写什么);拿到输出再做一件事:凡是事实性内容,核实。这个循环跑顺了,你对大模型的使用就从「一问一答」升级成「带约束的协作」——这才是上限的真正来源。
拿一个具体场景串一遍。
假设你要让大模型帮你把一份两万字的市场报告压缩成三页摘要。裸问的做法:整篇粘贴,说「帮我总结一下」。带概念的做法:先估算两万字会不会顶到窗口(概念一),顶就按章节分四段、逐段摘要再合并;规则写成一句明确的系统级指令——「你是咨询顾问,只输出结论与数据,每页一个主题」(概念五);这是要稳不要飞的活,随机程度调低(概念三);输出里每个数字回到原文核对一遍(概念四);整个过程短输入、严要求,成本也可控(概念二)。同一份报告,两种做法的差距不是百分之二十,是「能用」和「没法用」。
图 2:五个基础概念及各自的使用推论。
常见误区。
一,把模型当搜索引擎问最新信息,还全盘照收。二,长文档整篇扔进去,再质问它为什么漏了开头——窗口超了,开头早被截掉。三,以为调高温度模型会「更聪明」:温度只改变多样性,不改变能力上限。四,出了幻觉怪模型不诚实,却不改自己「不喂材料硬要答案」的用法。
行动建议。
挑一件你明天就要做的事,按上面的循环完整走一遍:明确约束、喂足材料、设好随机程度、核实事实。然后用同一个任务对比「裸问」和「带约束问」的输出差异。差距摆在眼前,「概念决定上限」这六个字你就有体感了。
你在用大模型时栽在哪个概念上最多?是幻觉、遗忘还是随机性?欢迎分享。