深蓝黑背景品牌封面:左侧大标题「只会一问一答?」,副标题「这几个基础概念决定你的使用上限」;右侧原创装饰——五块拼图片拼成一个对话框轮廓,每块标注一个概念:上下文、Token、温度、幻觉、提示词;左上标注「AI 工程知识专栏」,右上标注「Day 08 · 10-06」 图 1:本文封面,点明五个基础概念的主题。

同样用大模型,有人把它用成全天候助手,有人用成高级复读机。差距真的在提示词技巧吗?多数时候不是——是底层概念。不理解模型「怎么工作」,技巧背得再多也是在碰运气。

先立一个核心心智模型:大模型不是搜索引擎,也不是人。

它是一个按概率续写下一段文字的系统。这句话听起来抽象,但下面五个概念全是它的推论。概念通了,用法全是顺理成章。

概念一:上下文窗口。

模型只能「看到」窗口内的内容,窗口外的一概不知——它没有你的记忆,也没有昨天的对话。推论有三:长对话会遗忘开头,重要约定要重复或置顶;超长资料别一次塞,分段喂、分段总结再合并;它接得住你三句话前的指代,不代表它记得三十轮之前的约定。

概念二:Token。

模型按 token 计数与计费,token 不是字也不是词——中文一个字常常占一个以上 token,英文一个单词也可能拆成几个。推论:输入越短越省,输出要求越具体越省。「简单聊聊」和「用三句话总结」,成本和结果都天差地别。

概念三:温度。

温度控制输出的随机程度:调低,模型倾向选概率最高的词,输出保守稳定;调高,它愿意冒险选低概率的词,输出发散跳跃。推论:查事实、写代码、改格式这类要稳的活,调低温度;起名、脑暴、写段子这类要飞的活,调高。同一个问题在不同温度下,几乎等于两个模型。

概念四:幻觉。

模型会编造看似合理的事实——不存在的论文、记错的数字、编造的引文,而且语气越自信越危险。这不是 bug,是概率续写的本性:它优化的是「像不像人话」,不是「是不是真的」。推论:涉及事实、数字、引用的内容必须人工核实;更稳的用法是把资料喂给它,让它「根据以上材料回答」,而不是凭记忆硬答。

概念五:系统提示词。

每段对话都有一条隐形的第一层:系统提示词,决定模型的角色、边界与默认行为。你输入的每句话都排在它后面。推论:先设角色和约束再提问(「你是资深编辑,只改病句,不重写」),效果远好于裸问;自己搭工具时,把长期规则写进系统层,别塞进每条用户消息里。

把五个概念串成一个工作习惯。

接到任务先想三件事:窗口够不够(要不要分段)、要稳还是要飞(温度怎么设)、规则放哪层(系统提示词写什么);拿到输出再做一件事:凡是事实性内容,核实。这个循环跑顺了,你对大模型的使用就从「一问一答」升级成「带约束的协作」——这才是上限的真正来源。

拿一个具体场景串一遍。

假设你要让大模型帮你把一份两万字的市场报告压缩成三页摘要。裸问的做法:整篇粘贴,说「帮我总结一下」。带概念的做法:先估算两万字会不会顶到窗口(概念一),顶就按章节分四段、逐段摘要再合并;规则写成一句明确的系统级指令——「你是咨询顾问,只输出结论与数据,每页一个主题」(概念五);这是要稳不要飞的活,随机程度调低(概念三);输出里每个数字回到原文核对一遍(概念四);整个过程短输入、严要求,成本也可控(概念二)。同一份报告,两种做法的差距不是百分之二十,是「能用」和「没法用」。

概念关系图:中心是「一次对话」,五个基础概念环绕并各自给出使用推论。上下文窗口:模型只能看到窗口内的内容,推论是长对话会遗忘开头,重要约定要重复或置顶,超长资料要分段喂。Token:模型按 token 计费与计数、中文一个字常占一个以上 token,推论是输入越短越省、输出要求越具体越省。温度:控制输出的随机程度,推论是要稳定答案(查事实、写代码)调低,要创意发散(起名、脑暴)调高。幻觉:模型会编造看似合理的事实,推论是涉及事实、数字、引用的内容必须人工核实,让它引用资料而不是凭记忆回答。系统提示词:对话的隐形第一层,决定角色与边界,推论是先设角色和约束再提问,效果远好于裸问。底部一句话主线:大模型不是搜索引擎也不是人,它是按概率续写下一段文字的系统——所有使用原则都从这一个人心智模型推出 图 2:五个基础概念及各自的使用推论。

常见误区。

一,把模型当搜索引擎问最新信息,还全盘照收。二,长文档整篇扔进去,再质问它为什么漏了开头——窗口超了,开头早被截掉。三,以为调高温度模型会「更聪明」:温度只改变多样性,不改变能力上限。四,出了幻觉怪模型不诚实,却不改自己「不喂材料硬要答案」的用法。

行动建议。

挑一件你明天就要做的事,按上面的循环完整走一遍:明确约束、喂足材料、设好随机程度、核实事实。然后用同一个任务对比「裸问」和「带约束问」的输出差异。差距摆在眼前,「概念决定上限」这六个字你就有体感了。

你在用大模型时栽在哪个概念上最多?是幻觉、遗忘还是随机性?欢迎分享。