深蓝黑背景的品牌封面:中央大标题「AI Agent 到底是什么」,副标题「LLM、规划、记忆与工具使用」,左上标注栏目「AI 工程知识专栏」,右上标注「Day 01 · 2026-09-09」,背景为青蓝到紫色渐变的同心轨道环与环绕光点 图 1:本文封面,点明主题「AI Agent 到底是什么」与四大关键词。

先看两个日常场景。第一个:你让 AI 帮你润色一段文案,它输出一版结果,这轮交互就结束了。第二个:你只说「帮我盯着竞品这周的动态,整理成一份简报」,它自己去搜索、阅读、对比、成文,中间搜不到还知道换个关键词再来。

第一个是我们熟悉的聊天机器人,第二个就是这两年被频繁提起的 AI Agent。两者用的是同一类大模型,差别到底在哪?

核心结论一句话

一个被广泛引用的框架来自 Lilian Weng 2023 年 6 月发表在个人博客的综述《LLM Powered Autonomous Agents》:AI Agent 等于 LLM 这个「大脑」,加上三个关键组件——任务规划、记忆系统、工具使用。聊天机器人是「一问一答」,Agent 是「循环执行,直到目标完成」。

拆开四个部件看

LLM 是核心控制器,负责理解目标、推理和生成内容,但它自己不会「做事」,剩下三个组件让它动起来。

规划解决「大事怎么办」的问题。一是任务分解:思维链提示让模型一步步思考,把大任务拆成小步骤;思维树更进一步,每一步探索多种可能再选路;还有一种叫 LLM+P 的思路,干脆把规划外包给传统规划器,LLM 只负责把问题翻译成形式化描述再翻回来。二是自我反思:ReAct 方法把「思考—行动—观察」交织成一个循环,模型边做边想;Reflexion 则让模型把失败经历写成文字总结、存进工作记忆,下次据此改进,论文报告它在 HumanEval 编码基准上达到 91% 的 pass@1 准确率。

记忆分两层。短期记忆就是上下文窗口里的内容,窗口一满就忘;长期记忆靠外部向量存储加快速检索实现,需要时把相关资料找回来塞给模型,模型权重本身不用改。

工具使用让模型长出「手」。预训练之后模型权重很难更新,实时新闻、代码执行、公司内部数据它都不知道,调用外部 API 就是补上这些缺口的办法。

这四个部件不是一份拼装清单,而是一条链路:规划决定下一步做什么,工具负责真的去做,记忆保证做过的别忘掉,LLM 在每一环里做判断。任何一环掉链子,整个循环都会退化回一问一答。

用开头「整理竞品简报」的任务走一遍这个循环:规划组件先把任务拆成搜索、阅读、对比、成文四步;工具组件调用搜索接口拿回资料;记忆组件把读到的要点暂存起来,供后面成文时调用;每一步的结果再喂回 LLM 决定下一步动作。四轮之后目标完成,循环退出。一个聊天机器人加上这套外循环,就跨过了那道分水岭。

架构图:中央为 LLM 推理核心,向外连接任务规划、记忆系统、工具使用三个组件;右侧面板展示 Agent 的工作循环「感知输入→规划拆解→调用工具行动→观察反馈」,并指出聊天机器人只有一问一答,而 Agent 循环执行直至目标完成 图 2:AI Agent 的四大核心组件与工作循环示意——聊天机器人一问一答,Agent 循环执行直到目标完成。

一个绕不开的例子

2023 年 3 月,开源项目 AutoGPT 发布,让用户给一个目标、它自己拆解执行,迅速走红,如今其 GitHub 仓库星标已超过 18.5 万。仓库首页至今保留着 Andrej Karpathy 的评价:「AutoGPT 是提示词工程的下一个前沿」。同期的 GPT-Engineer、BabyAGI 等项目,共同证明了一件事:LLM 完全可以充当一个自主系统的核心控制器。再往前追溯,Karpathy 2017 年提出的 Software 2.0 概念——用数据和目标而非手写逻辑来构建软件——可以看作理解 Agent 浪潮的一条暗线。

三个常见误区

误区一:Agent 就是更会聊天的模型。实际上模型可以原封不动,变化的是外围那套「规划—行动—观察」的循环。

误区二:Agent 已经万能。Weng 在综述里明确列出了局限:上下文长度有限、长期规划和任务分解仍然困难、LLM 输出的稳定性不足。这些限制到今天依然是工程上要正面处理的问题。

误区三:给 Agent 配记忆就是重新训练。长期记忆的主流做法是外部向量库检索,不动模型权重,成本完全不是一个量级。

给你的行动建议

如果只想做一件事:去读 Weng 那篇综述原文,它至今仍是 Agent 领域被引用最多的入门地图。如果想动手:自己写一个最小的 ReAct 循环,把每一轮的思考、行动、观察打印出来,你会立刻体会到「聊天」和「干活」之间那道真正的分水岭。

你用过最接近「自己干活」的 AI 工具是哪一个?它在哪一步卡住了——是规划、记忆还是工具调用?欢迎在评论区聊聊。

参考资料

  • LLM Powered Autonomous Agents(Lilian Weng,Lil'Log,2023 年 6 月) — https://lilianweng.github.io/posts/2023-06-23-agent/
  • ReAct: Synergizing Reasoning and Acting in Language Models(arXiv:2210.03629) — https://arxiv.org/abs/2210.03629
  • Reflexion: Language Agents with Verbal Reinforcement Learning(arXiv:2303.11366) — https://arxiv.org/abs/2303.11366
  • AutoGPT 官方 GitHub 仓库(星标数与 Karpathy 评价引自仓库 README) — https://github.com/Significant-Gravitas/AutoGPT
  • Software 2.0(Andrej Karpathy,Medium,2017 年 11 月) — https://karpathy.medium.com/software-2-0-a64152b37c35