目录一. LLM大语言模型1.1 Prompt提示词1.2 Token词元1.3 RAG检索增强生成二. Agent智能体2.1 CLI命令行交互方式2.2 MCP标准化工具接入协议2.3 Skill2.4 Function Calling函数调用2.5 总结三. 大模型的模式3.1 AI Embedded嵌入式 AI3.2 AI Copilot助手 AI3.3 AI Agent智能体 AI一. LLM大语言模型Large Language Model大语言模型的缩写本质上是一个会预测下一个词的模型。例如GPTDeepSeek大模型可以输入文本Prompt输出文本预测结果能力写代码 / 翻译 / 推理 / 对话不会主动做事只是被动响应。1.1 Prompt提示词输入给LLM大语言模型的指令提示词的好坏直接影响到结果的质量。高级的用法Few-shot给示例Chain-of-thought引导推理System Prompt设定角色1.2 Token词元LLM大语言模型处理文本时的最小单位不是字符也不是单词发送给大模型的Prompt以及大模型的回复都需要消耗token。LLM大语言模型的服务提供商通常会根据token进行收费。内容token 大概数量1 个英文单词~1 token1 个中文汉字~1–2 token1 行代码几十 token与大模型进行交互的时候一次对话能记住的内容是有限的有着上下文限制。例如能记住的最多的token为8K token32K token128K token在一次对话中token消耗越多速度会越慢同时花费也越贵。1.3 RAG检索增强生成Retrieval-Augmented Generation的缩写在AI生成回答之前先从外部知识库中检索相关信息然后利用这些信息增强 LLM 的回答从而解决模型可能出现的幻觉问题提供更准确、更专业的内容。 为什么需要 RAGLLM大模型本身有几个问题❌ 知识是“训练时的”可能过时❌ 不知道用户的私有数据本地文件 / 数据库❌ 对于不知道的问题容易“编”幻觉 举个例子用户问公司数据库表结构是什么。LLM会胡编一个看起来合理的答案因为LLM 并不知道公司数据库的结构。 这时候就需要 RAG先去用户提供的数据库 / 文档里查再回答。流程1️⃣ Retrieval检索例如向量搜索embedding和 关键词搜索BM25文档PDF / txt / md数据库网页本地文件2️⃣ Augmented增强相当于让LLM带着明确的参考资料回答问题。问题 xxx 参考资料 xxx xxx xxx 请基于以上内容回答3️⃣ Generation生成LLM 根据用户问题 和 检索到的内容生成最终答案。二. Agent智能体Agent智能体 LLM 记忆 工具 自动决策能力LLMAgent回答问题✅✅自动执行任务❌✅调用工具❌✅多步骤推理弱✅如果我们希望AI帮我们查询天气然后发送邮件给张三LLM只会告诉我们天气无法帮发送邮件Agent调 API 查天气生成邮件调用邮件工具发送Agent相当于可以调用操作系统各种功能的AI。2.1 CLI命令行交互方式CLI是Command Line Interface的缩写。常用的CLIPowerShellbashcmdCLI作为作为 Agent 的执行环境可以用来调用脚本、程序等。2.2 MCP标准化工具接入协议Model Context Protocol的缩写Agent接入外部工具的标准协议类似于AI世界的USB接口。工具按照MCP协议进行了实现之后Agent才能对其进行调用。通过 MCPAgent 可以读取电脑文件调用数据库控制程序2.3 SkillAgent可调用的能力模块是对工具的封装。例如一个Agent 可能有这些 skillsearch_webread_filerun_powershellquery_sqlite2.4 Function Calling函数调用Function Calling 调用机制Skill 被调用的能力函数本身用户请求 ↓ LLM 判断 ↓ Function Calling决定调用哪个函数 生成参数 ↓ Skill真正执行代码 ↓ 返回结果角色职责开发者定义 Skill函数LLM决定是否调用 填参数Function Calling承载这个调用行为程序Agent真正执行 Skill2.5 总结三. 大模型的模式3.1 AI Embedded嵌入式 AIAI 被藏在功能里面用户感知不到 AI 的存在。不需要用户写 Prompt不需要对话就像普通功能一样自动运行。输入法自动纠错打字 → 自动修正背后其实是 LLM / NLP电商推荐打开页面 → 推荐商品AI 在后台算3.2 AI Copilot助手 AIAI 作为助手由用户主导AI只起到辅助作用。特点以对话/提示为主用户发起任务AI 提供建议或生成内容不会自动执行关键操作最终将由用户决定3.3 AI Agent智能体 AIAI 并不只是建议而是根据用户的Prompt自己去完成任务。特点可以自动执行任务多步骤决策会调用工具Function Calling / MCP可以循环执行plan → act → observe例如用户要求AI帮我整理桌面 txt 文件按日期分类然后打包Agent 会扫描文件分类创建目录移动文件压缩