微调、RAG 还是提示词？给大模型「喂」知识的三种方式

大模型很聪明，但它不知道你公司的文档、你的产品细节、你行业里的最新规定——这些都不在它的训练数据里。想让 AI「懂你的东西」，主流有三条路：提示词、RAG、微调。这篇用最直白的方式讲清它们的区别，以及什么时候该用哪个。

先理解问题：模型为什么「不懂你」

大模型的知识来自训练数据，有两个天然短板：

1. 有截止日期：训练之后的事它不知道
2. 不含私有数据：你的内部资料它没见过

于是被问到范围外的问题，它要么答不上，要么编一个看似合理的答案（幻觉）。三种定制方式，本质都是在补上这块短板，只是「喂知识」的方式不同。

方式一：提示词（把知识直接写进对话）

最简单的一种：把相关资料直接贴进提示词，让模型「看着材料回答」。

• 怎么做：在问题里附上背景、示例、规则，或把文档粘进去
• 优点：零门槛、即时生效、随时可改
• 缺点：受上下文窗口限制，塞不下太多；每次都要带着材料、Token 成本高
• 适合：资料量不大、临时性任务、快速验证

想把提示词写好，可参考提示词工程入门。

方式二：RAG（用到时再去资料库里检索）

当资料多到塞不进窗口，就该上 RAG（检索增强生成）：把资料存进一个「知识库」，每次只检索出最相关的一小段，连同问题一起交给模型。

• 怎么做：文档切分 → 向量化入库 → 提问时检索相关片段 → 拼进提示词作答
• 优点：能覆盖海量、且随时更新的资料；答案有据可查、幻觉少
• 缺点：要搭建检索系统；效果取决于「检索得准不准」
• 适合：企业知识库问答、客服、个人第二大脑、资料频繁更新的场景

原理详见RAG 检索增强生成是什么。今天的「AI 搜索引擎」（如 Perplexity）本质就是把 RAG 用到了整个互联网上。

方式三：微调（把知识「训」进模型本身）

微调（Fine-tuning） 是用你自己的数据继续训练模型，把知识或风格固化进模型的参数里。

• 怎么做：准备大量高质量的示例数据 → 在基础模型上继续训练 → 得到一个「更懂你」的新模型
• 优点：不用每次带材料，模型能稳定输出特定风格、格式或专业表达
• 缺点：要准备数据、有训练成本；知识一旦「训」进去就不好实时更新；用错场景容易过拟合
• 适合：要固定的语气/格式（如品牌客服话术）、特定任务的稳定表现，而不是用来灌入频繁变动的事实

一个常见误区：微调不擅长「记住事实」。想让模型知道「最新的产品价格」，用 RAG 远比微调合适。

三者对比一张表

维度	提示词	RAG	微调
上手成本	极低	中	高
更新知识	即时	即时	慢（要重训）
能装的知识量	小（受窗口限）	大	固化在参数里
擅长	临时补充、给示例	海量事实、可溯源	固定风格/格式
幻觉控制	一般	好	一般

到底怎么选

• 先从提示词开始：能靠贴材料 + 好提示词解决的，就别上重装备
• 资料多、要更新、要溯源 → RAG：这是目前多数「让 AI 懂私有数据」需求的首选
• 要固定风格/格式、或特定任务稳定输出 → 微调：而且通常是在 RAG 之上再加，而非替代

实际的高级应用里，三者常常组合使用：微调定风格、RAG 供事实、提示词做临场引导；再往上，AI Agent 把它们编排成完整流程。

小结

给大模型「喂」知识，不是只有「训练」一条路。提示词最轻、RAG 最实用、微调最重——按资料量、更新频率和对风格的要求来选，多数场景下「好提示词 + RAG」就已经够用了。先用最轻的方案解决问题，才是聪明的做法。