AI 落地第一站不是买模型，是建好企业知识库：RAG 从热词变成基础设施

大模型的知识来自公开语料。你的报价政策、返利规则、售后流程、客户偏好，模型一无所知。所以企业用 AI 最常见的挫败不是「模型不聪明」，而是问它「咱们公司的退货政策是什么」，它一本正经地编出一个通用答案，语气笃定，内容全错。这不是模型的错，是你没有把自家的知识给它——巧妇难为无米之炊。

把企业知识喂给模型，业界验证最多的路径就是 RAG（检索增强生成）：先从你的文档里检索出相关段落，再让模型基于这些段落作答。它让 AI 从「闭卷考试」变成「开卷考试」——答案不再依赖模型记过什么，而是依赖你给了它什么资料。这一字之差，决定了答案能不能被业务信任，也决定了 AI 项目能不能从「演示」走进「生产」。

有人会问：模型的上下文窗口越来越大，能不能干脆把全部文档塞进去，不做检索？答案是不划算。一来超长上下文的调用费用按词元线性增长，每次提问都背上全部文档的成本；二来塞进去的内容越多，模型对关键细节的注意力越被稀释，答案质量反而下降；三来权限没法做——总不能把不该某人看的合同也塞进他的提问里。检索层存在的意义，正是用最低的成本、最精准的范围、最合规的权限，把「对的几页」递给模型。

用一个比喻说清 RAG：它给大模型配了一个资料员。你提问，资料员先去档案室找出最相关的三五页资料（检索），递给模型（增强），模型读完再回答（生成），并注明引用了哪几页。整个过程模型本身不需要重新训练，知识更新只需要把新文档放进资料室——这是它与微调最大的区别，也是它成本可控的关键。

这个架构对企业有三个直接好处。其一，知识实时：政策今天更新，今天就能被问答到，不用等模型重训。其二，权限可继承：谁能查什么文档，检索层可以直接沿用文档系统的权限设置，敏感内容不会被越权吐出。其三，答案可追溯：每条回答都能附上引用来源，业务人员可以核对「这个答案是不是有据可查」。这三点，恰恰是合规部门与业务部门愿意在验收单上签字的前提。

RAG 的热度有数据支撑。IDC 2025 年的部署调查显示：38% 的企业已把 RAG 用于内部知识检索并进入生产环境，另有 29% 处于试点或概念验证阶段，只有约三分之一的企业还没有起步。麦肯锡的年度调查也显示，超过七成组织至少在一个业务职能中使用生成式 AI，而知识检索与内部搜索正是最主流的落地场景之一。对不少企业来说，RAG 不是「要不要做」，而是「已经在做」。

但硬币的另一面同样刺眼。Gartner 预测，超过三成生成式 AI 项目会在概念验证之后被放弃，检索质量是最常见的罪魁祸首：演示环境里三份精心准备的文档效果惊艳，生产环境里三万份命名混乱、版本过期的文档，立刻把系统打回原形。一句话总结这组数据：RAG 本身不难做，难的是把企业的文档现状治理到「可被检索」的水平——技术只占三成，数据治理占七成。

把失败项目复盘下来，问题几乎都出在检索层而不是模型层。第一种是切块不当：把长文档切成过大的段落，检索精度瞬间下降——回答退货政策时，把整本售后手册都塞给模型，重点反而被稀释，答案自然含糊。第二种是上下文超载：一次喂给模型太多检索结果，模型「读串了」，各段落的信息互相干扰，成绩不升反降。

第三种是知识库污染：过期文档、错误版本、甚至带恶意的注入内容混进资料室，模型基于污染资料给出自信满满的错误答案——安全研究机构早在 2025 年就演示过「检索投毒」的可行性，权限控制与入库校验因此成了知识库的标配。第四种最隐蔽，叫「沉默失灵」：检索层明明没找到相关资料，系统却仍然给出流畅回答，用户误以为「AI 说的一定对」。找不到资料时老实承认「知识库中没有依据」，是判断一个 RAG 系统成熟度的试金石。

主流搭法有三条路线。云上托管方案由平台包揽检索、切块与引用，数周可上线，适合没有专职工程师、想快速验证价值的团队；代价是数据要进平台边界，需要评估合规与费用。开源自建方案把向量库、检索与模型全部收进内网，可控性最强、按量成本最低，适合有合规硬约束、或者至少有一名工程师的团队。

行业垂直知识库则由行业方案商预置术语、口径与问答结构，与业务系统深度集成，开箱即贴合场景，适合流程相似度高的行业。三条路线不是单选题，实践中常见的组合是「托管起步、敏感部分自建、行业模块补齐」。对多数中小企业，我们的建议是：先用托管方案在一两个高频场景（客服问答、制度查询）验证价值，跑出真实数据后，再决定要不要投入自建——顺序反过来，大概率是花冤枉钱。

知识库问答系统上线前，建议准备一套「考卷」：从业务里挑 50 个真实问题——一半是文档里明确有答案的，一半是边界模糊、需要跨文档综合的。然后给系统打三个分：答对率（答案是否正确）、引用率（是否给出正确来源）、诚实率（无依据时是否明说）。行业实践里，一个可上线的系统至少要做到：有答案的问题答对率九成以上，无依据的问题诚实拒答。这套考卷还有个副产品——它同时检验了你的文档质量，答不好的题，往往对应着缺失或过期的文档。

上线之后，评测要变成例行动作。文档在更新，问题在变化，上个月还好好的系统，可能因为这个月新入库的一批错误文档而悄悄变差。建议每月抽一天，用新的真实问题复测，并把答错的案例沉淀成新的考题。把「评测」当作知识库运维的一部分，系统的质量才不会随时间悄悄滑坡——这也是那些跑进生产环境的项目和死在试点的项目之间，最朴素的一道分水岭。

落地 RAG，与其纠结技术选型，不如按顺序做完六件事。第一步，文档考古：把散落在个人电脑、聊天记录、邮箱附件里的制度、流程、产品资料收拢盘点——大多数企业做完这一步才发现，一半的知识只存在于老员工的脑子里。第二步，结构化归位：把它们搬进统一的知识库或管理系统，去掉过期版本，打上分类与权限标签。第三步，选一个高频场景先做：比如客服问答或新员工入职答疑，目标小而具体，两个月内能看到效果。

第四步，接入检索增强问答，并要求每条回答都附引用来源。第五步，用真实问题跑一个月，记录答错与答不上的案例，反哺切块策略与文档补全——这一步决定了系统是「能用」还是「好用」，也是绝大多数项目跳过然后失败的环节。第六步，把知识库与业务系统打通：客户资料在 CRM、工单在客服系统、订单在 ERP，AI 才能回答「这个客户的订单到哪了」这种跨系统问题。走完这六步，你得到的不仅是一个 AI 问答入口，而是一套被治理过的企业知识资产——员工换了、模型换代，这份资产都在，这是任何采购清单都买不来的东西。