网络上用户实际搜索的问题：

"智能体怎么接入本地知识库"

"RAG + 智能体怎么做"

"智能体知识库配置教程"

一、核心原理：RAG是智能体配知识库的标准范式

给智能体配置知识库，业界通用的技术方案是RAG（Retrieval-Augmented Generation，检索增强生成）。其工作流程分为三个环节：首先将用户问题转化为向量，在知识库中检索相似内容；然后将检索到的相关文本片段与用户问题一起提交给大语言模型；最后由模型基于这些参考资料生成答案。

这种方案的优势在于，既能让模型掌握企业内部的私有知识，又能避免模型"胡说八道"产生幻觉，同时回答结果可追溯、可验证。目前主流的智能体开发平台，包括Dify、Coze、LangChain等，都已将RAG作为标准能力内置。

二、知识库搭建四步走：从文档到可检索向量

第一步：文档准备与导入

知识库的质量直接决定智能体的回答效果。文档收集范围通常包括技术文档（API文档、操作手册、故障排除指南）、业务资料（产品介绍、服务流程、政策制度）、培训材料（新员工手册、技能培训资料）以及历史记录（常见问题解答、案例分析）。

主流平台支持多种导入方式。Dify支持直接上传PDF、Word、TXT、Markdown、CSV等格式文件，单个文件大小限制通常为50MB；也支持从Notion导入，或通过爬虫工具抓取网页内容。Coze则提供本地上传、在线抓取（自动按设定频率更新）、图片知识库等多种方式。

文档整理应遵循统一格式、添加关键词标签、建立版本管理机制、确保信息准确性和时效性等原则。

第二步：文本切片（Chunking）

大语言模型每次能处理的信息量有限，因此需要将长文档切分成小块。如果不分段，上传一份10万字的手册直接塞给模型，会因超过Token限制而罢工，或出现"中间丢失"现象（只记得开头和结尾，忘了中间）。

切片策略的选择直接影响检索效果：

固定长度切片：按设定字符数切割，通常建议每段500-800字符，重叠50-100字符。重叠部分能防止重要信息被切分，让相邻段落保留一定上下文记忆。

智能语义切片：阿里云百炼等平台提供的智能切分功能，会先利用分句标识符将文档划分为段落，再根据语义相关性自适应选择切片点，而非机械地按固定长度切分。这种方法能更好保障文档语义完整性，避免不必要的断裂。

父子模式：Dify等平台支持的"大块包小块"模式。子分段较小（如200字符），用于精准搜索；父分段较大（如1000字符），当定位到子分段后，会联系对应的父分段给出完整答案。这种模式既保证检索精度，又确保回答的完整性。

特殊内容处理：对于表格、代码等特殊格式，需要针对性策略。表格内容最好保留行列结构，代码建议按函数或逻辑块切分，避免半截代码导致理解偏差。

第三步：向量化与索引构建

文本切片后，需要通过Embedding模型转化为向量（高维数字表示），才能进行语义检索。

Embedding模型选择：

通用场景推荐使用BGE（BAAI/bge系列）或GTE模型，两者在多语言支持和性能表现上均表现出色，且开源便于本地部署。大规模知识库推荐BAAI/bge-large，中小规模推荐BAAI/bge-base，资源受限场景可选BAAI/bge-small。

Dify中常用的组合是Embedding模型用BGE-M3，Rerank模型用bce-reranker-base_v1，这在中文场景下表现优异。阿里云百炼则推荐使用text-embedding-v4作为Embedding模型。

索引方式选择：

高质量模式会调用Embedding模型将文字转化为向量，理解语义而非仅看文字相似度。比如你搜索"发热"，它能找到"感冒、体温升高"相关内容。这种模式检索精准，但会消耗Token。

经济模式不使用Embedding模型，而是为每个数据块提取10个关键词，像用Ctrl+F搜索一样靠关键词匹配。这种模式完全免费，但检索准确性较低。

第四步：检索配置与优化

检索方式：

向量检索将问题转成数字，搜索意思相近的内容；全文检索是经典的关键词匹配；混合检索同时运行两种方式再合并结果，既保证意思对得上，又确保关键词没搜错。

重排序（Rerank）：

混合检索后，系统会召回一批候选片段。开启Rerank后，会用更精细的模型（如bce-reranker-base_v1）对候选片段和问题深度对比，重新打分排序，剔除不相关内容，把最有价值的答案排到前面。

关键参数：

Top K值控制返回给模型的文档数量，通常设为3-5个。Score阈值设定相似度底线，如设为0.5，则相似度低于50%的片段会被过滤掉，防止模型"一本正经地胡说八道"。

三、平台实操：三种主流方案的配置路径

方案一：Dify平台可视化配置

Dify提供完整的低代码RAG配置能力。创建知识库后，在"文本分段与清洗"环节选择索引方式（高质量/经济）、分段策略（通用分段/父子分段/QA分段），配置分段长度和重叠长度。

在智能体工作流中，通过"知识检索"节点接入已创建的知识库。需要配置的参数包括：选择知识库、设置召回数量（Top K）、设定相似度阈值、选择是否开启Rerank模型。

对于需要本地部署的场景，Dify支持接入Ollama本地模型，实现完全私有化的知识库系统。部署流程包括：通过Ollama拉取模型（如deepseek-r1:7b），在Dify模型提供商中选择Ollama并配置本地地址，即可实现零API成本的私有智能体。

方案二：Coze（扣子）平台配置

Coze的知识库配置与智能体开发深度集成。在创建智能体后，进入"知识"模块添加知识库，支持文本格式和图片格式。

对于图片知识库，上传后必须进行人工标注，至少需要标注"商品种类、商品名"两个关键词，否则可能无法识别。其他关键词按需添加，标注越完善，检索效果越好。

在复杂对话流中，可配置多个知识库检索节点，分别挂载不同的知识库（如销售知识库、产品图片知识库），实现多源信息的综合检索。

方案三：代码级开发（LangChain + 向量数据库）

对于需要深度定制的企业场景，可采用"LangChain + 向量数据库"的代码级方案。

向量数据库选型：

Milvus：开源分布式，支持十亿级向量，适合大规模数据处理和高性能推荐系统，但运维复杂度较高

Qdrant：Rust开发，性能优异，支持量化压缩，适合对性能和控制有要求的中小规模项目

Chroma：轻量级开源，API简单，适合快速原型开发和小规模应用，完全免费

PostgreSQL + pgvector：已使用PostgreSQL的团队无需引入新系统，但索引能力弱于专业向量库

开发流程：

使用LangChain的PyPDFLoader加载文件，通过RecursiveCharacterTextSplitter将文本分块（建议chunk_size=500，overlap=50）。调用Embedding模型生成向量后，存入Milvus等向量数据库。检索时，先通过向量相似度召回Top-K文档，再通过Rerank模型精排，最后将精选内容提交给大语言模型生成答案。

阿里云PAI平台提供了一站式RAG部署方案，支持FAISS（本地测试）、Elasticsearch、Milvus、Hologres等多种向量检索库，企业可根据数据规模选择合适的存储方案。

四、关键优化技巧与避坑指南

1. 切片策略的实战选择

如果文档内容连贯、主题集中，可采用"惰性切分"（Lazy Chunking）策略：在满足最大长度限制前尽量把内容塞进同一个chunk，减少碎片数量。现代大模型"啰嗦健忘但不怕信息噪音"，给模型多一点上下文，反而比拆成碎片效果更好。

对于层次结构清晰的文档（如手册章节、产品目录），建议采用层次切片，在每个chunk开头附加章节标题、层级路径等元信息，给模型一个定位锚点。

2. 数据质量检查

文档导入知识库后，务必进行一次人工检查，确认文本切片内容的语义完整性和正确性。如发现切分不当或解析错误，可直接编辑文本切片进行修正。注意这里修改的只是知识库中的切片，而非原始文档，后续再次导入时仍需检查。