当企业希望用大模型回答内部制度、产品手册与技术文档类问题时，RAG知识库系统搭建是最稳妥的技术路线。时代宜诚科技在服务上海政企客户时发现，直接把整本资料塞进提示词不仅成本高昂，还会因上下文超限而答非所问。检索增强生成的核心思路是先从企业文档库中召回相关片段，再让模型基于片段作答，从而保证答案可溯源、可管控。本文按数据预处理、向量召回、生成回答三个阶段，说明上海企业如何搭建一套真正可用的RAG知识库。
切分是RAG质量的第一道关口。常见策略包括固定长度切分、按语义标题切分与递归切分三种。对比来看：固定长度实现简单但容易截断句子；按标题切分语义完整但块长不均；递归切分兼顾两者，是上海企业生产环境的首选。建议块大小设为300至500字，重叠窗口设为50至80字，避免关键信息被切断。
切分后的文本需要通过Embedding模型转成向量，存入向量数据库。主流向量库包括Milvus、Chroma、Qdrant与PGVector。选型时上海企业可按规模判断：十万级文档以内用PGVector即可，百万级以上建议Milvus集群。嵌入模型可选用开源中文向量模型或商业接口，需注意中英混合文档要选择多语种模型。
第二步是数据治理。企业文档往往格式杂乱，包含扫描件、表格与图片。流程上先做格式统一，扫描件走OCR，表格单独抽取为结构化数据，再按权限分级打标签。上海企业在这一阶段应建立文档责任人制度，明确哪些资料可被检索，避免把未公开的薪酬制度误纳入知识库。
召回阶段先用向量相似度检索TopK片段，再用重排模型精排。单路向量召回准确率约七成，加入关键词混合检索后可提升至八成五。上海企业建议采用向量加关键词的混合召回，并在重排后只把前3至5个片段送入大模型。这一取舍直接决定回答准确率与token成本之间的平衡。
生成环节要求模型必须基于召回片段作答，并在答案末尾标注引用来源。当召回片段与问题无关时，模型应明确回答知识库中暂无相关信息，而非编造。上海企业可通过提示词工程约束这一行为，并在前端展示可点击的引用卡片，方便员工核对原文。溯源能力是企业敢把RAG用于客服与法务场景的前提。
企业级RAG知识库开发费用通常在8万至30万元之间。其中文档清洗与切分占两成，向量库搭建与召回调优占四成，问答前端与权限管理占两成，测试优化占两成。上海中小企业仅做内部制度问答，预算可控制在8万至12万元；需要对接多系统并做精排模型的复杂项目，费用接近25万至30万元。
RAG上线后需要持续运营。建议建立问答反馈闭环，对答错的问题打标，每周抽样评测召回命中率与答案准确率。上海企业可关注两个指标：召回命中率应高于九成才对答案满意度有保障；无答案率应控制在一成以内。按月迭代切分规则与召回参数，比一次性调参效果更稳。
考察服务商时，建议要求对方用上海企业提供的真实文档做一次演示，重点看切分是否合理、召回是否命中相关段落、答案是否带来源。同时询问是否支持私有化部署，因为企业内部资料不宜出域。源码交付与否决定了后续能否自主迭代，需在合同中明确写清。
最常见的坑有三个：一是只做向量检索不做重排，导致答非所问；二是文档权限混乱，普通员工能查到高管薪酬；三是上线后无人维护，知识库与实际制度脱节。上海企业应在项目启动时就约定文档更新责任人，并把知识库维护纳入日常运营流程。
如果企业需求只是让模型基于已有资料回答，RAG单独使用就足够，且数据可随时更新。这种方式无需训练，改文档即可生效，维护成本低。上海企业多数内部问答场景都属于此类，应优先尝试RAG，而不是一上来就做昂贵的微调。
当企业既要求准确引用资料，又要求固定专业话术时，可以组合使用：微调负责统一语气与术语，RAG负责提供最新事实。这种混合架构比单一方案效果更稳，但成本也更高。上海企业建议先把RAG做到九成对命中率，再评估是否需要微调补强。
不同员工只能检索自己有权查看的文档，这一要求必须在召回阶段就实现，而不是答案返回后再过滤。上海企业应按部门与密级给文档打标签，检索时自动加入权限条件，防止越权读到敏感资料。
调用大模型API时，企业内部内容会离开内网。上海企业敏感文档应优先选择私有化部署的模型，或在发送前做脱敏。合同中需明确服务商不留存对话数据，从源头守住企业知识资产。
谁检索了什么、问了什么，都应记录日志。上海企业可据此追溯异常查询，并在合规审计时提供证据。日志本身也要加密存储，避免反向泄露内部资料。
RAG知识库系统搭建的价值，在于让企业沉淀的资料真正可被员工与客户检索使用。上海企业建议先从一个业务部门试点，验证准确率后再推广。如果您正在规划上海RAG知识库系统搭建的技术路线与预算，欢迎联系时代宜诚科技，我们可基于您的文档规模给出切分、召回与部署的完整方案。
18140041855 
