指南 · 企业 AI 知识库 / RAG / 权限内问答
企业 AI 知识库数据安全指南
企业 AI 知识库应先确定哪些文档可以入库,再按用途处理敏感内容,并验证检索权限、回答范围和人工复核责任。本文提供入库流程、风险矩阵和上线前检查,供业务、安全、IT 与法务共同评审。
- 适用场景
- 知识库、RAG、AI Agent 和权限内文件问答
- 治理重点
- 入库前处理、权限继承、检索边界和审计记录
- 更新日期
Conclusion first
先给结论
企业 AI 知识库的数据安全,应从“文档进入知识库之前”开始设计:先按来源、敏感程度和使用目的分类,再处理不必要的敏感信息,验证权限和回答边界。需要保留哪些入库、检索、导出和撤权证据,应按实际系统事件与人工决定分别登记。
先用AI 脱敏定义统一处理对象,再结合AI 与人工脱敏比较明确复核分工;用脱敏、数据掩码与 DLP 比较区分文档处理和其他控制方式。
RAG 或 AI Agent 的价值来自企业知识,但风险也来自同一批文档。可行的治理模型不是让 AI 拥有不受限制的项目知识,而是让 AI 只能在用户有权访问的文件和文件夹范围内回答,并让高风险内容进入人工复核流程。
Buyer problem
知识库上线前要解决的三个问题
合同、客户文件、研发资料、财务附件、会议纪要和内部制度进入同一知识库前,需要先明确用途、资料责任人和允许检索的范围。以下三个问题应在试点中实际验证。
入库之后,信息会被重新组合
文档被切片、索引和检索后,原本分散在多个文件里的敏感片段可能在回答中被重新拼接。入库前的分类和脱敏能减少不必要的下游暴露。
权限不应只停留在文件夹层面
知识库应按调用用户的实际授权过滤检索和引用。原文件夹有权限,不代表索引和缓存已继承;需用跨角色、跨项目和撤权后的问题分别验证。
审计记录要覆盖 AI 使用过程
先核实系统能提供哪些文档、检索、导出和权限事件,再确定保留周期与查看权限。未提供的事件和人工批准应另行记录,避免把日志本身变成新的敏感内容存放点。
Security dimensions
企业 AI 知识库应关注的安全维度
企业知识库的数据安全不是一个单点设置,而是文档准备、索引、检索、回答、导出和复盘的组合。下面这些维度可以作为项目启动前的讨论框架。
| 风险区域 | 进入 RAG / AI Agent 后可能发生什么 | 入库前控制 | 人工复核问题 | 建议保留的证据 |
|---|---|---|---|---|
| 敏感字段 | 个人、客户、财务、合同或医疗健康信息被切片后,在问答中与其他片段重新组合。 | 先分类,再选择移除、泛化、隔离或排除;自动识别的格式和类别需按版本、配置与样本核验。 | 哪些字段必须保留?哪些字段只允许特定角色查看? | 分类依据、脱敏规则、复核人、批准时间和版本记录。 |
| 权限继承 | 用户通过提问获得跨项目、跨文件夹或跨角色的回答片段。 | 分别验证检索、摘要、引用和导出的授权,不仅检查文件夹界面。 | 谁同步权限和索引?撤权后缓存、摘要与既有普通副本如何处理? | 角色、索引范围、权限变更测试及无法同步的例外处理记录。 |
| 回答边界 | AI 将资料摘要误读为法律、监管、投资、医疗或合同判断。 | 为高风险主题设置提示边界、回答限制和升级复核路径。 | 哪些问题只能辅助查找资料,不能作为最终判断? | 测试问题、回答样本、复核意见和升级处理记录。 |
| 下游复用 | 摘要、引用片段或导出报告进入翻译、外部审阅、尽调或其他 AI 流程。 | 区分内部问答、外发材料、翻译版本和 AI 输入版本。 | 导出前是否需要再次脱敏?接收方能否看到引用来源? | 导出人、接收范围、导出版本、外发审批和归档记录。 |
数据分级
区分公开资料、内部资料、敏感资料、受限项目资料和需要审批的文档,避免所有文件按同一策略入库。
入库前脱敏
在进入知识库、向量索引或 AI Agent 工作流前,先界定需处理的信息类别,再用支持的格式、规则和样本验证候选识别,未支持项转人工处理。
权限范围
把问答、检索、摘要和引用限制在授权范围内作为验收要求;用不同角色与撤权案例验证,不能只凭功能名称判断隔离有效。
回答边界
对高风险主题设置复核或限制策略,避免 AI 生成超出资料范围、权限范围或专业判断边界的回答。
导出与复用
明确问答结果、摘要、引用片段和导出报告是否能外发,以及外发前是否需要复核或再次脱敏。
审计记录
核实可导出的入库、检索、导出与权限事件;人工批准单独留档。查询正文和日志也需控制访问,按项目目的确定保留范围。
Recommended workflow
敏感文档进入知识库前的七步流程
这套流程适用于企业知识库、权限内文件问答、RAG 检索增强、AI Agent 项目资料分析和跨团队文档协作。
准备输入时,按上传 AI 前的多格式文档准备指南核对输入对象和输出检查;RAG 项目再结合RAG 前脱敏框架安排来源登记与交接。
-
1
定义知识库范围
确认项目、用户角色、文档来源、文件夹范围、回答用途和禁止进入知识库的资料类型。
-
2
分类并识别敏感信息
按公开、内部、敏感、受限和需审批资料分组;依据实际支持的格式和类别,用 AI 或规则标记候选项,以样本检查漏项和误标,语义判断交授权人复核。
-
3
脱敏或隔离高风险内容
删除、替换、泛化或隔离不必要的敏感内容。对于必须保留的字段,记录保留原因和可访问角色。
-
4
保留权限和检索边界
验证文件权限到索引、检索和引用的映射,限制跨项目与跨角色访问;明确同步责任、缓存失效和异常时暂停检索的办法,不预设变更会自动传播。
-
5
批准入库版本
由业务负责人、数据安全、合规或法务角色确认哪些清洁版本可以入库,哪些资料只能留在受限空间,哪些需要暂缓进入 AI 工作流。
-
6
测试检索泄漏
用不同角色、项目和问题模板测试回答结果,检查是否引用无权文件、泄露敏感片段、跨项目拼接,或生成超出资料范围的判断。
-
7
持续审计和撤权
核对系统可提供的入库、检索、导出和权限事件,人工决定另行留档。角色变化或项目结束时复测索引与缓存;普通下载副本需由接收方依约处理,不因在线撤权自动消失。
Review boundary
哪些边界必须人工确认
企业知识库可以提升资料发现和问答效率,但不能替代专业判断。尤其涉及法律、财务、医疗健康、交易披露和跨境协作时,应把复核责任和升级路径写进流程。
入库范围确认
哪些文件能入库,哪些只能留在受限空间,哪些需要先脱敏或审批,应由业务负责人、数据安全或合规角色共同确认。
法律特权和披露边界
涉及法律意见、交易披露、争议材料和保密沟通时,应确认资料是否适合进入可检索知识库,以及回答是否需要升级给授权审阅人。
个人、客户和员工信息
身份证件、联系方式、账户、薪酬、健康资料和客户记录等信息,应在入库前判断是否有必要进入问答范围,并保留处理依据。
合同价格和商业条款
价格、折扣、排他条款、里程碑、赔偿责任和未公开交易信息,可能影响谈判或披露边界,适合设置更严格的角色和导出限制。
回答用途确认
AI 输出适合辅助查找和总结,不应被当作法律、监管、医疗、投资或合同结论。高风险输出应进入人工复核。
合规边界说明
本文不构成法律、监管或合规建议。具体义务取决于司法辖区、部署方式、系统配置、内部制度和客户自身工作流程。
Enterprise checklist
企业上线前自查清单
银行 AI 脱敏准备清单中的样本、责任和异常分支检查可供试点参考,不代表银行规则适用于其他项目。有工具调用时,再按AI Agent 与敏感数据控制说明核对执行身份和授权边界。
- 01
数据来源:知识库包含哪些项目、数据室、文件夹、邮件上传、扫描件、附件和历史版本?
- 02
敏感类型:需处理哪些个人、客户、合同或研发信息?实际格式、识别类别和样本结果是否明确,未支持项由谁接手?
- 03
权限范围:问答结果是否只基于用户有权访问的文件和文件夹,是否能避免跨项目引用?
- 04
复核责任:谁批准文件入库,谁处理高风险回答,谁确认导出或外发内容?
- 05
下游使用:回答、摘要、引用片段、导出报告是否会进入外部审阅、翻译、尽调或其他 AI 流程?
- 06
审计证据:哪些事件可由系统回看或导出,哪些批准需人工留档?查询及日志的访问范围和保留周期是否明确?
项目资料准备可参照企业脱敏试点实施计划;入库前处理见RAG 敏感数据脱敏流程。工具调用前再核对AI Agent 文件准备;交易资料协作可结合AI 就绪交易基础设施,分别确认资料、权限和任务证据的责任。
bestCoffer thinking
bestCoffer 的相关思路
让知识库问答留在受控文档流程内。
可从 bestCoffer 的AI 脱敏与受控文档协作能力讨论资料准备,再按实际版本和配置核对支持的格式、识别类别、权限内问答及可提供的事件。人工批准、外部索引同步和下游工具授权需要各自明确责任,不能由这些能力名称推断为原生全流程。
文件存储位置、AI 推理、向量索引、缓存和运维访问应分别确认区域与责任。选定存储区域不代表所有下游处理已留在同一区域,也不代表已完成跨境或合规判断;以实际部署、配置和合同范围为准。
FAQ
常见问题
这些问题适合用于企业知识库项目启动、数据治理评审、AI 工作流接入和外部协作前的内部讨论。
Sources and scope
参考与核验范围
OWASP LLM08:2025 列出权限不匹配和跨上下文检索的风险,并建议按权限隔离及核对资料来源。这里仅据此说明 RAG 的访问边界,未用它证明任何产品已实现某种隔离或日志能力。
OWASP LLM06:2025 讨论工具功能、权限和自主执行范围过大,并提出在下游验证授权和对高影响操作引入人工批准。本文的七步流程与检查项是项目实施建议,不是强制规范或产品认证。
- OWASP LLM08:2025 Vector and Embedding Weaknesses(仅风险及权限、来源核验相关段)
- OWASP LLM06:2025 Excessive Agency(仅功能、权限、自主执行及下游授权相关段)