RAG 数据新鲜度是检索系统反映当前已批准来源的能力,包括更新、删除与访问变更。定期上传新文件只是部分工作。旧文本块、缓存答案和失败的删除路径,仍可能影响助手说出的内容。
将新鲜度定义为可观察的来源到答案约定,为更新、撤回和权限变更设计明确路径。保留文档身份及版本证据,将索引与来源核对,并测试停用内容是否停止出现。仅有近期摄取时间戳,不能证明答案是当前有效或获授权的。
设想内部助手回答有关供应商流程的问题。运营团队已替换文档,但助手检索出被取代版本的文本块。答案可能流畅,也准确引用了旧文本块,却仍把员工引向错误流程。
本指南关注首次部署后的检索数据维护。我们的 RAG 说明 介绍更广泛的方法;这里要决定的是如何让现有知识工作流保持可靠。
为每个来源定义 RAG 数据新鲜度
询问哪些变更重要,以及企业多快需要反映它们。历史手册、实时库存记录和已撤回政策,更新要求并不相同。过时信息的后果不同时,应定义不同预期。
确定权威来源及批准人员。共享文件夹可能包含草稿、重复件与存档资料。摄取所有近期变更,并不能确定员工应遵循哪个版本。内容权威在成为索引规则前,需要先有业务规则。
| 来源变更 | 应定义的系统行为 | 应检查的证据 |
|---|---|---|
| 已批准修订 | 替换或取代相关索引内容 | 来源及索引版本引用 |
| 文档撤回 | 取消其检索资格 | 受控检索测试中不再出现 |
| 权限变更 | 应用新的访问边界 | 受影响用户身份下的结果 |
| 文件移动或重命名 | 保留或有意识地改变文档身份 | 稳定映射与链接核对 |
| 摄取失败 | 显示过时或不可用状态 | 有负责人负责的告警及最后确认版本 |
理解来源 API、索引流程和运营要求前,不要承诺统一新鲜度间隔。供应商提案应说明什么可以测量、什么可能延迟,以及更新待处理时助手如何行动。
在文档与文本块之间保留身份
在来源支持时,为来源记录设置能在普通更新中保持不变的稳定身份。保留版本、检索位置及文本块关系。文件重命名、复制或原地替换时,仅文件名可能不足够。
Microsoft Azure AI Search 索引器概述 将索引器描述为数据来源摄取组件。阅读所选连接器实际的变更跟踪行为。定时运行是一种机制,并不证明每个来源操作都被检测到。
保持来源到文本块映射可检查。段落变化时,系统需要知道哪些旧文本块已被取代。添加新文本块却不退役旧块,即使每个嵌入在技术上有效,也可能产生冲突证据。
记录派生字段如何产生。文本提取、规范化与分块,可能改变索引含义。流水线更新后答案出错时,操作人员应能区分来源修订,与提取或检索变更。
将删除视为独立生命周期
不要假定文件从存储中消失,就会自动删除索引表示。Microsoft 变更与删除检测指南 明确区分其存储索引器的更新跟踪与删除检测,并描述受支持删除策略。
实现细节依赖平台,但验收问题是通用的:批准撤回后,助手还能检索旧资料吗?测试相关索引、派生文本块和答案缓存,不要只检查来源文件夹。
删除中断后进行核对
在下游状态确认前,保留撤回记录。如果索引器观察到删除标记前,来源对象已永久删除,系统可能失去所依赖的信号。使用所选提供商支持的生命周期,并验证最终状态。
设计应包含一对多转换。一个文档可能产生多个文本块或记录。删除路径必须覆盖这些派生对象。删除父元数据行却留下可检索子项,不是可接受的撤回。
在检索时应用权限变更
最新内容对请求用户来说,仍可能是不适当内容。确定在哪里强制当前用户与组织权限。只把来源权限复制到元数据一次,不能证明之后的成员变更会到达检索边界。
OWASP 授权指南 建议在每次请求时检查访问。将该原则用于检索及答案中的链接。引用不应泄露用户无权查看的文档标题或摘录。
| 检索层 | 应测试的变更 | 验收问题 |
|---|---|---|
| 来源连接器 | 用户或群组成员变化 | 摄取是否保留预期范围? |
| 搜索查询 | 用户失去文档访问权 | 文档是否被排除在结果外? |
| 答案缓存 | 旧答案包含受限文本 | 后续请求能收到缓存的披露吗? |
| 引用链接 | 来源位置变化 | 用户能到达正确的获准版本吗? |
我们的 内部 AI 助手指南 介绍更广泛的员工工作流。新鲜度维护应适应该权限模型,而不是建立权限更广的独立数据路径。
让操作人员看见过时证据
记录最后确认的来源版本,以及摄取流程已到达的阶段。区分来源获取、提取、索引与检索验证。流水线可以获取成功,却未能索引修订内容,因此单个最后运行时间戳可能误导。
依据约定的来源预期选择告警。未变更的存档文档,不必仅因时间久而报警。运营流程更新失败时,即使索引不久前已成功更新,也可能需要调查。
无法确定当前证据时,向用户显示适当的不确定状态。例如要求联系负责人,或拒绝依据已撤回来源回答。不要仅因存在检索结果,就自信呈现过时文本。
保持日志适度。来源标识符、版本及流水线结果,可以支持调查,无需把每份机密文档复制到通用遥测系统。对于捕获内容,另行约定访问与保留规则。
使用受控文档测试完整生命周期
建立小型受控语料,包含易识别陈述和刻意不同的版本。在更新、撤回或权限变更前后,提出同一相关问题。检查检索证据,也检查最终答案。
包含失败和延迟处理。将受控更新暂停在阶段之间,然后演示系统如何恢复与核对。测试目标连接器支持的重命名、替换和重复来源场景。记录预期身份判断。
我们的 AI 智能体评估指南 解释如何区分有用答案与获接受结果的证明。这里验收包括停用被取代检索资料,并强制请求用户的当前访问权,而不仅是生成听起来较新的文字。
保留生命周期测试样本作为回归案例。更改提取、分块、索引或缓存后重新检查。新检索模型可能改善答案相关性,却暴露此前隐藏的过时记录问题。
比较修复与替换流水线
先定位生命周期中的断点。缺失删除处理、不稳定身份或缓存范围错误,可能有范围明确的修复。新向量数据库不会修好不明确的来源权威,也不会修好从不记录撤回的摄取流程。
| 工作包 | 交付物 | 范围驱动因素 |
|---|---|---|
| 生命周期审计 | 来源到索引身份及失败映射 | 连接器数量与行为 |
| 更新与删除修复 | 可重复的下游状态变更 | 派生文本块与提供商约定 |
| 权限验证 | 当前用户范围内的检索证据 | 来源成员关系与缓存设计 |
| 运营 | 核对与有负责人负责的告警 | 所需新鲜度预期 |
| 交接 | 生命周期样本与文档 | 来源与流水线变化频率 |
要求绑定这些结果的 GBP 提案。区分初始修复与摄取、存储、检索和持续维护成本。只按文档数量报价,可能遗漏困难部分:让正确文档保持当前有效且获授权。
我们的 AI 集成限定范围试点 可以从过时答案示例及其权威来源开始。发送助手漏掉的更新或撤回 ,讨论范围明确的调查和可接受的生命周期修复。
常见问题
什么是 RAG 数据新鲜度? 它是当前已批准来源资料,与可供检索及回答使用的证据之间的关系。包括更新、撤回、身份变化及权限,而不仅是最近一次摄取运行日期。
重新索引会自动移除已删除文档吗? 不一定。检查所选连接器支持的删除行为,并验证派生文本块和父记录。有些平台要求明确删除策略。
每次运行都应该重新嵌入所有文档吗? 这不是通用要求。在适当时使用稳定来源身份和变更跟踪,再核对结果状态。重要结果是当前、完整且获授权的检索证据。
系统需要多高的新鲜度? 按来源与后果定义。已撤回运营指令可能需要与历史存档不同的处理。说明预期更新行为,以及无法满足时的后备方案。
答案缓存会产生过时结果吗? 会。当前索引不会自动使旧答案缓存失效。测试缓存与来源版本、撤回和用户权限的关系,包括撤销访问后发生什么。
为什么重命名文件重要? 它们可能改变连接器使用的身份或位置。否则系统可能创建重复项,或丢失到早先文本块的映射。定义重命名是否保留同一来源记录,并测试提供商实际行为。
需要新向量数据库吗? 不会自动需要。先定位生命周期缺陷。范围明确的更新、删除或缓存问题,可能在现有流水线修复。替换应依据相同的新鲜度及责任要求证明合理。
维护供应商应该交接什么? 来源映射、生命周期规则、核对说明、受控回归文档,以及更新、撤回和权限测试证据。包括已知连接器限制和未解决失败的负责人。