RAG 資料新鮮度是檢索系統反映目前已批准來源的能力,包括更新、刪除與訪問變更。定期上傳新檔案只是部分工作。舊文字塊、快取答案和失敗的刪除路徑,仍可能影響助手說出的內容。
將新鮮度定義為可觀察的來源到答案約定,為更新、撤回和許可權變更設計明確路徑。保留文件身份及版本證據,將索引與來源核對,並測試停用內容是否停止出現。僅有近期攝取時間戳,不能證明答案是目前有效或獲授權的。
設想內部助手回答有關供應商流程的問題。運營團隊已替換文件,但助手檢索出被取代版本的文字塊。答案可能流暢,也準確引用了舊文字塊,卻仍把員工引向錯誤流程。
本指南關注首次部署後的檢索資料維護。我們的 RAG 說明 介紹更廣泛的方法;這裡要決定的是如何讓現有知識工作流保持可靠。
為每個來源定義 RAG 資料新鮮度
詢問哪些變更重要,以及企業多快需要反映它們。歷史手冊、實時庫存記錄和已撤回政策,更新要求並不相同。過時資訊的後果不同時,應定義不同預期。
確定權威來源及批准人員。共享資料夾可能包含草稿、重複件與存檔資料。攝取所有近期變更,並不能確定員工應遵循哪個版本。內容權威在成為索引規則前,需要先有業務規則。
| 來源變更 | 應定義的系統行為 | 應檢查的證據 |
|---|---|---|
| 已批准修訂 | 替換或取代相關索引內容 | 來源及索引版本引用 |
| 文件撤回 | 取消其檢索資格 | 受控檢索測試中不再出現 |
| 許可權變更 | 應用新的訪問邊界 | 受影響使用者身份下的結果 |
| 檔案移動或重新命名 | 保留或有意識地改變文件身份 | 穩定對映與連結核對 |
| 攝取失敗 | 顯示過時或不可用狀態 | 有明確負責人的告警及最後確認版本 |
理解來源 API、索引流程和運營要求前,不要承諾統一新鮮度間隔。供應商提案應說明什麼可以測量、什麼可能延遲,以及更新待處理時助手如何行動。
在文件與文字塊之間保留身份
在來源支援時,為來源記錄設定能在普通更新中保持不變的穩定身份。保留版本、檢索位置及文字塊關係。檔案重新命名、複製或原地替換時,僅檔名可能不足夠。
Microsoft Azure AI Search 索引器概述 將索引器描述為資料來源攝取元件。閱讀所選聯結器實際的變更跟蹤行為。定時執行是一種機制,並不證明每個來源操作都被檢測到。
保持來源到文字塊對映可檢查。段落變化時,系統需要知道哪些舊文字塊已被取代。新增新文字塊卻不退役舊塊,即使每個嵌入在技術上有效,也可能產生衝突證據。
記錄派生欄位如何產生。文字提取、規範化與分塊,可能改變索引含義。流水線更新後答案出錯時,操作人員應能區分來源修訂,與提取或檢索變更。
將刪除視為獨立生命週期
不要假定檔案從儲存中消失,就會自動刪除索引表示。Microsoft 變更與刪除檢測指南 明確區分其儲存索引器的更新跟蹤與刪除檢測,並描述受支援刪除策略。
實現細節依賴平臺,但驗收問題是通用的:批准撤回後,助手還能檢索舊資料嗎?測試相關索引、派生文字塊和答案快取,不要只檢查來原始檔夾。
刪除中斷後進行核對
在下游狀態確認前,保留撤回記錄。如果索引器觀察到刪除標記前,來源物件已永久刪除,系統可能失去所依賴的訊號。使用所選提供商支援的生命週期,並驗證最終狀態。
設計應包含一對多轉換。一個文件可能產生多個文字塊或記錄。刪除路徑必須覆蓋這些派生物件。刪除父後設資料行卻留下可檢索子項,不是可接受的撤回。
在檢索時應用許可權變更
最新內容對請求使用者來說,仍可能是不適當內容。確定在哪裡強制目前使用者與組織許可權。只把來源許可權複製到後設資料一次,不能證明之後的成員變更會到達檢索邊界。
OWASP 授權指南 建議在每次請求時檢查訪問。將該原則用於檢索及答案中的連結。引用不應洩露使用者無權檢視的文件標題或摘錄。
| 檢索層 | 應測試的變更 | 驗收問題 |
|---|---|---|
| 來源聯結器 | 使用者或群組成員變化 | 攝取是否保留預期範圍? |
| 搜尋查詢 | 使用者失去文件訪問權 | 文件是否被排除在結果外? |
| 答案快取 | 舊答案包含受限文字 | 後續請求能收到快取的披露嗎? |
| 引用連結 | 來源位置變化 | 使用者能到達正確的獲准版本嗎? |
我們的 內部 AI 助手指南 介紹更廣泛的員工工作流。新鮮度維護應適應該許可權模型,而不是建立許可權更廣的獨立資料路徑。
讓操作人員看見過時證據
記錄最後確認的來源版本,以及攝取流程已到達的階段。區分來源獲取、提取、索引與檢索驗證。流水線可以獲取成功,卻未能索引修訂內容,因此單個最後執行時間戳可能誤導。
依據約定的來源預期選擇告警。未變更的存檔文件,不必僅因時間久而報警。運營流程更新失敗時,即使索引不久前已成功更新,也可能需要調查。
無法確定目前證據時,向使用者顯示適當的不確定狀態。例如要求聯絡負責人,或拒絕依據已撤回來源回答。不要僅因存在檢索結果,就自信呈現過時文字。
保持日誌適度。來源識別符號、版本及流水線結果,可以支援調查,無需把每份機密文件複製到通用遙測系統。對於捕獲內容,另行約定訪問與保留規則。
使用受控文件測試完整生命週期
建立小型受控語料,包含易識別陳述和刻意不同的版本。在更新、撤回或許可權變更前後,提出同一相關問題。檢查檢索證據,也檢查最終答案。
包含失敗和延遲處理。將受控更新暫停在階段之間,然後演示系統如何恢復與核對。測試目標聯結器支援的重新命名、替換和重複來源場景。記錄預期身份判斷。
我們的 AI 智慧體評估指南 解釋如何區分有用答案與被接受結果的證明。這裡驗收包括停用被取代檢索資料,並強制請求使用者的目前訪問權,而不僅是生成聽起來較新的文字。
保留生命週期測試樣本作為迴歸案例。更改提取、分塊、索引或快取後重新檢查。新檢索模型可能改善答案相關性,卻暴露此前隱藏的過時記錄問題。
比較修復與替換流水線
先定位生命週期中的斷點。缺失刪除處理、不穩定身份或快取範圍錯誤,可能有範圍明確的修復。新向量資料庫不會修好不明確的來源權威,也不會修好從不記錄撤回的攝取流程。
| 工作包 | 交付物 | 範圍驅動因素 |
|---|---|---|
| 生命週期審計 | 來源到索引身份及失敗對映 | 聯結器數量與行為 |
| 更新與刪除修復 | 可重複的下游狀態變更 | 派生文字塊與提供商約定 |
| 許可權驗證 | 目前使用者範圍內的檢索證據 | 來源成員關係與快取設計 |
| 運營 | 核對與有明確負責人的告警 | 所需新鮮度預期 |
| 交接 | 生命週期樣本與文件 | 來源與流水線變化頻率 |
要求繫結這些結果的 GBP 提案。區分初始修復與攝取、儲存、檢索和持續維護成本。只按文件數量報價,可能遺漏困難部分:讓正確文件保持目前有效且獲授權。
我們的 AI 整合限定範圍試行 可以從過時答案示例及其權威來源開始。傳送助手漏掉的更新或撤回 ,討論範圍明確的調查和可接受的生命週期修復。
常見問題
什麼是 RAG 資料新鮮度? 它是目前已批准來源資料,與可供檢索及回答使用的證據之間的關係。包括更新、撤回、身份變化及許可權,而不僅是最近一次攝取執行日期。
重新索引會自動移除已刪除文件嗎? 不一定。檢查所選聯結器支援的刪除行為,並驗證派生文字塊和父記錄。有些平臺要求明確刪除策略。
每次執行都應該重新嵌入所有文件嗎? 這不是通用要求。在適當時使用穩定來源身份和變更跟蹤,再核對結果狀態。重要結果是目前、完整且獲授權的檢索證據。
系統需要多高的新鮮度? 按來源與後果定義。已撤回運營指令可能需要與歷史存檔不同的處理。說明預期更新行為,以及無法滿足時的後備方案。
答案快取會產生過時結果嗎? 會。目前索引不會自動使舊答案快取失效。測試快取與來源版本、撤回和使用者許可權的關係,包括撤銷訪問後發生什麼。
為什麼重新命名檔案重要? 它們可能改變聯結器使用的身份或位置。否則系統可能建立重複項,或丟失到早先文字塊的對映。定義重新命名是否保留同一來源記錄,並測試提供商實際行為。
需要新向量資料庫嗎? 不會自動需要。先定位生命週期缺陷。範圍明確的更新、刪除或快取問題,可能在現有流水線修復。替換應依據相同的新鮮度及責任要求證明合理。
維護供應商應該交接什麼? 來源對映、生命週期規則、核對說明、受控迴歸文件,以及更新、撤回和許可權測試證據。包括已知聯結器限制和未解決失敗的負責人。