AWS 推出 CDK 範例：在 Managed Bedrock KB 建置代理式檢索

背景

傳統檢索增強生成（RAG，Retrieval Augmented Generation）通常僅進行單次檢索與生成。當問題的答案橫跨兩個語料庫、正確來源取決於問題內容，或需要在看到第一次結果後再次檢視語料庫時，單次檢索無法滿足需求。Amazon Bedrock 現提供 Managed Knowledge Base（託管知識庫），由 AWS 全權管理資料摄取、儲存、索引與檢索，並支援 AgenticRetrieveStream API，讓代理能進行多輪規劃與工具驅動檢索。然而，代理式系統行為路徑不固定，使得監控其效能與回答品質成為營運挑戰。 AWS ML Blog

發生什麼事

AWS 於 GitHub 發布新範例 managed-kb-observability-cdk，提供一個完整的 AWS CDK（Cloud Development Kit，基礎設施即程式碼工具）應用程式，用於部署代理式檢索解決方案。該範例包含兩個 Managed Amazon Bedrock Knowledge Bases、一個 AgentCore Gateway、一個運行於 AgentCore Runtime 上的 Strands agent，以及兩個涵蓋七層可觀測性的 CloudWatch 儀表板。 官方原文・github.com

重點內容

此架構透過 AgentCore Gateway 將每個知識庫暴露為 MCP（Model Context Protocol，模型上下文協議）工具，代理透過 MCP 協議呼叫 AgenticRetrieveStream 工具進行檢索。檢索過程無需 Lambda 或額外容器，僅代理本身在 CodeBuild 建置的容器中運行。系統整合七層可觀測性：從知識庫指標、摄取日誌、檢索負載、Gateway 指標、OTEL（OpenTelemetry，開放遙測標準）跨度樹、Token 使用量，到 AgentCore Evaluate 的評分。 官方原文・github.com

範例預設使用兩個語料庫：一個是合成的金融數據（Octank Financial 10-K，CC0 授權），另一個是美國國會研究服務處的天氣報告（IF12695）。代理預設使用 Claude Haiku 4.5 模型進行推理。部署後，使用者可透過附帶的 Notebook 驅動流量，並查看兩個 CloudWatch 儀表板：一個顯示端到端七層視圖，另一個顯示每個知識庫的營運信號與成本細節。 原文

對使用者的意義

開發者可使用 cdk deploy --all 指令一次性部署所有堆疊，CDK 會自動處理依賴順序。此範例展示了如何將代理式檢索與完整的可觀測性整合，包括即時評估（Online Evaluation）與按需評估。對於需要監控代理行為路徑、Token 消耗及回答品質的企業開發者，此範例提供了從基礎設施部署到監控儀表板建立的完整參考實作。 官方原文・github.com

限制與未定事項

範例預設將線上評估取樣率設為 100%，僅供實驗使用，非生產環境建議，因為這會產生與流量成正比的 LLM-as-judge 成本。CDK 部署後，S3 儲存桶與 ECR 儲存庫預設設為自動刪除，生產環境需調整移除策略]。 AWS ML Blog 官方原文・github.com