Postman 說明 Agent Mode 如何在 Amazon Bedrock 上服務 4,000 萬名開發者

背景

Agent Mode 是 Postman 推出的 AI 原生（以 AI 為核心來設計操作方式）入口，讓使用者透過 AI agent（能自行判斷步驟、呼叫工具完成任務的 AI 程式）處理 API（應用程式介面，軟體之間互相呼叫的規格）的測試、文件、探索與實作。文章指出，Postman 已發展 11 年，使用者習慣靠展開側邊欄、切換分頁、打開請求來找資訊；但 agent 是對資料推理，而不是瀏覽畫面。為 agent 重新打造這種「知道東西在哪」的能力，暴露出產品 API、使用者體驗與產品知識分布上的結構性假設。 AWS ML Blog

發生什麼事

AWS ML Blog 於 2026 年 10 月 9 日刊出 Postman 與 AWS 共同撰寫的文章，說明 Agent Mode 如何為 4,000 萬名開發者運作。團隊原本預期模型品質與提示（prompt，給模型的指令文字）設計最難，實際上更深的挑戰來自把 agent 整合進一個累積多年介面設計假設的成熟產品。文章歸納的做法包括控制工具數量膨脹、提供以資料結構為基礎的讀取方式，以及把脈絡（context，agent 對使用者目前在 Postman 哪裡、哪些項目正在使用、已建立哪些狀態的理解）而非功能視為主要瓶頸。 AWS ML Blog

Agent Mode 執行在 Amazon Bedrock（AWS 的託管服務，讓開發者使用基礎模型，也就是經大量資料預先訓練、可用於多種任務的模型）上。文章表示，Postman 全球開發者社群帶來變動大、對延遲敏感且有尖峰流量的需求；透過 Amazon Bedrock，Postman 不必自行維運模型服務基礎設施，也能保有選擇模型的彈性，並控制吞吐量、地理處理位置與成本。文中提到 Agent Mode 使用限定地理範圍的跨區域推論（把模型運算分送到指定地理範圍內的多個區域處理）、依模型而定的零資料保留（服務端不保存使用者資料），以及多層提示快取（把重複使用的提示內容暫存起來重複利用）。 AWS ML Blog

重點內容

早期團隊偏好非常細的原子化工具，例如打開一個請求、更新單一欄位或取得特定中繼資料。但實際工作流程常需要一長串工具呼叫，每一步都得回到模型才能進行下一步，整體感覺很慢。Postman 測試發現，當可見工具超過大約 40 個，工具選擇錯誤就會增加：agent 可能呼叫不存在的工具、在結構定義正確的情況下仍傳錯參數，或選了語意看似合理但不符情境的工具。現行架構依需求與情境挑選工具，模型只看到與當前任務相關的工具。Postman 也正在讓工具不再依賴介面分頁，例如 Agent Mode 現在可以在沒開分頁的情況下於背景送出請求，但仍需使用者核准。 AWS ML Blog

在 API Catalog 這類呈現多個服務運作時間、測試結果與端點回應時間等結構化資料的產品上，Postman 把多個窄用途的檢視合併成單一查詢工具。agent 拿到底層 ClickHouse（一種資料庫系統）資料表的 schema（欄位與結構定義）後，可以自行產生含 join（依關聯欄位合併多張資料表）與 WHERE 子句（設定篩選條件）的複雜查詢，大幅減少回答分析問題所需的工具數量。文章形容，工程工作因此從「每個問題做一個工具」轉為「把資料模型設計好一次」。 AWS ML Blog

Postman 原本以為缺工具是最大障礙，實際上缺少或不完整的脈絡造成的失敗比缺功能更多。直接把介面既有的資料模型序列化（轉成可傳遞的資料格式）效果不好，因為那些物件是為畫面呈現與資料傳輸而設計，於是團隊為各類項目寫了專用的脈絡處理器，只萃取 agent 需要知道的內容。處理器變多後，截斷成了下一個問題：請求描述、OpenAPI 規格（描述 API 介面的標準格式文件）與請求內容等使用者自訂資料，可能塞滿 context window（模型一次能讀入的內容上限）。團隊正在探索以檔案系統為基礎的做法，讓每個處理器不必各自撰寫截斷與展開邏輯。 AWS ML Blog

對使用者的意義

對 Agent Mode 使用者來說，會修改應用程式狀態的動作都要先經使用者核准；Postman 也會依任務限縮可用工具、挑選專用脈絡，並套用依模型而定的資料保留設定。企業管理者可在 Agent Mode 的 guardrail（防護規則）設定中開啟 Amazon Bedrock Guardrails（AWS 的內容安全防護功能），在資料送到底層 LLM（大型語言模型）之前遮蔽 PII（可識別個人身分的資訊）。對正在打造 agent 的開發團隊，文章建議把工具清單視為脈絡預算的一部分、依任務動態限縮工具，並在資料結構完善之處提供能依 schema 查詢的讀取權限，取代大量單一用途的讀取工具。 AWS ML Blog

限制與未定事項

文章指出，較大或較新的模型能減少工具選擇錯誤，但無法消除；工具與分頁脫鉤的工作仍在進行，以檔案系統處理脈絡的做法也還在探索。文中也表示，上述控制能減少非預期動作與不必要的資料暴露，但正式環境的測試與監控仍有必要。 AWS ML Blog