背景
隨著 AI 系統承擔更多工作，組織需要對模型、工具和支出設定明確限制。Mozilla AI 指出，許多團隊在設定這些限制時往往依賴預設值或根本未設定，導致權限與預算管理混亂。此外，供應商鎖定（lock-in，指因切換成本高而被迫留在特定供應商）也是常見問題：切換模型或工具供應商通常需要重寫程式碼、重新測試提示詞（prompt）並重新整合，使得組織難以利用更便宜或更好的開源權重模型。 官方原文・Mozilla AI Blog
發生什麼事
Mozilla AI 推出 Otari，這是一個開源的 AI 閘道（gateway），旨在將模型選擇、代理程式（agent，能自主執行任務的 AI 軟體）治理和成本控制整合在一起。Otari 的核心概念是讓所有來自應用程式和代理程式的請求都通過這個閘道，讓開發者可以在這裡設定規則，並在無需修改應用程式程式碼的情況下切換供應商。 官方原文・Mozilla AI Blog
重點內容
在治理方面，Otari 允許使用者按工作區（workspace，用於隔離不同團隊或專案設定與權限的環境）設定權限，包括允許使用的模型、網路搜尋和程式碼執行的開關，以及必須執行的防護欄（guardrail，用於限制 AI 行為或過濾不當輸出的安全機制）檢查。被標記的請求會在到達供應商之前被阻擋。預算限制可以設定在使用者和應用程式金鑰（application keys，用於驗證應用程式身分與權限的憑證）上，Otari 會在每個請求前檢查預算。對於編碼代理程式，Otari 的 Agent Guardrails 功能可以拒絕特定的工具呼叫，並在代理程式交回工作前檢查程式碼庫（repository，存放專案程式碼與版本歷史的儲存庫）的變更。 官方原文・Mozilla AI Blog
在可視性方面，Otari 提供使用情況檢視，顯示哪些模型被呼叫、哪些失敗以及相關成本。其會話追蹤（session tracing，記錄並串連單一對話中所有步驟的機制）功能將所有步驟連結成一條時間軸，但不會儲存提示詞、回應或工具結果。這讓使用者能了解成本增加的原因、哪個步驟持續失敗，以及防護欄是否執行。 原文
在選擇性方面，應用程式透過單一 API（應用程式介面，讓不同軟體互相溝通的標準）存取所有模型，因此切換供應商僅需更改設定值。當供應商當機時，備援規則（fallback rules，當主要服務不可用時自動切換至替代方案的規則）會重新路由請求。Otari 也提供工具，使得開源權重模型能獲得與專有模型相同的網路搜尋和程式碼執行能力。 原文
對使用者的意義
Otari 以 Apache 2.0 授權發布，使用者可以閱讀原始碼、自行託管或貢獻程式碼。此外，Mozilla AI 也提供託管版本，可透過 otari.ai 使用。Mozilla AI 建議使用者從一個熟悉的工作流程開始，設定其模型、工具和預算，決定審核人員，並觀察數週後再決定是否擴大使用範圍。 官方原文・Mozilla AI Blog
