Amazon Bedrock 在台灣等五區開放 GPT-6 跨區域推理

背景

Amazon Bedrock 是 AWS 的託管服務，讓開發者透過 API（應用程式介面，程式之間互相呼叫的介面）使用多家廠商的基礎模型。依 AWS ML Blog 的說明，只在單一 AWS 區域（Region，AWS 資料中心所在的地理區）做推理（模型接收輸入、產生輸出的運算）時，需求超過當地容量就可能被限流（throttle，請求被暫緩或拒絕）。泰國、馬來西亞、新加坡、印尼與台灣的團隊需要在當地容量之外也能使用 OpenAI 的新模型。全球跨區域推理（global cross-Region inference）的做法，是把請求分送到有部署該模型、且受支援的商用 AWS 區域處理。 AWS ML Blog

發生什麼事

AWS ML Blog 於 2026 年 10 月 12 日發文，說明 Amazon Bedrock 透過全球跨區域推理提供 OpenAI 的 GPT-6 Sol 與 GPT-6 Luna，可從五個區域呼叫：Asia Pacific (Singapore) ap-southeast-1、Asia Pacific (Jakarta) ap-southeast-3、Asia Pacific (Malaysia) ap-southeast-5、Asia Pacific (Thailand) ap-southeast-7、Asia Pacific (Taipei) ap-east-2；GPT-6 Astra 則只能從 Asia Pacific (Singapore) 呼叫。對應的推理設定檔（inference profile，用一個 ID 代表模型與可路由的區域）ID 是 global.openai.gpt-6-sol、global.openai.gpt-6-luna 與 global.openai.gpt-6-astra，走 bedrock-runtime 端點（endpoint，接收請求的網址）。 AWS ML Blog

重點內容

三款模型定位不同：GPT-6 Sol 用於日常工作中需要推理與寫程式能力的複雜任務，GPT-6 Luna 用於大量、可重複的專注任務，GPT-6 Astra 處理複雜推理、寫程式與長文件。三款都接受文字與圖片輸入、用戶端工具呼叫（client-side tool use，由呼叫方的程式執行模型要求的工具）與提示快取（prompt caching，把重複的提示內容暫存再利用）。差別在推理強度（reasoning effort，模型思考投入程度的設定）：GPT-6 Sol 與 GPT-6 Luna 可設 none、low、medium、high、xhigh、max，GPT-6 Astra 層級相同但不含 none。 AWS ML Blog

使用時，在原本填模型 ID 的位置改填推理設定檔 ID 即可。發出 API 呼叫的區域是來源區域，實際處理請求的目的地區域由 Amazon Bedrock 選擇；計費、配額（quota，用量上限）追蹤、AWS CloudTrail（記錄 API 操作的稽核服務）與 Amazon CloudWatch（AWS 的監控服務）都留在來源區域。只需啟用來源區域，目的地區域跑在 Amazon Bedrock 的託管容量上；Singapore 預設啟用，Jakarta、Malaysia、Thailand、Taipei 是 opt-in 區域（需先在帳號中手動啟用的區域）。 AWS ML Blog

每款模型在此端點支援三種呼叫方式：Amazon Bedrock Converse API（Bedrock 的統一對話介面）、OpenAI Responses API 與 OpenAI Chat Completions API。後兩者走 /openai/v1 路徑，可用 SigV4（Signature Version 4，AWS 以憑證對請求簽章的驗證方式）或 Amazon Bedrock API key 驗證。從既有 OpenAI 用戶端遷移時，每個請求都要設 model 參數，工具類型限 function、mcp（MCP，讓模型連接外部工具與資料的協定）、custom、namespace、tool_search。ChatGPT desktop app 與 Codex CLI（OpenAI 的命令列工具，CLI 即用打字下指令操作電腦的方式）共用 ~/.codex/config.toml，需要 Codex CLI 0.148 或更新版本。Codex 對這些設定檔顯示 272,000-token 的上下文視窗（模型一次可處理的 token 上限，token 是模型處理文字的基本單位），文章說明這是 Codex 內建的數字而非服務限制，可用 model_context_window 調高。 AWS ML Blog

對使用者的意義

這主要和在上述五個區域使用 AWS 的開發團隊與企業有關，台灣團隊可從 Asia Pacific (Taipei) ap-east-2 呼叫 GPT-6 Sol 與 GPT-6 Luna。開始前需要：有權呼叫該設定檔的 IAM（AWS 身分與存取管理服務，控制誰能做什麼）身分、已啟用的來源區域，以及新版 AWS SDK（軟體開發套件）或 CLI；OpenAI 相容範例另需 OpenAI SDK 與 Amazon Bedrock token generator，可用 pip install boto3 openai aws-bedrock-token-generator 安裝。IAM 政策需要四項陳述，其中包括對不分區域的 ARN（Amazon 資源名稱，AWS 資源的唯一識別字串）arn:aws:bedrock:::foundation-model/openai.gpt-6-sol 放行跨區域路由，用 API key 驗證時另需 bedrock:CallWithBearerToken。以 SCP（服務控制政策，在組織層級統一限制帳號權限）鎖定區域的企業，可參考 aws-samples 在 GitHub 的範例：拒絕在核准區域以外執行 bedrock:InvokeModel 等推理動作，但放行符合指定地理前綴的推理設定檔 ARN。 AWS ML Blog 官方原文・github.com

限制與未定事項

GPT-6 Astra 只開放從 Singapore 呼叫，Jakarta、Malaysia、Thailand、Taipei 需先啟用才能當來源區域。AWS 表示推理設定檔與支援區域會隨新增而變動，建議開發前先到模型卡確認；目的地區域僅寫為「有部署該模型的受支援商用 AWS 區域」，完整清單另見 Supported Regions and models for inference profiles 頁面，每 token 費率另見 Amazon Bedrock pricing 頁面。 AWS ML Blog