AWS 推出 SageMaker 訓練會話 API，支援自訂迴圈無需管理 GPU

背景

Amazon SageMaker AI 是 AWS 提供的機器學習平台。過去開發者若需自訂訓練迴圈（training loop），往往需在「完全託管服務」與「自行管理 GPU 基礎設施」之間取捨：前者限制演算法自由度，後者則需處理分散式訓練、故障恢復等複雜運維工作。此次發布旨在消除這一矛盾，讓開發者能保留對訓練步驟的控制權，同時由 AWS 負責底層硬體管理。 官方原文・github.com AWS ML Blog

發生什麼事

AWS 於 2026 年 10 月 22 日透過 AWS ML Blog 宣布推出 Amazon SageMaker AI 訓練會話 API（training session APIs）。同時發布了 SageMaker training sessions cookbook，提供一套可執行的監督式微調（SFT）與強化學習（RL）範例程式碼。 AWS ML Blog 官方原文・github.com

重點內容

該 API 允許開發者從本地 Python 程序驅動一個由 GPU 支援的有狀態會話（stateful session，模型在步驟間保持載入於記憶體中）。開發者透過三個主要操作函式控制訓練：forward_backward（計算梯度）、optim_step（應用優化器更新）與 sample（從當前策略生成回應）。SageMaker AI 負責 GPU 分配、模型載入、分散式執行、故障恢復及檢查點儲存，而開發者只需撰寫訓練邏輯。 AWS ML Blog 官方原文・github.com

計費模式為基於 token（處理的資料量）而非 GPU 小時數。這意味著當開發者的程式碼在本地執行獎勵計算、資料載入或除錯時，不產生 GPU 費用；僅在呼叫 GPU 綁定操作時計費。官方指出，對於涉及大量本地計算的工作負載（如複雜獎勵模型或多工具代理式 rollout），此模式相比預留 GPU 可顯著降低成本並使預算預測更準確。 AWS ML Blog

Cookbook 提供了四個完整範例：chat_sft（在 Tulu 3 資料集上進行 SFT，NLL 從 1.23 降至 0.65）、gsm8k_rl（在小學數學 GSM8K 上進行 RL，獎勵分數從 0.71 升至 0.90）、code_rl（在競技程式設計上進行 RL，由沙箱執行評分，獎勵分數從 0.46 升至 0.60）以及 preference_kto（偏好對齊，評估準確率從 0.47 升至 0.69）。這些範例展示了如何組合 API 呼叫來實現不同的訓練目標。 官方原文・github.com

對使用者的意義

此功能主要面向需要自訂演算法的機器學習工程師與研究人員，例如實施 GRPO、PPO 等 RL 方法，或需要非標準損失函數的微調團隊。開發者無需管理 GPU 叢集即可快速迭代訓練邏輯。使用方式為安裝 sagemaker-train 套件（版本 >=1.25.0），配置 AWS 帳號環境變數，並執行 cookbook 中的範例腳本。 AWS ML Blog 官方原文・github.com

限制與未定事項

訓練會話 API 目前僅在 US East (N. Virginia)、US West (Oregon) 和 Asia Pacific (Mumbai) 三個 AWS 區域可用。支援的基礎模型清單詳見官方文件，來源未列出完整模型名稱。此外，MLflow 追蹤功能為最佳努力（best-effort），若 MLflow 不可達或未安裝，訓練仍會繼續並寫入本地檔案，但不會發布至遠端。 官方原文・github.com AWS ML Blog