AWS 發布 SageMaker SDK v3 邊緣端車隊電腦視覺範例

背景

在工業品質檢測中，單一相機與模型往往無法應對多條產線、不同角度與光線環境的挑戰。當產線擴展至數十條且每條配有多台相機時，為每台相機訓練專屬的微調模型成為必要，但這帶來了成千上萬個模型的訓練、評估、版本控制與部署管理難題。此模式取代了先前已棄用的 Amazon SageMaker Edge Manager，改用 Amazon SageMaker Neo 進行邊緣優化。 AWS ML Blog

發生什麼事

AWS 於 2026 年 10 月 26 日發布一篇部落格文章，介紹如何使用 Amazon SageMaker Python SDK v3 在邊緣端實現全車隊電腦視覺生命週期。該範例更新了 2023 年的 MLOps 模式，採用雙分支 SageMaker Pipeline，針對每台相機訓練異常偵測器與缺陷分類器，並透過品質閘門阻擋表現不佳的模型。 AWS ML Blog

重點內容

訓練流程包含 13 個步驟，並行執行預處理與擷取各相機最新的核准模型。系統訓練一個小型卷積自編碼器（Convolutional Autoencoder）以學習正常產品外觀並透過重建誤差標記異常，以及一個微調的 ResNet18 分類器以確認缺陷。每個分支將模型匯出為 ONNX（開放神經網路交換格式），並在通過品質閘門後，使用 SageMaker Neo 編譯為針對特定邊緣目標裝置優化的產物，最後註冊至 SageMaker Model Registry。 AWS ML Blog

編排層使用 Amazon SQS（簡單佇列服務）FIFO 佇列接收再訓練請求，並由 AWS Lambda 啟動 AWS Step Functions 執行。透過 DynamoDB 訊號量（Semaphore）限制並行數量，預設最多同時執行五個 Pipeline，以符合標準帳戶配額。完成後透過 Amazon SNS（簡單通知服務）發布結果。SageMaker SDK v3 將套件模組化，安裝 sagemaker>=3.0.0,<4 會引入 sagemaker-core、sagemaker-train 等獨立套件，訓練配置改由 ModelTrainer 接收型別化設定物件。 原文

對使用者的意義

開發者可使用 AWS Cloud Development Kit (AWS CDK) 部署此範例，在合成數據上執行完整 Pipeline 的計算成本約為 0.07 美元。註冊的模型套件包含便攜的 ONNX 檔案與 S3 上的 Neo 編譯產物，後者為由 DLR（由 AWS SageMaker Neo、TVM 或 Treelite 編譯的模型之通用執行時）載入的裝置優化共享函式庫。開發者可透過編排層管理多相機車隊的模型更新。 AWS ML Blog 官方原文・github.com

限制與未定事項

部署需使用 AWS CDK CLI 2.1131.0 或更高版本，舊版 CLI 會因雲端組裝結構描述不匹配而失敗。SDK v3 在合成階段會驗證執行角色與即時 IAM（身份與存取管理）設定，因此無法在單一部署中同時建立角色與 Pipeline，需分兩階段部署。此外，SDK v3 的角色驗證器在模擬 ECR（Elastic Container Registry）拉取權限時，若權限範圍僅限於單一倉庫可能會驗證失敗，需授予較寬鬆的權限。 AWS ML Blog