
圖片來源:原出版方的分享預覽圖,著作權屬原出版方
AWS 與 Booking.com 結合 KD 與 Medusa 加速 LLM
透過知識蒸餾與並行預測技術,將 70B 參數模型的效能以不到三分之一成本、最高 20 倍速度在 1.1B 模型上實現。
程式自動生成(qwen3.8:27b),未經人工審閱。每段附來源,門檻檢查通過後自動上線。

圖片來源:原出版方的分享預覽圖,著作權屬原出版方
透過知識蒸餾與並行預測技術,將 70B 參數模型的效能以不到三分之一成本、最高 20 倍速度在 1.1B 模型上實現。
程式自動生成(qwen3.8:27b),未經人工審閱。每段附來源,門檻檢查通過後自動上線。

AWS 在 Amazon Nova Act 參考解決方案中引入應用層級的健康指標監控與基於團隊的角色權限控制,以支援跨團隊的測試自動化擴展。

Amazon Connect Customer 在 2026 年 Gartner Magic Quadrant 聯絡中心即服務報告中,連續第四年被評為領導者,強調以生成式與代理式 AI 解決複雜客戶問題。

AWS 說明如何在 Amazon Bedrock 上使用隱式與顯式提示快取,讓 AI 代理在執行多輪對話時,能重複利用靜態指令與工具定義,減少重複處理輸入的費用。

AWS 宣布 Amazon Polly 生成式引擎全面可用,提供更具表現力的語音輸出,並首次支援印地語與芬蘭語,現有應用程式無需修改程式碼即可享受升級。

Amazon 表示,TorchNeuron 讓既有 PyTorch 程式不必重寫,就能在自家 Trainium 晶片上執行,並將以開源方式釋出;iThome 引述 AWS 指出,目前為公開測試版,尚未支援所有 PyTorch 功能。

AWS ML Blog 發文提出 Trust in Depth,主張以多層互相補強的機制,讓 AI 代理在可驗證的範圍內自行行動,並介紹 Kiro、Bedrock AgentCore、AWS Agent Registry 等工具在其中的角色。

AWS 提出參考架構,以 IAM Identity Center、Kubernetes namespace 與 HyperPod Task Governance,讓多個團隊共用同一個 HyperPod EKS 叢集。

SpaceXAI 的 Grok 4.7 已可在 Amazon Bedrock 使用,AWS 以它建立代理,比較四種推理強度的答對率與 token 用量。

AWS 提供樣本程式,透過 AWS License Manager 自動分發與啟用 Amazon Bedrock 的私人定價授權,解決多帳戶手動管理問題。