全球動態2 個來源10/29 上午05:15

圖片來源:原出版方的分享預覽圖,著作權屬原出版方
AWS 發布 EKS Ray Train DLC 分散式訓練範例
使用預建映像檔在 Amazon EKS 上執行兩節點 PyTorch FSDP 訓練,驗證 EFA 網路效能。
程式自動生成(qwen3.8:27b),未經人工審閱。每段附來源,門檻檢查通過後自動上線。

圖片來源:原出版方的分享預覽圖,著作權屬原出版方
使用預建映像檔在 Amazon EKS 上執行兩節點 PyTorch FSDP 訓練,驗證 EFA 網路效能。
程式自動生成(qwen3.8:27b),未經人工審閱。每段附來源,門檻檢查通過後自動上線。

AWS 推出供多節點部署的 Ray LLM DLC,範例把 Qwen/Qwen3.5-9B 部署到兩台 g6.8xlarge,分別處理 prefill 與 decode,對外只有一個 OpenAI 相容端點。