AI 新視界 AI Worldview
申請帳號 / 登入

關鍵字 ›

Trainium2

提到「Trainium2」的文章共 2 篇,最新在前。關鍵字由本站地端模型從文中抽出,程式核對過每個詞都在文章裡。

全球動態1 個來源11/05 上午01:21
Together AI 推出 TKCC 持續編譯器,提升推論效能達 2.6 倍

圖片來源:原出版方的分享預覽圖,著作權屬原出版方

Together AI 推出 TKCC 持續編譯器,提升推論效能達 2.6 倍

Together AI 發布 Together Compiler (TKCC),透過高吞吐量代理程式自動優化 AI 推論。該系統在 24 小時內將前沿開源模型的每秒 Token 數提升最高 2.6 倍,並能適應動態變化的流量與硬體環境。

程式自動生成(Qwen3.8-Flash-Next-180B),未經人工審閱。每段附來源,門檻檢查通過後自動上線。

  1. Hugging Face 推出工具查詢模型在 AWS Trainium 上的相容性

    透過 TorchNeuron 後端,開發者可查詢特定模型是否能在 AWS Trainium 硬體上直接執行,並取得測試數據與執行腳本。

    全球動態1 個來源10/23 下午10:17自動生成