AI 新視界 AI Worldview
申請帳號 / 登入

關鍵字 ›

Ling-3.0-flash

提到「Ling-3.0-flash」的文章共 1 篇,最新在前。關鍵字由本站地端模型從文中抽出,程式核對過每個詞都在文章裡。

全球動態1 個來源10/28 上午12:26
NVIDIA 公布 DGX Spark 上 Ling-3.0-flash MoE 推論優化三法,GSM8K 吞吐量提升 42.5%

圖片來源:原出版方的分享預覽圖,著作權屬原出版方

NVIDIA 公布 DGX Spark 上 Ling-3.0-flash MoE 推論優化三法,GSM8K 吞吐量提升 42.5%

NVIDIA 針對 Inclusion AI 的 Ling-3.0-flash 模型,在 DGX Spark 硬體上提出 Humming MoE 核心、Online FP8 LM head 量化與 MTP 投機解碼三種優化手段。實測顯示,三者結合可將解碼吞吐量提升 42.5%,平均延遲降低 24.5%,且準確率幾乎無損。

程式自動生成(Qwen3.8-Flash-Next-180B),未經人工審閱。每段附來源,門檻檢查通過後自動上線。