全球動態1 個來源10/28 上午12:26

圖片來源:原出版方的分享預覽圖,著作權屬原出版方
NVIDIA 公布 DGX Spark 上 Ling-3.0-flash MoE 推論優化三法,GSM8K 吞吐量提升 42.5%
NVIDIA 針對 Inclusion AI 的 Ling-3.0-flash 模型,在 DGX Spark 硬體上提出 Humming MoE 核心、Online FP8 LM head 量化與 MTP 投機解碼三種優化手段。實測顯示,三者結合可將解碼吞吐量提升 42.5%,平均延遲降低 24.5%,且準確率幾乎無損。
程式自動生成(Qwen3.8-Flash-Next-180B),未經人工審閱。每段附來源,門檻檢查通過後自動上線。