新模型發佈 · 2026/10/08 於 Hugging Face 發布
Qwen3.8-Flash-Next-FP4-Localnvidia
圖文多模態96B262K 上下文other
NVIDIA 發布 Qwen3.8-Flash-Next-FP4-Local,這是基於 Alibaba Qwen3.8-Flash-Next 的量化版本,總參數量 125B(啟用 6B)。模型採用混合注意力與 MoE 架構,原生支援 262K 上下文,可擴展至 1M。透過量化感知蒸餾技術,在保持高效能下大幅降低記憶體需求,適合部署於 AI Agent、聊天機器人及 RAG 系統。授權採 NVIDIA Open Model Agreement,允許商用。
重點
- 總參數 125B,MoE 架構每次僅啟用 6B 參數
- 原生支援 262K 上下文,可擴展至 1,000,000 tokens
- 採用 NVFP4 量化格式,需搭配特定 vLLM 容器執行
- 支援文字、圖片與影片輸入,輸出為文字
- 驗證於 NVIDIA RTX PRO 6000 與 DGX Spark 硬體
模型卡自報分數
由發布方在模型卡公布,本站未複測;對照欄是同一張表裡最強的對照模型| 評測 | 分數 | 模型卡上的對照 |
|---|---|---|
| GPQA Diamond | 91.5% | BF16 92.2 |
| ToolEvalBench | 88.7% | BF16 89.4 |
下載與變體
- nvidia/Qwen3.8-Flash-Next-FP4-Local96.49B 參數 · 342 讚 · 16482 次下載
介紹由 AI 依模型卡整理,資料日期 2026-10-26;發布方說法未經本站驗證。