模型頁|數字全部來自本站量測紀錄,由程式整理
Qwen3.8 Flash Next
- 開發者
- Qwen(阿里巴巴)
- 參數量
- 125B 總參數(每 token 啟用 6B)+51B n-gram 嵌入
- 本站使用的量化
- UD-IQ4_XS(unsloth)
- 授權
- Qwen Community License 1.0(Hugging Face 模型頁 Qwen/Qwen3.8-Flash-Next,2026-10-14 查核)
MoE+混合注意力;只在常駐服務的那台 GB10 上
各台機器的生成速度
單人速度測試,每個情境量 5 次取中位數。不同機器的推論引擎、量化可能不同,跨列比較時請看條件欄。
| 機器 | 引擎/量化 | 短問題 tok/s|首字秒數 | 一般對話(約 2K token 上下文) tok/s|首字秒數 |
|---|---|---|---|
| NVIDIA GB10 第二台(ASUS Ascent GX10) | llama.cpp b1-5e03bdd/UD-IQ4_XS(unsloth) | 26.6|0.31 | 26.0|3.06 |
全部實測紀錄 1 筆
- 2026/10/14單人速度NVIDIA GB10 第二台(ASUS Ascent GX10)