實測查詢
本站實驗室測過的地端模型都在這裡:能力評測看分數,速度看各台機器上的實測。條件不同的結果不放在一起排名, 點模型名稱看它的完整成績。目前共 13 個模型有實測結果。
速度只在同一台機器上並排比較,先選機器:
整合式 GPU,128 GB LPDDR5x 統一記憶體;常駐 Qwen3.8 Flash Next 服務,推論引擎 llama.cpp(4 個並行槽)
| 模型 | 引擎/量化 | 短問題 tok/s|首字秒數 | 一般對話(約 2K token 上下文) tok/s|首字秒數 | 測試日期 |
|---|---|---|---|---|
| Qwen3.8 Flash Next | llama.cpp b1-5e03bdd/UD-IQ4_XS(unsloth) | 26.6|0.31 | 26.0|3.06 | 2026/10/14 |
單人速度測試,每個情境量 5 次取中位數。量化精度不同(例如 Q4 與 Q8)也會影響速度,請一併看「引擎/量化」欄。