實測查詢
本站實驗室測過的地端模型都在這裡:能力評測看分數,速度看各台機器上的實測。條件不同的結果不放在一起排名, 點模型名稱看它的完整成績。目前共 13 個模型有實測結果。
速度只在同一台機器上並排比較,先選機器:
2 張 16 GB GDDR7(合計 32 GB),AMD Threadripper PRO 3975WX;推論引擎 Ollama,模型放不下一張卡時自動分到兩張
| 模型 | 引擎/量化 | 短問題 tok/s|首字秒數 | 一般對話(約 2K token 上下文) tok/s|首字秒數 | 測試日期 |
|---|---|---|---|---|
| Qwen3.6 35B-A3B | ollama 0.32.5/Q4_K_M | 104.6|0.68 | 107.2|1.46 | 2026/10/14 |
單人速度測試,每個情境量 5 次取中位數。量化精度不同(例如 Q4 與 Q8)也會影響速度,請一併看「引擎/量化」欄。