AI 新視界 AI WorldviewAI 新視界 AI Worldview
申請帳號 / 登入

← AI 實驗室

實測查詢

本站實驗室測過的地端模型都在這裡:能力評測看分數,速度看各台機器上的實測。條件不同的結果不放在一起排名, 點模型名稱看它的完整成績。目前共 13 個模型有實測結果。

|能力評測生成速度只看台灣模型

速度只在同一台機器上並排比較,先選機器:

2 張 16 GB GDDR7(合計 32 GB),AMD Threadripper PRO 3975WX;推論引擎 Ollama,模型放不下一張卡時自動分到兩張

生成速度(tok/s,越高越好)|NVIDIA GeForce RTX 5060 Ti ×2短問題一般對話(約 2K token 上下文)Qwen3.6 35B-A3B105107tok/s
模型引擎/量化短問題
tok/s|首字秒數
一般對話(約 2K token 上下文)
tok/s|首字秒數
測試日期
Qwen3.6 35B-A3Bollama 0.32.5/Q4_K_M104.6|0.68107.2|1.462026/10/14

單人速度測試,每個情境量 5 次取中位數。量化精度不同(例如 Q4 與 Q8)也會影響速度,請一併看「引擎/量化」欄。

還沒有實測結果的模型(17 個)