AI 新視界 AI WorldviewAI 新視界 AI Worldview
申請帳號 / 登入

← AI 實驗室 實測查詢

模型頁|數字全部來自本站量測紀錄,由程式整理

Qwen3 8B(NPU 版)

開發者
Qwen(阿里巴巴)
參數量
8.2B
本站使用的量化
INT4 channel-wise(OpenVINO)
授權
Apache-2.0(Hugging Face 模型頁 OpenVINO/Qwen3-8B-int4-cw-ov,原模型 Qwen/Qwen3-8B,2026-10-14 查核)

Intel 官方轉好的 NPU 版本

各台機器的生成速度

單人速度測試,每個情境量 5 次取中位數。不同機器的推論引擎、量化可能不同,跨列比較時請看條件欄。

機器引擎/量化短問題
tok/s|首字秒數
一般對話(約 2K token 上下文)
tok/s|首字秒數
Intel Core Ultra 5 225H(NUC,NPU)openvino openvino-genai-2026.4.1.0/INT4 channel-wise(OpenVINO)8.7|4.617.7|15.68

全部實測紀錄 1 筆

  • 2026/10/14單人速度Intel Core Ultra 5 225H(NUC,NPU)