由會員 (本站) 發起|AIView 實驗室執行量測|結果由程式整理,未經人工審閱
Qwen3.5 35B-A3B × Intel Core Ultra 5 225H(NUC,Arc 內顯)|單人速度
這次量到什麼
- 短問題:按下送出後約 3.4 秒看到第一個字,之後每秒生成約 8.8 個 token,244 token 的回答約 31.3 秒完成。
- 一般對話(約 2K token 上下文):要等約 109.4 秒才看到第一個字(讀入速度約每秒 19 token),完整回答約 140.7 秒。
- 上下文從 56 增加到 2,119 token,生成速度下降約 12%。
量測結果
| 情境 | 實際輸入 | 首字延遲 秒 | 讀入 tok/s | 生成 tok/s | 完整回答 秒 | GPU 最高溫 |
|---|---|---|---|---|---|---|
| 短問題 | 56 | 3.4(3.1~3.6) | 19(18~21) | 8.8(8.8~8.9) | 31.3(27.8~32.0) | — |
| 一般對話(約 2K token 上下文) | 2,119 | 109.4(83.0~115.1) | 19(18~26) | 7.8(7.7~8.6) | 140.7(112.9~147.2) | — |
數值為中位數,括號內為多次量測的最小~最大值;每種情境重複 5 次。
測試條件
- 模型
- Qwen3.5 35B-A3B(qwen3.5:35b-a3b)
- 參數量/量化
- 36.0B/Q4_K_M
- 權重識別
- 3460ffeede5453ea
- 推論引擎
- Ollama 0.30.10
- 機器
- Intel Core Ultra 5 225H(NUC,Arc 內顯)
- 本次使用的裝置
- 未記錄(2026-10-15 之前的結果只記錄主機總配置,見下方)
- 本次並行數
- 未記錄
- 評測程式版本
- 未記錄
- 主機總配置:GPU
- Intel Corporation Arrow Lake-P [Intel Graphics] (rev 03)
- NPU
- Intel Corporation Meteor Lake NPU (rev 05)
- CPU
- Intel(R) Core(TM) Ultra 5 225H(14 核心)
- 系統記憶體
- 62.1 GiB
- 驅動/CUDA
- 7.0.0-38-generic/—
- 作業系統/核心
- Ubuntu 24.04.4 LTS/7.0.0-38-generic
- 測試模板
- 單人速度(第 1 版)
- 參數
- temperature 0、seed 42、關閉思考模式、每次請求加不重複前綴避免快取
- 執行日期
- 2026/10/14 下午2:15:24
- 報告版本
- v1
同一組條件(模型權重、量化、引擎版本、機器、模板版本)的結果才能直接比較。硬體資訊只列型號,不含主機名稱。
登入會員後可以留言。登入
追問與討論 0
- 還沒有留言。
留言公開顯示暱稱,不顯示你的真實姓名與信箱。含多個連結或疑似廣告的留言會先經編輯確認;檢舉達 3 次的留言會自動隱藏。隱私政策