AI 新視界 AI WorldviewAI 新視界 AI Worldview
申請帳號 / 登入

← AI 實驗室

由會員 (本站) 發起|AIView 實驗室執行量測|結果由程式整理,未經人工審閱

Qwen3.5 35B-A3B × Intel Core Ultra 5 225H(NUC,Arc 內顯)|單人速度

加入比較下載原始紀錄(JSON)

這次量到什麼

  • 短問題:按下送出後約 3.4 秒看到第一個字,之後每秒生成約 8.8 個 token,244 token 的回答約 31.3 秒完成。
  • 一般對話(約 2K token 上下文):要等約 109.4 秒才看到第一個字(讀入速度約每秒 19 token),完整回答約 140.7 秒。
  • 上下文從 56 增加到 2,119 token,生成速度下降約 12%。

量測結果

首字延遲與完整回答時間(秒,越低越好)050100150200秒3.431.3短問題109141一般對話(約 2K token 上下文)首字延遲完整回答
生成速度(tok/s,越高越好)02.557.510tok/s8.8短問題7.8一般對話(約 2K token 上下文)生成速度
情境實際輸入首字延遲 秒讀入 tok/s生成 tok/s完整回答 秒GPU 最高溫
短問題563.4(3.1~3.6)19(18~21)8.8(8.8~8.9)31.3(27.8~32.0)—
一般對話(約 2K token 上下文)2,119109.4(83.0~115.1)19(18~26)7.8(7.7~8.6)140.7(112.9~147.2)—

數值為中位數,括號內為多次量測的最小~最大值;每種情境重複 5 次。

測試條件

模型
Qwen3.5 35B-A3B(qwen3.5:35b-a3b)
參數量/量化
36.0B/Q4_K_M
權重識別
3460ffeede5453ea
推論引擎
Ollama 0.30.10
機器
Intel Core Ultra 5 225H(NUC,Arc 內顯)
本次使用的裝置
未記錄(2026-10-15 之前的結果只記錄主機總配置,見下方)
本次並行數
未記錄
評測程式版本
未記錄
主機總配置:GPU
Intel Corporation Arrow Lake-P [Intel Graphics] (rev 03)
NPU
Intel Corporation Meteor Lake NPU (rev 05)
CPU
Intel(R) Core(TM) Ultra 5 225H(14 核心)
系統記憶體
62.1 GiB
驅動/CUDA
7.0.0-38-generic/—
作業系統/核心
Ubuntu 24.04.4 LTS/7.0.0-38-generic
測試模板
單人速度(第 1 版)
參數
temperature 0、seed 42、關閉思考模式、每次請求加不重複前綴避免快取
執行日期
2026/10/14 下午2:15:24
報告版本
v1

同一組條件(模型權重、量化、引擎版本、機器、模板版本)的結果才能直接比較。硬體資訊只列型號,不含主機名稱。

登入會員後可以留言。登入

追問與討論 0

  • 還沒有留言。

留言公開顯示暱稱,不顯示你的真實姓名與信箱。含多個連結或疑似廣告的留言會先經編輯確認;檢舉達 3 次的留言會自動隱藏。隱私政策