AI 新視界 AI WorldviewAI 新視界 AI Worldview
申請帳號 / 登入

← AI 實驗室 實測查詢

模型頁|數字全部來自本站量測紀錄,由程式整理

Breeze2 8B Instruct

開發者
聯發科創新基地
參數量
8.4B(含視覺編碼器;本站只測文字)
本站使用的量化
Q4_K_M(本站量化)
授權
Llama 3.2 Community License(Hugging Face 模型頁 MediaTek-Research/Llama-Breeze2-8B-Instruct,2026-10-14 查核)
來源
台灣模型

台灣模型|以 Llama 3.1 8B 為基礎|本站從官方權重自行轉換並量化為 Q4_K_M(llama.cpp df18bee),聊天格式已與官方 tokenizer 逐 token 比對

天梯榜名次

  • 繁中能力:第 3 名,共 8 個模型,平均 55.6 分
  • 綜合評價:第 2 名(並列),共 8 個模型,平均 38.5 分

名次=1+「分數 95% 信賴區間下限高於自己上限」的模型數;差距不顯著就並列。

能力評測

每個項目取題數最多的一次(完整版優先),分數 0~100。答題結果主要取決於權重、量化、推論引擎與生成條件;換機器理論上不改變答案,但浮點運算在不同硬體上可能有細微差異,本站未逐一驗證跨機器一致性。

類別評測項目分數95% 信賴區間題數測試日期
綜合知識MMLU-Pro47.533~63402026/10/14
科學推理GPQA Diamond30.017~48302026/10/14
數學MATH-50043.327~61302026/10/14
聽懂指令IFEval55.040~69402026/10/14
繁中知識TMMLU+46.844~501,3402026/10/14
繁中對話MT-Bench 台灣版38.134~43802026/10/14
台灣在地TTQA(台灣在地知識)78.870~851132026/10/14
台灣法律題37.832~452092026/10/14
工具呼叫BFCL 單輪(non-live)35.022~50402026/10/14
程式LiveCodeBench v616.75~45122026/10/14
繁中閱讀理解DRCD(繁中閱讀理解)76.873~805002026/10/14

各台機器的生成速度

單人速度測試,每個情境量 5 次取中位數。不同機器的推論引擎、量化可能不同,跨列比較時請看條件欄。

機器引擎/量化短問題
tok/s|首字秒數
一般對話(約 2K token 上下文)
tok/s|首字秒數
NVIDIA RTX A6000(工作站,測試用單卡)ollama 0.32.13/Q4_K_M120.3|0.27114.1|0.78

全部實測紀錄 4 筆