AI 新視界 AI WorldviewAI 新視界 AI Worldview
申請帳號 / 登入

← AI 實驗室 實測查詢

模型頁|數字全部來自本站量測紀錄,由程式整理

Breeze 7B Instruct v1.0

開發者
聯發科創新基地
參數量
7.5B
本站使用的量化
Q4_K_M(本站量化)
授權
Apache-2.0(Hugging Face 模型頁 MediaTek-Research/Breeze-7B-Instruct-v1_0,2026-10-14 查核)
來源
台灣模型

台灣模型|以 Mistral 7B 為基礎|本站從官方權重自行轉換並量化為 Q4_K_M(llama.cpp df18bee),聊天格式已與官方 tokenizer 逐 token 比對

天梯榜名次

  • 繁中能力:第 4 名(並列),共 8 個模型,平均 49.7 分
  • 綜合評價:第 2 名(並列),共 8 個模型,平均 30.4 分

名次=1+「分數 95% 信賴區間下限高於自己上限」的模型數;差距不顯著就並列。

能力評測

每個項目取題數最多的一次(完整版優先),分數 0~100。答題結果主要取決於權重、量化、推論引擎與生成條件;換機器理論上不改變答案,但浮點運算在不同硬體上可能有細微差異,本站未逐一驗證跨機器一致性。

類別評測項目分數95% 信賴區間題數測試日期
綜合知識MMLU-Pro40.026~55402026/10/14
科學推理GPQA Diamond6.72~21302026/10/14
數學MATH-50013.35~30302026/10/14
聽懂指令IFEval30.018~45402026/10/14
繁中知識TMMLU+38.536~411,3402026/10/14
繁中對話MT-Bench 台灣版34.030~38802026/10/14
台灣在地TTQA(台灣在地知識)72.664~801132026/10/14
台灣法律題26.321~332092026/10/14
工具呼叫BFCL 單輪(non-live)72.557~84402026/10/14
程式LiveCodeBench v68.31~35122026/10/14
繁中閱讀理解DRCD(繁中閱讀理解)77.073~805002026/10/14

各台機器的生成速度

單人速度測試,每個情境量 5 次取中位數。不同機器的推論引擎、量化可能不同,跨列比較時請看條件欄。

機器引擎/量化短問題
tok/s|首字秒數
一般對話(約 2K token 上下文)
tok/s|首字秒數
NVIDIA RTX A6000(工作站,測試用單卡)ollama 0.32.13/Q4_K_M128.3|0.10121.0|0.57

全部實測紀錄 4 筆