XHToken 發布 Spark-X2.6-4B：4B 端側模型，沿用 Spark-X2.5-4B 架構

發生什麼事

XHToken 在 Hugging Face（AI 模型託管平臺）上發布 Spark-X2.6-4B。模型卡稱它是供端側部署（在使用者自己的裝置上執行）的精簡通用語言模型，並寫明建立在 Spark-X2.5-4B 之上。模型卡說距離 Spark-X2.5 只過了一個多月（原文 "A little over a month"）。來源中出現的尺寸只有 4B。本站的來源是 Hugging Face 熱門模型清單，以及 Reddit r/LocalLLaMA（討論本地執行模型的版面）上的貼文。 Hugging Face 熱門模型 Reddit r/LocalLLaMA

模型卡表示 Spark-X2.6-4B 保留與 Spark-X2.5-4B 完全相同的架構，能力提升來自改進後的 post-training（後訓練，即預訓練之後的調整階段）。發布者稱它在 coding、agent、long-context、multilingual、reasoning 等方面有 substantial improvements。 Hugging Face 熱門模型 Reddit r/LocalLLaMA

另一項特色是 Controllable Thinking Budget（可控的思考預算）。模型卡寫明提供 none、low、high 三個可設定的思考等級，讓應用程式在推理品質、延遲與推論成本之間取捨。 Hugging Face 熱門模型 Reddit r/LocalLLaMA

誰受影響

模型卡的對象是想在端側部署模型的開發者與使用者。模型卡提供 Transformers（Hugging Face 的 Python 程式庫）、vLLM 與 SGLang（兩者都是可啟動相容 OpenAI 介面的模型伺服器軟體）以及 Docker Model Runner（Docker 的模型執行功能）的用法。Transformers 範例要求安裝 transformers==4.57.1，並設定 trust_remote_code=True（允許執行模型庫內附的程式碼）。 Hugging Face 熱門模型

SGLang 範例同時給了 NVIDIA GPU 與 Ascend NPU（昇騰神經網路處理器）兩種啟動指令，並設定 --context-length 1048576，模型卡稱這是最大 context 長度 1,048,576 tokens 的設定。模型卡說這項設定需要足夠的裝置記憶體，必要時應調低 --context-length。NVIDIA 範例使用的映像檔為 lmsysorg/sglang:nightly-dev-cu13-20260827-20621aa1。 Hugging Face 熱門模型

限制與未定事項

模型卡寫的成績都是發布者自報。例如它稱模型在同尺寸開源模型中達到 state-of-the-art（原文用語，意指目前最佳水準），matching or even surpassing models with approximately 9B parameters；在 Edge Inference（端側推論）一節則稱效率與 Qwen3.5-4B、Gemma-E4B 等同類端側模型相當或更好。來源中沒有第三方獨立評測，這些成績尚未經第三方驗證。本站取得的模型卡內容也沒有具體基準分數與授權條款。 Reddit r/LocalLLaMA Hugging Face 熱門模型

各方說法

Reddit 貼文由使用者 jacek2023 提交，內文大多轉貼模型卡的 Introduction 與 Technical Highlights，並附上 Spark-X2.6-4B-GGUF（GGUF 是本地推論常用的模型檔格式）的連結。貼文者自己加了一句：no more excuses for "GPU poor"（GPU 資源不足的人），stop being lazy and run small models today，這是貼文者的個人評論。 Reddit r/LocalLLaMA