AI 新視界 AI Worldview
申請帳號 / 登入
焦點專題#模型發布4 個來源Claude Sonnet 5.5 撰寫

Qwenputer:Qwen3.5-4B 權重內建 32 位元 RISC-V CPU

開發者把 CPU 編譯進 Qwen3.5-4B 的權重,官方稱它在模型的前向傳遞中執行 C 與 MicroPython 程式,並公布與 base 模型的算術基準比較。

本文重點

  1. 開發者將 32 位元 RISC-V CPU 編譯進 Qwen3.5-4B 權重。
  2. Synthetic integer arithmetic 基準分數為 97.5 分。
  3. 開發者可從 Hugging Face 下載並本地載入模型。
本站上線
2026/10/29 下午07:31
首次報導
2026/10/28 下午08:26
最早來源發布
2026/10/28 下午08:26
Qwenputer:Qwen3.5-4B 權重內建 32 位元 RISC-V CPU(AI 生成示意圖)
圖:AI 生成示意圖(本站以文章標題與導言生成,非照片,不作為事實依據)
AI 摘要|已與來源比對|未經人工查核。本文由程式(claude-sonnet-5-5)讀取下列來源全文與官方原文後撰寫, 每段後面的標籤是依據的來源,點擊即可開啟原文。程式會比對數字、版本與日期是否出現在來源中, 但這不等於事實查核。內容怎麼產生、有什麼限制; 發現錯誤請用文末的「回報」。

發生什麼事

Qwenputer 是實驗性模型:把 32 位元 RISC-V(開放指令集的 CPU 規格)CPU 編譯後直接放進 Qwen3.5-4B 的權重。官方說明它不是外掛、工具或沙盒;CPU 是放在 Qwen 原有層之前的 11 個 transformer 層,沒有任何權重是學出來的,每一個都由編譯器算出。GitHub 頁面發布日期為 10 月 19 日,Hugging Face 頁面為 10 月 20 日。 官方原文・github.com 官方原文・huggingface.co

記憶體(RAM)用的是模型自己的 Gated DeltaNet(Qwen3.5 中會逐 token 更新狀態矩陣的線性 RNN 層)狀態。官方指出,閘門設為 α = 1、寫入強度設為 β = 1,並用 one-hot(只有單一位置為 1 的向量)key,每次更新會精確取代一列,query 則讀回該列。CPU 的程式碼、資料、暫存器與程式計數器都存在這裡。 官方原文・github.com

Qwen 照訓練過的工具呼叫格式寫出 <tool_call> 區塊呼叫 calc,但模型外部沒有東西執行它;電腦層讀取呼叫、在 CPU 上執行,再由模型自己逐位寫出 <tool_response>。官方稱沒有 runtime(執行環境)、沙盒或 tool executor 參與。 原文 官方原文・huggingface.co

官方在每組 40 題、greedy decoding(每步取機率最高的 token)下比較。base Qwen3.5-4B 不給工具;Python tool 欄是 base Qwen 呼叫主機上真正的 Python 直譯器。Synthetic integer arithmetic 三者依序為 75.0、97.5、97.5;DeepMind mul_big(DeepMind 算術題集之一)為 55.0、97.5、100;div_big 為 72.5、97.5、95.0。官方另把約 230,000 個輸出位置交給機器的參考模型重放,零不符;文字行為的 KL(衡量兩個輸出分布差異的指標)為 6e-4,雜訊底線為 5e-4。 官方原文・github.com 官方原文・huggingface.co

另一個實驗性模型 Qwen3.5-4B-Qwenputer-Filesystem 在同一個 RISC-V 模型上加了 put、append、get、list、delete 五個工具,最多存 512 個檔案、約 53,000 tokens 文字,狀態可存檔後於下次對話載入。官方表格中,Multi-session recall(90 題)base 為 7.8、Filesystem 為 83.3、Python tool 為 78.9;後來才改變的事實(30 題)依序為 3.3、90.0、83.3。程式碼目前在 rv-store 分支。 官方原文・github.com

誰受影響

想在本地試驗的開發者可從 Hugging Face 或 ModelScope(模型託管平台)下載,模型以標準 Qwen3_5ForCausalLM 載入;quickstart 先用 hf download 取得權重,再由 RvChat 驅動程式把 firmware 載入 DeltaNet 狀態來啟動 CPU。Hugging Face 頁面另列 Transformers(Hugging Face 的模型函式庫)等通用用法。程式碼為 MIT 授權,權重為 Apache-2.0。 官方原文・github.com 官方原文・huggingface.co

限制與未定事項

官方比較對象是 base Qwen3.5-4B 與主機端 Python tool,RISC-V 版每組 40 題。第一代 CHIP-8 版(編入的是 CHIP-8 虛擬機器)官方寫明 GSM8K 與 GSM-Hard 打平,長 DeepMind 運算式鏈(mixed_longer、mul_div_multiple_longer)base Qwen 表現較高,下個版本針對此問題;該版表格是各開發 checkpoint 中每項基準的最佳模式,釋出 checkpoint 的完整測試會取代該表。Filesystem 版官方標示仍在進行中。 官方原文・github.com

各方說法

Reddit r/LocalLLaMA(本地模型討論社群)貼文寫道「This might have implications for tool calling and computer use」。Hacker News 收錄的部落格寫 CPU 通過 riscv-tests(RISC-V 官方測試套件)、程式與 qemu 一致、free-running(不經參考機器修正)跑了 18 million instructions 無錯,並稱它還不是 Linux-class chip,跑 C 與 MicroPython「a bit slowly」。該部落格稱 Filesystem 在變動事實上為 90%,對照貼回舊對話為 30%;官方表格的 base 為 3.3。 Reddit r/LocalLLaMA divagr.com 官方原文・github.com

接下來要看的事

  • 官方稱 CHIP-8 版的下個版本將針對 Qwen 反覆驗證已給定的精確結果、直到耗盡 token 預算的問題
  • 官方稱 CHIP-8 版釋出 checkpoint 的完整測試結果將取代現有表格
  • 官方稱 Filesystem 版仍在進行中,程式碼目前在 rv-store 分支

來源:佐證 4 筆

社群討論論壇、社群平台上的討論,參考價值較低

  1. Reddit r/LocalLLaMA · Someone built a 32-bit RISC-V CPU directly inside Qwen's model weights so it can execute instructions internaly!10/28 下午08:26

這篇對你有用嗎?

留言 0

會員可以登入,留言會用你的會員暱稱。

  • 還沒有留言,第一則就是你的。

留言不用登入;名字選填,沒填就顯示「匿名會員」。含連結或疑似廣告的留言會先經編輯確認;檢舉達 3 次的留言會自動隱藏。隱私政策

發現錯誤?

回報會進入待處理清單;核實後更正,並在文中註記更正紀錄。