AI 新視界 AI Worldview
申請帳號 / 登入

關鍵字 ›

vLLM

提到「vLLM」的文章共 16 篇,最新在前。關鍵字由本站地端模型從文中抽出,程式核對過每個詞都在文章裡。

焦點專題4 個來源10/30 上午06:19
Mistral Large 4 登上 Hugging Face:約 1T 總參數、49B 啟用參數

圖:AI 生成示意圖,非照片

Mistral Large 4 登上 Hugging Face:約 1T 總參數、49B 啟用參數

Hugging Face 發文介紹 Mistral 的 Mistral Large 4(暱稱 Le Chonk),並說明授權、推論支援與實測數字。

程式自動生成(claude-sonnet-5-5),未經人工審閱。每段附來源,門檻檢查通過後自動上線。

  1. Mistral 釋出 Le Chonk 權重:1 兆參數開源模型,主打程式開發與資安防禦

    Mistral AI 正式釋出 Mistral Large 4 (Le Chonk) 的模型權重。這款 1 兆參數的多模態模型在程式碼生成與防禦性資安任務上表現突出,並提供三種推理模式以平衡效能與成本。

    全球動態1 個來源10/29 下午11:18自動生成
  2. NVIDIA 發布 Nemotron 3.5 Transcribe 與 Granary v2 多語轉錄工具

    NVIDIA 推出開源權重模型 Nemotron 3.5 Transcribe,整合轉錄、說話者標註與翻譯,並發布 Granary v2 資料管線以支援領域適配。

    全球動態1 個來源10/29 上午12:23自動生成
  3. Nanbeige 發布 33B 參數模型 Nanbeige4.3-33B,主打代理編碼與協作能力

    Nanbeige 團隊發布 Nanbeige4.3-33B,定位為輕量級代理的旗艦教師模型。發布者表示該模型在約 30B 參數級別中具備強大的代理編碼與專業協作表現,並計畫用於蒸餾更小的模型。

    全球動態1 個來源10/25 下午10:28自動生成
  4. Hugging Face 發布 DNA 模型 Carbon-X,14.8B 參數

    Hugging Face 推出以 Qwen3-14B 為起點、可理解與生成 DNA 的開源語言模型 Carbon-X,成績為模型卡自報。

    焦點專題2 個來源10/24 上午02:15自動生成
  5. XHToken 發布 Spark-X2.6-4B:4B 端側模型,沿用 Spark-X2.5-4B 架構

    模型卡表示,Spark-X2.6-4B 沿用 Spark-X2.5-4B 的架構,靠後訓練提升能力,並提供 none、low、high 三段思考等級。

    焦點專題2 個來源10/22 上午08:54自動生成
  6. Google 開源 TorchTPU,讓 PyTorch 模型可在 TPU 上執行

    Google 與 PyTorch 團隊公布 TorchTPU,提供 PyTorch 在 Google TPU 上的後端;GitHub 頁面列出最新公開版本為 0.2.0。

    焦點專題3 個來源10/22 上午08:53自動生成
  7. DeepSeek 開源推論框架 DeepInfer,支援 DeepSeek-V4.1-Flash

    DeepSeek 釋出 DeepInfer 推論框架,目前支援 DeepSeek-V4.1-Flash,硬體涵蓋 NVIDIA SM100 GPU 與 Huawei Ascend 950 NPU,但不含完整服務所需的 KV cache 系統。

    焦點專題3 個來源10/20 下午08:40自動生成
  8. esp32-iphone-agent 日增約 1,116 星,AI 操作 iPhone

    GitHub 開源專案 onehumanbeing/esp32-iphone-agent 一天內新增約 1,116 顆星,專案說明表示它用 7 美元的 ESP32 讓 AI 模型操作實體 iPhone。

    全球動態1 個來源10/20 上午12:18自動生成
  9. DeepSeek 釋出 V4.1-Flash-1017,為 V4.1-Flash 小幅更新

    Hugging Face 上的模型頁面稱 DeepSeek-V4.1-Flash-1017 是 DeepSeek-V4.1-Flash 的 minor update(小幅更新),OpenRouter 頁面則寫明它是 2026 年 10 月 17 日的 snapshot。

    焦點專題5 個來源10/18 上午12:15自動生成
  10. Tencent 開源 Hy-Memory-30B-A3B 記憶寫入模型

    發布者在模型卡自報,約 3B active parameters 的記憶寫入模型,四個記憶框架的 Avg. 為 55.49。

    焦點專題3 個來源10/17 下午11:40自動生成
  11. Reflection 發布 501B 開放模型 Beam,支援 1M 上下文與自訂訓練

    Beam 是一款專為編碼與代理任務設計的稀疏 MoE 模型,提供 BF16、FP8 及 NVFP4 權重格式,並附帶 Rust 撰寫的推論框架。

    全球動態3 個來源10/16 下午10:16自動生成
  12. Cloudflare 發布 Clef-Omni:30B-A3B 混合專家多模態決策模型

    Clef-Omni 是一款基於 Qwen3-Omni 後訓練的多模態模型,專為將狀態與問題架構轉化為概率分數而設計,支援文字、JSON、影像、音訊及影片輸入。

    全球動態1 個來源10/16 下午02:15自動生成
  13. IBM Granite Switch 4.1 推出 8B 與 30B,單一端點含聊天、決策與語音

    Granite Switch 4.1 把基礎模型、決策與安全 adapter 和語音辨識模型組成一個模型,官方稱可在同一端點處理三類請求。

    焦點專題3 個來源10/16 上午10:38自動生成
  14. 【實測】GroundingPI 重現實測:4B 視覺定位模型 34 項評測逐項對照論文

    本站以官方權重、官方評測程式與官方資料重跑全部 34 個項目,32 項與論文差距在 1 分以內,逐項成績與論文一致;論文摘要的 73.68 則因算法未完整公開,無法複核。

    地端實測4 個來源10/15 下午12:48自動生成
  15. AWS 推出多節點 Ray LLM DLC,用兩個 GPU 節點部署單一 LLM

    AWS 推出供多節點部署的 Ray LLM DLC,範例把 Qwen/Qwen3.5-9B 部署到兩台 g6.8xlarge,分別處理 prefill 與 decode,對外只有一個 OpenAI 相容端點。

    全球動態3 個來源10/15 上午08:14自動生成