Liquid AI 發布 LFM3 系列：2B 參數多模態模型支援端側微調

背景

LFM3 是 Liquid AI 推出的新一代 Liquid Foundation Models (LFM)，旨在作為專用智慧模型的起點。與前一代 LFM2 系列相比，LFM3 將文字、視覺、音訊、全模態（omni，同時處理文字、影像與音訊等多種輸入）及決策模型整合在同一個共享骨幹（backbone）上，且參數量均落在 2B（20 億）範圍內。這使得開發者可以根據輸入資料類型選擇對應模型，在單一 GPU 上使用自有資料進行微調，並部署在應用程式運行的端側裝置。 官方原文・Hugging Face Blog

發生什麼事

Liquid AI 於 2026 年 10 月 27 日發布 LFM3 系列，包含六款 2B 級別的模型：LFM3-1.7B（文字）、LFM3-VL-2B（視覺）、LFM3-Audio-2B（音訊）、LFM3-Omni-2B（全模態）、d1-2B（決策）以及 d1-omni-2B（全模態決策）。所有模型皆從 LFM3-1.7B-Base 衍生而來，並已開放權重供下載。 官方原文・Hugging Face Blog

重點內容

LFM3-1.7B-Base 採用新的三混合架構（tri-hybrid architecture），結合閘控短卷積（gate short convolutions，一種透過閘門機制控制短距離特徵提取的運算層）、滑動視窗注意力（SWA，sliding-window attention，僅關注局部視窗內 token 的注意力機制）與全域注意力（global attention，關注序列中所有 token 的注意力機制）。LFM3-1.7B 僅使用 1.7B 參數，卻在效能上超越前代 LFM2.5-2.6B，參數量減少 35%。文字模型在 4-bit 精度下約佔 1 GB 記憶體，並支援 256K 的上下文視窗，適合在裝置上執行代理（agent）任務。在長上下文場景下，LFM3-1.7B 處理 8K tokens 時比 LFM2-1.2B 快約 25%。 官方原文・Hugging Face Blog

視覺模型 LFM3-VL-2B 首次支援影片輸入，並配備新的內部視覺編碼器，其計算量比前代 SigLIP2 編碼器減少 3 倍。該模型在 62 個視覺基準測試中的平均分數從 57.6 提升至 71.4，參數量僅 1.9B，效能相當於參數量超過六倍的 Gemma 4 12B。音訊模型 LFM3-Audio-2B 則配備新的音訊編碼器與 LiquidCodec，在 Apple M4 Max 的單一 CPU 執行緒上，語音生成速度約為即時速度的 87 倍，且支援串流解碼（streaming decoding，邊生成邊輸出，無需等待完整結果）。 原文

決策模型 d1-2B 與 d1-omni-2B 用於快速產生結構化決策而非生成文字。d1-2B 參數量比前代 d1-3B 減少三分之一，但在四個決策測試套件中分數更高，例如在 ImajevBench 上得分 75.5（前代為 64.0）。d1-omni-2B 則額外支援音訊輸入，能在單一前向傳遞（forward pass，資料從輸入層經模型運算至輸出層的單一過程）中回答多個問題並提供校準機率（calibrated probability，經過調整以反映真實準確度的信心分數）。 原文

對使用者的意義

開發者可透過 Hugging Face 下載所有 LFM3 模型，並使用 transformers 函式庫進行推理。LFM3 系列設計為可在單一 GPU 上微調，官方提供針對文字、視覺、音訊及全模態模型的微調筆記本（notebook），涵蓋從資料準備到評估的完整流程。例如，LFM3-VL-2B 可被微調用於機器人導航與操作，在 Jetson AGX Orin 硬體上以 TensorRT FP16 格式執行時，動作區塊生成時間低於 50 ms。 官方原文・Hugging Face Blog

限制與未定事項

LFM3 模型需在特定版本的 transformers 函式庫中執行：LFM3-VL-2B 需 transformers>=5.21.0，LFM3-Audio-2B 與 LFM3-Omni-2B 需 transformers>=5.20.2，d1-2B 需 transformers>=5.19。官方指出，其架構搜尋涵蓋 14 種裝置與後端組合，包括手機、Raspberry Pi 5、筆電、雲端 CPU、GPU 及 Qualcomm Hexagon NPU。 官方原文・Hugging Face Blog