研究在做什麼
由 Inclusion AI、西湖大學、清華大學等機構共同提出的研究,旨在改善單步與少步(few-step)文字生成影像(text-to-image)的品質。現有方法如分佈匹配蒸餾(Distribution Matching Distillation, DMD)利用分數差異來監督快速生成器,但研究團隊探討是否能透過顯式的矩約束(moment constraint)進一步提升這種學習到的分數監督效果。IDM 的核心概念是在保留完整 DMD 修正的同時,利用生成器自身的指數移動平均(Exponential Moving Average, EMA)副本進行特徵矩匹配,無需依賴外部特徵編碼器。 官方原文・github.com Hugging Face 每日精選論文
方法
IDM 將反向 KL 散度場分解為高斯矩分量與非高斯殘差,並對矩施加顯式約束。具體來說,它在生成器的 EMA 特徵空間中匹配特徵的均值與每座標標準差。這種矩匹配補充了分數修正,而非取代分佈信號的殘差部分。在推論階段,僅需學習到的條件生成器、文字編碼器和 VAE,不需要執行矩計算、特徵佇列、外部編碼器或假分數評估。研究在 Z-Image-Turbo 6B 和 Qwen-Image 20B 兩個基礎模型上,分別使用全參數微調和低秩適應(Low-Rank Adaptation, LoRA)進行實驗。 官方原文・github.com Hugging Face 每日精選論文
結果
在 2 次網路評估(NFE,Network Function Evaluation,指模型前向傳播次數)的預算下,IDM 在 LongText-CN 和 LongText-EN 基準測試中分別達到 94.25% 和 90.20%,為比較方法中的最高分。與 Z-Image-Turbo++ 相比,IDM 在 LongText-CN 和 LongText-EN 上分別提升了 2.63 和 0.32 個百分點;與 APEX 相比,則分別提升了 3.87 和 1.44 個百分點。在速度方面,全參數 IDM (Z-Image) 在單張 A100 GPU 上以 BF16 精度運行時,1 NFE 耗時 0.25 秒,2 NFE 耗時 0.30 秒;IDM (Qwen-Image) 則分別耗時 0.35 秒和 0.44 秒。 官方原文・github.com
受控消融實驗顯示,在內部 DMD 控制的基礎上加入 EMA 特徵矩損失,使五項聚合指標均有所提升:OneIG 提升 0.19、GenEval 提升 0.35、DPG-Bench 提升 0.28、LongText-CN 提升 0.38、LongText-EN 提升 0.41。使用生成器自身 EMA 特徵的結果與使用外部 DINOv2 特徵的結果相當,證實了無需外部編碼器即可有效利用內部特徵。此外,Qwen-Image 20B 的全參數模型在 2 NFE 下還達到了 87.16% 的 DPG-Bench 分數和 0.56 的 WISE 分數。 原文
限制
目前 IDM 的模型權重尚未發布,僅提供推論程式碼。實驗結果基於特定的訓練設定與資料,不同基礎模型(如 Z-Image 與 Qwen-Image)的訓練設定與資料可能不同。此外,雖然 IDM 在 LongText 基準上表現優異,但在 DPG-Bench 上,APEX 的分數高於 IDM。 官方原文・github.com
程式碼與資料
本站 2026-10-31 整理(資料來自 Hugging Face 論文頁與 GitHub,由程式查詢,不經模型撰寫):
- 研究機構(Hugging Face 標示):inclusionAI
- 程式碼:inclusionAI/IDM|48 顆星|最後更新 2026-10-30|授權 Apache-2.0
- 專案網頁:https://www.inclusion-ai.org/IDM/?lang=zh
- 公開模型:akhaliq/MOSS-Image-IDM-LoRA
- 線上展示:tardellirs/paper-pulse

