Mistral AI 發布 Timestral：209M 參數時序模型在三大基準測試排名第一

背景

時序資料是企業中常見的數據類型，涵蓋感測器遙測、可觀測性指標等，用於容量規劃、能源、供應鏈及風險維護等決策。傳統模型如 ARIMA 通常針對單一序列擬合，而深度學習模型如 PatchTST 雖能學習非線性模式，但往往需在各數據集上從頭訓練，難以跨領域遷移。時序基礎模型（Time Series Foundation Models, TSFM）透過在大型多樣化語料庫上預訓練，使模型能學習可跨序列轉移的模式，從而對從未見過的數據進行零樣本預測。 官方原文・Mistral AI News

發生什麼事

Mistral AI 於 10 月 15 日正式發布 Timestral，這是該公司首個時序基礎模型家族。Timestral 提供四個參數規模：5M、28M、123M 和 209M。官方指出，最大模型 Timestral-209M 在三個主要公開預測基準測試 GIFT-Eval、TIME 和 fev-bench 中，均位列預訓練及零樣本模型的第一名，且僅使用 209M 參數便超越了先前最先进水平。 官方原文・github.com 官方原文・Mistral AI News

重點內容

Timestral 支援多變量預測，即同時預測一系列中的多個變數；並支援僅過去協變數（past-only covariates）和已知未來協變數（known-future covariates）。其輸出為機率預測，每個時間步長提供 21 個分位數（quantiles），讓使用者能評估不確定性範圍。模型上下文長度最長可達 32,768 個時間步長。在推理階段，Timestral 無需 GPU，可在 CPU 上運行；官方數據顯示，在標準伺服器 CPU（8 線程）上，從三週的 15 分鐘歷史數據預測未來一天，5M 模型耗時 10 毫秒，209M 模型耗時 140 毫秒。 官方原文・github.com 官方原文・Mistral AI News

技術上，Timestral 結合了合成數據預訓練、協變數感知注意力機制以及長上下文學習。其訓練採用解耦地平線預測（Decoupled Horizon Forecasting, DHF），將預測令牌與因果編碼的上下文分離，使每個觀察值同時作為目標和上下文。模型主要使用合成數據進行預訓練，隨後在真實與合成數據混合的後訓練階段擴展上下文長度。Timestral-28M 模型在 GIFT-Eval 和 TIME 基準上表現優於參數約為其四倍的 Chronos-2；Timestral-209M 則以較少參數超越了 TimesFM-3 和 Falcon-2.0。 官方原文・Mistral AI News

對使用者的意義

開發者可以透過 GitHub 倉庫安裝 Timestral，僅需 PyTorch、NumPy、safetensors 和 huggingface_hub 即可在 CPU 或 GPU 上運行推理。模型權重發布於 Hugging Face Hub，代碼採用 Apache 2.0 授權，模型權重採用 Modified MIT 授權。企業可將 Timestral 整合至現有監控管線中，用於檢測異常、預測設備維護需求或優化供應鏈。此外，Timestral 也可與 Mistral AI 的語言模型搭配，在多模態代理工作流中協同運作，例如由時序模型檢測異常，再由代理進行根本原因分析並生成診斷建議。 官方原文・github.com 官方原文・Mistral AI News

限制與未定事項

Timestral 目前提供零樣本推理功能，若需針對特定領域進行微調或架構擴展，需透過 Mistral Forge 平台進行。該平台支援在客戶硬體上部署，包括隔離環境（air-gapped environments）。官方表示技術報告將隨後發布，目前尚未公開完整的技術細節。 官方原文・Mistral AI News