研究論文 #論文基準1 個來源Qwen3.8-Flash-Next-180B 撰寫

Tencent 提出 LoCo 本地偏好學習法，數學推理長度減 41.7% 至 45.4%

Tencent 研究團隊提出 LoCo 方法，透過本地偏好學習讓大型推理模型學會何時停止思考。該方法在數學任務中將輸出長度減少 41.7% 至 45.4%，同時維持或提升準確率，並展現跨領域泛化能力。

本文重點

Tencent 提出 LoCo 方法，讓模型學會判斷何時停止推理。
數學任務輸出長度減少 41.7% 至 45.4%，準確率維持或提升。
訓練僅用數學資料，程式碼生成任務長度仍減少 23.4% 至 36.3%。

本站上線: 2026/11/04 下午09:19
首次報導: 2026/11/03 上午08:00
最早來源發布: 2026/11/03 上午08:00

AI 摘要｜已與來源比對｜未經人工查核。本文由程式（Qwen3.8-Flash-Next-180B）讀取下列來源全文與官方原文後撰寫，每段後面的標籤是依據的來源，點擊即可開啟原文。程式會比對數字、版本與日期是否出現在來源中，但這不等於事實查核。內容怎麼產生、有什麼限制；發現錯誤請用文末的「回報」。

約 2 分鐘讀完段落：研究在做什麼·方法·結果·程式碼與資料

研究在做什麼

大型推理模型（Large reasoning models）在處理困難任務時表現優異，但其冗長的思想鏈（chain-of-thought）往往導致高昂的推論成本，因為模型在獲得足夠資訊後仍持續進行推理。現有的推理壓縮方法主要針對整體推理軌跡進行處理，較少關注在當前狀態下是否需要進一步推理的「本地決策」。Tencent 研究團隊提出 LoCo 方法，旨在解決這一問題，讓模型學會判斷何時應繼續推理、何時應結束推理，而非單純鼓勵整體軌跡變短。 Hugging Face 每日精選論文

方法

LoCo 是一種本地偏好學習（local preference learning）方法。其運作機制是從模型自身生成的軌跡中偵測出「過度思考」（overthinking）的候選狀態，凍結對應的推理前綴，並從相同狀態重新生成經過驗證的較短後續內容。接著，利用這些基於狀態的偏好對（state-conditioned preference pairs），透過 DPO（直接偏好優化，Direct Preference Optimization）進行訓練。這種方式教導模型在特定狀態下做出繼續或結束推理的決策。訓練資料完全來自模型自我生成的數學軌跡。 Hugging Face 每日精選論文

結果

研究在五個數學基準和三個程式碼生成基準上評估 LoCo。結果顯示，在數學任務中，LoCo 將完成長度（completion length）減少了 41.7% 至 45.4%，同時維持或提升了準確率。在程式碼生成任務中，完成長度減少了 23.4% 至 36.3%，並在所有程式碼基準中取得了最佳的 AUC（曲線下面積，Area Under the Curve，衡量準確率與效率權衡的指標）。儘管訓練僅使用數學資料，LoCo 仍能有效轉移到程式碼生成任務，展現了本地偏好學習在推理壓縮上的跨領域泛化能力。 Hugging Face 每日精選論文