背景
現有的前沿模型(Frontier Model,指頂尖的大型語言模型)雖然能生成高品質簡報,但往往帶有固定的預設風格,難以符合使用者特定的模板需求,且涉及機密內容時無法上傳至雲端。另一方面,可自行託管的小型開源權重模型(Open-weight model,指權重公開的模型)在生成簡報時常出現版面錯誤,如文字溢出、圖形重疊等。Palette 專案旨在測試一個假設:透過在特定設計語言上訓練合成資料,並搭配檢查機制,小型開源模型能否在保有使用者對結果所有權的前提下,與前沿系統競爭。 官方原文・Hugging Face Blog
發生什麼事
Hugging Face 團隊微調了一個 20B 參數的模型,使其能模擬人類製作簡報的流程:由「設計師」角色規劃內容,再由「程式設計師」角色繪製每一張投影片。該模型的訓練資料遵循 IBM Design Language(IBM 設計語言),並在 PresentBench 基準測試的三個領域中的兩個排名第一。 官方原文・Hugging Face Blog
重點內容
Palette 將簡報生成工作拆分為兩個角色,由單一的 LoRA(Low-Rank Adaptation,一種參數高效微調技術,僅調整模型的一小部分權重)適配器處理。「設計師」角色負責閱讀計畫並撰寫結構化的 JSON 簡報,包含調色盤、字體系統以及每張投影片的版面、內容與設計理由;「程式設計師」角色則接收單張投影片的規格,撰寫 pptxgenjs JavaScript 程式碼來繪製投影片。由於每張投影片的上下文在程式碼撰寫前已固定,程式設計師的呼叫可以並行執行,使編碼階段的速度提升約 6 至 7 倍。 官方原文・Hugging Face Blog
由於缺乏公開的簡報製作過程資料,團隊使用大型開放教師模型(Teacher model,用於生成訓練資料的模型)合成了約 1000 份簡報,涵蓋約 10,000 張投影片。訓練資料包含「反事實推理」(Counterfactual reasoning,透過權衡替代方案並說明拒絕理由來解釋選擇),讓模型學習選擇背後的規則。例如,設計師會推理為何選擇長條圖而非表格以突顯趨勢,程式設計師則會計算字體大小以避免文字溢出。此外,模型透過在計畫中插入 [[ ]] 包裹的指令(Directives)來接受使用者控制,例如 [[make this a timeline]] 可將內容轉換為時間軸,這些指令涵蓋版面、語氣、受眾等 12 個類別。 原文
Palette 配備了一個檢查與修復的 Harness(測試框架或執行環境)。模型生成的簡報不會直接輸出,而是先經過規則修正已知錯誤(如格式錯誤的顏色代碼),再透過幾何檢查器渲染並測量每張投影片,標記重疊、裁切或溢出的文字。被標記的投影片會交由獨立的編輯模型重寫程式碼,且僅在檢查器確認改進後才保留重寫結果,否則保留原始版本。在 131 份 PresentBench 簡報的測試中,此 Harness 平均增加了 3.5 分的分數。 原文
對使用者的意義
Palette 允許使用者在自有基礎設施上運行模型,確保機密內容不外洩,並能遵循特定的設計語言。在 PresentBench 評估中,作為單一 20B 開源權重模型,Palette 在經濟學和教育學領域排名第一,在演講領域排名第三;在三領域平均分數上排名第二,落後 NotebookLM 1.1 分(59.7 對 60.8),排名高於其他測試系統。這意味著開發者或企業可以利用此方法,訓練符合自家品牌規範的簡報生成工具。 官方原文・Hugging Face Blog
限制與未定事項
PresentBench 主要評估簡報的品質,但無法評估是否嚴格遵循特定的設計語言,目前尚無專門針對此項的基準測試。團隊未來計畫利用 Harness 計算的可驗證信號作為強化學習的獎勵,以減少模型初始錯誤,並探索從源文件中提取圖表以及透過現有 .pptx 檔案重新包裝輸出而不需重新訓練的方法。 官方原文・Hugging Face Blog


