Reflection 發布 501B 開放模型 Beam，支援 1M 上下文與自訂訓練

背景

Beam 是由 Reflection 團隊開發的一款大型語言模型，主要針對編碼（coding）與代理（agentic）使用場景設計。它採用稀疏混合專家（MoE, Mixture of Experts）架構，這種架構讓每個 token 僅由網路的一小部分計算，從而以較小模型的運行速度保持大模型的容量。該模型旨在供希望在自有硬體、基礎設施或雲端上部署前沿規模模型，並根據自身需求進行客製化的團隊使用。 官方原文・Hugging Face Blog

發生什麼事

Reflection 於 2026 年 10 月 16 日發布了 Beam-1.0-501B-A23B 模型。該模型擁有 501B 參數，其中每個 token 激活 23B 參數。官方同時提供了 BF16、FP8 和 NVFP4 三種檢查點格式，並宣布在 Hugging Face Hub 上舉辦活動，向使用 Beam 構建最佳項目的開發者頒發總計 $10,000 的 Hub 積分。 官方原文・Hugging Face Blog

重點內容

Beam 支援 1M token 的上下文窗口，並具備跨輪次保留推理狀態（preserve_thinking）及專用語法工具呼叫功能。模型提供五種推理強度設定："low"、"medium"（預設）、"high"、"xhigh" 和 "max"。在架構上，它包含 52 層解碼器，其中 43 層使用滑動窗口注意力，9 層使用全局注意力。混合專家層包含 256 個專家，每個 token 路由至 8 個專家。官方提供了基於 Rust 的自訂推論框架（harness），並支援 DFlash2 投機解碼以加速生成。 官方原文・Hugging Face Blog

在硬體需求方面，NVFP4 檢查點將 501B 參數的儲存空間從 BF16 的約 1 TB 縮小至約 280 GB，適合 NVIDIA Blackwell GPU（如 B200、B300）。若使用較舊的 Hopper 或 Ampere 系列晶片（如 H200），則建議使用 FP8 檢查點。官方建議部署 NVFP4 版本時使用 4 張 B200 GPU（共 720 GB 記憶體）以保留足夠空間給激活值和 KV 快取；若使用 H200，則需 16 張 GPU 進行張量並行部署。 官方原文・Hugging Face Blog

Beam 在發布首日即獲得 transformers、SGLang 和 vLLM 的支援。官方提供了使用 TRL 進行監督微調（SFT）和使用 Miles 進行強化學習（GRPO）的食譜。例如，使用 LoRA 適配器在 8 張 B300 GPU 上進行 SFT 訓練時，可達到約 19,000 tokens/秒的速度。在基準測試中，Beam (BF16) 在 AIME 2026 上得分 97.7%，在 SWE Bench Pro v2-Hard 上得分 76.5%。 官方原文・Hugging Face Blog

對使用者的意義

開發者可以透過 Hugging Face Inference Providers 或自建端點（Endpoints）來使用 Beam。若選擇自建，可依據硬體條件選擇 NVFP4 或 FP8 檢查點，並利用 vLLM 或 SGLang 部署 OpenAI 相容 API。企業團隊可利用其 1M 上下文處理長文件或大型程式碼庫，並透過 SFT 或 RL 技術針對特定業務場景進行微調。使用者可透過 pip install -U "transformers>=5.20.1" 安裝最新支援版本，或使用 hf endpoints catalog deploy 命令快速部署。 官方原文・Hugging Face Blog 官方原文・endpoints.huggingface.co 官方原文・endpoints.huggingface.co

限制與未定事項

NVFP4 格式僅原生支援 NVIDIA Blackwell GPU，較舊的 H200 等硬體無法直接運行該格式，需改用 FP8。BF16 檢查點體積龐大（約 1 TB），對記憶體要求極高。官方提供的「vibe evals」僅為非正式評估，不作為正式基準測試結果。此外，模型在低推理強度下處理長上下文任務時，可能因提示詞歧義導致格式不符，需根據具體用例調整。 官方原文・Hugging Face Blog