TechSpace 鐵客空間

每日科技新聞新知、硬體開箱評測、賣場優惠!

NVIDIA 撐腰!Reflection 發表 501B 開源模型 Beam:萬張 GB300 暴力訓練,推理成本降 4 倍

NVIDIA 投資的 Reflection 推出 501B 開源模型 Beam,藉由萬張 GB300 與非同步強化學習打造,推論能耗比競品少 3~4 倍。
NVIDIA 撐腰!Reflection 發表 501B 開源模型 Beam:萬張 GB300 暴力訓練,推理成本降 4 倍

萬張次世代 GPU 齊發,Reflection 打造前所未見的強化學習沙盒

隨著開源 AI 領域的競爭日益白熱化,過去由中國團隊如 DeepSeek 與智譜領跑的高性價比局面,迎來強勁的挑戰者。獲得晶片巨頭 NVIDIA 大力注資西方 AI 新創團隊 Reflection,正式端出旗下旗艦級開源權重模型 Beam,該模型擁有高達 5010 億的總參數規模,卻僅在每次推論時動態調用 230 億參數,成功在超大規模與極致運行效率之間找到平衡。

為了讓 Beam 具備頂尖的程式編碼與自主代理人能力,團隊在訓練階段投入令人咋舌的算力資源,在為期 4 週的訓練週期內,Reflection 調度多達 10,500 張 NVIDIA GB300 晶片,每天在雲端跑超過 4,640 萬個虛擬沙盒環境,總計累積突破 13 億次沙盒互動。這樣的訓練規模不僅刷新開源領域公開紀錄,更橫跨百萬種以上的編碼與 STEM 任務場景,讓模型在龐大的環境試錯中快速進化。

傳統強化學習在訓練大型語言模型時,運算單元往往需要頻繁暫停,等待前一輪的獎勵結果回傳才能更新權重。Reflection 選擇打破這道枷鎖,將系統拆分為負責持續輸出推論的 Rollout Workers,以及專注於更新權重的 Learner Engines。儘管這種非同步設計會帶來策略過時與數值雜訊的考驗,研發團隊透過在神經網路層前後設置雙向正規化的 SandwichNorm 技術,搭配注意力門控機制與深度殘差縮放,順利壓制數值漂移,實現效率極高的持續性訓練流程。

nvidia backed reflection new ai model beam 1

在龐大的混合專家架構中,最忌諱少數熱門專家被操到過載、其餘專家卻在一旁閒置發呆的情況。對此,Beam 引入嚴格的專家負載均衡機制,最忙碌的專家工作量僅僅比整體平均值高出 1.04 倍,幾乎達到無死角的完美分工。配合能自主抑制無效廢話的長度懲罰機制,Beam 在軟體工程評測 SWE Bench Verified 跑出 80.9 分,終端任務 Terminal Bench 也取得 80.1 分的亮眼成績,不僅效能媲美 GLM 5.2,推論時所需的運算資源更是直接縮減為原本的三分之一到四分之一。這項開源成果預計於本月全面釋出模型權重,勢必為開發者社群注入一劑強心針。

快速 Q&A 整理

Reflection 推出的 Beam 模型參數規模是多少?

Beam 採用稀疏混合專家(MoE)架構,總參數達到 501B(5,010 億),但在實際執行推論時僅會動態啟用 23B(230 億)活躍參數。

Beam 在訓練過程中使用多少硬體與計算資源?

Reflection 動用了 10,500 張 NVIDIA GB300 GPU,進行為期 4 週的訓練,每日運行約 4,640 萬個沙盒環境,總沙盒調用量達到 13 億次。

Beam 的推論效率與目前主流模型相比表現如何?

根據官方公開數據,Beam 在推論時的計算資源消耗量比 GLM 5.2 減少 3 到 4 倍,且比起現有西方主流開源模型效率提升達 4 倍以上。

團隊如何解決強化學習非同步訓練時的數值不穩定?

團隊藉由 SandwichNorm 雙向正規化技術、注意力門控(Attention Gating)以及基於深度的殘差縮放(Depth-based residual scaling),有效穩定數值並抵禦策略過時產生的雜訊。

Beam 預計何時開放大眾下載與使用?

Reflection 官方已對外宣布,預計將於本月份正式釋出 Beam 的完整開源模型權重。

延伸閱讀

歡迎加入我們的 Facebook 粉絲團,隨時掌握最新消息!
喜歡看圖說故事的話,也可以追蹤 Instagram 專頁!
我們也有 Threads 可以隨時 follow!

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *