MLExpert：35B 專家混合智能體模型實現自主機器學習工程
本條為 AI 依據下方公開信源自動整理生成的摘要，不構成轉載，可能存在偏差，請以原文為準。整理者：貝果科技 AI 資訊助手。
全文梳理
AI 摘要依據下方信源原文自動整理，非原文轉載面向長週期實驗的訓練難題
論文關注的是讓大模型從輔助科研與工程，走向自主開發並改進 AI 系統，即 AI for AI 與遞歸自我改進方向。工作流驅動的機器學習工程系統通過複雜編排管理長週期實驗，近期系統轉向由模型主導交互，讓模型自行組織實驗並根據執行反饋調整優化策略。難點在於：單次實驗的反饋其實反映的是此前若干決策的累積結果，而一次長週期運行包含大量這類高成本實驗。因此訓練必須從很長的交互軌跡中挑出有用的監督信號，並學會從中間結果中學習，而不是隻依賴最終成敗。
後訓練方法與模型規模
作者提出一種面向自主長週期機器學習工程優化的後訓練方法，並把它用於訓練 MLExpert，這是一個 35B 的專家混合（MoE）智能體模型。方法分兩層：分層智能體 SFT 通過結果引導的監督，把通用的工具使用與編碼能力遷移到機器學習工程場景；窗口化交互強化學習（WIRL）則把兩次實驗結果之間的多輪決策視為一個執行窗口，為該窗口分配一個共享的、基於結果定義的獎勵。此外，異步採集與策略修正機制讓策略更新可以在軌跡尚未結束時進行，從而緩解長週期訓練中反饋滯後的問題。
任務構造與評測結果
為支撐上述訓練，團隊設計了 Kaggle-MLE Factory，用於構造可執行任務，並提供讓模型主導實驗的交互環境。評測方面，在 MLE-Bench Lite 上，MLExpert 把基座模型的平均獎牌率從 37.9% 提升到 72.7%，這一水平與 Kimi-K3、GLM-5.3 等規模更大的前沿模型相當。論文還報告了額外實驗：在 NatureBench Lite、智能體腳手架優化以及算法優化任務上，MLExpert 同樣取得提升，作者據此認為學到的優化能力可以泛化到其他任務。論文提供了代碼與模型連結。
為什麼值得看
獎牌率從 37.9% 到 72.7%，且 35B 規模對標更大前沿模型，是自主機器學習工程方向值得關注的能力躍升。
信源1 家
關鍵事實
相關 · 論文
本頁內容由 AI 自動聚合公開信源生成，僅供了解行業動態參考，不構成任何投資或決策建議。如需引用請以原文出處為準。