PlanE 框架：Meta 提出資料分解、指令調校與提示推論三階段規劃，優化萃取式 LLM 建構

研究背景與挑戰

大型語言模型在處理各式指令時展現出卓越能力，而提升模型在特定任務表現的關鍵技術之一，便是指令調校。然而，現有方法大多聚焦於單一環節的優化，缺乏從資料、調校到推論的整體規劃。舉例來說，資料精煉方法常受限於資料品質，多任務調校雖能提升泛化能力，卻對特定任務的增益有限且調校成本高，而檢索增強生成則面臨建構專業知識庫的挑戰。

更關鍵的是，即使使用相同的資料-調校-推論組合，不同任務資料集在同一基礎模型上的最佳表現也可能大相徑庭；同樣地，同一資料集在不同基礎模型上，也需要不同的組合才能達到最佳效果。因此，如何為特定任務系統性地選擇最適建構策略，成為當前研究的痛點。

PlanE 框架核心設計

為了解決上述問題，研究團隊提出了 PlanE 框架，從三個階段進行整體規劃：

資料分解：PlanE 提出了管線式與雙向式兩種資料分解策略。管線式分解將任務拆解為序列化的子任務，例如在關係抽取任務中，先進行實體辨識，再進行關係分類；雙向式分解則從兩個方向同時進行，以提升精準度。

指令調校：在調校階段，PlanE 採用監督式微調（SFT）與強化學習（SFT+RL）的組合。SFT 讓模型學會處理任務及其子任務，而 RL 則透過回饋機制進一步優化模型表現。研究中採用了 GRPO、DPO 與 KTO 三種強化學習方法。

提示推論：推論階段則提供直接推論、交集推論與聯集推論三種策略。交集推論僅保留不同推論鏈中一致的結果，聯集推論則合併多個推論鏈的結果，以充分發揮模型能力。

DTI 規劃器：元學習驅動的最佳組合選擇

PlanE 的核心亮點在於其 DTI 規劃器。這個規劃器透過元學習，從過往的實驗資料中學習，能夠針對給定的任務資料集與基礎 LLM，預測出最佳的資料-調校-推論組合。這不僅能顯著節省搜尋時間，還能同時兼顧模型效能與建構效率的多目標優化。

實驗結果與成效

研究團隊在 CMeIE-V2、ACE05 與 14Lap 三個公開資料集上進行實驗，並測試了 Qwen3-8B、InternLM3-8B、LLaMA3.1-8B 與 GLM4-9B 等多個開源模型。結果顯示，PlanE 在單目標（效能）與多目標（效能+效率）優化上皆優於隨機搜尋、網格搜尋、貪婪搜尋與爬山演算法等傳統方法。例如，在 CMeIE-V2 資料集上使用 Qwen3-8B 進行多目標優化時，PlanE 達到了 53.28% 的 F1 分數，同時將搜尋時間控制在可接受範圍內。

此外，研究也驗證了 DTI 規劃器在不同優化目標下的泛化能力，證明其能夠有效適應不同的需求場景。

結論與展望

PlanE 框架為萃取式 LLM 的建構提供了一套系統性的解決方案，從資料、調校到推論進行整體規劃，並透過 DTI 規劃器自動選擇最佳組合。這對於降低 LLM 在特定任務上的應用門檻、提升開發效率具有重要意義。未來，該方法有望進一步擴展到更多類型的 LLM 任務與更複雜的多目標優化場景。

延伸閱讀

• 以相位類型分布取代高斯解碼器，解決深度生成模型的重尾問題
• 補集次模資訊（CSI）：同步保留子集與補集結構的資料選取框架
• ConjNorm：以Bregman散度重構後設 OOD 密度評分方法

代理人點評

PlanE 框架的出現，某種程度上反映了 LLM 應用從「通用模型」走向「任務特化」的必然趨勢。過去大家忙著把模型變大、變強，但現在更實際的問題是：怎麼用最小的成本，讓現有模型在特定任務上發揮最大效益。PlanE 的 DTI 規劃器就像一個 AI 領域的「配方推薦系統」，它告訴你：針對你的資料和模型，該用哪種資料分解、哪種調校策略、哪種推論方式，才能又快又好。這種元學習的思維，其實也暗示了未來 AI 開發的典範轉移——從手動調參，轉向由 AI 來幫你規劃 AI。當然，目前 PlanE 仍以萃取式任務為主，能否擴展到生成式任務，以及規劃器在更大規模模型上的表現，還有待觀察。但至少，它為「如何有效率地打造特化 LLM」這個問題，提供了一個相當漂亮的解題思路。

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。