論文の概要: LLM Agents for Automated Post-Training via Structured Recipe Optimization

• arxiv url: http://arxiv.org/abs/2610.18572v1
• Date: Tue, 13 Oct 2026 15:39:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.658102
• Title: LLM Agents for Automated Post-Training via Structured Recipe Optimization
• Title（参考訳）: 構造的レシピ最適化による学習後自動化のためのLCMエージェント
• Abstract要約: 学習後自動変換は、訓練済みの大規模言語モデル(LLM)を、多様なドメインを扱うことができるモデルに変換する。 目的のタスクにレシピ空間自体を適応させる新しいパラダイムである,タスク適応型レシピ空間の最適化を導入する。
• 参考スコア（独自算出の注目度）: 25.800606191865114
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Automated post-training transforms pre-trained large language models (LLMs) into models capable of handling diverse domains by automatically constructing and optimizing a recipe of coupled decisions over data sources, data processing, cross-domain composition, and training configuration under a limited experimental budget. Existing automation either searches predefined recipe spaces that enable systematic optimization but remain fixed rather than adapting their available choices to the target tasks, or uses open-ended agents that discover task-specific choices but leave them implicit in trial-level edits, limiting their systematic reuse and recombination across trials. To fill this gap, we introduce optimization over a task-adapted recipe space, a novel paradigm that can adapt the recipe space itself to the target tasks while representing its choices explicitly for systematic reuse, recombination, and joint optimization. We instantiate this paradigm with Structured Recipe Optimization (SRO), comprising an LLM-based Recipe-Space Designer that constructs the task-adapted recipe space and a Multi-Domain Recipe Optimizer that uses structured trial evidence to guide LLM candidate construction and multi-objective Bayesian trial selection. Extensive experiments show that SRO achieves the highest average score in all evaluated target-model and agent-LLM combinations. In joint post-training across three capability domains and six benchmarks, SRO reaches 41.1 versus 15.4 for the strongest baseline on Qwen3-1.7B with GPT-5.4, and 53.8 versus 40.8 on Qwen3-4B with DeepSeek-V4-Flash. Our code is available at https://github.com/RuohLiuq/SRO.
• Abstract（参考訳）: トレーニング後自動変換は、データソース、データ処理、クロスドメイン構成、および限られた実験予算下でのトレーニング構成による結合決定のレシピを自動構築し最適化することにより、さまざまなドメインを扱うことができるモデルに変換する。 既存の自動化は、システマティックな最適化を可能にするように定義されたレシピ空間を検索するが、ターゲットのタスクに利用可能な選択を適用するのではなく、固定されたままにしておくか、オープンなエージェントを使用してタスク固有の選択を発見するか、トライアルレベルの編集でそれらを暗黙的に残し、体系的な再利用とトライアル間の再結合を制限するかのいずれかである。 このギャップを埋めるために,本論文では,レシピ空間自体を目的のタスクに適応させる新しいパラダイムであるタスク適応型レシピ空間の最適化を紹介し,その選択を体系的再利用,組換え,共同最適化のために明示的に表現する。 このパラダイムを,タスク適応型レシピ空間を構築するLLMベースのレシピ空間デザイナと,構造化されたトライアルエビデンスを用いてLLM候補構築と多目的ベイズ試験選択を誘導するマルチドメインレシピ最適化器とで,構造化レシピ最適化(SRO)を用いてインスタンス化する。 実験の結果,SROは目標モデルとエージェント-LLMの組み合わせで最高の平均スコアを達成できた。 3つの機能ドメインと6つのベンチマークによる共同トレーニングでは、GPT-5.4でQwen3-1.7Bで最強のベースラインが41.1対15.4、DeepSeek-V4-FlashでQwen3-4Bで53.8対40.8に達した。 私たちのコードはhttps://github.com/RuohLiuq/SROで公開されています。

関連論文リスト

• Optimization and Constraint Modeling using LLMs with a Retrieval Augmented Generation Process [0.0]
  本稿では,Retrieval-Augmented Generationパイプラインが最適化モデルの性能を有意に向上できるかどうかを評価する。 合計500の最適化問題をText2Zincデータセットのシード記述を用いて合成した。 精度はNL4OPTで40%から72%、MAMO Easyで40%から56%、MAMO Complexで32%から56%に上昇した。
  論文  参考訳（メタデータ） (2026-06-24T23:55:35Z)
• LM4Opt-RA: A Multi-Candidate LLM Framework with Structured Ranking for Automating Network Resource Allocation [0.7933039558471408]
  我々は,複雑な解析的および数学的推論タスクに,文脈的理解が不要であることに対処する。 既存のベンチマークデータセットは、動的な環境、変数、不均一な制約でそのような問題の複雑さに対処できない。 NL4RAは、LP、ILP、MILPとして定式化された50のリソース割り当て最適化問題からなるキュレートデータセットである。 次に,パラメータ数が異なるオープンソースのLLMの性能評価を行った。
  論文  参考訳（メタデータ） (2025-11-13T23:19:43Z)
• What Matters in LLM-Based Feature Extractor for Recommender? A Systematic Analysis of Prompts, Models, and Adaptation [14.788780469735242]
  LLM-as-feature-extractorパイプラインを4つのモジュールに分解するモジュールフレームワークであるRecXploreを提案する。 新しいテクニックを提案する代わりに、RecXploreは確立したメソッドを再検討し、整理し、各モジュールを分離して体系的な探索を可能にする。 実験の結果、既存の技術から得られる最良の設計を組み合わせるだけで、NDCG@5が18.7%、HR@5が12.7%向上することがわかった。
  論文  参考訳（メタデータ） (2025-09-18T14:08:45Z)
• ORFS-agent: Tool-Using Agents for Chip Design Optimization [0.8088986164437757]
  大規模言語モデル(LLM)は、このような高次元最適化タスク内で学習と推論を行う新しい機会を提供する。 LLMをベースとした反復最適化エージェントORFS-agentを導入し,パラメータチューニングをオープンソースのハードウェア設計フローで自動化する。 2つの異なる技術ノードと様々な回路ベンチマークに関する実証的な評価は、ORFSエージェントがルーティングされたワイヤ長と有効クロック期間の両方を13%以上改善できることを示している。
  論文  参考訳（メタデータ） (2025-06-10T01:38:57Z)
• Single LLM, Multiple Roles: A Unified Retrieval-Augmented Generation Framework Using Role-Specific Token Optimization [64.33914369424494]
  RoleRAGは、ロール固有のトークン最適化を通じて効率的なマルチタスク処理を実現する統一的なRAGフレームワークである。 RoleRAGは6つのモジュールから構成され、それぞれがRAGプロセス内で特定のサブタスクを処理する。 クエリの分解を表すクエリグラフを導入し、分解状態に応じて動的に解決する。
  論文  参考訳（メタデータ） (2025-05-21T12:25:12Z)
• Collab: Controlled Decoding using Mixture of Agents for LLM Alignment [90.6117569025754]
  人間のフィードバックからの強化学習は、大規模言語モデルを整合させる効果的な手法として現れてきた。 制御された復号化は、再訓練せずに推論時にモデルを整列するメカニズムを提供する。 本稿では,既存の既成のLCMポリシを活用するエージェントベースのデコーディング戦略の混合を提案する。
  論文  参考訳（メタデータ） (2025-03-27T17:34:25Z)
• DS-Agent: Automated Data Science by Empowering Large Language Models with Case-Based Reasoning [56.887047551101574]
  大規模言語モデル(LLM)エージェントとケースベース推論(CBR)を利用した新しいフレームワークであるDS-Agentを提案する。 開発段階では、DS-AgentはCBRフレームワークに従い、自動イテレーションパイプラインを構築する。 デプロイメントの段階では、DS-Agentは、シンプルなCBRパラダイムで低リソースのデプロイメントステージを実装し、LCMの基本能力に対する需要を大幅に削減する。
  論文  参考訳（メタデータ） (2024-02-27T12:26:07Z)
• Multi-Agent Reinforcement Learning for Microprocessor Design Space Exploration [71.95914457415624]
  マイクロプロセッサアーキテクトは、高性能でエネルギー効率の追求において、ドメイン固有のカスタマイズにますます頼っている。 この問題に対処するために,Multi-Agent RL (MARL) を利用した別の定式化を提案する。 評価の結果,MARLの定式化は単エージェントRLのベースラインよりも一貫して優れていた。
  論文  参考訳（メタデータ） (2022-11-29T17:10:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。