論文の概要: Strategy Accumulation and Guided Execution for Automated LLM Fine-Tuning

• arxiv url: http://arxiv.org/abs/2609.22257v1
• Date: Sun, 06 Sep 2026 09:18:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.808286
• Title: Strategy Accumulation and Guided Execution for Automated LLM Fine-Tuning
• Title（参考訳）: LLMファインチューニングの戦略蓄積と指針実行
• Abstract要約: SAGE(Strategy Accumulation and Guided Execution)は、自動微調整検索を累積化するフレームワークである。 単ラウンド実行では、SAGEの累積経験はベースラインに対する平均相対的な改善を3.2%から15.6%に引き上げる。 これらの結果は、永続的な戦略経験が、目に見えないタスクを自動微調整するための効果的なガイダンスを提供することを示している。
• 参考スコア（独自算出の注目度）: 55.45800745117191
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Producing task-specific large language models requires discovering effective training strategies through experimentation. Automated fine-tuning systems have made this experimentation feasible with far less manual effort. However, these systems are stateless: each search discards its discovered strategies, dataset insights, and hyperparameter findings once it ends. Every new task must then repeat this costly search from a cold start. To address this, we propose Strategy Accumulation and Guided Execution (SAGE), a two-stage framework that makes automated fine-tuning search cumulative. In the first stage, a multi-agent pipeline performs Monte Carlo Tree Search-based exploration. A parallel Distillation Agent extracts task-specific exploration records and confidence-scored cross-task insights, which together constitute a structured experience repository. In the second stage, SAGE retrieves relevant experience from this repository and selects what applies to guide training on the new task. We evaluate SAGE on nine unseen tasks spanning both single- and cross-category settings. In single-round execution, SAGE's accumulated experience raises the average relative improvement over baseline from 3.2% to 15.6%, a 12.4-percentage-point gain over the same pipeline without it. These results show that persistent strategy experience provides effective guidance for automated fine-tuning on unseen tasks.
• Abstract（参考訳）: タスク固有の大規模言語モデルを作成するには、実験を通じて効果的なトレーニング戦略を見つける必要がある。 自動微調整システムは、この実験をはるかに少ない手作業で実現した。 しかし、これらのシステムはステートレスであり、各検索は、発見した戦略、データセットの洞察、ハイパーパラメータの発見を一旦放棄する。 すべての新しいタスクは、コールドスタートからのコストの高い検索を繰り返す必要があります。 そこで本研究では,2段階のフレームワークであるStrategy Accumulation and Guided Execution (SAGE)を提案する。 最初の段階では、マルチエージェントパイプラインがモンテカルロ木探索に基づく探索を行う。 並列蒸留エージェントは、構造化された体験リポジトリを構成するタスク固有の調査記録と、信頼性に配慮したクロスタスク洞察を抽出する。 第2段階では、SAGEはこのリポジトリから関連するエクスペリエンスを取得し、新しいタスクのガイドトレーニングに適用されるものを選択します。 我々は、SAGEを、シングルカテゴリとクロスカテゴリの両方にまたがる9つの未確認タスクで評価する。 単ラウンド実行では、SAGEの累積経験はベースラインに対する平均相対的な改善を3.2%から15.6%に引き上げる。 これらの結果は、永続的な戦略経験が、目に見えないタスクを自動微調整するための効果的なガイダンスを提供することを示している。

関連論文リスト

• Hierarchical Skill Retrieval for Data-Efficient Adaptation of Vision-Language-Action Models [10.94594187411586]
  Hierarchical Skill Retrieval (HSR)は、データ効率のよいVLA適応のための検索フレームワークである。 我々は、HSRが最強のベースラインに対して平均成功率を10.3%、21.3%改善することを示した。
  論文  参考訳（メタデータ） (2026-08-25T04:04:49Z)
• TREX: Automating LLM Fine-tuning via Agent-Driven Tree-based Exploration [31.598039827972727]
  大規模言語モデル(LLM)は、独立した科学的タスクを実行するためにAI研究エージェントに権限を与えている。 本稿では,LLMトレーニングライフサイクル全体を自動化したマルチエージェントシステムTREXを紹介する。
  論文  参考訳（メタデータ） (2026-04-15T17:38:06Z)
• Retrieval-Augmented LLM Agents: Learning to Learn from Experience [16.248836438253814]
  本研究では,検索対象のLLMエージェントを学習し,検索したトラジェクトリをコンテキスト内で活用する方法について検討する。 最先端のエージェントトレーニングパイプラインよりも優れたロラを用いた,堅牢な教師付き微調整(SFT)レシピを確立した。 その結果,この組み合わせによるタスクの一般化が著しく向上することが示唆された。
  論文  参考訳（メタデータ） (2026-03-18T20:45:04Z)
• DecoupleSearch: Decouple Planning and Search via Hierarchical Reward Modeling [56.45844907505722]
  二重値モデルを用いて計画と探索プロセスを分離するフレームワークであるDecoupleSearchを提案する。 提案手法は,各ノードが計画と探索のステップを表す推論木を構築する。 推論中、階層的ビームサーチは、計画と探索候補を二重値モデルで反復的に洗練する。
  論文  参考訳（メタデータ） (2025-09-07T13:45:09Z)
• MMSearch-R1: Incentivizing LMMs to Search [49.889749277236376]
  MMSearch-R1は,実世界のインターネット環境において,オンデマンドでマルチターン検索が可能な,初のエンドツーエンド強化学習フレームワークである。 本フレームワークは画像検索とテキスト検索の両方を統合し,検索ペナルティによる結果に基づく報酬によって,モデルがいつ,どのように呼び出すかの判断を可能にする。
  論文  参考訳（メタデータ） (2025-06-25T17:59:42Z)
• Reinforcement Learning with Success Induced Task Prioritization [68.8204255655161]
  本稿では,自動カリキュラム学習のためのフレームワークであるSuccess induced Task Prioritization (SITP)を紹介する。 アルゴリズムはエージェントに最速の学習を提供するタスクの順序を選択する。 我々は,SITPが他のカリキュラム設計手法と一致するか,あるいは上回っていることを実証する。
  論文  参考訳（メタデータ） (2022-12-30T12:32:43Z)
• Planning to Explore via Self-Supervised World Models [120.31359262226758]
  Plan2Exploreは自己監督型強化学習エージェントである。 我々は、自己監督型探索と、新しいタスクへの迅速な適応に対する新しいアプローチを提案する。 Plan2Exploreは、訓練の監督やタスク固有の相互作用がなければ、自己監督型の探査方法よりも優れている。
  論文  参考訳（メタデータ） (2020-05-12T17:59:45Z)
• Meta Reinforcement Learning with Autonomous Inference of Subtask Dependencies [57.27944046925876]
  本稿では,タスクがサブタスクグラフによって特徴づけられるような,新しい数発のRL問題を提案し,対処する。 メタ政治を直接学習する代わりに、Subtask Graph Inferenceを使ったメタラーナーを開発した。 実験の結果,2つのグリッドワールド領域とStarCraft II環境において,提案手法が潜在タスクパラメータを正確に推定できることが確認された。
  論文  参考訳（メタデータ） (2020-01-01T17:34:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。