論文の概要: Relay, Don't Route: Adaptive Population Handoff for Cost-Efficient LLM-Driven Evolution
- arxiv url: http://arxiv.org/abs/2608.05651v1
- Date: Thu, 06 Aug 2026 06:48:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 17:43:06.703608
- Title: Relay, Don't Route: Adaptive Population Handoff for Cost-Efficient LLM-Driven Evolution
- Title(参考訳): Relay, Don't Route: コスト効率の良いLCM駆動進化のための適応型人口ハンドオフ
- Abstract要約: 大規模言語モデル(LLM)による進化は、プログラム探索とアルゴリズム発見の可能性を示唆している。
個別の呼び出しから進化する人口への予算配分をシフトする、トレーニング不要なフレームワークである textbfmodel を提案する。
以上の結果から, 国家検索においては, 予算配分は個別の呼び出しではなく, 人口を中心に整理されるべきであることが示唆された。
- 参考スコア(独自算出の注目度): 32.25060721536872
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language model (LLM)-driven evolution has shown promise for program search and algorithm discovery, but relying on strong models throughout long evolutionary runs is costly. A natural alternative is to combine cheap and strong models under a fixed inference budget. However, existing approaches typically allocate models at the level of individual queries or mutation steps, overlooking that evolutionary search is \textit{stateful}: each generated candidate changes the population from which subsequent mutations are produced. We empirically analyze LLM-driven evolutionary trajectories and find that search progress is strongly front-loaded, early trajectory performance is informative but noisy, and cheap models recover much of the early progress achieved by strong models at lower cost. Motivated by these findings, we propose \textbf{\model}, a training-free framework that shifts budget allocation from individual calls to evolving populations through adaptive \textit{population handoff}. A cheap model explores multiple trajectories in short blocks allocated by a bandit scheduler. Relay Gain, defined as the marginal improvement of a compact, quality-diverse candidate bank constructed for handoff, serves as the scheduler reward and determines when to hand off. The curated candidates initialize a shared strong model population for refinement. Across four benchmarks and three budgets, \model achieves the highest mean score in 11 of 12 settings, outperforming competitive baselines. Our results suggest that in stateful search, budget allocation should be organized around the population, not the individual call.
- Abstract(参考訳): 大規模言語モデル(LLM)による進化は、プログラム探索とアルゴリズム発見を約束するが、長い進化を通して強力なモデルに依存することはコストがかかる。
自然な選択肢は、固定された推論予算の下で、安価で強力なモデルを組み合わせることである。
しかし、既存のアプローチは通常、個々のクエリや突然変異ステップのレベルでモデルを割り当て、進化的探索が \textit{stateful} であることを見落としている。
我々は,LLM駆動の進化軌道を実証的に解析し,探索の進行が強力で,初期の軌道性能は有益だがノイズがあり,安価なモデルでは,より安価で強力なモデルによって達成された初期の進行の多くを回復する。
これらの知見に触発されて、我々は、個別の呼び出しから適応的な \textit{population handoff} を通じて、予算配分を進化する集団にシフトさせる訓練不要のフレームワークである \textbf{\model} を提案する。
安価なモデルは、バンディットスケジューラによって割り当てられた短いブロックで複数の軌道を探索する。
ハンドオフ用に構築されたコンパクトで品質の異なる候補銀行の限界改善として定義されたリレーゲインは、スケジューラ報酬として機能し、いつ引き渡すかを決定する。
キュレートされた候補者は、改良のために共有された強いモデル人口を初期化する。
4つのベンチマークと3つの予算で、 \modelは12セット中11セットで最高スコアを獲得し、競争のベースラインを上回っている。
以上の結果から, 国家検索においては, 予算配分は個別の呼び出しではなく, 人口を中心に整理されるべきであることが示唆された。
関連論文リスト
- Dynamically Allocating Evaluation Effort for Model Ranking [60.00410111594536]
相関アームを用いたマルチアームバンディット構成において,マルチモデル人体評価をベストアーム識別問題として定式化する。
トップパフォーマンスモデル間の差別を改善することを示します。
これにより、評価はより速く、より安価で、より大規模な競争評価目標に適合する。
論文 参考訳(メタデータ) (2026-08-04T10:33:04Z) - Generative Frontier Planning for Adaptive Peer-Referral Recruitment under Covariate-Dependent Arrivals [28.082278231005997]
ピア・リフレラル・リクルートシステムは、感染症に罹患する隠れた集団の研究と介入に不可欠である。
ステップごとのモンテカルロサンプリングを決定論的バックアップに置き換えるモデルベースプランナーであるemphGenerative Frontier Planning (GFP)を提案する。
GFPはランダム、強化学習、すなわち動的プログラミングのベースラインを4つの割引因子で上回る。
論文 参考訳(メタデータ) (2026-06-06T22:31:07Z) - Self-Improving Language Models with Bidirectional Evolutionary Search [93.21736992722835]
Bidirectional Evolutionary Search (BES)は、前方の候補の進化と後方の目標の分解を結合する検索フレームワークである。
展開のみ探索によって生成される候補は狭いエントロピーシェルに制限され、進化的演算子はそれを回避できることを示す理論的動機を与える。
実験によると、メインストリームのポストトレーニングアルゴリズムが改善に失敗するポストトレーニングタスクにおいて、BESは一貫性のあるゲインを実現している。
論文 参考訳(メタデータ) (2026-05-27T17:59:15Z) - Squeeze Evolve: Unified Multi-Model Orchestration for Verifier-Free Evolution [81.46210789228296]
検証不要な進化推論のための統合型マルチモデルオーケストレーションフレームワークであるSqueeze Evolveを紹介する。
われわれのアプローチは単純な原則で導かれており、最良効能を有するモデル能力を割り当てる。
論文 参考訳(メタデータ) (2026-04-09T02:14:45Z) - AdaEvolve: Adaptive LLM Driven Zeroth-Order Optimization [61.535567824938205]
本稿では,LLMによる進化を階層的適応最適化問題として再構成するフレームワークであるAdaEvolveを紹介する。
AdaEvolveは185の異なるオープンエンド最適化問題において、オープンエンドベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-02-23T18:45:31Z) - Intention-Conditioned Flow Occupancy Models [80.42634994902858]
大規模な事前学習は、今日の機械学習研究のやり方を根本的に変えた。
同じフレームワークを強化学習に適用することは、RLの中核的な課題に対処するための魅力的な方法を提供するので、魅力的です。
生成AIの最近の進歩は、高度に複雑な分布をモデリングするための新しいツールを提供している。
論文 参考訳(メタデータ) (2025-06-10T15:27:46Z) - From Search To Sampling: Generative Models For Robust Algorithmic Recourse [24.730097141422537]
我々は3つのリコース目標を共同でトレーニングするために設計されたジェネレーティブ・リコースモデルであるGenReを紹介する。
我々はGenReが、最先端のベースラインに比べてコスト、妥当性、妥当性の最良のトレードオフを提供することを示した。
論文 参考訳(メタデータ) (2025-05-12T08:44:28Z) - Which LLM to Play? Convergence-Aware Online Model Selection with
Time-Increasing Bandits [43.65904435249823]
本稿では,モデルの性能向上を効果的に予測する帯域幅増加アルゴリズムTI-UCBを提案する。
本研究は,より効率的かつ経済的なモデル選択のために,増大する収束パターンを活用することの重要性を強調した。
論文 参考訳(メタデータ) (2024-03-11T23:52:46Z) - A Bandit Approach with Evolutionary Operators for Model Selection [0.4604003661048266]
この研究は、モデル選択を無限武装のバンディット問題、すなわち意思決定者が無限数の固定された選択のうちの1つを反復的に選択する問題として定式化する。
アームは、モデルの部分的なトレーニングに対応するアームをトレーニングし、選択するための機械学習モデルである(リソース割り当て)。
本稿では,Audiber らによって導入された UCB-E bandit アルゴリズムに,進化的アルゴリズムからの演算子を組み込んだ Mutant-UCB アルゴリズムを提案する。
3つのオープンソース画像分類データセットで実施されたテストは、この新しい組み合わせ手法の妥当性を証明し、状態よりも優れている。
論文 参考訳(メタデータ) (2024-02-07T08:01:45Z) - MILO: Model-Agnostic Subset Selection Framework for Efficient Model
Training and Tuning [68.12870241637636]
モデル学習からサブセット選択を分離するモデルに依存しないサブセット選択フレームワークMILOを提案する。
実験結果から、MILOはモデルを3ドル(約3,300円)でトレーニングし、ハイパーパラメータを20ドル(約2,300円)でチューニングできます。
論文 参考訳(メタデータ) (2023-01-30T20:59:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。