論文の概要: Compute Allocation in Evolutionary Search: From Depth-Breadth to Multi-Armed Bandits
- arxiv url: http://arxiv.org/abs/2605.29268v1
- Date: Thu, 28 May 2026 02:37:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-30 02:45:55.597269
- Title: Compute Allocation in Evolutionary Search: From Depth-Breadth to Multi-Armed Bandits
- Title（参考訳）: 進化的探索におけるCompute Allocation:深さの幅から多関節帯域へ
- Authors: Sixue Xing, Haoyu He, Kerui Wu, Zhuo Yang, Haozheng Luo, Tianfan Fu, Aarthy Nagarajan,
- Abstract要約: 並列トラジェクトリ間でLLMコールを割り当てるマルチアームバンディットであるBaSEを提案する。
BaSEは8つの(モデル、タスク)細胞にまたがる最強の島プロトコールベースラインに対して平均フィットネスを12.3%改善する。
- 参考スコア（独自算出の注目度）: 13.880007443167562
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: LLM-guided evolutionary search (Evolve systems) has reached state-of-the-art results on mathematical and combinatorial tasks, yet most existing systems report only the best of many runs and leave the run-to-run distribution undocumented. We ask how a fixed budget of LLM calls should be allocated, and how reliably a single run reaches the reported numbers. Sweeping the depth-breadth grid over five models and three tasks, we identify two empirical regularities: a fitness-compute envelope along which capability ordering largely collapses on effective FLOPs, and a bilinear depth-breadth fit with task-specific interaction; both are gated by model-task capability. Motivated by these regularities, we propose BaSE (Bandit-based Self-Evolving), a multi-armed bandit that allocates LLM calls across parallel trajectories. Without changing the model, prompt, or evaluator, BaSE improves mean fitness by 12.3% over the strongest island-protocol baseline across 8 (model, task) cells, with the largest gains on high-variance settings: a reliability gain from allocation alone.
- Abstract（参考訳）: LLM誘導進化探索(Evolve system)は、数学的および組合せ的なタスクに関する最先端の結果に達したが、既存のシステムのほとんどは、実行時から実行時までの分布を未文書のまま残しているだけである。
LLMコールの固定予算の割り当て方法と、報告された数値を確実に1回の実行で達成するかを問う。
5つのモデルと3つのタスクにまたがる深さ・幅のグリッドを探索し、実効FLOPに大きく依存するフィットネス・コンピュート・エンベロープと、タスク固有の相互作用に適合する双線形深度・幅の2つの経験的正規性を特定する。
これらの正規性に触発されたBandit-based Self-Evolvingは,並列トラジェクトリ間でLLMコールを割り当てるマルチアームバンディットである。
モデル、プロンプト、評価器を変更することなく、BaSEは8つの(モデル、タスク)セルにまたがる最強の島プロトコールベースラインに対して平均適合度を12.3%改善する。
関連論文リスト
- OpenVLThinkerV2: A Generalist Multimodal Reasoning Model for Multi-domain Visual Tasks [81.07598709704628]
標準線形スケーリングを非線形分布マッチングに置き換える新しいRLトレーニング目標を提案する。
また、高度に堅牢で汎用的なマルチモーダルモデルであるOpenVLThinkerV2を提案する。
論文 参考訳（メタデータ） (2026-04-09T17:59:39Z) - UpSkill: Mutual Information Skill Learning for Structured Response Diversity in LLMs [28.526758776988256]
本稿では,相互情報スキル学習を大規模言語モデルに適用する訓練時間手法であるUpSkillを紹介する。
以上の結果から,UpSkillはより強力なベースモデル上でのマルチタスクのメトリクスを改善することを示す。
pass@kの改善が相互情報目的と密接に結びついているという実証的証拠と理論的証拠の両方を見いだす。
論文 参考訳（メタデータ） (2026-02-25T15:34:14Z) - CoT-Saliency: Unified Chain-of-Thought Reasoning for Heterogeneous Saliency Tasks [96.64597365827046]
本稿では,3つの運用上不均一なサリエンシタスクを共同で処理する,最初の統合フレームワークを提案する。
タスクの不均一性を橋渡しする視覚言語モデル(VLM)において、チェーン・オブ・ソート(CoT)推論プロセスを導入する。
我々は,全タスクにまたがる特別なSOTA手法と強力なクローズドソースVLMの整合性を示す。
論文 参考訳（メタデータ） (2025-11-01T04:37:01Z) - BOTS: A Unified Framework for Bayesian Online Task Selection in LLM Reinforcement Finetuning [82.925106913459]
強化微調整(Reinforcement Finetuning, RFT)は、大規模言語モデル(LLM)を人間の嗜好と整合させ、推論を強化するための重要な手法である。
RFT強化微調整におけるベイズオンラインタスク選択のための統合フレームワークBOTSを紹介する。
論文 参考訳（メタデータ） (2025-10-30T11:15:23Z) - MMR1: Enhancing Multimodal Reasoning with Variance-Aware Sampling and Open Resources [113.33902847941941]
VAS (Variance-Aware Sampling) は、Variance Promotion Score (VPS) によって導かれるデータ選択戦略である。
我々は、1.6MのCoT冷間開始データと15kのRLQAペアを含む大規模かつ慎重にキュレートされたリソースをリリースする。
数学的推論ベンチマークによる実験では、キュレートされたデータと提案されたVASの有効性が示されている。
論文 参考訳（メタデータ） (2025-09-25T14:58:29Z) - Omni-Thinker: Scaling Multi-Task RL in LLMs with Hybrid Reward and Task Scheduling [66.0871543682453]
我々はOmni-Thinkerについて紹介する。Omni-Thinkerは多種多様なタスクにわたって大きな言語モデルをスケールする統合強化学習フレームワークである。
我々のスケジューラは,BWTに基づいてタスクを順序付けし,マルチタスク性能を向上する。
論文 参考訳（メタデータ） (2025-07-20T01:50:16Z) - DFPE: A Diverse Fingerprint Ensemble for Enhancing LLM Performance [11.753349115726952]
そこで我々は,新しいアンサンブル法であるDiverse Fingerprint Ensemble (DFPE)を提案する。
提案手法は,(1)応答型"フィンガープリント"パターンに基づくクラスタリングモデル,(2)量子化に基づくフィルタリング機構の適用,(3)残余モデルに適応重みを割り当てることである。
MMLU(Massive Multitask Language Understanding)ベンチマークの実験では、DFPEは、全体的な精度が3%、規律レベルの精度が5%向上し、最高のシングルモデルを上回った。
論文 参考訳（メタデータ） (2025-01-29T08:44:45Z) - MALT: Improving Reasoning with Multi-Agent LLM Training [67.76186488361685]
MALT(Multi-Agent LLM Training)は、推論プロセスを生成、検証、改善ステップに分割する、新しいポストトレーニング戦略である。
MATH、GSM8K、CSQAでは、MALTは、それぞれ15.66%、7.42%、9.40%の相対的な改善で同じベースラインLLMを上回っている。
論文 参考訳（メタデータ） (2024-12-02T19:30:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。