論文の概要: Fusion is the New Mutation: Bandit-Guided Evolution on Workflow Graphs
- arxiv url: http://arxiv.org/abs/2610.05284v1
- Date: Sun, 04 Oct 2026 15:04:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 22:01:42.743484
- Title: Fusion is the New Mutation: Bandit-Guided Evolution on Workflow Graphs
- Title(参考訳): Fusionが新たなミューテーション - ワークフローグラフのバンドガイドによる進化
- Abstract要約: DAGOは、限られた評価予算の下で、どの親が融合するかを学ぶ。
対角的なLinUCBポリシーは、武器間で共有報酬モデルを学ぶ。
共有有向非巡回グラフは、発見とその多親系を維持している。
- 参考スコア(独自算出の注目度): 20.14909118568254
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Automated agentic workflow optimization relies on costly evaluations, making it essential to allocate a limited evaluation budget effectively. Multi-parent fusion can reuse designs from previously discovered workflows, but identifying promising parent combinations requires learning from limited fusion feedback. We introduce DAGO (Directed Acyclic Graph Optimization), a contextual-bandit-guided framework that learns which parent workflows to fuse under a limited evaluation budget. DAGO formulates each candidate parent combination as an arm, represented by pretrained embeddings of its constituent workflows' code and prompts. A diagonal LinUCB policy learns a shared reward model across arms and balances exploitation of arms with high predicted offspring quality against uncertainty-driven exploration. After an arm is selected, an LLM generates a child workflow through summary-guided fusion, and the child's validation score serves as the reward for updating the bandit. A shared directed acyclic graph maintains discovered workflows and their multi-parent lineage, providing an expanding pool of parents for subsequent arm proposals. Across six benchmarks covering mathematical reasoning, code generation, and question answering, DAGO achieves the highest macro-average score among the evaluated baselines. Under matched validation-evaluation budgets, it improves over AFlow from 80.3 to 81.7 while reducing aggregate search expenditure by 11.2%. Ablation studies show that LinUCB-guided arm selection outperforms both random selection and its exploration-free variant, supporting the value of feedback-driven selection and exploration-exploitation balance.
- Abstract(参考訳): エージェントワークフローの自動最適化はコスト評価に依存しており、限られた評価予算を効果的に割り当てることが不可欠である。
マルチペアレントフュージョンは、以前発見されたワークフローから設計を再利用することができるが、有望な親の組み合わせを特定するには、限られたフュージョンフィードバックから学ぶ必要がある。
DAGO(Directed Acyclic Graph Optimization)は、限られた評価予算の下で、どの親ワークフローを融合させるかを学ぶためのコンテキスト帯域誘導フレームワークである。
DAGOは、それぞれの候補親の組み合わせをアームとして定式化し、構成ワークフローのコードとプロンプトの事前訓練された埋め込みによって表現する。
対角的なLinUCB政策は、武器間の共通報酬モデルを学び、不確実性による探索に対して高い予測された子孫品質を持つ武器の搾取のバランスをとる。
腕が選択された後、LCMは要約誘導融合により子ワークフローを生成し、子供の検証スコアは、盗賊を更新する報酬として機能する。
共有された非環状グラフは、発見されたワークフローとその多親系を維持し、その後の腕の提案のために親のプールを拡大する。
数学的推論、コード生成、質問応答に関する6つのベンチマークで、DAGOは評価されたベースラインの中で最も高いマクロ平均スコアを達成している。
一致した検証評価予算の下では、AFlowを80.3から81.7に改善し、総検索費用を11.2%削減した。
アブレーション研究では、LinUCB誘導アームの選択はランダム選択と探索自由変異の両方に優れており、フィードバック駆動の選択と探索-探索バランスの値を支持することが示されている。
関連論文リスト
- MESH-Harness: Self-Improving Agent Harnesses via Bandit-Guided Compositional Evolution [51.00839146188019]
MESH-Harnessは、各ハーネスを明示的なロール固有のインターフェイスを持つ機能モジュールにまとめる。
Mixed-start coordinate ascentは、空間を列挙することなく、評価のための完全な構成を選択する。
繰り返しハーネス最適化はMESH-Harnessを5.63-7.79ポイント改善した。
論文 参考訳(メタデータ) (2026-10-04T15:22:23Z) - FlowBank: Query-Adaptive Agentic Workflows Optimization through Precompute-and-Reuse [58.80348559239392]
大規模言語モデル(LLM)ベースのマルチエージェントシステムはますます強力になっている。
タスクレベルのメソッドはかなりのオフライン計算に費やしますが、単一のワークフローのみをデプロイします。
クエリレベルのメソッドは、クエリ毎の新しいワークフローを相当なコストで合成する。
本稿では,ポートフォリオベースのエージェントワークフロー最適化フレームワークであるFlowBankを紹介する。
論文 参考訳(メタデータ) (2026-06-09T17:58:21Z) - TRACE: A Unified Rollout Budget Allocation Framework for Efficient Agentic Reinforcement Learning [52.67756371231985]
検証可能な報酬を伴う強化学習(RLVR)は、大規模言語モデルにおける推論とエージェント的行動を強化するための有望なアプローチである。
本稿では,Tree Rollout Allocation for Contrastive Exploration (TRACE)について紹介する。
技術的には、TRACEはロールアウト予算をルートと中間プレフィックスの両方に割り当てている。
論文 参考訳(メタデータ) (2026-06-09T17:16:03Z) - Breaking $\textit{Winner-Takes-All}$: Cooperative Policy Optimization Improves Diverse LLM Reasoning [53.42577591449649]
グループ協力政策最適化は、トレーニングパラダイムをロールアウト競争からチーム協力へとシフトさせる。
GCPOは独立したロールアウトスコアをチームレベルのクレジット割り当てに置き換える。
チームへの平均的な限界貢献に従って、各ロールアウトに対して、グループチームの報酬を再分配する。
論文 参考訳(メタデータ) (2026-05-12T03:20:24Z) - Relation Reasoning with LLMs in Expensive Optimization [19.271995977675758]
本稿では,強化学習型関係ベース大規模言語モデル (LLM) であるR2SAEAを提案する。
関係性に基づく代理モデリングをコンテキスト内のペアワイズ推論タスクとして用いた。
単目的と多目的のベンチマーク実験では、関係予測と最先端の最適化性能が改善された。
論文 参考訳(メタデータ) (2026-04-30T04:28:10Z) - Monte Carlo Tree Search Boosts Reasoning via Iterative Preference Learning [55.96599486604344]
本稿では,Large Language Models (LLMs) の推論能力向上を目的とした,反復的な選好学習プロセスによるアプローチを提案する。
我々は、MCTS(Monte Carlo Tree Search)を用いて好みデータを反復的に収集し、そのルックアヘッド機能を利用して、インスタンスレベルの報酬をよりきめ細かいステップレベルの信号に分解する。
提案アルゴリズムはDPO(Direct Preference Optimization)を用いて,新たに生成されたステップレベルの優先度データを用いてLCMポリシーを更新する。
論文 参考訳(メタデータ) (2024-05-01T11:10:24Z) - Cost-efficient Crowdsourcing for Span-based Sequence Labeling: Worker Selection and Data Augmentation [30.179968217703635]
本稿では,新たなクラウドソーシング作業者選択アルゴリズムを導入し,アノテーションの品質向上とコスト削減を図る。
提案アルゴリズムは,作業者選択にコンビニアル・マルチアーマッド・バンドイット(CMAB)アプローチ,コスト効率のよいフィードバック機構を利用する。
論文 参考訳(メタデータ) (2023-05-11T09:40:24Z) - Output-Weighted Sampling for Multi-Armed Bandits with Extreme Payoffs [11.1546439770774]
極度のペイオフを伴うバンディット問題におけるオンライン意思決定のための新しいタイプの獲得機能を提示する。
我々は,最も関連性が高いと考えられる盗賊を探索する新しいタイプの上位信頼境界(UCB)取得関数を定式化する。
論文 参考訳(メタデータ) (2021-02-19T18:36:03Z) - Distributed Cooperative Decision Making in Multi-agent Multi-armed
Bandits [6.437761597996503]
複数のエージェントが同じバンディット(MAB)に直面している分散意思決定問題について検討する。
我々は,各アームの平均報酬を協調的に推定するための動的,コンセンサスに基づく分散推定アルゴリズムを設計する。
両アルゴリズムが中心核融合センターの性能に近いグループ性能を達成することを示す。
論文 参考訳(メタデータ) (2020-03-03T03:20:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。