論文の概要: Planner-as-Router: Joint Plan-Time Model Routing for Cost-Efficient Multi-Agent Workflows
- arxiv url: http://arxiv.org/abs/2609.32917v1
- Date: Sat, 26 Sep 2026 20:10:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 11:58:25.018388
- Title: Planner-as-Router: Joint Plan-Time Model Routing for Cost-Efficient Multi-Agent Workflows
- Title(参考訳): Planner-as-Router:コスト効率の良いマルチエージェントワークフローのための統合計画時間モデルルーティング
- Abstract要約: Planner-as-minus (PaR) はモデル階層の選択を計画そのものに折り畳みます。
PaRはワークフロー全体を前もって見ていて、別のルータモデルやトレーニングデータを必要としない。
シンクフロンティアモデルと同等のコストで、忠実なFrugalGPTカスケードを低コストで使用することができる。
- 参考スコア(独自算出の注目度): 0.8770825039504507
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Running large language model (LLM) agents in production gets expensive fast. A frontier model (the largest, most capable tier) is accurate but can cost 25 times what a small model costs per token, and the gap compounds once a workflow chains several calls together. Planner-as-Router (PaR) attacks this from a different angle. Instead of leaving model-tier selection to some component downstream, it folds the choice into planning itself. As the planner breaks a query into subtasks, it also assigns each one a model size tier (small, mid, or frontier, ordered by capability and price), so the dependencies between subtasks are visible before any specialist runs. Unlike per-call routers such as cascade routing, which look at one node at a time, PaR sees the whole workflow up front and needs no separate router model or training data. We evaluate PaR with EntBench, a benchmark of 54 enterprise agentic tasks across seven classes, graded by actually running the generated Structured Query Language (SQL) and MongoDB queries against live databases. Over 1,157 evaluations spanning eight routers and three seeds, PaR stays on the observed cost-accuracy frontier. It matches a sink-frontier heuristic (frontier model on terminal nodes only) in accuracy at comparable cost and a faithful FrugalGPT cascade at lower cost, and cuts cost 44% against all-frontier routing while giving up 2.9 points of accuracy. Several accuracy gaps fall inside the plus-or-minus six-point confidence interval of a 54-task study, so we frame PaR's advantage as frontier position rather than a clean accuracy win. We also report a preliminary observation, not a validated result: a small pilot hints that cheap routing may carry a hidden compounding penalty on compositional workflows, which we frame as a hypothesis for future measurement. PaR, EntBench, and all evaluation code are open source.
- Abstract(参考訳): 大規模言語モデル(LLM)エージェントを本番環境で実行すると、高速にコストがかかる。
フロンティアモデル(最大、最も有能な層)は正確だが、トークンあたりの小さなモデルコストの25倍の費用がかかる可能性がある。
Planner-as-Router (PaR) はこれを異なる角度から攻撃する。
モデルレベルの選択を下流のコンポーネントに委ねる代わりに、選択を計画そのものに折り畳みます。
プランナーがクエリをサブタスクに分割すると、それぞれにモデルサイズのティア(小さく、中、あるいはフロンティアで、能力と価格によって順序付けられている)を割り当てるので、サブタスク間の依存関係は、専門家が実行する前に確認できる。
一度にひとつのノードを見るカスケードルーティングのような呼び出し単位のルータとは異なり、PaRはワークフロー全体を前もって見ることができ、別のルータモデルやトレーニングデータを必要としない。
私たちは7つのクラスにわたる54のエンタープライズエージェントタスクのベンチマークであるEntBenchでPaRを評価し、実際に生成されたStructured Query Language(SQL)とMongoDBクエリを、ライブデータベースに対して実行することで評価しました。
8つのルータと3つのシードにまたがる1,157以上の評価では、PaRは観測されたコスト精度のフロンティアに留まっている。
シンク・フロンティア・ヒューリスティック(終端ノードのみのフロンティアモデル)の精度を同等のコストで、忠実なFrugalGPTのカスケードを低コストで、全フロンティア・ルーティングに対して44%のコストを削減し、2.9ポイントの精度を与える。
54タスク実験では, プラス・マイナス6点信頼区間内にいくつかの精度ギャップが生じるため, クリーンな精度勝利よりもフロンティアポジションとしてのPaRの優位性を考慮に入れた。
我々はまた、検証された結果ではなく、予備的な観察を報告した: 小さなパイロットは、安価なルーティングが構成ワークフローに隠された複合的なペナルティをもたらす可能性があることを示唆している。
PaR、EntBench、およびすべての評価コードはオープンソースである。
関連論文リスト
- AgentRouter: Heterogeneous Model Routing for Cost-Optimal Multi-Step Agentic Workflows [0.0]
あらゆる軌道をフロンティアモデルにルートするエンタープライズエージェントシステムは、小さなモデルでも同じようにうまく扱えるサブタスクで予算の60-80%を無駄にします。
エージェント軌道上の逐次代入問題としてモデルルーティングを定式化し,エージェント推論を提案する。
エージェントはフロンティアのみのベースラインに対して72%のコスト削減を実現し、フロンティアのみの品質の97.3%を維持している。
論文 参考訳(メタデータ) (2026-09-19T11:06:57Z) - Pandora's AI Model Routing Box: Efficient Allocation with Costly Value Estimation [64.51088225051959]
不均一なAIシステムは、最低コストで最も効果的に答えられる専門家にクエリをルーティングすることで、品質と効率を向上させることができる。
我々はこのトレードオフをPandoraのBoxの例として定式化した。
ガウス信号モデルの下では、得られたポリシーは、各専門家とインプットに対して、その価値見積の精算がそのコストに値するかどうかを決定する、クローズドフォームな情報表現を持つ。
論文 参考訳(メタデータ) (2026-08-20T17:54:37Z) - Agentic Routing: The Harness-Native Data Flywheel [35.444792826526]
DRACOやPinchBenchなどのエージェントベンチマークにおけるシングルトンおよびマルチモデルルーティングに関する研究
エージェントルーティングは単なるコストコントロールではなく、エージェントネイティブなトレーニングのためのデータエンジンである、と氏は主張する。
論文 参考訳(メタデータ) (2026-07-13T11:05:55Z) - SWE-Router: Routing in Multi-turn Agentic Software Engineering Tasks [11.50404356970464]
マルチターンエージェントハーネスに埋め込まれた大規模言語モデル(LLM)は、ソフトウェア工学(SWE)を再構築している
しかし、多くの問題が安い修正を認めると、すべてのタスクをフロンティアモデルにルーティングするのは無駄です。
SWEは,探索的なターン数回で安価なモデルを実行し,結果として生じる部分軌道を読み取る,価値に基づく時間的アプローチである。
本稿では,SWEタスクのコスト効率を大幅に向上すると同時に,より強力なモデルの性能の大部分を維持しながら,SWEタスクのコスト効率を大幅に向上させることを示す。
論文 参考訳(メタデータ) (2026-06-30T01:46:26Z) - Before Thinking, Learn to Decide: Proactive Routing for Efficient Visual Reasoning [87.18590662029432]
本稿では,プロアクティブルーティングパラダイムであるPRPを提案する。このパラダイムは,ドラフトモデルとターゲットモデルの両方の能力を評価することで,早期意思決定を可能にする。
筆者らの試案であるレーティング学習 (DRL) は内部信頼度推定器を内蔵し, 共同レーティング学習 (JRL) は対象モデルが与えられたクエリをどの程度処理できるかを予測する。
これらの評価により、詳細なインスタンスレベルの textbfProactive Routing が可能になり、全体的なパフォーマンスを損なうことなく、推論を大幅に高速化できる。
論文 参考訳(メタデータ) (2026-06-29T12:30:24Z) - Cluster, Route, Escalate: Cascaded Framework for Cost-Aware LLM Serving [69.5155152169752]
大規模言語モデル(LLM)のための2段階カスケードソリューションを提案する。
ステージ1は、受信するクエリをクラスタ化し、各クラスタを最もコスト効率の良いモデルに割り当てる。
ステージ2は品質推定(QE)カスケードを追加し、ステージ1からの出力が低品質であると判断されると、クエリはより強力なモデルにエスカレーションされる。
テストデータセットでは、カスケードシステムは最強モデルの精度の97-99%を保持し、TPOT(Time Per Output Token)を削減している。
タスクの正確性ラベルのみを必要とし、手動で再構成することなくモデルプールの変更に適応する。
論文 参考訳(メタデータ) (2026-06-25T18:29:24Z) - Modality-Native Routing in Agent-to-Agent Networks: A Multimodal A2A Protocol Extension [0.0]
本稿では,Agent-to-Agentネットワークにおけるモダリティネイティブルーティングにより,テキストブートネックベースラインよりもタスクの精度を20パーセント向上することを示す。
本稿では,A2A上のアーキテクチャ層であるMMA2Aについて述べる。
論文 参考訳(メタデータ) (2026-04-14T02:44:50Z) - When Do Tools and Planning Help LLMs Think? A Cost- and Latency-Aware Benchmark [0.0]
大規模言語モデルは推論時間計画と推論を改善するための外部ツールにますます依存している。
グラフ構造化知識(Event-QA)に対するイベント中心質問応答と,Reddit ChangeMyView(CMV)における説得応答生成の2つの現実的な設定で,この挙動をベンチマークする。
LangChainとLangGraphを使って、タスク固有のツールを備えたプラン-実行-再計画エージェントとワンショットベースラインを比較します。
論文 参考訳(メタデータ) (2026-01-06T02:24:29Z) - Rethinking Thinking Tokens: LLMs as Improvement Operators [80.12087211785949]
推論トレーニングは、LLMに長い思考の連鎖(長いCoT)を生み出す動機を与え、自己チェックによるソリューション戦略を探索することを可能にする。
これにより、精度が高くなりますが、コンテキストの長さ、トークン/計算コスト、応答レイテンシが膨らみます。
現在のモデルはメタ認知を活用して、このParetoフロンティアで他の組み合わせを提供できるのでしょうか?
i) 多様なドラフトを並列に生成し、(ii) それらを有界なテキストワークスペースに蒸留し、(iii) このワークスペース上に条件付き精製する。
論文 参考訳(メタデータ) (2025-10-01T17:08:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。