論文の概要: The Coordination Tax and the Heterogeneity Dividend: Break-Even Conditions for Multi-Agent LLM Pipelines
- arxiv url: http://arxiv.org/abs/2610.37700v1
- Date: Sun, 25 Oct 2026 11:41:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-01 01:32:09.888369
- Title: The Coordination Tax and the Heterogeneity Dividend: Break-Even Conditions for Multi-Agent LLM Pipelines
- Title（参考訳）: コーディネーション税とヘテロジニティーの分別:マルチエージェントLLMパイプラインのブレーク・エヴュー条件
- Abstract要約: Open Floor Protocolプロトコルは、1ハンドオフあたり7.2ms、パイプラインウォール時間の0.11%を追加している。
プランナー・コーダ・リビューア・パイプラインはシングル・ストロング・コールの3.22倍の費用と3.24倍の時間を要する。
プランナーとレビュアーを安価なモデルに切り替えると、パイプラインのコストは0.39倍になるが、pass@1を-6.7ポイント変更し、単一の呼び出しよりも重要で遅く、正確ではない。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-agent LLM pipelines built on interoperability protocols such as the Open Floor Protocol (OFP) or A2A are usually justified on capability grounds, with their runtime cost treated as an overhead of unknown size. Comparing such a pipeline with one model call is underspecified, because a pipeline can give each role a different model. We give a closed-form model that sets the coordination tax (decomposition overhead plus per-handoff protocol cost) against the heterogeneity dividend from routing work to a cheaper model, with a break-even threshold and a feasibility bound, $α< 1/r$, and measure every term, with OFP as the protocol under test, on 135 HumanEval and ClassEval tasks in 2430 runs of six architectures with Claude Opus 5.5 and Haiku 5.5. The protocol adds 7.2 ms per handoff, 0.11% of pipeline wall time. Decomposition does not pay on these tasks: a planner-coder-reviewer pipeline costs 3.22x as much as a single strong call, takes 3.24x as long, and solves no more tasks. Moving planner and reviewer to the cheap model cuts the pipeline's cost to 0.39x but changes pass@1 by -6.7 points, leaving it dearer, slower and less accurate than the single call, and the break-even forecast misses by -19% because the cheap roles inflate token volume. The saving lies in choosing a model per task instead: an oracle choice between the two single calls solves 94.3% of runs at half the strong call's cost per solved task.
- Abstract（参考訳）: Open Floor Protocol (OFP) や A2A などのインターオペラビリティプロトコル上に構築されたマルチエージェント LLM パイプラインは、通常、その実行コストを未知のサイズのオーバーヘッドとして扱う能力面で正当化される。
このようなパイプラインと1つのモデル呼び出しを比較することは、パイプラインがそれぞれのロールに異なるモデルを与える可能性があるため、過小評価される。
クロードオプス5.5と俳句5.5の6つのアーキテクチャで、2430回のHumanEvalおよびClassEvalタスクで135のHumanEvalおよびClassEvalタスクに対して、ルーティング作業からより安価なモデルに分割した不均一性に対する調整税(分解オーバーヘッドとハンドオフプロトコルコスト)を設定するクローズドフォームモデルを提供する。
このプロトコルでは、1ハンドオフあたり7.2ms、パイプラインの壁時間の0.11%が追加されている。
プランナー・コーダ・リビューア・パイプラインは1回の強い呼び出しの3.22倍の費用と3.24倍の時間を要する。
プランナーとレビュアーを安価なモデルに切り替えると、パイプラインのコストは0.39倍になるが、パス@1を-6.7ポイント変更し、シングルコールよりも重要で遅く、正確さを損なう。
2つの単一の呼び出し間のオラクルの選択は、強い呼び出しのコストの半分で94.3%の実行を解決します。
関連論文リスト
- Beyond Accuracy: Disentangling Decomposition from Typed-State Quality Assurance in Multi-Agent LLM Pipelines [0.4640835690336653]
マルチエージェントのLCMパイプラインは、ソフトウェアエンジニアリングのタスクにおいて、しばしば利益が認められている。
利得がエージェント間の型付き契約によるものなのか、あるいは分解が可能な特別なプロンプトによるものなのかは、ほとんど明らかではない。
要求工学における帰属問題について考察する。
論文 参考訳（メタデータ） (2026-10-22T13:46:20Z) - SquidAgent: Parallelize Wisely, Coordinate Efficiently [66.64544354706031]
LLMベースのエージェントは複雑なマルチステップタスクを解決するが、シーケンシャルな実行にはかなりの遅延が発生する。
クリティカルパスコストに加えて、再探索とアライメントオーバーヘッドが対応するシリアルコストよりも低い場合にのみ、レイヤを並列化すべきである。
SquidAgentは平均スループット2.2$times$、平均スループット2.6$times$、最強のマルチエージェントベースラインよりも2.0$times$のスループット改善を実現している。
論文 参考訳（メタデータ） (2026-10-06T16:35:28Z) - Planner-as-Router: Joint Plan-Time Model Routing for Cost-Efficient Multi-Agent Workflows [0.8770825039504507]
Planner-as-minus (PaR) はモデル階層の選択を計画そのものに折り畳みます。
PaRはワークフロー全体を前もって見ていて、別のルータモデルやトレーニングデータを必要としない。
シンクフロンティアモデルと同等のコストで、忠実なFrugalGPTカスケードを低コストで使用することができる。
論文 参考訳（メタデータ） (2026-09-26T20:10:29Z) - Decoupled Early Exits for Task-Dependent Compute Allocation in Flow-Matching VLAs [53.20313939184399]
フローマッチング型ビジョン・ランゲージ・アクション(VLA)モデルは、ジェネラリストロボット制御の潜在的な解決策として浮上している。
本稿では,バックボーン深度を$V$,アクションエキスパート深度を$A$,ステップを$D$とすることを提案する。
最適な計算予算はタスクに依存しており、様々なタスクは異なる軸と深さから恩恵を受ける。
論文 参考訳（メタデータ） (2026-09-24T11:10:00Z) - From Production Traffic to Post-Training: Building a Self-Hosted LLM That Covers the Corporate Request Mix [55.08143827481755]
200以上の内部アプリケーションから1つのモデルにトラフィックを集約します。
我々は、各軸ごとに別々のGRPOエキスパートを訓練し、2段階のSLERPを介してそれらをマージする。
このモデルは、プラットフォームトラフィックの50%、月1億6600万リクエストをサービスコストのごく一部で吸収する。
論文 参考訳（メタデータ） (2026-09-01T17:39:26Z) - AESOP: Adversarial Execution-path Selection to Overload Deep Learning Pipelines [6.773252452930085]
現代の機械学習のデプロイメントは、動的推論パイプラインに特別なモデルを組み込むようになってきている。
この構造は, 単一モデルを対象とした既存手法では利用できない, 効率攻撃面を生成する。
脆弱性誘導経路ランキングと適応的損失重み付けを組み合わせたフレームワークであるAESOPを提案する。
論文 参考訳（メタデータ） (2026-05-09T09:16:49Z) - Correction and Corruption: A Two-Rate View of Error Flow in LLM Protocols [51.56484100374058]
そこで本研究では,単一プロトコルステップを正確なマッチングタスクで監査するためのペアアウトカム計測インタフェースを提案する。
各インスタンスについて、インターフェースはベースラインの正当性ビットと後ステップの正当性ビットを記録する。
これらのレートは精度の変化を予測し、種、混合物、パイプライン間でテスト可能な再利用可能な経験的インターフェースを定義する。
論文 参考訳（メタデータ） (2026-04-20T13:25:40Z) - Modality-Native Routing in Agent-to-Agent Networks: A Multimodal A2A Protocol Extension [0.0]
本稿では,Agent-to-Agentネットワークにおけるモダリティネイティブルーティングにより,テキストブートネックベースラインよりもタスクの精度を20パーセント向上することを示す。
本稿では,A2A上のアーキテクチャ層であるMMA2Aについて述べる。
論文 参考訳（メタデータ） (2026-04-14T02:44:50Z) - SpecPipe: Accelerating Pipeline Parallelism-based LLM Inference with Speculative Decoding [33.55718885446209]
パイプラインに投機トークンをステップバイステップで埋めるSpecPipeを紹介します。
ハードウェア利用の最大化によって、SpecPipeはパイプライン毎に1つのトークンを理想的にデコードする。
SpecPipe-DB はシングルリクエストとマルチリクエストの推論のために SpecPipe-DB を用いて動的ワークロードで実装する。
論文 参考訳（メタデータ） (2025-04-05T08:31:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。