論文の概要: Attention Tax, Handoff Tax: A Stylised Model of When Multi-Agent LLM Systems Help
- arxiv url: http://arxiv.org/abs/2610.06069v1
- Date: Mon, 05 Oct 2026 10:04:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-09 18:55:51.447266
- Title: Attention Tax, Handoff Tax: A Stylised Model of When Multi-Agent LLM Systems Help
- Title(参考訳): 注意税と脱税--マルチエージェントLLMシステムが役立ったときのモデル
- Abstract要約: 相違点の多くは、さまざまなボトルネックをモデル化することによるものであり、2つのトレードオフを中心に構築されたスタイリングされた信頼性モデルの導入である、と私たちは主張する。
分解は、長いコンテキストの負担を軽減するが、情報が圧縮されたり、エージェント間で転送されたりすると、ハンドオフ税が発生する。
冗長性は複数のサンプルから得られるが、そのメリットは障害の共有量に依存する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent work on multi-agent LLM systems reaches sharply different conclusions: some results show that a single agent with the same information and compute should dominate a delegated system, others that multi-agent gains grow with task depth. We argue that much of the disagreement comes from modelling different bottlenecks, and introduce a stylised reliability model built around two trade-offs. Decomposition reduces the burden of long contexts but incurs a handoff tax when information is compressed or transferred between agents. Redundancy gains from multiple samples, but its benefit depends on how much their failures are shared. With reasoning budget, verification, and task structure added, the model yields two crossover conditions: decomposition becomes preferable once the attention cost avoided by resetting context exceeds the handoff cost, and parallel sampling at equal budget is eventually preferable when its shared-failure floor lies below the error floor of one agent thinking longer. We connect these regimes to recent theoretical and empirical results. On a ledger-reconciliation task we measure the context-degradation curve and the handoff tax from single-agent and handoff runs alone. From these the model places the crossover at depth 10 and predicts decomposition to win at depths 20, 50, and 100. It does, on step-level and final-balance accuracy, and the decomposed system's success, which the prediction never sees, lands within 9 percentage points of the predicted rate at every depth.
- Abstract(参考訳): 近年のマルチエージェントLLMシステムの研究は、情報と計算が同一のエージェントが委譲されたシステムを支配することを示し、タスク深度でマルチエージェントゲインが増加することが示されている。
異論の多くは、さまざまなボトルネックをモデル化することによるものであり、2つのトレードオフを中心に構築されたスタイリングされた信頼性モデルの導入によるものだ、と私たちは主張する。
分解は、長いコンテキストの負担を軽減するが、情報が圧縮されたり、エージェント間で転送されたりすると、ハンドオフ税が発生する。
冗長性は複数のサンプルから得られるが、そのメリットは障害の共有量に依存する。
このモデルでは、推論予算、検証、タスク構造を付加することにより、2つのクロスオーバー条件が得られる: 分解は、コンテキストのリセットによって回避される注意コストがハンドオフコストを超えると好ましくなり、同じ予算での並列サンプリングは、その共有障害床が1つのエージェントのエラーフロアより下にある場合に最終的に好まれる。
我々はこれらの体制を最近の理論的および実証的な結果と結びつけている。
台帳調整作業では、コンテキスト劣化曲線と、単一エージェントとハンドオフからのハンドオフ税を単独で測定する。
これらのモデルから、クロスオーバーを深さ10に配置し、分解を予測して深さ20,50,100で勝利する。
これはステップレベルと最終バランスの精度で行われ、予測が決して見ることのない分解されたシステムの成功は、予測された速度の9パーセント以内の深さで到達する。
関連論文リスト
- Where Cyber Agents Struggle: Bottleneck Analysis of Multi-Stage LLM Agents [1.3331647120165038]
マルチステージのLSMベースのサイバーエージェントは、不安定なまま攻撃を完了し、コストがかかるか、実行証拠の誤った解釈に依存している。
本稿では,企業の側方移動シナリオにおいて,オーケストレータ,エグゼキュータ,検証器を併用した自律アドバイザリーシステムのエンドツーエンドの診断研究について述べる。
論文 参考訳(メタデータ) (2026-09-23T11:58:25Z) - The Collaboration Tax: How Much LLM Multi-Agent Systems Pay to Coordinate [17.904755511467066]
個人情報を備えた2人組協調ゲームにおいて,チーム分散化損失として協調税を定式化する。
我々はこの定義を、接地摩擦の源泉によってグループ化された32個の単独抽出可能なタスクで運用し、7つのプロバイダから11個のモデルで測定する。
論文 参考訳(メタデータ) (2026-08-23T00:47:00Z) - TAPO: Tool-Aware Policy Optimization via Credit Transfer for Multimodal Search Agents [54.08846865906602]
ツール強化マルチモーダルサーチエージェントにおいて,クレジットミス割り当てをGRPOの系統的障害モードとして特徴付ける。
本稿では,情報取得ツールのパラメータ決定性を利用したツール・アウェア・ポリシー・オプティマイズ(TAPO)を提案する。
論文 参考訳(メタデータ) (2026-06-04T07:15:43Z) - Single-Agent LLMs Outperform Multi-Agent Systems on Multi-Hop Reasoning Under Equal Thinking Token Budgets [14.028807574426748]
データ処理の不等式に基づく情報理論の議論を示す。
トークンを一定に保った場合,SASはマルチホップ推論タスクにおいてMASと一貫して一致し,より優れることがわかった。
以上の結果から,マルチホップ推論タスクにおいて,マルチエージェントシステムのアドバンテージを未計算の計算や文脈効果によってよりよく説明できることが示唆された。
論文 参考訳(メタデータ) (2026-04-02T18:47:48Z) - A Replicate-and-Quantize Strategy for Plug-and-Play Load Balancing of Sparse Mixture-of-Experts LLMs [64.8510381475827]
SMOE(Sparse Mixture-of-Experts)アーキテクチャは、大規模言語モデルを効率的にスケールするためにますます使われている。
SMoEモデルは専門家間で厳しい負荷不均衡に悩まされることが多く、専門家のごく一部がほとんどのトークンを受け取り、他のモデルは未利用である。
推定中のエキスパートルーティングの体系的解析を行い, (i) 負荷不均衡が持続し, バッチサイズが大きくなる, (ii) 選択頻度が, 専門家の重要度を確実に反映しない, (iii) 専門家の全体負荷と重要性を, キャリブレーションセットを用いて推定できる,という3つの知見を同定する。
論文 参考訳(メタデータ) (2026-02-23T15:11:16Z) - Phase Transition for Budgeted Multi-Agent Synergy [41.486076708302456]
マルチエージェントシステムは信頼性を向上させることができるが、固定された推論予算の下では、しばしば役立つか、飽和するか、崩壊するかさえある。
我々は、現代のエージェントスタックの3つの束縛制約からこれらの状態を予測する最小限の校正可能な理論を開発する。
論文 参考訳(メタデータ) (2026-01-24T05:32:50Z) - Collaborative Value Function Estimation Under Model Mismatch: A Federated Temporal Difference Analysis [55.13545823385091]
フェデレーション強化学習(FedRL)は、エージェント間のデータ交換を防止し、データのプライバシを維持しながら協調学習を可能にする。
現実世界のアプリケーションでは、各エージェントは若干異なる遷移ダイナミクスを経験し、固有のモデルミスマッチを引き起こす。
情報共有の適度なレベルでさえ、環境固有のエラーを著しく軽減することを示す。
論文 参考訳(メタデータ) (2025-03-21T18:06:28Z) - On the Resilience of LLM-Based Multi-Agent Collaboration with Faulty Agents [58.79302663733703]
大規模言語モデルに基づくマルチエージェントシステムは、専門家エージェントの協力により、様々なタスクにまたがる優れた能力を示している。
不器用なエージェントや悪意のあるエージェントが与える影響 - システム全体のパフォーマンスにおいて、頻繁にタスクでエラーを犯すものは、いまだに過小評価されていない。
本稿では,下流タスクにおける障害要因下での各種システム構造のレジリエンスについて検討する。
論文 参考訳(メタデータ) (2024-08-02T03:25:20Z) - A Unified Framework for Multi-distribution Density Ratio Estimation [101.67420298343512]
バイナリ密度比推定(DRE)は多くの最先端の機械学習アルゴリズムの基礎を提供する。
ブレグマン最小化の発散の観点から一般的な枠組みを開発する。
我々のフレームワークはバイナリDREでそれらのフレームワークを厳格に一般化する手法に導かれることを示す。
論文 参考訳(メタデータ) (2021-12-07T01:23:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。