論文の概要: When Do Multi-Agent Systems Help? An Information Bottleneck Perspective

• arxiv url: http://arxiv.org/abs/2607.16133v1
• Date: Fri, 17 Jul 2026 17:13:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-20 17:56:52.915599
• Title: When Do Multi-Agent Systems Help? An Information Bottleneck Perspective
• Title（参考訳）: マルチエージェントシステムはいつ役に立つのか?
• Authors: Wendi Yu, Lianhao Zhou, Xiangjue Dong, Sai Sudarshan Barath, Declan Staunton, Byung-Jun Yoon, Xiaoning Qian, James Caverlee, Shuiwang Ji,
• Abstract要約: マルチエージェントシステムとシングルエージェントシステムの違いを明らかにするための,情報ボトルネックの視点を提供する。 無限リレー帯域では、任意のSASをMASでシミュレートし、フルアップストリームコンテキストを送信可能であることを示す。 我々は、このトレードオフを効果的なパラメータ$$によって制御される情報のボトルネックとして形式化し、モデル能力とのバランスのずれを捉えます。
• 参考スコア（独自算出の注目度）: 58.23673862794022
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM powered multi-agent systems (MAS) have emerged as a promising paradigm for complex tasks. However, their advantages over single-agent systems (SAS) remain unclear, with performance varying inconsistently across settings. Here, we provide an information bottleneck perspective on elucidating the differences between MAS and SAS. Specifically, our key observation is that a SAS accumulates its full reasoning trace in one shared context, while a MAS uses isolated local contexts connected by bounded relay messages. We show that, under infinite relay bandwidth, any SAS can be simulated by a MAS that transmits the full upstream context. Thus, the nontrivial advantage of MAS arises under bounded relays, where compression introduces a fundamental trade-off: reducing redundant context can improve efficiency, but may also incur loss of task-relevant information. We formalize this trade-off as an information bottleneck controlled by an effective parameter $β$, which captures how the balance shifts with model capability, and shows that MAS gains arise when context reduction outweighs relay information loss. We conduct 18 controlled experiments across five benchmarks and three model scales to validate our theoretical studies. We observe that MAS consistently helps when relays are near-sufficient, especially for weaker models. In contrast, MAS gains shrink or reverse when relays incur information loss, especially for stronger models that can already extract useful information from redundant context and thus gain little from compression. Our study shows that multi-agent design is fundamentally an information-bottleneck optimization problem. This perspective explains when bounded inter-agent communication helps or hurts.
• Abstract（参考訳）: LLM を用いたマルチエージェントシステム (MAS) は,複雑なタスクに対して有望なパラダイムとして登場した。 しかし、単一エージェントシステム(SAS)に対する優位性は不明確であり、その性能は設定によって異なる。 ここでは、MASとSASの違いを解明するための情報ボトルネックの視点を提供する。 具体的には、SASは1つの共有コンテキストに完全な推論トレースを蓄積し、MASは有界リレーメッセージによって接続された孤立したローカルコンテキストを使用する。 無限リレー帯域では、任意のSASをMASでシミュレートし、フルアップストリームのコンテキストを送信できることが示される。 したがって、MASの非自明な利点は、圧縮が基本的なトレードオフをもたらす有界リレーの下で生じる。 我々は、このトレードオフを効果的なパラメータである$β$で制御される情報ボトルネックとして定式化し、モデル能力とのバランスのずれを捉え、コンテキスト還元がリレー情報損失を上回る場合にMASが上昇することを示す。 5つのベンチマークと3つのモデルスケールで18の制御実験を行い、理論的研究を検証する。 我々は、特に弱いモデルにおいて、リレーがほぼ十分である場合に、MASが一貫した助けとなることを観察する。 対照的に、特に冗長なコンテキストから有用な情報を抽出し、圧縮からほとんど得られない強力なモデルでは、MASは情報損失をリレーする場合に縮小または反転する。 本研究は,マルチエージェント設計は基本的に情報基盤最適化問題であることを示す。 この視点は、境界付きエージェント間通信が役に立つか、痛いかを説明します。

関連論文リスト

• Large Vision-Language Models Get Lost in Attention [51.851592109135716]
  本稿では,情報理論と幾何に基づく統合フレームワークを提案し,残差更新の幾何的およびエントロピー的性質を定量化する。 注意は再設定に焦点を当てたサブスペース言語演算子として機能し、FFNはセマンティックイノベーションを駆動するサブスペース言語演算子として機能します。
  論文  参考訳（メタデータ） (2026-05-07T04:45:52Z)
• Does RL Expand the Capability Boundary of LLM Agents? A PASS@(k,T) Analysis [16.739617199649615]
  効率改善から機能拡張を分離する指標であるPASS@(k,T)を紹介する。 我々の主な発見は、静的推論結果とは対照的に、ツール利用RLは機能境界を真に拡大するということです。 一致したトレーニングデータの下では、教師付き微調整は、同じ構成上の境界を回帰させ、因果因子として自己指向的な探索を分離する。
  論文  参考訳（メタデータ） (2026-04-16T11:06:19Z)
• TopoCurate:Modeling Interaction Topology for Tool-Use Agent Training [53.93696896939915]
  訓練用ツール使用エージェントは一般的に、パスレート選択されたタスクに対して、軌道変更の成功と強化学習(RL)に依存している。 TopoCurateは,同一タスクから多段階的なロールアウトを統一的な意味的商トポロジに投影する対話型フレームワークである。 TopoCurateは最先端のベースラインに対して4.2%(SFT)と6.9%(RL)という一貫したゲインを達成している。
  論文  参考訳（メタデータ） (2026-03-02T10:38:54Z)
• Explainability of Complex AI Models with Correlation Impact Ratio [10.61008729196936]
  複雑なAIシステムはより良い予測を行うが、透明性が欠如し、信頼性、解釈可能性、安全なデプロイメントが制限されることが多い。 ExCIR(Explainability through correlation Impact Ratio)は,モデル出力に対する入力特徴の寄与を説明するための理論的基礎とシンプルで信頼性の高い指標である。 我々は,ExCIRが軽量なシングルパスの定式化により,相関した特徴から生じる依存関係をキャプチャすることを示した。
  論文  参考訳（メタデータ） (2026-01-10T21:56:24Z)
• SAMSA: Efficient Transformer for Many Data Modalities [12.7600763629179]
  本稿では,コンテキスト認識型線形複雑性自己認識機構SAMSA-SAMpling-Self-Attentionを提案する。 我々のメカニズムは、私たちが発見した代替手法を使わずに、微分可能なサンプリングに基づいています。 SAMSAは多くのベンチマークで競合やSOTAの結果を得たが、他の非常に特殊なモデルに比べて推論が速い。
  論文  参考訳（メタデータ） (2024-08-10T00:09:06Z)
• Enhancing data efficiency in reinforcement learning: a novel imagination mechanism based on mesh information propagation [0.3729614006275886]
  Imagination Mechanism (IM) と呼ばれる新しいメッシュ情報伝達機構を導入する。 IMは、単一のサンプルによって生成された情報を、エピソード間で異なる状態に効果的にブロードキャストすることを可能にする。 汎用性を促進するため,他の広く採用されているRLアルゴリズムにシームレスかつ流動的に統合可能なプラグイン・アンド・プレイモジュールとして機能するIMを拡張した。
  論文  参考訳（メタデータ） (2023-09-25T16:03:08Z)
• Correlation Information Bottleneck: Towards Adapting Pretrained Multimodal Models for Robust Visual Question Answering [63.87200781247364]
  相関情報ボトルネック (CIB) は圧縮と表現の冗長性のトレードオフを求める。 マルチモーダル入力と表現の相互情報に対して,理論上界を厳密に導出する。
  論文  参考訳（メタデータ） (2022-09-14T22:04:10Z)
• Examining and Combating Spurious Features under Distribution Shift [94.31956965507085]
  我々は、最小限の統計量という情報理論の概念を用いて、ロバストで刺激的な表現を定義し、分析する。 入力分布のバイアスしか持たない場合でも、モデルはトレーニングデータから急激な特徴を拾い上げることができることを証明しています。 分析から着想を得た結果,グループDROは,グループ同士の相関関係を直接考慮しない場合に失敗する可能性が示唆された。
  論文  参考訳（メタデータ） (2021-06-14T05:39:09Z)
• Understanding Self-supervised Learning with Dual Deep Networks [74.92916579635336]
  本稿では,2組の深層ReLUネットワークを用いたコントラスト型自己教師学習(SSL)手法を理解するための新しい枠組みを提案する。 種々の損失関数を持つSimCLRの各SGD更新において、各層の重みは共分散演算子によって更新されることを示す。 共分散演算子の役割と、そのようなプロセスでどのような特徴が学習されるかをさらに研究するために、我々は、階層的潜在木モデル(HLTM)を用いて、データ生成および増大過程をモデル化する。
  論文  参考訳（メタデータ） (2020-10-01T17:51:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。