論文の概要: Estimation of Propagated Risk in LLM-based Multi-Agent Systems

• arxiv url: http://arxiv.org/abs/2610.33282v1
• Date: Fri, 23 Oct 2026 20:46:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.291644
• Title: Estimation of Propagated Risk in LLM-based Multi-Agent Systems
• Title（参考訳）: LLMに基づくマルチエージェントシステムにおける伝播リスクの推定
• Abstract要約: エージェントレベルのエラーリスクをマルチエージェント実行トレースから推定する。 そこで本研究では,上流エージェントの正当性と誤動作性を別々に学習する対話条件モデルを提案する。 3つのマルチエージェントアーキテクチャと3つのベンチマークでアプローチを評価した。
• 参考スコア（独自算出の注目度）: 5.808757113397115
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Model (LLM) based multi-agent systems introduce a distinctive reliability challenge in which actions taken by upstream agents can affect the correctness of downstream agents. While prior work has investigated error propagation and developed methods for estimating uncertainty inherited from upstream agents, existing approaches do not explicitly model how realized sender-receiver interactions contribute to downstream error risk under different sender correctness states. In this work, we study agent-level error-risk estimation from multi-agent execution traces. We propose Interaction-Effect Propagation (IE-Prop), an interaction-conditioned model that learns separate effects for correct and incorrect upstream agents. For each sender-receiver interaction, the model combines these conditional effects using the sender's estimated error risk, and recursively propagates the resulting risk estimates through the execution graph. We evaluate our approach across three multi-agent architectures and three benchmarks. Across all evaluated architectures, our approach raises the final-node AUROC over the established baseline by approximately 0.05 points on average. Furthermore, tracking risk across multiple agent steps contributes a distinct +0.03 AUROC gain in sequential systems. These results show that realized inter-agent interactions provide predictive information beyond receiver-local evidence, while the value of multi-step risk tracking depends on the system's information-flow structure.
• Abstract（参考訳）: 大規模言語モデル(LLM)に基づくマルチエージェントシステムでは,上流エージェントのアクションが下流エージェントの正しさに影響を与えるという,ユニークな信頼性の問題が発生する。 従来, 上流エージェントから受け継いだ不確かさを推定する手法が開発されてきたが, 既存の手法では, 送信側と受信側との相互作用が, 異なる送信側正当性条件下で下流側のエラーリスクにどのように寄与するかを, 明確にモデル化していない。 本研究では,マルチエージェント実行トレースからエージェントレベルのエラーリスクを推定する。 本稿では, 上流エージェントの正誤に対する個別効果を学習する対話条件モデルであるインタラクション・エフェクト・プロパゲーション(IE-Prop)を提案する。 各送信者と受信者間の相互作用について、モデルはこれらの条件効果を送信者の推定誤りリスクを使って組み合わせ、実行グラフを通じて得られたリスク推定を再帰的に伝播する。 3つのマルチエージェントアーキテクチャと3つのベンチマークでアプローチを評価した。 評価されたアーキテクチャ全体にわたって、我々のアプローチは、確立されたベースライン上の最終ノードAUROCを平均0.05ポイント引き上げる。 さらに、複数のエージェントステップにまたがるリスクの追跡は、シーケンシャルシステムにおいて、明確な+0.03 AUROCゲインに寄与する。 これらの結果から,現実のエージェント間相互作用はレシーバローカルな証拠以上の予測情報を提供する一方で,マルチステップリスクトラッキングの値はシステムの情報フロー構造に依存していることがわかった。

関連論文リスト

• Do Agents Know When They Succeed? Calibrating Agent Confidence from Internal Representations [0.09085204695117637]
  従来の機械学習システムと比較すると、エージェントは計画、ツール呼び出し、動的環境相互作用を伴う複雑な障害モードを持つ。 モデルの内部表現が,マルチターンエージェント構成における最終的なタスク成功のシグナルをより強くするかどうかを検討する。
  論文  参考訳（メタデータ） (2026-09-08T20:58:49Z)
• From Sequence to Structure: Relational Uncertainty Propagation for LLM Agents [75.69180947909148]
  大規模言語モデル(LLM)エージェントのためのトラジェクトリレベルのUQフレームワークを提案する。 RuPAは、推論状態、ツールインタラクション、環境フィードバックが時間的およびセマンティックな依存関係エッジで接続されたノードである、指向的なトラジェクトリグラフとして実行履歴を表現している。 我々は,複数のモデルファミリにまたがる6つのオープンソースLCMを用いて,代用エージェントベンチマーク($2, Terminal-Bench-2, GAIA)でRUPAを評価した。
  論文  参考訳（メタデータ） (2026-08-17T01:40:14Z)
• Before Agents Speak: Pre-hoc Failure Risk Inference in Multi-Agent Systems [16.529918071209643]
  LLMベースのマルチエージェントシステム(MAS)は、協調推論と意思決定において顕著な能力を示した。 局所幻覚は エージェント・コミュニケーション・チェーンに沿って伝播し 相互作用を増幅し 最終的にカスケード障害を引き起こす 既存の対策は主にポストホックのパラダイムに従っており、安全でない振る舞いが現れた後にのみ障害を特定する。 HalluPropはエージェント間の相互作用の前に個々のエージェント障害と創発的なシステムレベルの幻覚リスクを推定する。
  論文  参考訳（メタデータ） (2026-07-29T12:26:41Z)
• VerifyMAS: Hypothesis Verification for Failure Attribution in LLM Multi-Agent Systems [79.51005192758262]
  大規模言語モデル駆動型マルチエージェントシステムは複雑なタスクで優れている。 しかし、信頼性の低いエージェントは、システムレベルの信頼性にとって重要なボトルネックである。 本稿では,エージェント故障の帰属に関する仮説検証フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-17T14:09:35Z)
• The Trust Paradox in LLM-Based Multi-Agent Systems: When Collaboration Becomes a Security Vulnerability [7.452202188661883]
  我々はTrust-Vulnerability Paradox(TVP)を紹介し,実証的に検証する。 TVP: 調整を強化するためのエージェント間信頼の増大は、過剰な露出と過剰な認可のリスクを同時に拡大する。 本研究は,TVPを定式化し,統一されたメトリクスで再現可能なベースラインを確立するとともに,マルチエージェントシステム設計において,信頼性を第一級セキュリティ変数としてモデル化し,スケジュールする必要があることを示す。
  論文  参考訳（メタデータ） (2025-10-21T12:18:39Z)
• Metacognitive Self-Correction for Multi-Agent System via Prototype-Guided Next-Execution Reconstruction [58.51530390018909]
  大規模言語モデルに基づくマルチエージェントシステムは、協調的な問題解決において優れているが、エラーのカスケードには脆弱である。 我々は,MASにリアルタイム,教師なし,ステップレベルの誤り検出と自己補正を付与するメタ認知フレームワークMASCを提案する。
  論文  参考訳（メタデータ） (2025-10-16T05:35:37Z)
• Collaborative Value Function Estimation Under Model Mismatch: A Federated Temporal Difference Analysis [55.13545823385091]
  フェデレーション強化学習(FedRL)は、エージェント間のデータ交換を防止し、データのプライバシを維持しながら協調学習を可能にする。 現実世界のアプリケーションでは、各エージェントは若干異なる遷移ダイナミクスを経験し、固有のモデルミスマッチを引き起こす。 情報共有の適度なレベルでさえ、環境固有のエラーを著しく軽減することを示す。
  論文  参考訳（メタデータ） (2025-03-21T18:06:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。