論文の概要: Preventing Error Propagation in Multi-Agent AI through Runtime Monitoring

• arxiv url: http://arxiv.org/abs/2606.29026v1
• Date: Sat, 27 Jun 2026 17:44:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.762537
• Title: Preventing Error Propagation in Multi-Agent AI through Runtime Monitoring
• Title（参考訳）: ランタイムモニタリングによるマルチエージェントAIのエラー伝播防止
• Abstract要約: 推論交換と実行時応答のリビジョンにより,信頼性の高いマルチエージェントAI通信について検討する。 エージェントがまず個別に複数の質問に回答し、その後、推論の痕跡を共有し、意思決定を再考するフレームワークを開発する。
• 参考スコア（独自算出の注目度）: 4.75542422590052
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multi-agent AI systems can improve answer selection by allowing different language models to exchange reasoning traces, revise initial predictions, and support a final decision. However, such communication may also introduce reliability risks: reasoning from one agent can correct another agent's mistake, but it can also mislead an agent that was initially correct. This paper studies reliable multi-agent AI communication through reasoning exchange and runtime answer revision. We develop a framework in which agents first answer multiple-choice questions independently, then share reasoning traces and revise their decisions. We conduct numerical experiments where we evaluate whether this process improves accuracy, produces more positive than negative answer transitions, and remains effective across domains such as cybersecurity, networking, and general knowledge. The results help identify when multi-agent reasoning improves reliability and when it may propagate errors.
• Abstract（参考訳）: マルチエージェントAIシステムは、さまざまな言語モデルで推論トレースを交換し、初期予測を修正し、最終的な決定をサポートすることで、回答の選択を改善することができる。 しかし、そのようなコミュニケーションは、あるエージェントからの推論が別のエージェントの誤りを訂正できるという信頼性のリスクも引き起こすかもしれない。 本稿では、推論交換と実行時応答修正による信頼できるマルチエージェントAI通信について検討する。 エージェントがまず個別に複数の質問に回答し、その後、推論の痕跡を共有し、意思決定を再考するフレームワークを開発する。 我々は,このプロセスが精度を向上し,負の応答遷移よりも肯定的な結果が得られ,サイバーセキュリティ,ネットワーク,一般知識などの領域で有効であることを示す数値実験を行った。 その結果、マルチエージェント推論が信頼性を向上し、いつエラーを伝播するかを特定するのに役立ちます。

関連論文リスト

• From Diagnosis to Redesign: Using Quantitative Ethnography to Improve Multi-Agent LLM Reasoning [2.3265759805858868]
  マルチエージェント大規模言語モデル (LLM) システムは、特殊機能を持つ複数のエージェント間でタスクを分解することで推論を改善するように設計されている。 本稿では,エージェント間相互作用による会話に基づくマルチエージェントLPMシステムの診断と再設計のための定量的エスノグラフィー(QE)手法を提案する。
  論文  参考訳（メタデータ） (2026-08-23T19:27:40Z)
• Diverse Evidence, Better Forecasts: Multi-Agent Deliberation Under Information Asymmetry [1.8983854039418835]
  すべてのエージェントが同一の証拠を与えられると、議論は真の信念の修正ではなく、隠れ家へと崩壊する。 本稿では,関連性を考慮したエビデンス・ルーティング,合理性に基づく反復的熟考,信頼度重み付けを組み合わせた枠組みを提案する。 375のバイナリ予測質問のベンチマークであるPolyGymでは、InfoDelphiが最強のシングルエージェントとマルチエージェントベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-07-02T03:41:25Z)
• Misinformation Propagation in Benign Multi-Agent Systems [11.967259729189388]
  マルチエージェントシステムは、医学的診断、法的な分析、法医学的な意思決定など、ハイテイクな環境にますます導入されている。 彼らの信頼性は、単一のエージェントが誤った、あるいは誤解を招くコンテキストから推論した場合、危険にさらされる可能性がある。 本研究は、意図に基づく誤報を良性単エージェントおよび多エージェントシステムに注入することにより、このリスクを研究する。
  論文  参考訳（メタデータ） (2026-06-15T13:40:01Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• AgentV-RL: Scaling Reward Modeling with Agentic Verifier [63.55502685076245]
  試験時間スケーリング(TTS)によるLCM推論を強化する検証器が実証されている。 本稿では,報酬モデリングを多ターンツール拡張型検討プロセスに変換するフレームワークであるエージェント検証を提案する。 Agentic Verifier は並列およびシーケンシャルTS の両方で一貫した性能向上が得られることを示す。
  論文  参考訳（メタデータ） (2026-04-17T12:27:36Z)
• Can an Individual Manipulate the Collective Decisions of Multi-Agents? [53.01767232004823]
  M-Spoilerは、マルチエージェントシステム内のエージェントインタラクションをシミュレートして、対向サンプルを生成するフレームワークである。 M-スポイラーは、敵対的サンプルの最適化を積極的に支援するスタブボーン剤を導入した。 本研究は,マルチエージェントシステムにおける個々のエージェントの知識によって引き起こされるリスクを検証した。
  論文  参考訳（メタデータ） (2025-09-20T01:54:20Z)
• ReAgent: Reversible Multi-Agent Reasoning for Knowledge-Enhanced Multi-Hop QA [29.578079759428014]
  ReAgentは、明示的なバックトラッキング機構を備えた可逆的なマルチエージェント協調フレームワークである。 提案システムでは,誤り検出と修正が可能で,より堅牢で解釈可能なQA結果が得られる。
  論文  参考訳（メタデータ） (2025-03-10T05:56:46Z)
• When Disagreements Elicit Robustness: Investigating Self-Repair Capabilities under LLM Multi-Agent Disagreements [56.29265568399648]
  我々は、不一致が早期のコンセンサスを防ぎ、探索されたソリューション空間を拡張することを主張する。 タスククリティカルなステップの相違は、ソリューションパスのトポロジによってコラボレーションを損なう可能性がある。
  論文  参考訳（メタデータ） (2025-02-21T02:24:43Z)
• Preventing Rogue Agents Improves Multi-Agent Collaboration [21.955058255432974]
  本稿では,アクション予測中にエージェントを監視し,将来エラーが発生する可能性がある場合に介入することを提案する。 WhoDunitEnv、コード生成タスク、そしてリソース持続可能性のためのGovSim環境の実験は、我々のアプローチがパフォーマンスを大幅に向上させることを示している。
  論文  参考訳（メタデータ） (2025-02-09T18:35:08Z)
• DebUnc: Improving Large Language Model Agent Communication With Uncertainty Metrics [52.242449026151846]
  大規模言語モデル(LLM)の精度向上のためのマルチエージェント論争が紹介されている。 エージェントの信頼性を評価するために不確実性指標を用いた議論フレームワークであるDebUncを提案する。
  論文  参考訳（メタデータ） (2024-07-08T22:15:01Z)
• Towards Reasoning in Large Language Models via Multi-Agent Peer Review Collaboration [28.299379264080603]
  大規模言語モデル(LLM)は、一般的な自然言語処理タスクにおいて顕著な能力を示しているが、複雑な推論タスクでは不足することが多い。 近年の研究では、自己正当性のような人間的な問題解決戦略を探求し、単一モデル推論能力の境界を推し進めている。 学術的ピアレビュープロセスをエミュレートするマルチエージェントコラボレーション戦略を導入する。
  論文  参考訳（メタデータ） (2023-11-14T13:27:07Z)
• Online Decision Mediation [72.80902932543474]
  意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。 臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
  論文  参考訳（メタデータ） (2023-10-28T05:59:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。