論文の概要: Learning Calibrated Confidence for Multi-Agent Collaboration

• arxiv url: http://arxiv.org/abs/2610.39927v1
• Date: Thu, 29 Oct 2026 12:30:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.503888
• Title: Learning Calibrated Confidence for Multi-Agent Collaboration
• Title（参考訳）: マルチエージェント協調のための校正信頼度学習
• Abstract要約: Webで検索する複雑な情報は、複数のドキュメントから証拠を集め、それらをまたがる推論を必要とすることが多い。 ほとんどのマルチエージェントシステムは、定量的な信号を提供しておらず、ダウンストリームエージェントは、受信した情報を信頼するか、検証するかを判断する。 各エージェントは、強化学習におけるタスク性能と信頼性校正を協調的に最適化することにより、その回答に対する正当性確率を生成することを学習する。
• 参考スコア（独自算出の注目度）: 62.653645806120274
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Complex information seeking on the Web often requires collecting evidence from multiple documents and reasoning across them, as in multi-hop question answering. Multi-agent systems address such tasks by dividing work among specialized agents, where upstream agents produce intermediate answers and supporting evidence that downstream agents build upon. However, upstream answers vary in correctness, and most systems provide no quantitative signal about it, leaving the downstream agent to judge whether to trust or verify what it receives based solely on the textual evidence. In this paper, we propose MASCAL. Each agent learns to produce a correctness probability for its answer by jointly optimizing task performance and confidence calibration in reinforcement learning; the upstream agent passes this probability at handoff, giving the downstream agent a quantitative basis for its decisions, and the final answer also carries a calibrated probability, quantifying the reliability of the system output. To guide the downstream agent in using this signal during training, we introduce confidence-aware weighting, which increases the learning weight at positions responsive to the upstream probability, so that the agent learns more from decisions where it actively uses the signal. Across three collaboration architectures spanning Web retrieval and reasoning tasks, MASCAL improves task accuracy and calibration quality for both agents, and generalizes to deeper collaboration chains and different model scales. Intervention analysis confirms that upstream confidence affects downstream decision behavior, and the learned final confidence supports selective answering and targeted rechecking.
• Abstract（参考訳）: 複雑な情報をWebで探すには、複数の文書から証拠を集め、それらを解析する必要があることが多い。 マルチエージェントシステムは、上流エージェントが中間回答を生成し、下流エージェントが構築する証拠を裏付ける特殊なエージェント間で仕事を分割することで、そのようなタスクに対処する。 しかし、上流の答えは正確性に違いがあり、ほとんどのシステムはそれに関する定量的な信号を提供しておらず、下流のエージェントは、テキストの証拠のみに基づいて受信したものを信頼するか、検証するかを判断する。 本稿では,MASCALを提案する。 各エージェントは、強化学習におけるタスク性能と信頼性校正を共同最適化することにより、その回答の正当性確率を生成することを学習し、上流エージェントは、この確率をハンドオフ時に通過させ、下流エージェントにその決定の定量的な基礎を与え、最終回答はまた、システム出力の信頼性を定量化する校正確率も有する。 トレーニング中にこの信号を使用する際の下流エージェントを誘導するために、上流確率に応答する位置での学習重量を増加させる信頼認識重み付けを導入する。 Web検索と推論タスクにまたがる3つのコラボレーションアーキテクチャにおいて、MASCALは両方のエージェントのタスク精度とキャリブレーション品質を改善し、より深いコラボレーションチェーンと異なるモデルスケールに一般化する。 介入分析により、上流の信頼度が下流の意思決定行動に影響を与えることが確認され、学習された最終信頼度は選択的な回答と対象の再チェックをサポートする。

関連論文リスト

• Multi-Agent Relay Thinking [71.57818799232307]
  マルチエージェント信頼誘導リレー(MACR) 我々はエージェント間の動的リレー協調を可能にするフレームワークであるMulti-Agent Confidence-Guided Relay(MACR)を紹介する。
  論文  参考訳（メタデータ） (2026-10-26T11:10:10Z)
• From Sequence to Structure: Relational Uncertainty Propagation for LLM Agents [75.69180947909148]
  大規模言語モデル(LLM)エージェントのためのトラジェクトリレベルのUQフレームワークを提案する。 RuPAは、推論状態、ツールインタラクション、環境フィードバックが時間的およびセマンティックな依存関係エッジで接続されたノードである、指向的なトラジェクトリグラフとして実行履歴を表現している。 我々は,複数のモデルファミリにまたがる6つのオープンソースLCMを用いて,代用エージェントベンチマーク($2, Terminal-Bench-2, GAIA)でRUPAを評価した。
  論文  参考訳（メタデータ） (2026-08-17T01:40:14Z)
• Diverse Evidence, Better Forecasts: Multi-Agent Deliberation Under Information Asymmetry [1.8983854039418835]
  すべてのエージェントが同一の証拠を与えられると、議論は真の信念の修正ではなく、隠れ家へと崩壊する。 本稿では,関連性を考慮したエビデンス・ルーティング,合理性に基づく反復的熟考,信頼度重み付けを組み合わせた枠組みを提案する。 375のバイナリ予測質問のベンチマークであるPolyGymでは、InfoDelphiが最強のシングルエージェントとマルチエージェントベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-07-02T03:41:25Z)
• Preventing Error Propagation in Multi-Agent AI through Runtime Monitoring [4.75542422590052]
  推論交換と実行時応答のリビジョンにより,信頼性の高いマルチエージェントAI通信について検討する。 エージェントがまず個別に複数の質問に回答し、その後、推論の痕跡を共有し、意思決定を再考するフレームワークを開発する。
  論文  参考訳（メタデータ） (2026-06-27T17:44:24Z)
• Robust Multi-Agent LLMs under Byzantine Faults [12.778788735297288]
  大規模言語モデル(LLM)エージェントは、信頼性を向上させるためにピアツーピアネットワークを介して協力する傾向にある。 信頼性の低いエージェントやビザンティンのエージェントは、近隣のエージェントを誤った結論へと誘導し、システム全体の性能を低下させる可能性がある。 既存の手法は、リーダーベースの調整や自己報告された信頼に依存しており、どちらも敵の操作に影響を受けやすい。
  論文  参考訳（メタデータ） (2026-05-09T17:37:43Z)
• MAGIC-MASK: Multi-Agent Guided Inter-Agent Collaboration with Mask-Based Explainability for Reinforcement Learning [0.0]
  本稿では,マルチエージェント強化学習への摂動に基づく説明を拡張した数学的基盤を持つMAGIC-MASKを提案する。 提案手法は, 近似ポリシ最適化, 適応型エプシロン・グレーディ探索, および軽量なエージェント間協調を統合した。 この共同作業により、各エージェントは給与誘導マスキングを行い、報酬に基づく洞察を仲間と共有し、臨界状態発見に必要な時間を短縮することができる。
  論文  参考訳（メタデータ） (2025-09-30T20:53:28Z)
• Trust Semantics Distillation for Collaborator Selection via Memory-Augmented Agentic AI [51.4138877170325]
  本稿では,大規模AIモデル(LAM)に基づく教師・学生エージェントアーキテクチャに基づくタスク固有の信頼度セマンティックス蒸留モデルを提案する。 提案した2TSDモデルでは,協調者評価時間を短縮し,機器資源消費量を削減し,協調者選択の精度を向上させることができる。
  論文  参考訳（メタデータ） (2025-09-09T21:18:31Z)
• Deep Multi-Agent Reinforcement Learning for Decentralized Active Hypothesis Testing [11.639503711252663]
  我々は,深層多エージェント強化学習の枠組みに根ざした新しいアルゴリズムを導入することで,マルチエージェント能動仮説テスト(AHT)問題に取り組む。 エージェントが協調戦略を学習し、性能を向上させる能力を効果的に示す実験結果を包括的に提示する。
  論文  参考訳（メタデータ） (2023-09-14T01:18:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。