論文の概要: Position: Multi-Agent Algorithmic Care Systems Demand Contestability for Trustworthy AI

• arxiv url: http://arxiv.org/abs/2603.20595v1
• Date: Sat, 21 Mar 2026 01:47:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-24 19:11:38.988104
• Title: Position: Multi-Agent Algorithmic Care Systems Demand Contestability for Trustworthy AI
• Title（参考訳）: 位置: 信頼できるAIのためのマルチエージェント・アルゴリズム・ケア・システムは競争力を必要とする
• Authors: Truong Thanh Hung Nguyen, Hélène Fournier, Piper Jackson, Makoto Itoh, Shannon Freeman, Rene Richard, Hung Cao,
• Abstract要約: 競争可能なAIは、意思決定ライフサイクルを通じて効果的な人間の課題をサポートするシステムを特徴付ける。 我々は、現在のMASとExplainable AI研究における重要な制限を特定し、Human-in-the-loopフレームワークを提示する。
• 参考スコア（独自算出の注目度）: 1.463885643650747
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Multi-agent systems (MAS) are increasingly used in healthcare to support complex decision-making through collaboration among specialized agents. Because these systems act as collective decision-makers, they raise challenges for trust, accountability, and human oversight. Existing approaches to trustworthy AI largely rely on explainability, but explainability alone is insufficient in multi-agent settings, as it does not enable care partners to challenge or correct system outputs. To address this limitation, Contestable AI (CAI) characterizes systems that support effective human challenge throughout the decision-making lifecycle by providing transparency, structured opportunities for intervention, and mechanisms for review, correction, or override. This position paper argues that contestability is a necessary design requirement for trustworthy multi-agent algorithmic care systems. We identify key limitations in current MAS and Explainable AI (XAI) research and present a human-in-the-loop framework that integrates structured argumentation and role-based contestation to preserve human agency, clinical responsibility, and trust in high-stakes care contexts.
• Abstract（参考訳）: マルチエージェントシステム(MAS)は、専門エージェント間のコラボレーションを通じて複雑な意思決定を支援するために、医療においてますます利用されている。 これらのシステムは集団的な意思決定者として機能するため、信頼、説明責任、そして人間の監督に対する課題を提起する。 既存の信頼できるAIへのアプローチは説明可能性に大きく依存するが、マルチエージェント設定では説明可能性だけでは不十分である。 この制限に対処するため、Contestable AI(CAI)は、透明性、介入の構造化された機会、レビュー、修正、オーバライドのメカニズムを提供することによって、意思決定ライフサイクルを通じて効果的なヒューマンチャレンジをサポートするシステムを特徴付ける。 このポジションペーパーは、信頼性の高いマルチエージェント・アルゴリズムケアシステムに必要な設計要件であると主張している。 我々は、現在のMASおよび説明可能なAI(XAI)研究における鍵となる限界を特定し、人事、臨床責任、ハイテイクケアの文脈における信頼を維持するために、構造化された議論とロールベースのコンテストを統合するヒューマン・イン・ザ・ループ・フレームワークを提示する。

関連論文リスト

• A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
  私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。 応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。 我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
  論文  参考訳（メタデータ） (2026-03-11T07:40:53Z)
• The Doctor Will (Still) See You Now: On the Structural Limits of Agentic AI in Healthcare [18.202521625229732]
  我々は、開発者、実装者、エンドユーザーを含む20人の利害関係者へのインタビューに基づく質的研究を提示する。 エージェントの定義に関する概念的断片化」という3つの相互強化的緊張について分析した。 我々はエージェントAIが、技術的願望、商業的インセンティブ、臨床的制約が交わる、争われた意味作りの場として機能すると主張している。
  論文  参考訳（メタデータ） (2026-02-06T02:53:40Z)
• Towards Responsible and Explainable AI Agents with Consensus-Driven Reasoning [4.226647687395254]
  本稿では,多モデルコンセンサスと推論層ガバナンスに基づく実運用レベルのエージェントのためのResponsible(RAI)およびExplainable(XAI)AIエージェントアーキテクチャを提案する。 提案した設計では、異種LLMとVLMエージェントのコンソーシアムが独立して、共有入力コンテキストから候補出力を生成する。 専用の推論エージェントは、これらのアウトプットをまたいで構造化された統合を行い、安全と政策の制約を強制し、幻覚と偏見を緩和し、監査可能な証拠に基づく決定を生成する。
  論文  参考訳（メタデータ） (2025-12-25T14:49:25Z)
• Perspectives on a Reliability Monitoring Framework for Agentic AI Systems [5.539407031861404]
  エージェントAIシステムの動作時の信頼性の課題は,その特性に基づいて導出する。 本稿ではエージェントAIシステムのための2層信頼性監視フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-11-12T10:19:17Z)
• Embracing Trustworthy Brain-Agent Collaboration as Paradigm Extension for Intelligent Assistive Technologies [51.93721053301417]
  本稿では,脳-コンピュータ・インタフェースから脳-エージェント・コラボレーションへのパラダイム拡張を視野に入れている。 我々は、受動的脳信号データプロセッサではなく、知的支援のためのアクティブで協調的なパートナーとして、リフレーミングエージェントを強調している。
  論文  参考訳（メタデータ） (2025-10-25T00:25:45Z)
• An Outlook on the Opportunities and Challenges of Multi-Agent AI Systems [32.48561526824382]
  マルチエージェントAIシステム(MAS)は、内部生成モデルに基づいて対話、情報交換、意思決定を行う複数の自律エージェントで構成されている。 本稿では,MASを解析するための形式的枠組みについて概説する。
  論文  参考訳（メタデータ） (2025-05-23T22:05:19Z)
• Agentic AI Needs a Systems Theory [46.36636351388794]
  AI開発は現在、個々のモデル機能に過度に重点を置いている、と私たちは主張する。 エージェント認知の強化,創発的因果推論能力,メタ認知認知のメカニズムについて概説する。 システムレベルの視点は、より理解し、意図的に形作り、エージェントAIシステムに不可欠である、と私たちは強調する。
  論文  参考訳（メタデータ） (2025-02-28T22:51:32Z)
• Fairness in Agentic AI: A Unified Framework for Ethical and Equitable Multi-Agent System [0.0]
  本稿では,公正性をエージェント相互作用の動的,創発的特性として扱う新しい枠組みを提案する。 この枠組みは、公正な制約、バイアス軽減戦略、および自律的なエージェント行動と社会的価値を整合させるインセンティブメカニズムを統合する。
  論文  参考訳（メタデータ） (2025-02-11T04:42:00Z)
• Causal Responsibility Attribution for Human-AI Collaboration [62.474732677086855]
  本稿では,人間のAIシステムにおける責任を体系的に評価するために,構造因果モデル(SCM)を用いた因果的枠組みを提案する。 2つのケーススタディは、多様な人間とAIのコラボレーションシナリオにおけるフレームワークの適応性を示している。
  論文  参考訳（メタデータ） (2024-11-05T17:17:45Z)
• Trustworthy AI: From Principles to Practices [44.67324097900778]
  多くの現在のAIシステムは、認識不能な攻撃に脆弱で、表現不足なグループに偏り、ユーザのプライバシ保護が欠如していることが判明した。 このレビューでは、信頼できるAIシステムを構築するための包括的なガイドとして、AI実践者に提供したいと思っています。 信頼に値するAIに対する現在の断片化されたアプローチを統合するために、AIシステムのライフサイクル全体を考慮した体系的なアプローチを提案する。
  論文  参考訳（メタデータ） (2021-10-04T03:20:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。