論文の概要: ETHOS: Towards a Modular Ethics Framework for Clinical Multi-Agent Systems
- arxiv url: http://arxiv.org/abs/2608.15424v1
- Date: Sat, 15 Aug 2026 21:56:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.296034
- Title: ETHOS: Towards a Modular Ethics Framework for Clinical Multi-Agent Systems
- Title（参考訳）: ETHOS: 臨床用マルチエージェントシステムのためのモジュール倫理フレームワーク
- Abstract要約: 既存のマルチエージェントシステムと統合可能なガバナンスメタエージェントであるETHOSを提案する。
肝疾患診断支援MASのETHOSについて検討した。
その結果,ETHOSは不完全,不整合,外的証拠を検出することにより,意思決定の信頼性を向上させることがわかった。
- 参考スコア（独自算出の注目度）: 7.256126882767553
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The rapid adoption of large language models has enabled the development of clinical multi-agent systems (MAS) capable of integrating multimodal patient data and supporting increasingly complex clinical decision-making. However, the deployment of these systems in real-world healthcare settings raises critical ethical concerns related to safety, fairness, accountability, transparency, and patient trust. While numerous organizations, including the World Health Organization, the National Academy of Medicine, and the FUTURE-AI consortium, have proposed ethical frameworks and governance principles for healthcare AI, these efforts remain largely conceptual. To address this challenge, we present ETHOS (Ethics and Trust through Hierarchical Oversight System), a modular ethics framework designed as a governance meta-agent that can be integrated with any existing multi-agent system without requiring changes to its underlying architecture. ETHOS translates stakeholder-informed ethical requirements into executable runtime oversight through a layered governance approach consisting of deterministic checks, contextual reviews, and a final ethics critic. These components continuously evaluate intermediate reasoning steps and final outputs, enabling the system to identify ethical risks, request revisions, or suppress responses that fail predefined safety and trustworthiness criteria. We demonstrate ETHOS within a hepatology clinical decision-support MAS. Results show that ETHOS improves decision reliability by detecting incomplete, inconsistent, or out-of-scope evidence and appropriately increasing abstention when safe recommendations cannot be supported. By embedding ethical governance directly into system operation, ETHOS provides a practical and auditable mechanism for transforming high-level AI ethics principles into deployable safeguards.
- Abstract（参考訳）: 大規模言語モデルの急速な導入により、多モーダルな患者データの統合と、ますます複雑な臨床意思決定を支援することができる臨床マルチエージェントシステム(MAS)の開発が可能になった。
しかし、実際の医療環境におけるこれらのシステムの展開は、安全性、公正性、説明責任、透明性、患者の信頼に関連する倫理的懸念を提起する。
世界保健機関、全米医学アカデミー、Future-AIコンソーシアムを含む多くの組織が医療AIのための倫理的枠組みとガバナンスの原則を提案しているが、これらの取り組みはほとんど概念的のままである。
この課題に対処するために、ETHOS(Ethics and Trust through Hierarchical Oversight System)という、ガバナンスメタエージェントとして設計されたモジュラー倫理フレームワークを紹介します。
ETHOSは、決定論的チェック、文脈的レビュー、最終的な倫理的批判からなる階層化されたガバナンスアプローチを通じて、ステークホルダーによる倫理的要件を実行可能ランタイム監視に変換する。
これらのコンポーネントは、中間的推論ステップと最終的なアウトプットを継続的に評価し、システムは倫理的リスクを特定したり、修正を要求したり、事前定義された安全性と信頼性基準に反する応答を抑えることができる。
肝疾患診断支援MASのETHOSについて検討した。
以上の結果から,ETHOSは不完全,不一致,不一致,検査外証拠を検出し,安全なレコメンデーションを支持できない場合に留意を適切に増加させることにより,意思決定の信頼性を向上させることが示唆された。
ETHOSは、倫理的ガバナンスを直接システム操作に組み込むことで、ハイレベルなAI倫理原則をデプロイ可能なセーフガードに変換するための実用的で監査可能なメカニズムを提供する。
関連論文リスト
- Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。
この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。
各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
論文 参考訳（メタデータ） (2026-05-17T10:26:37Z) - Medical Model Synthesis Architectures: A Case Study [72.46211022258122]
現在のAIシステムは、不確実性の下で調整された推論に苦労している。
我々は,不確実性の下で,現実的に有用だが公式に透過的な臨床予測を行うことができるAIシステムのためのフレームワークを提案する。
このフレームワークの最初の概念実証は、どのようにして差分診断に利用できるかを示す。
論文 参考訳（メタデータ） (2026-05-10T19:30:16Z) - Mirror: A Multi-Agent System for AI-Assisted Ethics Review [104.3684024153469]
MirrorはAIによる倫理的レビューのためのエージェントフレームワークである。
倫理的推論、構造化された規則解釈、統合されたアーキテクチャ内でのマルチエージェントの議論を統合する。
論文 参考訳（メタデータ） (2026-02-09T03:38:55Z) - Toward an AI Reasoning-Enabled System for Patient-Clinical Trial Matching [0.0]
本稿では,AI(Artificial Intelligence, 人工知能)による患者と臨床のマッチングのためのセキュアでスケーラブルな概念実証システムを提案する。
このシステムは、人間のループ内レビューを支援する解釈可能な推論チェーンを用いて、構造化された適性評価を生成する。
このシステムは、コーディネータの負担を軽減し、各患者が考慮する治験のセットをインテリジェントに拡大し、すべてのAI出力の総合的な監査性を保証することを目的としている。
論文 参考訳（メタデータ） (2025-12-08T20:35:51Z) - Safe and Certifiable AI Systems: Concepts, Challenges, and Lessons Learned [45.44933002008943]
この白書は、T"UV AUSTRIA Trusted AIフレームワークを提示する。
エンド・ツー・エンドの監査カタログであり、機械学習システムの評価と認定のための方法論である。
セキュアなソフトウェア開発、機能要件、倫理とデータプライバシという3つの柱の上に構築されているのは、EU AI Actの高レベルの義務を、特定かつテスト可能な基準に翻訳するものです。
論文 参考訳（メタデータ） (2025-09-08T17:52:08Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳（メタデータ） (2025-08-12T09:42:56Z) - Ethical AI in the Healthcare Sector: Investigating Key Drivers of Adoption through the Multi-Dimensional Ethical AI Adoption Model (MEAAM) [1.5458951336481048]
本稿では,多次元倫理AI導入モデル(MEAAM)を紹介する。
Ethical AI Fair AI、Responsible AI、Explainable AI、Sustainable AIの4つの基本次元の13の批判的倫理変数を分類する。
これらの倫理的構成が、オペレーショナルAI導入とシステミックAI導入の2つの結果に与える影響を調査する。
論文 参考訳（メタデータ） (2025-05-04T10:40:05Z) - Ethical Challenges and Evolving Strategies in the Integration of Artificial Intelligence into Clinical Practice [1.0301404234578682]
我々は、正義と公正、透明性、患者の同意と機密性、説明責任、患者中心で公平なケアの5つの重要な倫理的関心事に焦点を当てる。
この論文は、患者の信頼を維持する上でのバイアス、透明性の欠如、そして課題が、医療におけるAIアプリケーションの有効性と公正性を損なう可能性があるかを考察する。
論文 参考訳（メタデータ） (2024-11-18T00:52:22Z) - Meta-Sealing: A Revolutionizing Integrity Assurance Protocol for Transparent, Tamper-Proof, and Trustworthy AI System [0.0]
この研究は、AIシステムの整合性検証を根本的に変更する暗号フレームワークであるMeta-Sealingを紹介する。
このフレームワークは、高度な暗号と分散検証を組み合わせることで、数学的厳密さと計算効率の両方を達成する、暗黙の保証を提供する。
論文 参考訳（メタデータ） (2024-10-31T15:31:22Z) - Beyond One-Time Validation: A Framework for Adaptive Validation of Prognostic and Diagnostic AI-based Medical Devices [55.319842359034546]
既存のアプローチは、これらのデバイスを実際にデプロイする際の複雑さに対処するのに不足することが多い。
提示されたフレームワークは、デプロイメント中に検証と微調整を繰り返すことの重要性を強調している。
現在の米国とEUの規制分野に位置づけられている。
論文 参考訳（メタデータ） (2024-09-07T11:13:52Z) - Ethics in conversation: Building an ethics assurance case for autonomous
AI-enabled voice agents in healthcare [1.8964739087256175]
原則に基づく倫理保証議論パターンは、AI倫理のランドスケープにおける1つの提案である。
本稿では,AIベースの遠隔医療システムであるDoraの利用に対して,この倫理保証フレームワークを適用した事例研究の中間的結果を示す。
論文 参考訳（メタデータ） (2023-05-23T16:04:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。