論文の概要: Invisible Agents, Uninformed Patients: Towards Responsible Deployment Of Autonomous AI Diagnostic Agents In Sub-Saharan Africa
- arxiv url: http://arxiv.org/abs/2608.21326v1
- Date: Fri, 21 Aug 2026 17:34:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-24 14:49:32.663193
- Title: Invisible Agents, Uninformed Patients: Towards Responsible Deployment Of Autonomous AI Diagnostic Agents In Sub-Saharan Africa
- Title（参考訳）: インビジブルエージェント, 非インフォームド患者:サブサハラアフリカにおける自律型AI診断エージェントの無責任展開に向けて
- Abstract要約: 本稿では、インフォームドコンセント、アルゴリズムによる説明可能性、説明可能なAIに関する既存の研究を合成する。
サハラ以南のアフリカにおけるAIエージェントの展開によってもたらされた3つの課題を強調している。
本稿では,エージェント・アウェア・インフォームド・インフォームド・コンセント,ヒューマン・オーバライドを構造的要件として,コンテキスト適応型説明可能性という3つの基本原則を提案する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autonomous AI diagnostic agents, systems that analyse patient-specific clinical data and produce diagnostic outputs or triage decisions without mandatory real-time human review, are increasingly deployed across eHealth platforms in sub-Saharan Africa at a pace that has outrun the governance infrastructure needed to oversee them. While significant bodies of work address AI accountability, transparency and explainability in healthcare, existing frameworks are largely clinician-centered and assume regulatory conditions that do not uniformly exist in low-resource settings. A patient-centered analysis of the disparity in patient awareness regarding autonomous agents, which results in a structural accountability gap, is mostly missing from the literature. This paper synthesizes existing research on informed consent, algorithmic accountability, and explainable AI to highlight three distinct challenges introduced by deploying AI agents in the sub-Saharan African context. Drawing on three documented deployment cases, including computer-aided tuberculosis detection in Tanzania, diabetic retinopathy and TB screening in Zambia, and mobile health chat-bot triage in Ghana, it demonstrates that these gaps are already present in active deployments across the region. In response, the paper proposes three foundational principles; agent-aware informed consent, human override as a structural requirement and contextually adapted explainability. This triad of principles lays a practical minimum standard for developers, health system administrators and policymakers in contexts where formal AI regulation remains nascent.
- Abstract（参考訳）: 患者固有の臨床データを分析し、診断アウトプットやトリアージ決定を強制的なリアルタイムレビューなしで生成する自律型AI診断エージェントは、サハラ以南のアフリカのeHealthプラットフォームに、それらを監督するために必要なガバナンス基盤を突破するペースで展開されている。
医療におけるAIのアカウンタビリティ、透明性、説明責任には大きな課題があるが、既存のフレームワークは主に臨床中心であり、低リソース環境では均一に存在しない規制条件を前提としている。
患者中心の自律的エージェントに関する患者意識の格差の分析は、構造的説明責任のギャップをもたらすが、主に文献から欠落している。
本稿では,サハラ以南のアフリカにおけるAIエージェントの展開に伴う3つの課題を明らかにするために,インフォームドコンセント,アルゴリズム的説明責任,説明可能なAIに関する既存の研究を合成する。
タンザニアのコンピュータ支援結核検出、ザンビアの糖尿病性網膜症とTBスクリーニング、ガーナのモバイルヘルスチャットボットトリアージなど、文書化された3つのデプロイメントケースに基づいて、これらのギャップが既に地域全体のアクティブデプロイメントに存在していることを実証した。
そこで本研究では,エージェント・アウェア・インフォームド・コンセント,ヒューマン・オーバライドを構造的要件として,コンテキスト適応型説明可能性という3つの基本原則を提案する。
この3つの原則は、正式なAI規制がまだ初期段階にある状況において、開発者、医療システム管理者、政策立案者に対して、実用的な最低限の基準を定めている。
関連論文リスト
- "Where is this coming from?" Uncovering Trustworthiness Ideals in AI-powered Peripartum Information Seeking [10.118301488103064]
現在のAIとNLPは、獣医の健康情報へのアクセスを改善することを目的としている。
歴史的不平等によって形成された高い健康状況において、信頼性は検査可能であり、主張されない。
本稿では,不信を意識したデザインアーティファクトを提案し,透過的かつ多元的AIシステムに対する原則的ガバナンスメカニズムを促進する。
論文 参考訳（メタデータ） (2026-06-08T20:36:57Z) - Six Interventions for the Responsible and Ethical Implementation of Medical AI Agents [0.0]
大規模言語モデル(LLM)ベースのAIエージェントは、すぐに、制限された、あるいはリアルタイムな人間の監視なしに、医療的な意思決定に参加するかもしれない。
このシフトは、臨床責任が自律システムにまで及ぶ場合に、医療倫理の中核となる原則をどのように支持できるかという根本的な疑問を提起する。
本稿では,6つの実践的介入からなる医療AIエージェントのための倫理設計フレームワークを提案する。
論文 参考訳（メタデータ） (2026-03-14T04:28:59Z) - Before the Clinic: Transparent and Operable Design Principles for Healthcare AI [42.994619952353396]
医療AIの先進的な技術的要件を運用するための基本設計原則を2つ提案する。
我々は、これらの原則を確立されたXAIフレームワークに根ざし、それらをドキュメント化された臨床ニーズにマッピングし、新たなガバナンス要件との整合性を実証します。
この前臨床プレイブックは、開発チームに対して実行可能なガイダンスを提供し、臨床評価への道を加速し、AI研究者、医療実践家、規制ステークホルダーを分かち合う共通語彙を確立する。
論文 参考訳（メタデータ） (2025-10-31T04:05:09Z) - A Comprehensive Review of Datasets for Clinical Mental Health AI Systems [55.67299586253951]
本稿では,AIを活用した臨床アシスタントの訓練・開発に関連する臨床精神保健データセットの総合的調査を行う。
本調査では, 縦断データの欠如, 文化・言語表現の制限, 一貫性のない収集・注釈基準, 合成データのモダリティの欠如など, 重要なギャップを明らかにした。
論文 参考訳（メタデータ） (2025-08-13T13:42:35Z) - DeepSeek reshaping healthcare in China's tertiary hospitals [0.0]
DeepSeekは、2025年1月から中国の第3次病院に広く展開されている、主要なAIシステムである。
継続的な技術進歩により、AIはゲノミクスや放射線学といったマルチモーダルなデータソースを統合することが期待されている。
医療におけるAIの未来は、透明な規制構造、業界協力、適応的なガバナンスフレームワークの開発に依存する。
論文 参考訳（メタデータ） (2025-02-23T22:09:17Z) - Ethical Challenges and Evolving Strategies in the Integration of Artificial Intelligence into Clinical Practice [1.0301404234578682]
我々は、正義と公正、透明性、患者の同意と機密性、説明責任、患者中心で公平なケアの5つの重要な倫理的関心事に焦点を当てる。
この論文は、患者の信頼を維持する上でのバイアス、透明性の欠如、そして課題が、医療におけるAIアプリケーションの有効性と公正性を損なう可能性があるかを考察する。
論文 参考訳（メタデータ） (2024-11-18T00:52:22Z) - Towards Next-Generation Medical Agent: How o1 is Reshaping Decision-Making in Medical Scenarios [46.729092855387165]
本稿では,医療用AIエージェントのバックボーンLSMの選択について検討する。
我々の研究結果は、o1の診断精度と一貫性を高める能力を示し、よりスマートでより応答性の高いAIツールへの道を開いた。
論文 参考訳（メタデータ） (2024-11-16T18:19:53Z) - Explainable Artificial Intelligence for Medical Applications: A Review [42.33274794442013]
本稿では、説明可能な人工知能(XAI)に関する最近の研究をレビューする。
視覚、オーディオ、マルチモーダルの観点からの医療実践に焦点を当てている。
我々は、将来の研究者や医療専門家に支援とガイダンスを提供することを目的として、これらのプラクティスを分類し、合成することに努めます。
論文 参考訳（メタデータ） (2024-11-15T11:31:06Z) - Designing Interpretable ML System to Enhance Trust in Healthcare: A Systematic Review to Proposed Responsible Clinician-AI-Collaboration Framework [13.215318138576713]
論文は、解釈可能なAIプロセス、方法、応用、および医療における実装の課題についてレビューする。
医療における堅牢な解釈可能性アプローチの重要な役割を包括的に理解することを目的としている。
論文 参考訳（メタデータ） (2023-11-18T12:29:18Z) - FUTURE-AI: International consensus guideline for trustworthy and deployable artificial intelligence in healthcare [73.78776682247187]
医療AIに関連する技術的、臨床的、倫理的、法的リスクに関する懸念が高まっている。
この研究は、Future-AIガイドラインを、医療における信頼できるAIツールの開発とデプロイを導くための最初の国際コンセンサスフレームワークとして説明している。
論文 参考訳（メタデータ） (2023-08-11T10:49:05Z) - Organizational Governance of Emerging Technologies: AI Adoption in
Healthcare [43.02293389682218]
Health AI Partnershipは、医療設定におけるAIシステムの適切な組織的ガバナンスの要件をより適切に定義することを目的としている。
これは、米国の医療システムによるAI導入に関わる、現在のガバナンス構造とプロセスに関する、最も詳細な定性的な分析の1つである。
これらの発見が、医療における新興テクノロジーの安全で効果的で責任ある採用を促進する能力を構築するための将来の取り組みを知らせてくれることを期待している。
論文 参考訳（メタデータ） (2023-04-25T18:30:47Z) - IAC: A Framework for Enabling Patient Agency in the Use of AI-Enabled
Healthcare [1.0878040851638]
IAC(Informing, Assessment, and Consent)は、医療環境におけるAI対応デジタル技術の導入に対する患者の反応を評価するためのフレームワークである。
このフレームワークは、医療実践者が医療におけるAIの使用について患者に通知する方法を導く3つの基本原則で構成されている。
本稿では, この枠組みを構成する原則を, 実践者と患者の関係を改善するガイドラインに翻訳し, 同時に, 医療におけるAIの利用に関する患者機関に翻訳することを提案する。
論文 参考訳（メタデータ） (2021-10-29T16:13:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。