論文の概要: Trustworthy AI in Digital Health: A Comprehensive Review of Robustness and Explainability
- arxiv url: http://arxiv.org/abs/2608.02238v1
- Date: Mon, 03 Aug 2026 13:51:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.583903
- Title: Trustworthy AI in Digital Health: A Comprehensive Review of Robustness and Explainability
- Title（参考訳）: デジタルヘルスにおける信頼できるAI:ロバスト性と説明可能性に関する総合的なレビュー
- Abstract要約: 堅牢性、説明可能性、公正性、説明責任、プライバシは、AIライフサイクルを通して対処する必要があります。
このレビューは、最近の進歩をアクセシブルなフレームワークにまとめることによって、そのニーズに対処する。
本稿では,デジタルヘルスのための信頼性と説明可能なAIソリューションの開発において,研究者や実践者を支援するための方法,課題,ソリューションの構造化概要を示す。
- 参考スコア（独自算出の注目度）: 4.4478386152528
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Ensuring trust in AI systems is essential for the safe and ethical integration of machine learning systems into high-stakes domains such as digital health. Key dimensions, including robustness, explainability, fairness, accountability, and privacy, need to be addressed throughout the AI lifecycle, from problem formulation and data collection to model deployment and human interaction. While various contributions address different aspects of trustworthy AI, a focused synthesis on robustness and explainability, especially tailored to the healthcare context, remains limited. This review addresses that need by organizing recent advancements into an accessible framework, highlighting both technical and practical considerations. We present a structured overview of methods, challenges, and solutions, aiming to support researchers and practitioners in developing reliable and explainable AI solutions for digital health. This review article is organized into three main parts. First, we introduce the pillars of trustworthy AI and discuss the technical and ethical challenges, particularly in the context of digital health. Second, we explore application-specific trust considerations across domains such as intensive care, neonatal health, and metabolic health, highlighting how robustness and explainability support trust. Lastly, we present recent advancements in techniques aimed at improving robustness under data scarcity and distributional shifts, as well as explainable AI methods ranging from feature attribution to gradient-based interpretations and counterfactual explanations. This paper is further enriched with detailed discussions of the contributions toward robustness and explainability in digital health, the development of trustworthy AI systems in the era of LLMs, and various evaluation metrics for measuring trust and related parameters such as validity, fidelity, and diversity.
- Abstract（参考訳）: AIシステムの信頼性を保証することは、マシンラーニングシステムの安全で倫理的な統合を、デジタルヘルスのような高い領域に統合するために不可欠である。
堅牢性、説明可能性、公正性、説明責任、プライバシといった重要な次元は、問題定式化やデータ収集から、デプロイメントとヒューマンインタラクションのモデル化に至るまで、AIライフサイクルを通じて対処する必要がある。
さまざまなコントリビューションは、信頼できるAIのさまざまな側面に対処するが、堅牢性と説明可能性、特に医療のコンテキストに合わせて、焦点を絞った合成は、依然として限られている。
このレビューは、最近の進歩をアクセシブルなフレームワークにまとめることによって、技術的および実践的な考察の両方を強調している。
本稿では,デジタルヘルスのための信頼性と説明可能なAIソリューションの開発において,研究者や実践者を支援するための方法,課題,ソリューションの構造化概要を示す。
このレビュー記事は3つの主要な部分に分けられる。
まず、信頼できるAIの柱を紹介し、特にデジタルヘルスの文脈において、技術的および倫理的課題について議論する。
第2に、集中治療、新生児健康、メタボリックヘルスなどの領域におけるアプリケーション固有の信頼に関する考察を行い、堅牢性と説明可能性が信頼をいかに支えているかを明らかにする。
最後に,データ不足や分散シフトによるロバスト性向上を目的とした手法の最近の進歩と,特徴属性から勾配に基づく解釈,対実的説明に至るまでのAI手法について述べる。
本稿では、デジタルヘルスにおける堅牢性と説明可能性への貢献、LLM時代の信頼できるAIシステムの開発、信頼性および妥当性、忠実性、多様性などの関連するパラメータを測定するための様々な評価指標について、より詳細な議論を行う。
関連論文リスト
- Responsible Evaluation of AI for Mental Health [72.85175110624736]
メンタルヘルスケアにおけるAIツールの評価に対する現在のアプローチは、断片化されており、臨床実践、社会的コンテキスト、ファーストハンドのユーザエクスペリエンスと不整合である。
本稿では,臨床の健全性,社会的文脈,公平性を統合した学際的枠組みを導入することにより,責任ある評価を再考する。
論文 参考訳（メタデータ） (2026-01-20T12:55:10Z) - Understanding AI Trustworthiness: A Scoping Review of AIES & FAccT Articles [41.419459280691605]
信頼できるAIは、AIESとFAccTという2つの主要なAI倫理カンファレンスの基礎となっている。
このスコーピングレビューは、AIESとFAccTコミュニティがAIの信頼性を概念化し、測定し、検証する方法を検討することを目的としている。
論文 参考訳（メタデータ） (2025-10-24T09:40:38Z) - A Comprehensive Review of Datasets for Clinical Mental Health AI Systems [55.67299586253951]
本稿では,AIを活用した臨床アシスタントの訓練・開発に関連する臨床精神保健データセットの総合的調査を行う。
本調査では, 縦断データの欠如, 文化・言語表現の制限, 一貫性のない収集・注釈基準, 合成データのモダリティの欠如など, 重要なギャップを明らかにした。
論文 参考訳（メタデータ） (2025-08-13T13:42:35Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳（メタデータ） (2025-08-12T09:42:56Z) - Medical Reasoning in the Era of LLMs: A Systematic Review of Enhancement Techniques and Applications [59.721265428780946]
医学における大きな言語モデル(LLM)は印象的な能力を実現しているが、体系的で透明で検証可能な推論を行う能力に重大なギャップが残っている。
本稿は、この新興分野に関する最初の体系的なレビューを提供する。
本稿では,学習時間戦略とテスト時間メカニズムに分類した推論強化手法の分類法を提案する。
論文 参考訳（メタデータ） (2025-08-01T14:41:31Z) - Is Trust Correlated With Explainability in AI? A Meta-Analysis [0.0]
我々は、AI説明可能性と信頼の関係を探るため、既存の文献を網羅的に調査する。
我々の分析では、90の研究データを取り入れた結果、AIシステムの説明可能性と彼らが与える信頼との間に統計的に有意だが適度な正の相関関係が明らかとなった。
この研究は、特に説明責任の促進と、医療や司法などの重要な領域におけるユーザの信頼の促進において、社会技術的に幅広い影響を強調している。
論文 参考訳（メタデータ） (2025-04-16T23:30:55Z) - Towards Privacy-aware Mental Health AI Models: Advances, Challenges, and Opportunities [58.61680631581921]
メンタルヘルス障害は、深い個人的・社会的負担を生じさせるが、従来の診断はリソース集約的でアクセシビリティが制限される。
本稿では、これらの課題を考察し、匿名化、合成データ、プライバシー保護トレーニングを含む解決策を提案する。
臨床的な意思決定をサポートし、メンタルヘルスの結果を改善する、信頼できるプライバシを意識したAIツールを進化させることを目標としている。
論文 参考訳（メタデータ） (2025-02-01T15:10:02Z) - Artificial Intelligence-Driven Clinical Decision Support Systems [5.010570270212569]
この章は、医療で信頼できるAIシステムを作るには、公平さ、説明可能性、プライバシーを慎重に考慮する必要があることを強調している。
AIによる公平な医療提供を保証するという課題は強調され、臨床予測モデルのバイアスを特定し緩和する方法が議論されている。
この議論は、ディープラーニングモデルのデータ漏洩からモデル説明に対する高度な攻撃に至るまで、医療AIシステムのプライバシ脆弱性の分析に進展している。
論文 参考訳（メタデータ） (2025-01-16T16:17:39Z) - Addressing Intersectionality, Explainability, and Ethics in AI-Driven Diagnostics: A Rebuttal and Call for Transdiciplinary Action [0.30693357740321775]
人工知能の医療診断への統合の増大は、その倫理的および実践的な意味を批判的に検証する必要がある。
本稿は、AIによる診断が多様な人口に公平かつ倫理的に役立っていることを保証するために、正確さと公正性、プライバシ、傾きのバランスをとるフレームワークを提案する。
論文 参考訳（メタデータ） (2025-01-15T00:00:01Z) - Explainable AI for clinical risk prediction: a survey of concepts,
methods, and modalities [2.9404725327650767]
臨床リスク予測のための説明可能なモデルの開発状況
外部検証の必要性と多様な解釈可能性メソッドの組み合わせを強調している。
臨床リスク予測における説明可能性へのエンドツーエンドアプローチは成功に不可欠である。
論文 参考訳（メタデータ） (2023-08-16T14:51:51Z) - FUTURE-AI: International consensus guideline for trustworthy and deployable artificial intelligence in healthcare [73.78776682247187]
医療AIに関連する技術的、臨床的、倫理的、法的リスクに関する懸念が高まっている。
この研究は、Future-AIガイドラインを、医療における信頼できるAIツールの開発とデプロイを導くための最初の国際コンセンサスフレームワークとして説明している。
論文 参考訳（メタデータ） (2023-08-11T10:49:05Z) - The Role of AI in Drug Discovery: Challenges, Opportunities, and
Strategies [97.5153823429076]
この分野でのAIのメリット、課題、欠点についてレビューする。
データ拡張、説明可能なAIの使用、従来の実験手法とAIの統合についても論じている。
論文 参考訳（メタデータ） (2022-12-08T23:23:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。