論文の概要: Regulatory Approval Is Not Enough: Gaps in Trustworthy AI Reporting in FDA-Cleared Medical Devices

• arxiv url: http://arxiv.org/abs/2608.12360v1
• Date: Sat, 04 Jul 2026 22:56:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.191961
• Title: Regulatory Approval Is Not Enough: Gaps in Trustworthy AI Reporting in FDA-Cleared Medical Devices
• Title（参考訳）: 食品医薬品局(FDA)の医療機器の信頼できるAIレポートで、規制承認は不十分
• Abstract要約: 2021年から2025年にかけて、FDAのAI/ML対応医療機器の概要報告を分析した。 フェアネス、普遍性、トレーサビリティ、ユーザビリティ、ロバストネス、説明可能性の6つの原則に関する文書化された証拠を特定した。 1,105件のFDAの要約報告のうち、519件は含まれていた。信頼できるAIレポートは限定的で不均一だった。ほぼ1/4(24.7%)が原則の証拠を提供しておらず、6件すべてに証拠は記録されていない。
• 参考スコア（独自算出の注目度）: 33.43616351276159
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Background: AI/ML-enabled medical devices are increasingly deployed in healthcare under evolving regulatory frameworks. As these systems become more integrated into clinical decision-making, there is growing expectation that they demonstrate key dimensions of trustworthy AI to support clinician, patient, and public trust. Whether publicly available regulatory documentation provides sufficient evidence to independently assess the trustworthiness of cleared AI systems remains unclear. Methods: We analysed FDA AI/ML-enabled medical device summary reports published between 2021 and 2025. Reports underwent automated keyword screening followed by multi-stage manual consensus review to identify documented evidence for the six FUTURE-AI principles: Fairness, Universality, Traceability, Usability, Robustness, and Explainability. Descriptive, temporal, and clinical-domain analyses were performed. Multivariable logistic regression assessed whether year of clearance or clinical domain predicted higher reporting transparency, defined as evidence reported for three or more principles. Results: Of 1,105 FDA summary reports screened, 519 were included. Trustworthy AI reporting was limited and uneven. Nearly one quarter (24.7%) provided no evidence for any principle, and none documented evidence across all six. Robustness was most frequently reported (57.6%), while Traceability (8.3%) and Explainability (3.5%) were the most pronounced gaps. Neither year of clearance (OR 1.02, 95% CI 0.88-1.19) nor clinical domain (OR 0.73, 95% CI 0.46-1.15) predicted higher reporting transparency. Interpretation: Substantial, persistent trustworthy AI reporting gaps exist in FDA documentation. Regulatory approval alone should not be considered a proxy for trustworthiness. Standardised, audit-ready reporting across the AI lifecycle is needed to support independent assessment and responsible adoption of healthcare AI.
• Abstract（参考訳）: 背景: AI/ML対応医療機器は、進化する規制フレームワークの下で、医療にますますデプロイされている。 これらのシステムが臨床意思決定に統合されるにつれて、臨床医、患者、および公衆の信頼を支える上で、信頼に値するAIの重要な側面を示すことが期待されている。 公開の規制文書が、クリアされたAIシステムの信頼性を独立して評価する十分な証拠を提供するかどうかは不明だ。 方法:2021年から2025年の間に公表されたFDA AI/ML対応医療機器要約レポートを分析した。 レポートは自動キーワードスクリーニングに続いて、多段階のマニュアルコンセンサスレビューを行い、公正性、普遍性、トレーサビリティ、使用性、ロバスト性、説明可能性という6つのFuture-AI原則の証拠を文書化した。 記述的,時間的,臨床的ドメイン分析を行った。 多変量ロジスティック回帰は、3つ以上の原則について報告された証拠として定義され、クリアランスの年または臨床領域がより高い報告透明性を予測したかどうかを評価した。 結果:FDAの要約報告1,105件のうち519件が対象となった。 信頼できるAIレポートは限定的で不均一だった。 約1/4 (24.7%) はいかなる原則の証拠も示さず、6つすべてに証拠は記録されていない。 ロバスト性は最も頻繁に報告され(57.6%)、トレーサビリティ(8.3%)と説明可能性(3.5%)が最も顕著なギャップであった。 クリアランスの年 (OR 1.02, 95% CI 0.88-1.19) も臨床領域 (OR 0.73, 95% CI 0.46-1.15) も報告透明性の向上は予測されなかった。 解釈: FDAの文書には、実質的で永続的な信頼できるAIレポートギャップが存在する。 規制の承認だけでは、信頼性の代行と見なすべきではない。 AIライフサイクル全体にわたる標準化された監査可能なレポートは、独立したアセスメントと、医療AIの採用の責任を負うために必要である。

関連論文リスト

• NovGauge: A Fine-Grained Benchmark for Diagnosing LLMs' Capability in Paper Novelty Assessment [54.4265627247104]
  大規模言語モデル(LLM)は、主要なAIカンファレンスでピアレビューでますます使用されている。 既存のベンチマークでは、ノベルティを1つの総合的なスコアとして評価している。 本報告では,詳細なノベルティアセスメント診断のための人手によるベンチマークであるNovGaugeについて述べる。
  論文  参考訳（メタデータ） (2026-09-10T08:34:56Z)
• Agentic AI Enhances Physician Trust in Clinical Decision Making [28.8804483098497]
  従来のモデルより優れていることが証明されているが、エージェントAIに対する医師の信頼はほとんど探索されていない。 治療計画のタスクでは、医師が最もエージェント的推論を信頼し、89.57%のケースでそれを好む。 しかし、不正なエージェント出力に対する測定可能で過度な信頼は現在も残っている。
  論文  参考訳（メタデータ） (2026-06-16T14:31:49Z)
• SynCred-Bench: Benchmarking Synthetic Credibility in AI-Generated Visual Misinformation [82.22252244442744]
  SynCRED-Benchは、信頼できる6つのカテゴリと7つのきめ細かい循環スタイルでバランスをとる、600個のAI生成の誤情報画像のベンチマークである。 5%の偽陽性レートの制約の下で、15個のMLLMは10.5%の真正レート(TPR)しか達成せず、オープンソースのAIGC検出器は5%以下である。 また、ヒトのアノテーターは合成信頼性の同定にも苦労し、TPRはわずか63%に達した。
  論文  参考訳（メタデータ） (2026-06-02T08:57:38Z)
• Towards Reliable Medical LLMs: Benchmarking and Enhancing Confidence Estimation of Large Language Models in Medical Consultation [97.36081721024728]
  本稿では,現実的な医療相談におけるマルチターンインタラクションの信頼性を評価するための最初のベンチマークを提案する。 本ベンチマークでは,3種類の医療データを統合し,診断を行う。 本稿では,エビデンスを基盤とした言語自己評価フレームワークであるMedConfを紹介する。
  論文  参考訳（メタデータ） (2026-01-22T04:51:39Z)
• The Trust in AI-Generated Health Advice (TAIGHA) Scale and Short Version (TAIGHA-S): Development and Validation Study [1.0112913394578702]
  本研究は,AI生成型ヘルスアドバイザ(TAIGHA)尺度とその4項目短縮形(TAIGHA-S)の開発と検証を行った。 項目は生成AIアプローチを使用して開発され、続いて10のドメインエキスパートによるコンテンツ検証、30人のレイ参加者による顔検証、および症状評価シナリオでAI生成アドバイスを受けた385人の英国参加者による心理測定検証が実施された。
  論文  参考訳（メタデータ） (2025-12-16T10:40:07Z)
• DispatchMAS: Fusing taxonomy and artificial intelligence agents for emergency medical services [49.70819009392778]
  大規模言語モデル (LLM) とマルチエージェントシステム (MAS) は、ディスパッチを増強する機会を提供する。 本研究の目的は,現実的なシナリオをシミュレートする分類基盤型マルチエージェントシステムの開発と評価である。
  論文  参考訳（メタデータ） (2025-10-24T08:01:21Z)
• Beyond Benchmarks: Dynamic, Automatic And Systematic Red-Teaming Agents For Trustworthy Medical Language Models [87.66870367661342]
  大規模言語モデル(LLM)は、医療におけるAIアプリケーションで使用される。 LLMを継続的にストレステストするレッドチームフレームワークは、4つのセーフティクリティカルなドメインで重大な弱点を明らかにすることができる。 敵エージェントのスイートは、自律的に変化するテストケースに適用され、安全でないトリガー戦略を特定し、評価する。 私たちのフレームワークは、進化可能でスケーラブルで信頼性の高い、次世代の医療AIのセーフガードを提供します。
  論文  参考訳（メタデータ） (2025-07-30T08:44:22Z)
• Multi-Modal Explainable Medical AI Assistant for Trustworthy Human-AI Collaboration [17.11245701879749]
  Generalist Medical AI (GMAI) システムは、バイオメディカル認知タスクにおいて、専門家レベルのパフォーマンスを実証している。 本稿では,XMedGPTについて紹介する。XMedGPTはクリニック中心のマルチモーダルAIアシスタントで,テキストと視覚の解釈性を統合している。 我々は,マルチモーダル解釈可能性,不確実性定量化,予測モデリング,厳密なベンチマークの4つの柱にまたがってXMedGPTを検証する。
  論文  参考訳（メタデータ） (2025-05-11T08:32:01Z)
• Enhancing Clinical Decision-Making: Integrating Multi-Agent Systems with Ethical AI Governance [1.0195618602298682]
  実験結果, バイタルサイン, 臨床状況を分析するために, モジュラーエージェントを用いた新規エージェントシステムの設計を比較した。 我々は,eICUデータベースを用いて,実験室分析,バイタルのみのインタプリタ,文脈推論エージェントなどのエージェントシステムを実装した。
  論文  参考訳（メタデータ） (2025-03-25T05:32:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。