論文の概要: AI Morbidity and Mortality: A Framework for Clinical AI Failure Review
- arxiv url: http://arxiv.org/abs/2609.00076v1
- Date: Mon, 31 Aug 2026 07:41:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:35.836745
- Title: AI Morbidity and Mortality: A Framework for Clinical AI Failure Review
- Title（参考訳）: AI死亡率と死亡率:臨床AI失敗レビューのためのフレームワーク
- Abstract要約: AIM&M(AI Morbidity and Mortality、AIM&M)は、臨床AI障害のケースベースレビューのための、構造化された、非難なしのフレームワークである。
このフレームワークは、標準化されたケースインテーク、エビデンス保存と調査官レベルの再構築、ツール・イン・ループ・アトリビューション、修正アクショントラッキングを組み合わせている。
個々のAI内フロー障害を実行可能な機関学習に変換することで、モデル監視、患者の安全報告、規制監督を置き換えるのではなく、補完することを目的としている。
- 参考スコア（独自算出の注目度）: 4.342185705620882
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Clinical artificial intelligence is increasingly embedded in real-world care, yet existing safety mechanisms are poorly suited to reconstructing and learning from individual AI-related errors and near-misses. Aggregate model monitoring can identify performance changes, and traditional patient safety reporting can capture adverse events, but neither is designed to explain how risk emerges across the interaction among AI systems, clinicians, workflows, and institutional controls. We propose AI Morbidity and Mortality (AI M&M), a structured, blameless framework for case-based review of clinical AI failures. The framework combines standardized case intake, evidence preservation and investigator-level reconstruction, tool-in-loop attribution, and corrective-action tracking. Each event is classified across four linked dimensions: Trigger - Mechanism - Clinical Pathway - Corrective Action, separating the condition that exposed a vulnerability from the process that produced risk, its consequence for care, and the remediation assigned. We demonstrate the framework using five illustrative outpatient medication and clinical decision-support cases; two clinician reviewers independently applied all four classification axes and reached agreement across all 20 axis-level classifications. AI M&M is intended to complement, rather than replace, model monitoring, patient safety reporting, and regulatory oversight by converting individual AI-in-workflow failures into actionable institutional learning. Prospective evaluation across institutions, AI systems, and clinical settings is needed.
- Abstract（参考訳）: 臨床人工知能はますます現実世界の医療に埋め込まれているが、既存の安全メカニズムは、個々のAI関連エラーや準ミスからの再構築や学習には適していない。
集約モデル監視はパフォーマンスの変化を識別し、従来の患者安全報告は有害事象をキャプチャするが、どちらもAIシステム、臨床医、ワークフロー、制度的なコントロール間の相互作用間でのリスクの出現を説明するように設計されていない。
AIM&M(AI Morbidity and Mortality、AIM&M)は、臨床AI障害のケースベースレビューのための、構造化された、非難なしのフレームワークである。
このフレームワークは、標準化されたケースインテーク、エビデンス保存と調査官レベルの再構築、ツール・イン・ループ・アトリビューション、修正アクショントラッキングを組み合わせている。
トリガー - メカニズム - 臨床パスウェイ - 矯正行動 - 脆弱性を暴露する状態と、リスクを生み出したプロセス、ケアの結果、割り当てられた修復状態の4つに分類される。
臨床医2人が4つの分類軸をそれぞれ独立して適用し,20の軸レベルの分類で一致した。
AI M&Mは、個別のAI内フロー障害を実行可能な機関学習に変換することで、モデル監視、患者の安全報告、規制監督を置き換えるのではなく、補完することを意図している。
機関、AIシステム、臨床環境に対する前向きな評価が必要である。
関連論文リスト
- FRAC-MAS: A Safe and Explainable Multi-Agent System for Fracture Diagnosis [0.6351973754158782]
FRAC-MASは、自動化、説明可能、安全な骨骨折検出のためのエージェントAIシステムである。
パイプライン深度アブレーション研究は、我々のマルチエージェント批評家が86.6%の患者を高信頼の自己確認コホートに分類していることを確認した。
Llama, MedGemma, Geminiに対する患者の嗜好調査は, より理解しやすい臨床報告を示す。
論文 参考訳（メタデータ） (2026-08-22T10:56:00Z) - From Static Risk to Dynamic Trajectories: Toward World-Model-Inspired Clinical Prediction [61.12883122613684]
本稿では, 患者固有の縦断疾患の進展を推定し, 代替治療下での軌跡変化を評価するための, 臨床AIにおける介入認識型疾患軌跡モデリングに焦点をあてる。
3つの意思決定タスク(実測,反実推定,政策評価)と3つのデータ生成機構(障害発生, 治療課題, 観察過程)によって, 識別可能性を決定する。
本稿では,個別/連続時間にまたがる予測,反ファクト的軌跡,政策評価の統一的な枠組みを提案する。
論文 参考訳（メタデータ） (2026-05-16T10:45:26Z) - From Black-Box Confidence to Measurable Trust in Clinical AI: A Framework for Evidence, Supervision, and Staged Autonomy [0.0]
臨床人工知能(AI)の信頼度は、精度、生成の頻度、全体的な肯定的なユーザ印象のモデル化に還元できない。
本稿では、エビデンス、監督、ステージド自律性という3つの原則に基づいて構築された、信頼できる臨床AIのためのフレームワークを提案する。
論文 参考訳（メタデータ） (2026-04-29T13:40:14Z) - Evaluating Patient Safety Risks in Generative AI: Development and Validation of a FMECA Framework for Generated Clinical Content [0.5049603364708264]
障害モード、効果、臨界分析(FMECA)は、体系的なリスク識別のための積極的なフレームワークを提供する。
本研究の目的は, LLM 作成臨床サマリーにおける患者安全リスクの予測評価のための新しい FMECA フレームワークの開発と評価である。
論文 参考訳（メタデータ） (2026-04-23T14:44:15Z) - Augmenting Clinical Decision-Making with an Interactive and Interpretable AI Copilot: A Real-World User Study with Clinicians in Nephrology and Obstetrics [36.981753143345664]
共同臨床意思決定のための対話型・解釈可能なAIコラボロであるAICareについて紹介する。
縦断的な電子健康記録を解析することにより、AICareは動的リスク予測を精査可能な可視化に基礎を置いている。
論文 参考訳（メタデータ） (2026-01-31T13:41:32Z) - Benchmarking Egocentric Clinical Intent Understanding Capability for Medical Multimodal Large Language Models [48.95516224614331]
MedGaze-Benchは、臨床医の視線を認知的カーソルとして活用し、手術、緊急シミュレーション、診断解釈における意図的理解を評価する最初のベンチマークである。
本ベンチマークでは,解剖学的構造の視覚的均一性,臨床における時間・因果依存性の厳格化,安全プロトコルへの暗黙の順守という3つの基本的な課題に対処する。
論文 参考訳（メタデータ） (2026-01-11T02:20:40Z) - Human-in-the-Loop Interactive Report Generation for Chronic Disease Adherence [17.904419827298074]
慢性疾患の管理には、予防可能な入院を避けるため、定期的な順守フィードバックが必要である。
手作業によるオーサリングは、臨床精度は保たれるが、スケールしない。AI生成はスケールするが、患者が直面するコンテキストにおける信頼を損なう可能性がある。
我々は、AIをデータ組織に制約し、認識ベースのレビューを通じて医師の監督を維持する、臨床医向けループインターフェースを提案する。
論文 参考訳（メタデータ） (2026-01-10T00:19:33Z) - Exploring Membership Inference Vulnerabilities in Clinical Large Language Models [42.52690697965999]
臨床大言語モデル(LLM)におけるメンバーシップ推論脆弱性の探索的研究について述べる。
最新の臨床質問応答モデルであるLlemrを用いて、標準的損失に基づく攻撃とドメインを動機としたパラフレージングに基づく摂動戦略の両方を評価する。
その結果は、コンテキスト認識、ドメイン固有のプライバシ評価、防衛の継続的な開発を動機付けている。
論文 参考訳（メタデータ） (2025-10-21T14:27:48Z) - Medchain: Bridging the Gap Between LLM Agents and Clinical Practice with Interactive Sequence [68.05876437208505]
臨床ワークフローの5つの重要な段階をカバーする12,163の臨床症例のデータセットであるMedChainを提示する。
フィードバック機構とMCase-RAGモジュールを統合したAIシステムであるMedChain-Agentも提案する。
論文 参考訳（メタデータ） (2024-12-02T15:25:02Z) - Towards Next-Generation Medical Agent: How o1 is Reshaping Decision-Making in Medical Scenarios [46.729092855387165]
本稿では,医療用AIエージェントのバックボーンLSMの選択について検討する。
我々の研究結果は、o1の診断精度と一貫性を高める能力を示し、よりスマートでより応答性の高いAIツールへの道を開いた。
論文 参考訳（メタデータ） (2024-11-16T18:19:53Z) - COVID-Net Biochem: An Explainability-driven Framework to Building
Machine Learning Models for Predicting Survival and Kidney Injury of COVID-19
Patients from Clinical and Biochemistry Data [66.43957431843324]
我々は、機械学習モデルを構築するための汎用的で説明可能なフレームワークであるCOVID-Net Biochemを紹介する。
この枠組みを用いて、新型コロナウイルス患者の生存率と、入院中に急性腎不全を発症する可能性を予測する。
論文 参考訳（メタデータ） (2022-04-24T07:38:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。