論文の概要: Monitoring Deployed AI Systems in Health Care
- arxiv url: http://arxiv.org/abs/2512.09048v1
- Date: Tue, 09 Dec 2025 19:06:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-11 15:14:53.286936
- Title: Monitoring Deployed AI Systems in Health Care
- Title（参考訳）: 医療におけるデプロイされたAIシステムのモニタリング
- Authors: Timothy Keyes, Alison Callahan, Abby S. Pandya, Nerissa Ambers, Juan M. Banda, Miguel Fuentes, Carlene Lugtu, Pranav Masariya, Srikar Nallan, Connor O'Brien, Thomas Wang, Emily Alsentzer, Jonathan H. Chen, Dev Dash, Matthew A. Eisenberg, Patricia Garcia, Nikesh Kotecha, Anurang Revri, Michael A. Pfeffer, Nigam H. Shah, Sneha S. Jain,
- Abstract要約: 医療における人工知能(AI)システムのデプロイ後モニタリングは、その安全性、品質、持続的な利益を保証するために不可欠である。
このフレームワークは,3つの補完的原則 – システムの完全性,パフォーマンス,影響 – に基づいて構成されている。
それは、AIデプロイメントが時間とともに安全で効果的であることを保証するために、医療システムに実用的なテンプレートと出発点を提供する。
- 参考スコア（独自算出の注目度）: 8.240297189233528
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Post-deployment monitoring of artificial intelligence (AI) systems in health care is essential to ensure their safety, quality, and sustained benefit-and to support governance decisions about which systems to update, modify, or decommission. Motivated by these needs, we developed a framework for monitoring deployed AI systems grounded in the mandate to take specific actions when they fail to behave as intended. This framework, which is now actively used at Stanford Health Care, is organized around three complementary principles: system integrity, performance, and impact. System integrity monitoring focuses on maximizing system uptime, detecting runtime errors, and identifying when changes to the surrounding IT ecosystem have unintended effects. Performance monitoring focuses on maintaining accurate system behavior in the face of changing health care practices (and thus input data) over time. Impact monitoring assesses whether a deployed system continues to have value in the form of benefit to clinicians and patients. Drawing on examples of deployed AI systems at our academic medical center, we provide practical guidance for creating monitoring plans based on these principles that specify which metrics to measure, when those metrics should be reviewed, who is responsible for acting when metrics change, and what concrete follow-up actions should be taken-for both traditional and generative AI. We also discuss challenges to implementing this framework, including the effort and cost of monitoring for health systems with limited resources and the difficulty of incorporating data-driven monitoring practices into complex organizations where conflicting priorities and definitions of success often coexist. This framework offers a practical template and starting point for health systems seeking to ensure that AI deployments remain safe and effective over time.
- Abstract（参考訳）: 医療における人工知能(AI)システムのデプロイ後監視は、その安全性、品質、持続的な利益を保証するために不可欠である。
これらのニーズに触発されて、私たちは、意図したように振る舞わなかった場合に特定のアクションを取るように委任された、デプロイされたAIシステムを監視するフレームワークを開発しました。
このフレームワークはStanford Health Careで積極的に使用されており、システム完全性、パフォーマンス、影響の3つの相補的な原則に基づいて構成されている。
システムの完全性監視は、システムの稼働時間を最大化し、実行時のエラーを検出し、周囲のITエコシステムの変更が意図しない影響をいつ発するかを特定することに焦点を当てている。
パフォーマンスモニタリングは、時間とともに医療の実践(つまり入力データ)を変えることに直面して、正確なシステムの振舞いを維持することに焦点を当てる。
インパクトモニタリングは、デプロイされたシステムが、臨床医や患者にとって利益の形で価値を保ち続けるかどうかを評価する。
当社の学術医療センターでデプロイされたAIシステムの例に基づいて、これらの原則に基づいて監視計画を作成するための実践的なガイダンスを提供する。
このフレームワークを実装する上での課題としては、限られたリソースを持つヘルスシステムの監視の労力とコスト、データ駆動型の監視プラクティスを相反する優先順位と成功の定義が共存する複雑な組織に組み込むことの難しさなどを挙げる。
このフレームワークは、AIデプロイメントが時間とともに安全かつ効果的であることを保証するために、医療システムに実用的なテンプレートと出発点を提供する。
関連論文リスト
- The SMART+ Framework for AI Systems [0.2039123720459736]
人工知能(AI)システムは現在、複数の産業の不可欠な部分となっている。
臨床研究において、AIは、臨床試験における自動不良事象検出、プロトコルの登録のための患者の適性スクリーニング、データ品質の検証をサポートする。
医療以外にも、AIはリアルタイム不正検出、自動ローンリスク評価、アルゴリズムによる意思決定を通じて金融を変革している。
論文 参考訳（メタデータ） (2025-12-09T13:33:14Z) - Perspectives on a Reliability Monitoring Framework for Agentic AI Systems [5.539407031861404]
エージェントAIシステムの動作時の信頼性の課題は,その特性に基づいて導出する。
本稿ではエージェントAIシステムのための2層信頼性監視フレームワークを提案する。
論文 参考訳（メタデータ） (2025-11-12T10:19:17Z) - Keeping Medical AI Healthy: A Review of Detection and Correction Methods for System Degradation [6.781778751487079]
このレビューでは、医療におけるAIシステムの「健康」の監視と維持について、前向きな視点を提示する。
継続的パフォーマンス監視、早期劣化検出、効果的な自己補正メカニズムの緊急ニーズを強調します。
この研究は、ダイナミックな臨床環境における安全な長期展開を維持できる信頼性が高く堅牢な医療AIシステムの開発を導くことを目的としている。
論文 参考訳（メタデータ） (2025-06-20T19:22:07Z) - Beyond One-Time Validation: A Framework for Adaptive Validation of Prognostic and Diagnostic AI-based Medical Devices [55.319842359034546]
既存のアプローチは、これらのデバイスを実際にデプロイする際の複雑さに対処するのに不足することが多い。
提示されたフレームワークは、デプロイメント中に検証と微調整を繰り返すことの重要性を強調している。
現在の米国とEUの規制分野に位置づけられている。
論文 参考訳（メタデータ） (2024-09-07T11:13:52Z) - Trustworthy and Practical AI for Healthcare: A Guided Deferral System with Large Language Models [1.2281181385434294]
大規模言語モデル(LLM)は、医療における様々なアプリケーションに有用な技術を提供する。
彼らの幻覚化傾向と既存のプロプライエタリなシステムへの依存は、批判的な意思決定に関する環境に課題をもたらす。
本稿では,障害分類のための医療報告を同時に解析し,ヒトへの知的な指導による不確実な予測を推論する新しいHAICガイド型deferralシステムを提案する。
論文 参考訳（メタデータ） (2024-06-11T12:41:54Z) - Deep Reinforcement Learning Empowered Activity-Aware Dynamic Health
Monitoring Systems [69.41229290253605]
既存のモニタリングアプローチは、医療機器が複数の健康指標を同時に追跡するという前提で設計されている。
これは、その範囲内で関連するすべての健康値を報告し、過剰なリソース使用と外部データの収集をもたらす可能性があることを意味します。
最適なモニタリング性能とコスト効率のバランスをとるための動的アクティビティ・アウェアヘルスモニタリング戦略(DActAHM)を提案する。
論文 参考訳（メタデータ） (2024-01-19T16:26:35Z) - Evaluating General-Purpose AI with Psychometrics [43.85432514910491]
本稿では,大規模言語モデルなどの汎用AIシステムの包括的かつ正確な評価の必要性について論じる。
現在の評価手法は、主に特定のタスクのベンチマークに基づいており、これらの汎用AIシステムを適切に評価するには不十分である。
これらの課題に対処するため,タスク指向評価から構成指向評価への移行を提案する。
論文 参考訳（メタデータ） (2023-10-25T05:38:38Z) - Organizational Governance of Emerging Technologies: AI Adoption in
Healthcare [43.02293389682218]
Health AI Partnershipは、医療設定におけるAIシステムの適切な組織的ガバナンスの要件をより適切に定義することを目的としている。
これは、米国の医療システムによるAI導入に関わる、現在のガバナンス構造とプロセスに関する、最も詳細な定性的な分析の1つである。
これらの発見が、医療における新興テクノロジーの安全で効果的で責任ある採用を促進する能力を構築するための将来の取り組みを知らせてくれることを期待している。
論文 参考訳（メタデータ） (2023-04-25T18:30:47Z) - I-Health: Leveraging Edge Computing and Blockchain for Epidemic
Management [36.55809341110476]
エピデミックな状況は、厳密な時間制約の中で、異なる場所やエンティティから集中的なデータ収集と管理を要求する。
本稿では, 独自の医療システムにおいて, 多様なeヘルスエンティティを集約することを目的とした, インテリジェントヘルス(Iヘルス)システムを提案する。
特に,早期発見,遠隔監視,迅速な緊急対応が可能な,患者自動監視方式をエッジに設計する。
論文 参考訳（メタデータ） (2020-12-18T23:41:00Z) - Monitoring and Diagnosability of Perception Systems [21.25149064251918]
知覚は、ロボット工学や自動運転車などの自律システムの高統合的応用において重要な要素である。
知覚システムの重要さにもかかわらず、システムレベルのモニタリングには正式なアプローチは存在しない。
本稿では,認識システムの実行時モニタリングと故障検出のための数学的モデルを提案する。
論文 参考訳（メタデータ） (2020-05-24T18:09:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。