論文の概要: An empirical evaluation of the risks of AI model updates using clinical data: stability, arbitrariness, and fairness
- arxiv url: http://arxiv.org/abs/2604.23954v1
- Date: Mon, 27 Apr 2026 01:59:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-28 17:12:07.697526
- Title: An empirical evaluation of the risks of AI model updates using clinical data: stability, arbitrariness, and fairness
- Title（参考訳）: 臨床データを用いたAIモデル更新のリスクの実証評価:安定性、任意性、公正性
- Authors: Ioannis Bilionis, Ricardo C. Berrios, Luis Fernandez-Luque, Carlos Castillo,
- Abstract要約: 提案したモニタリングフレームワークを,米国に4つあるType 1 Diabetesデータセット上で評価した。
1型糖尿病の小児における重症高血糖の予測を事例として,モデル更新戦略の違いがモデル安定性に悪影響を及ぼすかを検討した。
- 参考スコア（独自算出の注目度）: 4.096952905495459
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Artificial Intelligence and Machine Learning (AI/ML) models used in clinical settings are increasingly deployed to support clinical decision-making. However, when training data become stale due to changes in demographics, environment, or patient behaviors, model performance can degrade substantially. While updating models with new training data is necessary, such updates may also introduce new risks. We evaluated the proposed monitoring framework on four publicly available U.S.-based Type 1 Diabetes datasets containing high-resolution continuous glucose monitoring (CGM) data, comprising approximately 11,300 weekly observations from 496 participants under 20 years of age. All datasets included structured sociodemographic information. Using the prediction of severe hyperglycemia events in children with type 1 diabetes as a case study, we examine how different model update strategies can adversely affect model stability (e.g., by causing predictions to "flip" for a large number of cases after an update), increase arbitrariness in predictions, or worsen accuracy equity and the balance of error rates across subpopulations. We propose multiple dimensions for continuous monitoring to detect these issues and argue that such monitoring is essential for the development of trustworthy clinical decision support systems.
- Abstract（参考訳）: 臨床設定で使用される人工知能と機械学習(AI/ML)モデルは、臨床意思決定をサポートするためにますます多くデプロイされている。
しかし、人口統計、環境、患者行動の変化によってトレーニングデータが不安定になった場合、モデルの性能は著しく低下する可能性がある。
新しいトレーニングデータでモデルを更新する必要があるが、このような更新には新たなリスクも伴う。
本研究では,20歳未満496名を対象に,高分解能連続グルコースモニタリング(CGM)データを含む4種類の米国用1型糖尿病データセットを用いて,約11,300名の週次観察を行った。
全てのデータセットには、構造化された社会デミノグラフィー情報が含まれていた。
1型糖尿病の小児における重症高血糖の予測を事例として,モデル更新戦略の違いがモデル安定性に悪影響を及ぼすかを検討した。
本稿では,これらの問題を検出するための連続的なモニタリングのための複数の次元を提案し,信頼性の高い臨床診断支援システムの開発にはこのようなモニタリングが不可欠であると主張している。
関連論文リスト
- Diagnostics for Individual-Level Prediction Instability in Machine Learning for Healthcare [0.0]
2つの相補的診断法を用いて個人レベルの予測不安定性を定量化する評価フレームワークを提案する。
これらの診断をシミュレーションデータとGUSTO-I臨床データセットに適用する。
論文 参考訳（メタデータ） (2026-02-27T03:42:28Z) - Adaptable Cardiovascular Disease Risk Prediction from Heterogeneous Data using Large Language Models [70.64969663547703]
AdaCVDは、英国バイオバンクから50万人以上の参加者を対象に、大規模な言語モデルに基づいて構築された適応可能なCVDリスク予測フレームワークである。
包括的かつ可変的な患者情報を柔軟に取り込み、構造化データと非構造化テキストの両方をシームレスに統合し、最小限の追加データを使用して新規患者の集団に迅速に適応する。
論文 参考訳（メタデータ） (2025-05-30T14:42:02Z) - Deep State-Space Generative Model For Correlated Time-to-Event Predictions [54.3637600983898]
そこで本研究では,様々な種類の臨床イベント間の相互作用を捉えるために,潜伏状態空間生成モデルを提案する。
また,死亡率と臓器不全の関連性について有意な知見が得られた。
論文 参考訳（メタデータ） (2024-07-28T02:42:36Z) - Screening for Diabetes Mellitus in the U.S. Population Using Neural Network Models and Complex Survey Designs [2.3849116823891987]
本稿では,ニューラルネットワーク(NN)モデルを用いた回帰と分類のための一般的な予測フレームワークを提案する。
この枠組みを適用し、アメリカの人口における糖尿病のリスクを評価するための頑健なリスクスコアモデルを開発する。
糖尿病に焦点が当てられているが、このNN予測フレームワークは様々な疾患や医療コホートにまたがる臨床モデルの開発に適応できる。
論文 参考訳（メタデータ） (2024-03-28T18:06:11Z) - MedDiffusion: Boosting Health Risk Prediction via Diffusion-based Data
Augmentation [58.93221876843639]
本稿では,MedDiffusion という,エンドツーエンドの拡散に基づくリスク予測モデルを提案する。
トレーニング中に合成患者データを作成し、サンプルスペースを拡大することで、リスク予測性能を向上させる。
ステップワイズ・アテンション・メカニズムを用いて患者の来訪者間の隠れた関係を識別し、高品質なデータを生成する上で最も重要な情報をモデルが自動的に保持することを可能にする。
論文 参考訳（メタデータ） (2023-10-04T01:36:30Z) - Safe AI for health and beyond -- Monitoring to transform a health
service [51.8524501805308]
機械学習アルゴリズムの出力を監視するために必要なインフラストラクチャを評価する。
モデルのモニタリングと更新の例を示す2つのシナリオを提示します。
論文 参考訳（メタデータ） (2023-03-02T17:27:45Z) - Identifying and mitigating bias in algorithms used to manage patients in
a pandemic [4.756860520861679]
現実のデータセットを使用して、新型コロナウイルスの死亡率、人工呼吸器の状態、入院状態を予測するために、ロジスティック回帰モデルが作成された。
モデルではバイアス試験の回数が57%減少した。
キャリブレーション後, 予測モデルの平均感度は0.527から0.955に増加した。
論文 参考訳（メタデータ） (2021-10-30T21:10:56Z) - UNITE: Uncertainty-based Health Risk Prediction Leveraging Multi-sourced
Data [81.00385374948125]
我々はUNcertaInTyベースのhEalth Risk Prediction(UNITE)モデルを提案する。
UNITEは、複数ソースの健康データを活用した正確な疾患リスク予測と不確実性推定を提供する。
非アルコール性脂肪肝疾患(NASH)とアルツハイマー病(AD)の実態予測タスクにおけるUNITEの評価を行った。
UNITEはAD検出のF1スコアで最大0.841点、NASH検出のPR-AUCで最大0.609点を達成し、最高のベースラインで最大19%の高パフォーマンスを達成している。
論文 参考訳（メタデータ） (2020-10-22T02:28:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。