論文の概要: Memorisation bias in medical AI

• arxiv url: http://arxiv.org/abs/2609.17223v1
• Date: Tue, 15 Sep 2026 14:07:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 14:56:08.560657
• Title: Memorisation bias in medical AI
• Title（参考訳）: 医療AIにおける記憶バイアス
• Abstract要約: トレーニング中に同じ患者の匿名化された履歴データを観察した場合, 患者の将来データに対する予測は, 大きく変化する可能性が示唆された。 このバイアスは、さまざまなデータモダリティやモデルアーキテクチャにまたがって存在していることを実証します。 シミュレーションによる予測展開では、記憶バイアスはデータコントリビュータの診断精度に非対称な効果を持つ。
• 参考スコア（独自算出の注目度）: 33.76985328787124
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Medical AI models hold immense potential to improve patient outcomes, but they are also known to unintentionally memorise individual records from their training datasets. While such memorisation has been linked to targeted privacy attacks, its consequences for clinical deployment, where patients may be assessed by a model that saw their historical data during training, remain poorly understood. Here we show that predictions on a patient's unseen future data can change significantly if a model observed that same patient's anonymised historical data during training, a phenomenon we term "memorisation bias". We demonstrate that this bias exists across diverse data modalities and model architectures, and over prolonged time spans: in some cases, memorisation bias persists on future records acquired decades after the historical records used for training. Moreover, in simulated prospective deployment, memorisation bias has asymmetric effects on the diagnostic accuracy of returning data contributors. When a patient returned with a de novo condition absent from their historical records in the training dataset, diagnostic sensitivity decreased significantly compared to an otherwise identical model not trained on their historical data. Conversely, when their health state was unchanged, both sensitivity and specificity were significantly inflated. Our findings reveal a previously uncharacterised risk in medical AI that arises when a model is deployed on patients who contributed to its training data. This exposes a shortcoming of current model development practice: the de-identification measures designed to protect patients' privacy make it difficult to identify returning contributors and exclude them from the AI-assisted interpretation of their own future data. Mitigating memorisation risks may thus require changes to current model training and deployment protocols.
• Abstract（参考訳）: 医療AIモデルは、患者の結果を改善する大きな可能性を秘めているが、トレーニングデータセットから意図せず個々の記録を記憶することが知られている。 このような記憶は、標的となるプライバシ攻撃と結び付けられてきたが、臨床展開における影響は、トレーニング中に過去のデータを見たモデルによって評価される可能性がある。 ここでは、トレーニング中に同じ患者の匿名化された履歴データを観察したモデルが「記憶バイアス」と呼ぶ現象を観察すれば、患者の目に見えない将来データに対する予測が大幅に変化する可能性があることを示す。 このバイアスは、様々なデータモダリティやモデルアーキテクチャにまたがって存在し、長期にわたって存在していることを実証する。 さらに,シミュレーションによる予測展開では,暗記バイアスがデータコントリビュータの診断精度に非対称な影響を及ぼす。 トレーニングデータセットにおいて,de novo 状態の患者が過去の記録を欠いた場合,診断感度は,既往の既往のモデルと比較すると有意に低下した。 逆に、健康状態が変われば、感度と特異性の両方が著しく膨らんだ。 以上の結果から,トレーニングデータに寄与した患者に対して,モデルがデプロイされた際に生じる,医療用AIのリスクが,これまで認識されていなかったことが明らかとなった。 患者のプライバシを保護するために設計された非識別化対策は、リターンコントリビュータを特定して、自分たちの将来データに対するAI支援の解釈から除外することを難しくする。 したがって、暗記のリスクを軽減するには、現在のモデルトレーニングとデプロイメントプロトコルを変更する必要がある。

関連論文リスト

• Pitfalls of Administrative Censoring in Survival Models with Time-Indexed Inputs [9.373139684950957]
  生存モデルは、部分的に観測されたデータを用いて時間と時間の結果をモデル化することができる。 最近のモデルは、しばしば特定の臨床経験で収集された豊富な入力に依存している。 これにより、結果が一定の研究終了日までにのみ観察される場合、潜在的な障害モードが生成される。
  論文  参考訳（メタデータ） (2026-07-11T20:10:16Z)
• Deep State-Space Generative Model For Correlated Time-to-Event Predictions [54.3637600983898]
  そこで本研究では,様々な種類の臨床イベント間の相互作用を捉えるために,潜伏状態空間生成モデルを提案する。 また,死亡率と臓器不全の関連性について有意な知見が得られた。
  論文  参考訳（メタデータ） (2024-07-28T02:42:36Z)
• Unconditional Latent Diffusion Models Memorize Patient Imaging Data: Implications for Openly Sharing Synthetic Data [2.04850174048739]
  我々は、合成データ生成のためのCT、MR、X線データセット上で潜時拡散モデルを訓練する。 そして,新たな自己教師型コピー検出手法を用いて,記憶したトレーニングデータの量を検出する。 以上の結果から,全データセットにまたがる驚くほど高い患者のデータ記憶が得られた。
  論文  参考訳（メタデータ） (2024-02-01T22:58:21Z)
• IGNITE: Individualized GeNeration of Imputations in Time-series Electronic health records [6.630372114304835]
  本研究では、患者動態を学習し、個人の人口動態の特徴や治療に合わせたパーソナライズされた値を生成する新しいディープラーニングモデルを提案する。 提案モデルであるIGNITEは,2段階の注意を付加した条件付き2変分オートエンコーダを用いて,個人に対して欠落した値を生成する。 IGNITEは,データ再構成の欠如やタスク予測において,最先端の手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-01-09T07:57:21Z)
• MedDiffusion: Boosting Health Risk Prediction via Diffusion-based Data Augmentation [58.93221876843639]
  本稿では,MedDiffusion という,エンドツーエンドの拡散に基づくリスク予測モデルを提案する。 トレーニング中に合成患者データを作成し、サンプルスペースを拡大することで、リスク予測性能を向上させる。 ステップワイズ・アテンション・メカニズムを用いて患者の来訪者間の隠れた関係を識別し、高品質なデータを生成する上で最も重要な情報をモデルが自動的に保持することを可能にする。
  論文  参考訳（メタデータ） (2023-10-04T01:36:30Z)
• Learning and DiSentangling Patient Static Information from Time-series Electronic HEalth Record (STEER) [3.079694232219292]
  医療における機械学習の最近の研究は、患者のプライバシとアルゴリズムの公正性に関する懸念を提起している。 そこで我々は,患者の静的情報を予測するための時系列電子健康記録データの有用性を体系的に検討した。 生の時系列データだけでなく、機械学習モデルから学習した表現も、さまざまな静的情報を予測するためにトレーニングできることがわかった。
  論文  参考訳（メタデータ） (2023-09-20T14:54:48Z)
• Private, fair and accurate: Training large-scale, privacy-preserving AI models in medical imaging [47.99192239793597]
  我々は,AIモデルのプライバシ保護トレーニングが,非プライベートトレーニングと比較して精度と公平性に与える影響を評価した。 我々の研究は、実際の臨床データセットの困難な現実的な状況下では、診断深層学習モデルのプライバシー保護トレーニングは、優れた診断精度と公正さで可能であることを示しています。
  論文  参考訳（メタデータ） (2023-02-03T09:49:13Z)
• Reconstructing Training Data from Model Gradient, Provably [68.21082086264555]
  ランダムに選択されたパラメータ値で1つの勾配クエリからトレーニングサンプルを再構成する。 センシティブなトレーニングデータを示す証明可能な攻撃として、われわれの発見はプライバシーに対する深刻な脅威を示唆している。
  論文  参考訳（メタデータ） (2022-12-07T15:32:22Z)
• Textual Data Augmentation for Patient Outcomes Prediction [67.72545656557858]
  本稿では,患者の電子カルテに人工的な臨床ノートを作成するための新しいデータ拡張手法を提案する。 生成言語モデルGPT-2を微調整し、ラベル付きテキストを元のトレーニングデータで合成する。 今回,最も多い患者,すなわち30日間の寛解率について検討した。
  論文  参考訳（メタデータ） (2022-11-13T01:07:23Z)
• Integrated Convolutional and Recurrent Neural Networks for Health Risk Prediction using Patient Journey Data with Many Missing Values [9.418011774179794]
  本稿では,統合畳み込みニューラルネットワークとリカレントニューラルネットワークを用いたEMH患者旅行データモデリングのためのエンドツーエンドアプローチを提案する。 本モデルでは,各患者旅行における長期的・短期的時間的パターンを抽出し,インパルスデータ生成を伴わずに,高レベルのEHRデータの欠落を効果的に処理することができる。
  論文  参考訳（メタデータ） (2022-11-11T07:36:18Z)
• Practical Challenges in Differentially-Private Federated Survival Analysis of Medical Data [57.19441629270029]
  本稿では,ニューラルネットワークの本質的特性を活用し,生存分析モデルの訓練過程を関連づける。 小さな医療データセットと少数のデータセンターの現実的な設定では、このノイズはモデルを収束させるのが難しくなります。 DPFed-post は,私的フェデレート学習方式に後処理の段階を追加する。
  論文  参考訳（メタデータ） (2022-02-08T10:03:24Z)
• DeepRite: Deep Recurrent Inverse TreatmEnt Weighting for Adjusting Time-varying Confounding in Modern Longitudinal Observational Data [68.29870617697532]
  時系列データにおける時間変化の相違に対するDeep Recurrent Inverse TreatmEnt重み付け(DeepRite)を提案する。 DeepRiteは、合成データから基底的真理を復元し、実際のデータから偏りのない処理効果を推定する。
  論文  参考訳（メタデータ） (2020-10-28T15:05:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。