論文の概要: Automated screening of privacy risks in medical AI

• arxiv url: http://arxiv.org/abs/2610.30229v1
• Date: Wed, 21 Oct 2026 17:52:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.090523
• Title: Automated screening of privacy risks in medical AI
• Title（参考訳）: 医療用AIにおけるプライバシーリスクの自動スクリーニング
• Abstract要約: 我々は,6つの臨床データセットで訓練した7,789モデルを対象に,各患者の会員推定攻撃に対する脆弱性を測定した。 そこで本研究では,4つの小型モデルを用いて,被曝リスクの高い患者を実運用モデルトレーニング前に識別する軽量スクリーニングツールを開発した。
• 参考スコア（独自算出の注目度）: 0.9584992590637049
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Medical artificial intelligence (AI) models are often shared without their training data, assuming this protects the patients who contributed them. However, a model can reveal whether a patient's records were used in training, a privacy breach known as a membership inference attack. This risk is usually reported as a cohort average, which can appear negligible while individual patients are almost certainly exposed. Identifying potentially vulnerable records before developing a production model could make privacy assessment more practical. We measured each patient's vulnerability to membership inference attack, across 7,789 models trained on six clinical datasets in four modalities, including two adapted pretrained medical models. Training choices changed how many patients had high attack scores, but the patients who ranked highest by risk largely stayed the same across the configurations we tested. Stronger weight decay reduced the exposed cohort up to threefold, yet largely the same patients remained most at risk across training recipes, architectures and initializations, including foundation models. Therefore, we developed a lightweight screening tool that uses four small models to identify patients with high risk of exposure before production-model training. We also assessed if flagged patients could be protected without removing their data. Privacy screening should become incorporated into data preparation for clinical AI.
• Abstract（参考訳）: 医療人工知能(AI)モデルはしばしばトレーニングデータなしで共有される。 しかし、モデルでは、患者の記録がトレーニングに使われたかどうかを明らかにすることができる。 このリスクは通常コホート平均として報告され、個々の患者がほぼ確実に露出している間に無視できる。 プロダクションモデルを開発する前に潜在的に脆弱なレコードを特定することで、プライバシアセスメントをより実用的なものにすることができる。 臨床データセットを4つのモードでトレーニングした7,789モデルを対象に、各患者の会員推論攻撃に対する脆弱性を測定した。 トレーニングの選択は、高い攻撃スコアを持つ患者数を変えましたが、リスクの高い患者は、テストした構成でほとんど同じでした。 体重減少により、露出したコホートは3倍に減少したが、ほとんど同じ患者が、基礎モデルを含むトレーニングのレシピ、建築、初期化において最も危険に晒された。 そこで,本研究では,4つの小型モデルを用いた軽量スクリーニングツールを開発した。 また,データを削除することなく,フラグ付き患者を保護できるかどうかも検討した。 プライバシスクリーニングは、臨床AIのためのデータ準備に組み込まれるべきである。

関連論文リスト

• Memorisation bias in medical AI [33.76985328787124]
  トレーニング中に同じ患者の匿名化された履歴データを観察した場合, 患者の将来データに対する予測は, 大きく変化する可能性が示唆された。 このバイアスは、さまざまなデータモダリティやモデルアーキテクチャにまたがって存在していることを実証します。 シミュレーションによる予測展開では、記憶バイアスはデータコントリビュータの診断精度に非対称な効果を持つ。
  論文  参考訳（メタデータ） (2026-09-15T14:07:01Z)
• Adaptable Cardiovascular Disease Risk Prediction from Heterogeneous Data using Large Language Models [70.64969663547703]
  AdaCVDは、英国バイオバンクから50万人以上の参加者を対象に、大規模な言語モデルに基づいて構築された適応可能なCVDリスク予測フレームワークである。 包括的かつ可変的な患者情報を柔軟に取り込み、構造化データと非構造化テキストの両方をシームレスに統合し、最小限の追加データを使用して新規患者の集団に迅速に適応する。
  論文  参考訳（メタデータ） (2025-05-30T14:42:02Z)
• Machine Learning Solutions Integrated in an IoT Healthcare Platform for Heart Failure Risk Stratification [0.16863755729554883]
  慢性心不全(HF)の管理は、現代医療において重要な課題である。 本稿では,HFリスクのある患者を識別するための機械学習(ML)技術に基づく予測モデルを提案する。
  論文  参考訳（メタデータ） (2025-04-07T14:07:05Z)
• Unconditional Latent Diffusion Models Memorize Patient Imaging Data: Implications for Openly Sharing Synthetic Data [2.04850174048739]
  我々は、合成データ生成のためのCT、MR、X線データセット上で潜時拡散モデルを訓練する。 そして,新たな自己教師型コピー検出手法を用いて,記憶したトレーニングデータの量を検出する。 以上の結果から,全データセットにまたがる驚くほど高い患者のデータ記憶が得られた。
  論文  参考訳（メタデータ） (2024-02-01T22:58:21Z)
• Private, fair and accurate: Training large-scale, privacy-preserving AI models in medical imaging [47.99192239793597]
  我々は,AIモデルのプライバシ保護トレーニングが,非プライベートトレーニングと比較して精度と公平性に与える影響を評価した。 我々の研究は、実際の臨床データセットの困難な現実的な状況下では、診断深層学習モデルのプライバシー保護トレーニングは、優れた診断精度と公正さで可能であることを示しています。
  論文  参考訳（メタデータ） (2023-02-03T09:49:13Z)
• Why patient data cannot be easily forgotten? [18.089204090335667]
  患者データのモデル性能への影響について検討し, 患者データに対する2つの仮説を定式化する。 そこで我々は,患者を意識した「忘れる」アプローチを提案する。
  論文  参考訳（メタデータ） (2022-06-29T11:36:49Z)
• Self-Training with Improved Regularization for Sample-Efficient Chest X-Ray Classification [80.00316465793702]
  挑戦的なシナリオで堅牢なモデリングを可能にするディープラーニングフレームワークを提案する。 その結果,85%のラベル付きデータを用いて,大規模データ設定で学習した分類器の性能に適合する予測モデルを構築することができた。
  論文  参考訳（メタデータ） (2020-05-03T02:36:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。