論文の概要: A Data-Interventional Framework for Auditing Privacy and Fairness in Generative Medical Imaging

• arxiv url: http://arxiv.org/abs/2609.26623v1
• Date: Tue, 22 Sep 2026 15:55:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-24 01:05:39.736441
• Title: A Data-Interventional Framework for Auditing Privacy and Fairness in Generative Medical Imaging
• Title（参考訳）: 生成医療画像のプライバシと公正性を評価するためのデータインターベンショナルフレームワーク
• Abstract要約: 拡散に基づく合成データ生成は、敏感な患者記録を公開せずに医療画像データを共有するための有望な経路を提供する。 生成モデルは プライバシーと公正の間に 根本的な緊張に直面しています 拡散モデルにおけるプライバシと公平性を分析するためのデータ干渉フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 11.805790810044902
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion-based synthetic data generation offers a promising route for sharing medical imaging data without releasing sensitive patient records. However, generative models face a fundamental tension between privacy and fairness: they may memorize rare training samples, leading to privacy risks, or fail to reproduce underrepresented features, resulting in unfair synthetic distributions. While prior work has largely focused on either memorization or fairness in isolation, their interaction remains insufficiently understood. In this work, we introduce a data-interventional framework to systematically analyze privacy and fairness in diffusion models. We discuss synthetic anatomical fingerprints (SAFs), rare and manually injected image features, as controlled probes to study whether models generalize sensitive attributes across identities, memorize training samples, or suppress rare signals entirely. Across multiple conditioning modalities, we observe a consistent behavior: models either forget these fingerprints or memorize the entire image in which they appear, but do not generalize them to novel images. To support large-scale auditing where explicit sample extraction is infeasible, we further introduce the indicator metric t', which estimates a model's susceptibility to memorization by exploiting the internal structure of the diffusion process. By comparing conditioning signals of varying surprisal, we reveal a clear relationship between conditioning rarity and memorization behavior. Highly surprising conditioning signals act as retrieval keys that amplify memorization, whereas low-surprisal conditioning signals systematically suppress rare features, even when these appear repeatedly in the training data. Our findings provide actionable insights and concrete mitigation strategies for safe and fair synthetic medical data sharing. Code is available at https://github.com/MischaD/Privacy.
• Abstract（参考訳）: 拡散に基づく合成データ生成は、敏感な患者記録を公開せずに医療画像データを共有するための有望な経路を提供する。 しかし、生成モデルは、プライバシとフェアネスの間に根本的な緊張関係に直面しており、希少なトレーニングサンプルを記憶し、プライバシのリスクを生じさせるか、未表現の特徴を再現できないか、不公平な合成分布をもたらす可能性がある。 以前の研究は、単独での記憶と公平性の両方に主に焦点を合わせてきたが、それらの相互作用はいまだに十分に理解されていない。 本研究では,拡散モデルにおけるプライバシと公平性を体系的に解析するデータ干渉フレームワークを提案する。 本研究では, 合成解剖学的指紋(SAF), 希少および手動注入画像の特徴について検討し, モデルがアイデンティティ全体にわたって感度特性を一般化するか, トレーニングサンプルを記憶するか, あるいはレア信号を完全に抑制するかを検討した。 モデルはこれらの指紋を忘れるか、それらが現れる画像全体を記憶するが、それらを新しい画像に一般化しない。 さらに, 試料抽出が不可能な大規模監査を支援するため, 拡散過程の内部構造を利用して, モデルが記憶への感受性を推定する指標指標 t' を導入する。 本研究は,様々な前提条件の条件付け信号を比較することにより,条件付けの希薄さと記憶行動との明確な関係を明らかにする。 驚くべき条件付け信号は記憶を増幅する検索キーとして機能する一方、低次条件付け信号はトレーニングデータに繰り返し現れる場合でも、稀な特徴を体系的に抑制する。 本研究は安全かつ公正な医用データ共有のための実用的な洞察と具体的な緩和戦略を提供する。 コードはhttps://github.com/MischaD/Privacy.comで入手できる。

関連論文リスト

• Phantoms and Disclosures: a Causal Framework for Auditing Synthetic Data [56.86147283213652]
  データ開示の検出と説明を目的とした,カスタマイズ可能な実証監査フレームワークを提案する。 本フレームワークでは,ユーザの情報を直接再現する「真の開示」と,ユーザのデータを偶発的に生成する「幻の開示」とを区別する機構を導入する。
  論文  参考訳（メタデータ） (2026-06-15T16:54:02Z)
• Noise as a Probe: Membership Inference Attacks on Diffusion Models Leveraging Initial Noise [51.179816451161635]
  拡散モデルは画像生成において顕著な進歩を遂げているが、そのデプロイの増加はプライバシに関する深刻な懸念を引き起こす。 広範に使われているノイズスケジュールは、画像のセマンティック情報を完全に排除することができない。 本稿では,初期雑音に意味情報を注入し,モデル生成結果を解析してメンバーシップを推定する,シンプルで効果的なメンバーシップ推論攻撃を提案する。
  論文  参考訳（メタデータ） (2026-01-29T12:29:01Z)
• Subtyping Breast Lesions via Generative Augmentation based Long-tailed Recognition in Ultrasound [8.410718166932798]
  本稿では,高忠実度データ合成による分布バイアスを緩和する長鎖分類のためのフレームワークを提案する。 提案手法は,最先端手法と比較して有望な性能を実現する。
  論文  参考訳（メタデータ） (2025-07-30T10:50:41Z)
• Unconditional Latent Diffusion Models Memorize Patient Imaging Data: Implications for Openly Sharing Synthetic Data [2.04850174048739]
  我々は、合成データ生成のためのCT、MR、X線データセット上で潜時拡散モデルを訓練する。 そして,新たな自己教師型コピー検出手法を用いて,記憶したトレーニングデータの量を検出する。 以上の結果から,全データセットにまたがる驚くほど高い患者のデータ記憶が得られた。
  論文  参考訳（メタデータ） (2024-02-01T22:58:21Z)
• How adversarial attacks can disrupt seemingly stable accurate classifiers [76.95145661711514]
  敵攻撃は、入力データに不連続な修正を加えることで、非正確な学習システムの出力を劇的に変化させる。 ここでは,これは高次元入力データを扱う分類器の基本的特徴であると考えられる。 実用システムで観測される重要な振る舞いを高い確率で発生させる、単純で汎用的なフレームワークを導入する。
  論文  参考訳（メタデータ） (2023-09-07T12:02:00Z)
• Quantifying Sample Anonymity in Score-Based Generative Models with Adversarial Fingerprinting [3.8933108317492167]
  プライベートデータ上での拡散モデルをトレーニングし、生データセットではなくモデルと重みを広めることで、革新的な大規模データ共有戦略の道を開く。 本稿では,サンプリング過程において,識別可能な訓練画像の再生確率の上限を推定する手法を提案する。 以上の結果から,モデルが不注意にトレーニングされた場合,プライバシブリーチング画像はサンプリング時に再生されることがわかった。
  論文  参考訳（メタデータ） (2023-06-02T08:37:38Z)
• Proactive Pseudo-Intervention: Causally Informed Contrastive Learning For Interpretable Vision Models [103.64435911083432]
  PPI(Proactive Pseudo-Intervention)と呼ばれる新しい対照的な学習戦略を提案する。 PPIは、因果関係のない画像の特徴を保護するために積極的に介入する。 また,重要な画像画素を識別するための,因果的に通知された新たなサリエンスマッピングモジュールを考案し,モデル解釈の容易性を示す。
  論文  参考訳（メタデータ） (2020-12-06T20:30:26Z)
• Automatic Recall Machines: Internal Replay, Continual Learning and the Brain [104.38824285741248]
  ニューラルネットワークのリプレイには、記憶されたサンプルを使ってシーケンシャルなデータのトレーニングが含まれる。 本研究では,これらの補助サンプルをフライ時に生成する手法を提案する。 代わりに、評価されたモデル自体内の学習したサンプルの暗黙の記憶が利用されます。
  論文  参考訳（メタデータ） (2020-06-22T15:07:06Z)
• Semi-supervised Medical Image Classification with Relation-driven Self-ensembling Model [71.80319052891817]
  医用画像分類のための関係駆動型半教師付きフレームワークを提案する。 これは、摂動下で与えられた入力の予測一貫性を促進することでラベルのないデータを利用する。 本手法は,シングルラベルおよびマルチラベル画像分類のシナリオにおいて,最先端の半教師付き学習手法よりも優れる。
  論文  参考訳（メタデータ） (2020-05-15T06:57:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。