論文の概要: Detecting and Mitigating Memorization in Diffusion Models through Anisotropy of the Log-Probability

• arxiv url: http://arxiv.org/abs/2601.20642v1
• Date: Wed, 28 Jan 2026 14:29:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-29 15:46:06.97168
• Title: Detecting and Mitigating Memorization in Diffusion Models through Anisotropy of the Log-Probability
• Title（参考訳）: 対数確率の異方性による拡散モデルの検出と緩和
• Authors: Rohan Asthana, Vasileios Belagiannis,
• Abstract要約: 拡散に基づく画像生成モデルは、反復的復調によって高忠実度画像を生成するが、記憶に弱いままである。 最近の暗記検出法は主に暗記の指標としてスコア差のノルムに基づいている。 等方性ノルムと異方性アライメントを統合することで,記憶度検出尺度を開発した。
• 参考スコア（独自算出の注目度）: 9.133729396364952
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion-based image generative models produce high-fidelity images through iterative denoising but remain vulnerable to memorization, where they unintentionally reproduce exact copies or parts of training images. Recent memorization detection methods are primarily based on the norm of score difference as indicators of memorization. We prove that such norm-based metrics are mainly effective under the assumption of isotropic log-probability distributions, which generally holds at high or medium noise levels. In contrast, analyzing the anisotropic regime reveals that memorized samples exhibit strong angular alignment between the guidance vector and unconditional scores in the low-noise setting. Through these insights, we develop a memorization detection metric by integrating isotropic norm and anisotropic alignment. Our detection metric can be computed directly on pure noise inputs via two conditional and unconditional forward passes, eliminating the need for costly denoising steps. Detection experiments on Stable Diffusion v1.4 and v2 show that our metric outperforms existing denoising-free detection methods while being at least approximately 5x faster than the previous best approach. Finally, we demonstrate the effectiveness of our approach by utilizing a mitigation strategy that adapts memorized prompts based on our developed metric.
• Abstract（参考訳）: 拡散に基づく画像生成モデルは、反復的復調によって高忠実な画像を生成するが、記憶に弱いままであり、故意にトレーニング画像の正確なコピーや部分を再現する。 最近の暗記検出法は主に暗記の指標としてスコア差のノルムに基づいている。 このようなノルムに基づくメトリクスは、一般に高または中程度の雑音レベルを保持する等方性対数確率分布の仮定の下で主に有効であることを示す。 対照的に、異方性規則を解析した結果、暗記されたサンプルは、低雑音条件下での誘導ベクトルと無条件スコアとの間に強い角度のアライメントを示すことが明らかとなった。 これらの知見を通じて、等方的ノルムと異方的アライメントを統合することで、記憶検出指標を開発する。 検出基準は2つの条件付及び非条件付前方パスを介して純粋雑音入力を直接計算でき、コストのかかるステップを不要にすることができる。 安定拡散 v1.4 と v2 における検出実験により,我々の測定値が従来のデノナイジングフリー検出法よりも約5倍高速でありながら,既存のデノナイジングフリー検出法より優れていることが示された。 最後に,提案手法の有効性を,開発した指標に基づいて記憶的プロンプトに適応する緩和戦略を用いて実証する。

関連論文リスト

• Catching Contamination Before Generation: Spectral Kill Switches for Agents [0.0]
  本稿では,フォワードパスのみを使用してエージェント実行中にバイナリ受信や拒否信号を出力する診断手法を提案する。 この手法は、注意によって誘導されるトークングラフを分析し、初期層における2つのスペクトル統計量を計算する。 ベイズ感覚では, 高頻度エネルギー比の1つの閾値が, 文脈の不整合を検出するのに最適であることを示す。
  論文  参考訳（メタデータ） (2025-11-08T02:24:05Z)
• Noise Conditional Variational Score Distillation [60.38982038894823]
  騒音条件変化スコア蒸留(NCVSD)は, 予混合拡散モデルから生成消音剤を蒸留する新しい方法である。 この知見を変分スコア蒸留フレームワークに組み込むことで、生成的デノイザのスケーラブルな学習を可能にする。
  論文  参考訳（メタデータ） (2025-06-11T06:01:39Z)
• Reconstruction-Free Anomaly Detection with Diffusion Models [30.099399014193573]
  Inversion-based Anomaly Detection (AD) 手法を提案する。 元の確率フローODEを近似する際、クリーンな画像にノイズを与えるための反転ステップはごくわずかである。 付加雑音が学習拡散モデルに適応的に導出されるので、クリーンテスト画像の原特徴を引き続き利用して高い検出精度を得ることができる。
  論文  参考訳（メタデータ） (2025-04-08T04:23:43Z)
• Taking a Big Step: Large Learning Rates in Denoising Score Matching Prevent Memorization [11.088273093231324]
  十分な学習率で勾配降下訓練を行うと、ニューラルネットワークは最小限の局所的な最小限に収束することができない。 実験は,1次元の設定を超えても,記憶予防において学習速度が重要な役割を担っていることを検証した。
  論文  参考訳（メタデータ） (2025-02-05T18:29:35Z)
• Robust Representation Consistency Model via Contrastive Denoising [83.47584074390842]
  ランダムな平滑化は、敵の摂動に対する堅牢性を証明する理論的保証を提供する。 拡散モデルは、ノイズ摂動サンプルを浄化するためにランダムな平滑化に成功している。 我々は,画素空間における拡散軌跡に沿った生成的モデリングタスクを,潜在空間における識別的タスクとして再構成する。
  論文  参考訳（メタデータ） (2025-01-22T18:52:06Z)
• Reflected Diffusion Models [93.26107023470979]
  本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。 提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
  論文  参考訳（メタデータ） (2023-04-10T17:54:38Z)
• DiffusionAD: Norm-guided One-step Denoising Diffusion for Anomaly Detection [80.20339155618612]
  DiffusionADは、再構成サブネットワークとセグメンテーションサブネットワークからなる、新しい異常検出パイプラインである。 高速なワンステップデノゲーションパラダイムは、同等の再現品質を維持しながら、数百倍の加速を達成する。 異常の出現の多様性を考慮し、複数のノイズスケールの利点を統合するためのノルム誘導パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-03-15T16:14:06Z)
• Iterative Correction of Sensor Degradation and a Bayesian Multi-Sensor Data Fusion Method [0.0]
  本稿では,劣化信号から地中構造信号を推定する新しい手法を提案する。 アルゴリズムは、2つの信号の繰り返し補正を行うことで乗算分解効果を学習する。 我々は理論的解析を含意し、ノイズレス測定モデルのための地上構造信号への収束性を証明する。
  論文  参考訳（メタデータ） (2020-09-07T13:24:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。