論文の概要: Identifying Memorization of Diffusion Models through p-Laplace Analysis
- arxiv url: http://arxiv.org/abs/2505.08246v1
- Date: Tue, 13 May 2025 05:52:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-14 20:57:54.43875
- Title: Identifying Memorization of Diffusion Models through p-Laplace Analysis
- Title（参考訳）: p-ラプラス解析による拡散モデルの記憶の同定
- Authors: Jonathan Brokman, Amit Giloni, Omer Hofman, Roman Vainshtein, Hisashi Kojima, Guy Gilboa,
- Abstract要約: 拡散モデルは、基礎となる確率分布に直接アクセスすることなくスコア関数を推定する。
ここでは、記憶されたトレーニングデータを特定するためにこれらの演算子を使用できることを示す。
学習したスコア関数に基づいた数値的なp-Laplace近似を提案する。
- 参考スコア（独自算出の注目度）: 4.597145995119321
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion models, today's leading image generative models, estimate the score function, i.e. the gradient of the log probability of (perturbed) data samples, without direct access to the underlying probability distribution. This work investigates whether the estimated score function can be leveraged to compute higher-order differentials, namely p-Laplace operators. We show here these operators can be employed to identify memorized training data. We propose a numerical p-Laplace approximation based on the learned score functions, showing its effectiveness in identifying key features of the probability landscape. We analyze the structured case of Gaussian mixture models, and demonstrate the results carry-over to image generative models, where memorization identification based on the p-Laplace operator is performed for the first time.
- Abstract（参考訳）: 現在の画像生成モデルである拡散モデルは、スコア関数、すなわち(摂動された)データサンプルのログ確率の勾配を、基礎となる確率分布に直接アクセスすることなく推定する。
本研究は、推定スコア関数が高次微分、すなわちp-ラプラス作用素を計算するために利用できるかどうかを考察する。
ここでは、記憶されたトレーニングデータを特定するためにこれらの演算子を使用できることを示す。
学習したスコア関数に基づく数値的なp-Laplace近似を提案し,その有効性を示す。
ガウス混合モデルの構造化事例を解析し,p-ラプラス演算子に基づく暗記識別を初めて行う画像生成モデルに適用した。
関連論文リスト
- DIVE: Inverting Conditional Diffusion Models for Discriminative Tasks [79.50756148780928]
本稿では,事前学習した拡散モデルを用いて識別課題を遂行する問題について検討する。
我々は、事前学習されたレイアウト・ツー・イメージ拡散モデルの「反転」により、事前学習した凍結生成拡散モデルの識別能力を分類タスクからより複雑なオブジェクト検出タスクに拡張する。
論文 参考訳（メタデータ） (2025-04-24T05:13:27Z) - Estimating Causal Effects from Learned Causal Networks [56.14597641617531]
本稿では、離散可観測変数に対する因果影響クエリに応答する代替パラダイムを提案する。
観測データから直接因果ベイズネットワークとその共起潜伏変数を学習する。
本手法は, 推定手法よりも有効であることを示す。
論文 参考訳（メタデータ） (2024-08-26T08:39:09Z) - The Hidden Linear Structure in Score-Based Models and its Application [2.1756081703276]
十分に訓練された拡散モデルでは、高雑音スケールでの学習スコアはガウスの線形スコアによってよく近似されることを示す。
スコアベースモデルにおける線形構造の発見は、より良いモデル設計とデータ前処理に影響を及ぼす。
論文 参考訳（メタデータ） (2023-11-17T22:25:07Z) - Generalizing Backpropagation for Gradient-Based Interpretability [103.2998254573497]
モデルの勾配は、半環を用いたより一般的な定式化の特別な場合であることを示す。
この観測により、バックプロパゲーションアルゴリズムを一般化し、他の解釈可能な統計を効率的に計算することができる。
論文 参考訳（メタデータ） (2023-07-06T15:19:53Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳（メタデータ） (2022-11-30T05:33:29Z) - Sampling from Arbitrary Functions via PSD Models [55.41644538483948]
まず確率分布をモデル化し,そのモデルからサンプリングする。
これらのモデルでは, 少数の評価値を用いて, 高精度に多数の密度を近似することが可能であることが示され, それらのモデルから効果的にサンプルする簡単なアルゴリズムが提示される。
論文 参考訳（メタデータ） (2021-10-20T12:25:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。