論文の概要: Detection of Memorization in Diffusion Models Through Thermodynamic Singularity
- arxiv url: http://arxiv.org/abs/2610.27754v1
- Date: Tue, 20 Oct 2026 07:18:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.694608
- Title: Detection of Memorization in Diffusion Models Through Thermodynamic Singularity
- Title（参考訳）: 熱力学特異性による拡散モデルの記憶の検出
- Abstract要約: 拡散モデルでは、適切な分布学習は基底密度関数上の拡散過程を反転させるが、重要な障害は記憶化である。
我々は,このような記憶された逆過程の解析的特徴と,関連する熱力学特異点を検出する基準を提供する。
- 参考スコア（独自算出の注目度）: 9.694974310827703
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In diffusion models, proper distributional learning entails reversing a diffusion process over underlying density functions, whereas a key failure is memorization, in which the reverse process instead learns diffusion from individual training samples. We provide an analytical characterization of such memorized reverse processes, along with a criterion that detects the associated thermodynamic singularity. The proposed criterion reliably distinguishes between properly learned and memorizing networks across a range of neural network models designed to promote or mitigate memorization.
- Abstract（参考訳）: 拡散モデルでは、適切な分布学習は基底密度関数上の拡散過程を反転させるが、重要な失敗は記憶であり、代わりに逆過程は個々のトレーニングサンプルから拡散を学習する。
我々は,このような記憶された逆過程の解析的特徴と,関連する熱力学特異点を検出する基準を提供する。
提案した基準は、記憶の促進や緩和のために設計されたニューラルネットワークモデルの範囲で、適切に学習されたネットワークと記憶するネットワークを確実に区別する。
関連論文リスト
- On the Memorization of Consistency Distillation for Diffusion Models [31.08329979854717]
拡散モデルにおいて, 連続蒸留が記憶挙動にどう影響するかを解析した。
本研究は, 連続蒸留により, 学生の記憶が著しく低下し, サンプル品質が向上することを示した。
以上の結果から, 蒸留は加速ツールとしてだけでなく, 記憶一般化トレードオフを改善するメカニズムとしても有効であることが示唆された。
論文 参考訳（メタデータ） (2026-04-26T06:22:53Z) - Overcoming Dimensional Factorization Limits in Discrete Diffusion Models through Quantum Joint Distribution Learning [79.65014491424151]
量子離散化拡散確率モデル(QD3PM)を提案する。
これは、指数関数的に大きなヒルベルト空間における拡散と denoising を通じて合同確率学習を可能にする。
本稿では,共同分布学習における量子的優位性を生かして,生成モデルの新たな理論的パラダイムを確立する。
論文 参考訳（メタデータ） (2025-05-08T11:48:21Z) - DIVE: Inverting Conditional Diffusion Models for Discriminative Tasks [79.50756148780928]
本稿では,事前学習した拡散モデルを用いて識別課題を遂行する問題について検討する。
我々は、事前学習されたレイアウト・ツー・イメージ拡散モデルの「反転」により、事前学習した凍結生成拡散モデルの識別能力を分類タスクからより複雑なオブジェクト検出タスクに拡張する。
論文 参考訳（メタデータ） (2025-04-24T05:13:27Z) - Continuous Diffusion Model for Language Modeling [64.7425225935854]
離散的データに対する既存の連続拡散モデルは離散的手法と比較して性能が劣る。
本稿では,下層の分類分布の幾何学を組み込んだ言語モデリングのための連続拡散モデルを提案する。
本手法は,既存の離散拡散モデルより優れ,自己回帰モデルの性能にアプローチする。
論文 参考訳（メタデータ） (2025-02-17T08:54:29Z) - An Inversion-based Measure of Memorization for Diffusion Models [37.9715620828388]
拡散モデルは、データの記憶をトレーニングし、著作権侵害やプライバシー侵害に関する懸念を提起する。
InvMMは,画像の複製を考慮に入れた感度潜時雑音分布の反転に基づく,インバージョンに基づく暗黙化尺度である。
InvMMはサンプル間で共振可能であり、正反対の立場から記憶の真の範囲を明らかにし、記憶がメンバーシップとどのように異なるかを示す。
論文 参考訳（メタデータ） (2024-05-09T15:32:00Z) - Analyzing Neural Network-Based Generative Diffusion Models through Convex Optimization [45.72323731094864]
本稿では,2層ニューラルネットワークを用いた拡散モデル解析のための理論的枠組みを提案する。
我々は,1つの凸プログラムを解くことで,スコア予測のための浅層ニューラルネットワークのトレーニングが可能であることを証明した。
本結果は, ニューラルネットワークに基づく拡散モデルが漸近的でない環境で何を学習するかを, 正確に評価するものである。
論文 参考訳（メタデータ） (2024-02-03T00:20:25Z) - On Memorization in Diffusion Models [44.031805633114985]
より小さなデータセットでは記憶の挙動が生じる傾向があることを示す。
我々は、有効モデル記憶(EMM)の観点から、影響因子がこれらの記憶行動に与える影響を定量化する。
本研究は,拡散モデル利用者にとって実用的意義を持ち,深部生成モデルの理論研究の手がかりを提供する。
論文 参考訳（メタデータ） (2023-10-04T09:04:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。