論文の概要: From Modes to Memories: Characterizing the Scale-Space Dynamics of Diffusion Models

• arxiv url: http://arxiv.org/abs/2609.39648v1
• Date: Wed, 30 Sep 2026 12:52:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.787507
• Title: From Modes to Memories: Characterizing the Scale-Space Dynamics of Diffusion Models
• Title（参考訳）: モードから記憶へ:拡散モデルのスケール空間ダイナミクスを特徴づける
• Abstract要約: 拡散モデルは、ノイズスケールでインデックス付けされた力学系の族を定義する。 正確な denoiser に対して、固定点は滑らかなデータ密度の臨界点に対応する。 $が増加すると、サンプルレベルモードは徐々に粗いモードにマージされる。
• 参考スコア（独自算出の注目度）: 30.417495930986536
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion models are typically viewed as stochastic processes that transform noise into data. We take a complementary perspective: a diffusion model defines a family of deterministic dynamical systems indexed by noise scale. At each fixed scale $σ$, we treat the denoiser as a self-map and study its dynamics. For an exact denoiser, fixed points correspond to critical points of the smoothed data density, while attractors correspond to its modes; as $σ$ increases, sample-level modes merge into progressively coarser ones. This suggests a geometric view of memorization: examples that receive excess probability mass due to duplication or overfitting, as well as outliers, should remain distinguishable under stronger smoothing than ordinary examples. We quantify this persistence by the critical scale $σ_c$, the largest noise scale at which an example is retained by the fixed-scale dynamics. In conditional models, the same construction extends naturally to image--caption pairs. Experiments in controlled settings and on large-scale models show that $σ_c$ tracks memorization arising from duplication, overfitting, and outliers, and identifies both memorized and partially memorized examples in Stable Diffusion. Moreover, $σ_c$ yields interpretable measures of the image spatial distribution and caption dependence of memorization.
• Abstract（参考訳）: 拡散モデルは通常、ノイズをデータに変換する確率過程と見なされる。 拡散モデルはノイズスケールで指数付けされた決定論的力学系の族を定義する。 各固定スケール$σ$では、デノイザーを自己写像として扱い、その力学を研究する。 正確には、固定点は滑らかなデータ密度の臨界点に対応し、アトラクターはそのモードに対応し、$σ$が増加するにつれて、サンプルレベルモードは徐々に粗いものにマージされる。 このことは、暗記の幾何学的見解を示唆している: 重複や過剰適合による過剰な確率質量を受ける例は、通常の例よりも強い滑らかさの下で区別可能である。 我々は、この持続性を臨界スケール$σ_c$で定量化し、これは、ある例が固定スケールのダイナミックスによって保持される最大のノイズスケールである。 条件付きモデルでは、同じ構成が自然にイメージキャプション対に拡張される。 制御された設定や大規模モデルでの実験では、$σ_c$は重複、オーバーフィッティング、アウトリエに起因する暗記をトラックし、安定拡散における暗記と部分記憶の両方の例を特定する。 さらに、$σ_c$は、画像空間分布と記憶のキャプション依存性の解釈可能な測度を得る。

関連論文リスト

• Provably Learning Diffusion Models under the Manifold Hypothesis: Collapse and Refine [60.669081685261965]
  拡散モデルは、顕著な品質で高次元データを生成する。 彼らのトレーニングがいかに効率的にスコア関数を学習するかは理論的には説明がつかないままである。 我々はこの原理をScore-induced Latent Diffusion (SiLD)として定式化する。
  論文  参考訳（メタデータ） (2026-05-16T16:51:10Z)
• Continuously Augmented Discrete Diffusion model for Categorical Generative Modeling [87.34677262370924]
  標準離散拡散モデルは、吸収[MASK]トークンにそれらをマッピングすることで、すべての観測されていない状態を同一に扱う。 これは'インフォメーション・ヴォイド'を生成します。そこでは、偽のトークンから推測できるセマンティック情報は、デノイングステップの間に失われます。 連続的拡張離散拡散(Continuously Augmented Discrete Diffusion)は、連続的な潜在空間における対拡散で離散状態空間を拡大するフレームワークである。
  論文  参考訳（メタデータ） (2025-10-01T18:00:56Z)
• Spatial Reasoning with Denoising Models [49.83744014336816]
  本稿では,連続変数の集合に対する推論を行うためのフレームワークを提案する。 初めて、その生成順序をデノナイジングネットワーク自体によって予測できる。 これらの結果から,特定の推論タスクの精度を1%から50%に向上させることができる。
  論文  参考訳（メタデータ） (2025-02-28T14:08:30Z)
• One-for-More: Continual Diffusion Model for Anomaly Detection [63.50488826645681]
  異常検出法は拡散モデルを用いて任意の異常画像が与えられたときの正常サンプルの生成または再構成を行う。 われわれは,拡散モデルが「重度忠実幻覚」と「破滅的な忘れ」に悩まされていることを発見した。 本研究では,安定な連続学習を実現するために勾配予測を用いた連続拡散モデルを提案する。
  論文  参考訳（メタデータ） (2025-02-27T07:47:27Z)
• Likelihood Training of Cascaded Diffusion Models via Hierarchical Volume-preserving Maps [19.573246885611923]
  確率的マルチスケールモデルにおける根本的な難しさを克服しさえすれば、カスケードモデルは優れた確率モデルになり得ることを示す。 主にカスケードモデルにおいて、各中間スケールは、可能性評価のために取り除くことができない余剰変数を導入している。 また、ラプラシアピラミッドとウェーブレット変換は、確率モデルにおけるベンチマークの選択における最先端の大幅な改善をもたらすことを示した。
  論文  参考訳（メタデータ） (2025-01-13T01:20:23Z)
• Latent diffusion models for parameterization and data assimilation of facies-based geomodels [0.0]
  拡散モデルは、ランダムノイズを特徴とする入力場から新しい地質学的実現を生成するために訓練される。 遅延拡散モデルは、ジオモデリングソフトウェアからのサンプルと視覚的に整合した実現を提供する。
  論文  参考訳（メタデータ） (2024-06-21T01:32:03Z)
• Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
  連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。 条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。 提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
  論文  参考訳（メタデータ） (2022-11-30T05:33:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。