論文の概要: Associative Memory and Generative Diffusion in the Zero-noise Limit
- arxiv url: http://arxiv.org/abs/2506.05178v1
- Date: Thu, 05 Jun 2025 15:51:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-06 21:53:49.800097
- Title: Associative Memory and Generative Diffusion in the Zero-noise Limit
- Title(参考訳): ゼロノイズ限界における連想記憶と生成拡散
- Authors: Joshua Hess, Quaid Morris,
- Abstract要約: 生成拡散と連続状態連想記憶モデルとの関係について検討した。
モース・スモール力学系は勾配に基づく連想記憶モデルの普遍近似として強調される。
- 参考スコア(独自算出の注目度): 4.367226329908642
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Connections between generative diffusion and continuous-state associative memory models are studied. Morse-Smale dynamical systems are emphasized as universal approximators of gradient-based associative memory models and diffusion models as white-noise perturbed systems thereof. Universal properties of associative memory that follow from this description are described and used to characterize a generic transition from generation to memory as noise levels diminish. Structural stability inherited by Morse-Smale flows is shown to imply a notion of stability for diffusions at vanishing noise levels. Applied to one- and two-parameter families of gradients, this indicates stability at all but isolated points of associative memory learning landscapes and the learning and generation landscapes of diffusion models with gradient drift in the zero-noise limit, at which small sets of generic bifurcations characterize qualitative transitions between stable systems. Examples illustrating the characterization of these landscapes by sequences of these bifurcations are given, along with structural stability criterion for classic and modern Hopfield networks (equivalently, the attention mechanism).
- Abstract(参考訳): 生成拡散と連続状態連想記憶モデルとの関係について検討した。
モース・スモール力学系は、勾配に基づく連想記憶モデルと拡散モデルの普遍近似系として、そのホワイトノイズ摂動系として強調される。
この記述から続く連想記憶の普遍的性質を記述し、ノイズレベルが低下するにつれて、生成からメモリへの一般的な遷移を特徴付ける。
モース・スモール流によって受け継がれた構造安定性は、ノイズレベルが消える際の拡散の安定性の概念であることを示している。
勾配の1-パラメータと2-パラメータの族に適用すると、連想学習ランドスケープの孤立点以外の安定性と、ゼロノイズ極限における勾配ドリフトを伴う拡散モデルの学習および生成ランドスケープが示される。
これらの分岐の列による景観の特徴づけを図示する例としては、古典的および近代ホップフィールドネットワークの構造安定性基準(アテンション機構と同等)がある。
関連論文リスト
- Memorization to Generalization: Emergence of Diffusion Models from Associative Memory [27.677278702224687]
AMのレンズを用いた拡散モデルにおける記憶一般化現象について検討する。
本研究は, AMsレンズを用いた拡散モデルにおける記憶一般化現象の新たな展望である。
論文 参考訳(メタデータ) (2025-05-27T21:20:57Z) - Firing Rate Models as Associative Memory: Excitatory-Inhibitory Balance for Robust Retrieval [3.961279440272764]
フィリングレートモデル(Firing rate model)は、神経細胞の局所的な皮質力学を記述するために応用および理論神経科学に広く用いられている力学系である。
本稿では, 再スケールメモリパターンの出現を, 発火速度力学における安定平衡として保証する一般的な枠組みを提案する。
本研究では, 記憶が局所的に, グローバルに安定な条件を解析し, 連想記憶検索のための生物学的に証明可能な, 堅牢なシステムの構築に関する知見を提供する。
論文 参考訳(メタデータ) (2024-11-11T21:40:57Z) - Edge-preserving noise for diffusion models [4.435514696080208]
既存の等方性モデルに対して一般化した新しいエッジ保存拡散モデルを提案する。
モデルの生成過程はより高速に収束し, 対象の分布とより密に一致していることを示す。
我々のエッジ保存拡散プロセスは、非条件画像生成における最先端のベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2024-10-02T13:29:52Z) - Generative Fractional Diffusion Models [53.36835573822926]
我々は,その基礎となる力学に分数拡散過程を利用する,最初の連続時間スコアベース生成モデルを導入する。
実画像データを用いた評価では,GFDMはFIDが低い値で示されるように,画素幅の多様性と画質の向上を実現している。
論文 参考訳(メタデータ) (2023-10-26T17:53:24Z) - Renormalization view on resonance proliferation between many-body
localized phases [0.0]
位相と多体局在(MBL)は、有限エネルギー密度で量子情報を保存するための新しい道を開いた。
本研究では,多体共鳴の統計的性質について検討した。
論文 参考訳(メタデータ) (2023-01-20T18:59:54Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z) - Universal Face Restoration With Memorized Modulation [73.34750780570909]
本稿では,ユニバーサルブラインド顔修復(BFR)のための記憶変調(RMM)フレームワークを提案する。
ランダムノイズと教師なしウェーブレットメモリを適用し、顔強調生成装置を適応的に変調する。
実験により,提案手法が最先端の手法と比較して優れていること,野生における優れた一般化が示された。
論文 参考訳(メタデータ) (2021-10-03T15:55:07Z) - Continuous and time-discrete non-Markovian system-reservoir
interactions: Dissipative coherent quantum feedback in Liouville space [62.997667081978825]
2つの構造型貯水池に同時に露出する量子系について検討する。
対角線と対角線と外対角線の両方の貯留層相互作用を2倍のメモリと組み合わせた数値的精度の擬似2次元テンソルネットワークを用いて連続的および離散的遅延効果を示す。
例えば、離散フォトニックフィードバックと構造された音響フォノノノビアンモードの非マルコフ的相互作用を考察し、初期励起された2レベルシステム内での貯留層間相関と長寿命個体群トラップの出現を導いた。
論文 参考訳(メタデータ) (2020-11-10T12:38:35Z) - Feedback-induced instabilities and dynamics in the Jaynes-Cummings model [62.997667081978825]
時間遅延コヒーレントフィードバックを受けるJaynes-Cummingsモデルのコヒーレンスと定常状態特性について検討する。
導入されたフィードバックは、システムの動的応答と定常量子特性を質的に修正する。
論文 参考訳(メタデータ) (2020-06-20T10:07:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。