論文の概要: On Forgetting and Stability of Score-based Generative models

• arxiv url: http://arxiv.org/abs/2601.21868v1
• Date: Thu, 29 Jan 2026 15:37:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-30 16:22:49.942258
• Title: On Forgetting and Stability of Score-based Generative models
• Title（参考訳）: スコアベース生成モデルの予測と安定性について
• Authors: Stanislas Strasman, Gabriel Cardoso, Sylvain Le Corff, Vincent Lemaire, Antonio Ocello,
• Abstract要約: 生成モデルの安定性と長時間の挙動を理解することは、現代の機械学習における根本的な問題である。 本稿では, スコアベース生成モデルのサンプリング誤差について, 安定性を活用し, 逆時間力学に関連したマルコフ連鎖の性質を忘れることにより定量的に考察する。
• 参考スコア（独自算出の注目度）: 6.259598237089842
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Understanding the stability and long-time behavior of generative models is a fundamental problem in modern machine learning. This paper provides quantitative bounds on the sampling error of score-based generative models by leveraging stability and forgetting properties of the Markov chain associated with the reverse-time dynamics. Under weak assumptions, we provide the two structural properties to ensure the propagation of initialization and discretization errors of the backward process: a Lyapunov drift condition and a Doeblin-type minorization condition. A practical consequence is quantitative stability of the sampling procedure, as the reverse diffusion dynamics induces a contraction mechanism along the sampling trajectory. Our results clarify the role of stochastic dynamics in score-based models and provide a principled framework for analyzing propagation of errors in such approaches.
• Abstract（参考訳）: 生成モデルの安定性と長時間の挙動を理解することは、現代の機械学習における根本的な問題である。 本稿では, スコアベース生成モデルのサンプリング誤差について, 安定性を活用し, 逆時間力学に関連したマルコフ連鎖の性質を忘れることにより定量的に考察する。 弱い仮定の下では、リアプノフドリフト条件とドエブリン型マイナー化条件という、後方過程の初期化と離散化誤差の伝播を保証するための2つの構造的性質を提供する。 逆拡散力学はサンプリング軌道に沿って収縮機構を誘導するので、実際の結果がサンプリング手順の定量的安定性である。 本研究は,スコアベースモデルにおける確率力学の役割を明らかにし,そのような手法における誤りの伝播を解析するための原則的枠組みを提供する。

関連論文リスト

• Stability as a Liability:Systematic Breakdown of Linguistic Structure in LLMs [5.96875296117642]
  安定なパラメータトラジェクトリが定常解を導出し、経験的分布へのKLの分岐を最小化することを示す。 制御されたフィードバックベースのトレーニングフレームワークを用いて,この効果を実証的に検証する。 これは、最適化の安定性と生成的表現性は本質的に一致していないことを示し、安定性のみが生成的品質の指標として不十分であることを示している。
  論文  参考訳（メタデータ） (2026-01-26T15:34:50Z)
• Emergence of Nonequilibrium Latent Cycles in Unsupervised Generative Modeling [0.0]
  非平衡力学は、潜在状態サイクルの自然発生を誘導することにより、教師なし機械学習において構築的な役割を果たすことを示す。 可視変数と隠れ変数が独立にパラメータ化された遷移行列を介して相互作用するモデルを導入する。
  論文  参考訳（メタデータ） (2025-12-12T09:48:08Z)
• Drift No More? Context Equilibria in Multi-Turn LLM Interactions [58.69551510148673]
  コンテキストドリフト(Contexts drift)とは、ターン間のゴール一貫性のある振る舞いからモデルが出力する出力の段階的なばらつきである。 シングルターンエラーとは異なり、ドリフトは時間的に展開し、静的な評価指標では捉えにくい。 マルチターンドリフトは、避けられない崩壊というよりも、制御可能な平衡現象として理解できることを示す。
  論文  参考訳（メタデータ） (2025-10-09T04:48:49Z)
• Linear Noise Approximation Assisted Bayesian Inference on Mechanistic Model of Partially Observed Stochastic Reaction Network [2.325005809983534]
  本稿では、部分的に観察された酵素反応ネットワーク(SRN)に対する効率的なベイズ推論手法を開発する。 線形雑音近似(LNA)メタモデルを提案する。 マルコフ・チェイン・モンテカルロの収束を高速化するために、導出確率の勾配を利用して効率的な後方サンプリング手法を開発した。
  論文  参考訳（メタデータ） (2024-05-05T01:54:21Z)
• Stability Preserving Data-driven Models With Latent Dynamics [0.0]
  本稿では,潜在変数を用いた動的問題に対するデータ駆動型モデリング手法を提案する。 本稿では,結合力学の安定性を容易に適用できるモデルフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-04-20T00:41:10Z)
• Towards Robust and Adaptive Motion Forecasting: A Causal Representation Perspective [72.55093886515824]
  本稿では,3つの潜伏変数群からなる動的過程として,運動予測の因果的形式化を導入する。 我々は、因果グラフを近似するために、不変なメカニズムやスタイルの共創者の表現を分解するモジュラーアーキテクチャを考案する。 合成および実データを用いた実験結果から,提案した3つの成分は,学習した動き表現の頑健性と再利用性を大幅に向上することが示された。
  論文  参考訳（メタデータ） (2021-11-29T18:59:09Z)
• Estimation of Bivariate Structural Causal Models by Variational Gaussian Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
  因果機構は構造因果モデルによって記述できる。 最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
  論文  参考訳（メタデータ） (2021-09-06T14:52:58Z)
• Leveraging Global Parameters for Flow-based Neural Posterior Estimation [90.21090932619695]
  実験観測に基づくモデルのパラメータを推定することは、科学的方法の中心である。 特に困難な設定は、モデルが強く不確定であるとき、すなわち、パラメータの異なるセットが同一の観測をもたらすときである。 本稿では,グローバルパラメータを共有する観測の補助的セットによって伝達される付加情報を利用して,その不確定性を破る手法を提案する。
  論文  参考訳（メタデータ） (2021-02-12T12:23:13Z)
• Anomaly Detection of Time Series with Smoothness-Inducing Sequential Variational Auto-Encoder [59.69303945834122]
  Smoothness-Inducing Sequential Variational Auto-Encoder (SISVAE) モデルを提案する。 我々のモデルは、フレキシブルニューラルネットワークを用いて各タイムスタンプの平均と分散をパラメータ化する。 合成データセットと公開実世界のベンチマークの両方において,本モデルの有効性を示す。
  論文  参考訳（メタデータ） (2021-02-02T06:15:15Z)
• Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
  経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。 分散による離散乗法雑音のパラメータによく現れることを示す。 最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
  論文  参考訳（メタデータ） (2020-06-11T09:58:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。