論文の概要: Robustness of Diffusion Models under Distribution Shift
- arxiv url: http://arxiv.org/abs/2609.27546v1
- Date: Wed, 23 Sep 2026 08:36:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 00:05:17.946477
- Title: Robustness of Diffusion Models under Distribution Shift
- Title(参考訳): 分布シフト下における拡散モデルのロバスト性
- Abstract要約: We study robust score estimation under Wasserstein perturbations of a reference distribution。
Ornstein--Uhlenbeck拡散について、ロバストな推定は2つの基本成分に分解されることを示す。
- 参考スコア(独自算出の注目度): 14.380273008668206
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Score-based diffusion models are increasingly considered in settings where the underlying data distribution may differ from the training distribution, yet existing theoretical guarantees largely focus on the no-shift setting. In this work, we study robust score estimation under Wasserstein perturbations of a reference distribution. For the Ornstein--Uhlenbeck diffusion, we show that robust estimation decomposes into two fundamental components: the statistical cost of learning the reference distribution and the intrinsic cost of distribution shift. The latter scales quadratically with the Wasserstein radius, and this dependence is minimax optimal. We construct an explicit finite-sample estimator achieving the resulting robust minimax rate without knowing the shift radius. When the reference distribution lies on an unknown low-dimensional subspace, the statistical term adapts to the intrinsic dimension while the shift cost remains unchanged. Finally, we show that the same decomposition governs positive-time reverse sampling and obtain matching minimax guarantees in KL divergence. Together, these results characterize how finite data, intrinsic dimension, and distribution shift affect the robustness of score-based diffusion models.
- Abstract(参考訳): スコアベースの拡散モデルは、基礎となるデータ分布がトレーニング分布と異なるかもしれない設定において、ますます検討されているが、既存の理論上の保証は主に非シフト設定に焦点を当てている。
本研究では,基準分布のWasserstein摂動下でのロバストスコア推定について検討する。
Ornstein--Uhlenbeck拡散について、ロバストな推定は、参照分布を学習する統計的コストと本質的な分布シフトのコストの2つの基本成分に分解されることを示す。
後者はワッサーシュタイン半径と二次的にスケールし、この依存は極小極小である。
我々は、シフト半径を知らずに、結果として生じるロバストなミニマックス速度を達成する明示的な有限サンプル推定器を構築する。
基準分布が未知の低次元部分空間上にあるとき、統計項はシフトコストが変わらない間も内在次元に適応する。
最後に、同じ分解が正時逆サンプリングを制御し、KLの発散において一致するミニマックス保証を得ることを示す。
これらの結果は、有限データ、内在次元、分布シフトがスコアベース拡散モデルのロバスト性にどのように影響するかを特徴付ける。
関連論文リスト
- Minimax Optimality of Score-Entropy Discrete Diffusion [4.831510571088151]
具体的スコア推定の基本的な統計的限界について検討する。
スコアエントロピー損失の下での下位境界に一致するMLEに基づくしきい値推定器を提案する。
対象分布に対して、この密度比は、均一かつマスキングな離散拡散モデルの下で自然に制御されていることを示す。
論文 参考訳(メタデータ) (2026-08-21T00:16:00Z) - Diffusion Models with Heavy-Tailed Targets: Score Estimation and Sampling Guarantees [8.437829850850358]
目標分布の重み付け時のスコアベース拡散モデルについて検討する。
スコア推定のためのシャープなミニマックスレートを導出し、二分法を明らかにした。
総変量では、ミニマックス最適率$n-/(2+d)$で、指数的な尾の下では$$依存率で生成される分布が生成される。
論文 参考訳(メタデータ) (2026-01-10T23:05:25Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Broadening Target Distributions for Accelerated Diffusion Models via a Novel Analysis Approach [49.97755400231656]
本研究では,新しいDDPMサンプリング器が,これまで考慮されていなかった3種類の分散クラスに対して高速化性能を実現することを示す。
この結果から, DDPM型加速サンプリング器におけるデータ次元$d$への依存性が改善された。
論文 参考訳(メタデータ) (2024-02-21T16:11:47Z) - Diffusion Models are Minimax Optimal Distribution Estimators [49.47503258639454]
拡散モデリングの近似と一般化能力について、初めて厳密な分析を行った。
実密度関数がベソフ空間に属し、経験値整合損失が適切に最小化されている場合、生成したデータ分布は、ほぼ最小の最適推定値が得られることを示す。
論文 参考訳(メタデータ) (2023-03-03T11:31:55Z) - Score Approximation, Estimation and Distribution Recovery of Diffusion
Models on Low-Dimensional Data [68.62134204367668]
本稿では,未知の低次元線形部分空間上でデータをサポートする場合の拡散モデルのスコア近似,推定,分布回復について検討する。
適切に選択されたニューラルネットワークアーキテクチャでは、スコア関数を正確に近似し、効率的に推定することができる。
推定スコア関数に基づいて生成された分布は、データ幾何学構造を捕捉し、データ分布の近傍に収束する。
論文 参考訳(メタデータ) (2023-02-14T17:02:35Z) - Reliable amortized variational inference with physics-based latent
distribution correction [0.4588028371034407]
ニューラルネットワークは、既存のモデルとデータのペアの後方分布を近似するように訓練される。
このアプローチの精度は、高忠実度トレーニングデータの可用性に依存する。
補正ステップは, ソース実験数の変化, ノイズ分散, 先行分布の変化に対して, 償却された変分推論の頑健さを向上することを示す。
論文 参考訳(メタデータ) (2022-07-24T02:38:54Z) - Certifying Model Accuracy under Distribution Shifts [151.67113334248464]
本稿では,データ分布の有界ワッサースタインシフトの下でのモデルの精度について,証明可能なロバスト性保証を提案する。
変換空間におけるモデルの入力をランダム化する単純な手順は、変換の下での分布シフトに対して確実に堅牢であることを示す。
論文 参考訳(メタデータ) (2022-01-28T22:03:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。