論文の概要: Constrained Diffusion Models with Primal-Dual Inference
- arxiv url: http://arxiv.org/abs/2606.17192v1
- Date: Mon, 15 Jun 2026 18:32:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-17 17:15:32.099757
- Title: Constrained Diffusion Models with Primal-Dual Inference
- Title(参考訳): 原始双対推論による制約付き拡散モデル
- Authors: Samar Hadou, Yigit Berkay Uslu, Alejandro Ribeiro,
- Abstract要約: 我々はPDI(primal-Dual Inference)を用いた制約付き拡散モデルを開発する。
PDIは最適原始分布とそのパラメトリゼーション双対変数を推定する。
我々は、ガウシアン、無線リソースアロケーション、ポートフォリオ管理の混合による制約サンプリングに基づくPDIを評価する。
- 参考スコア(独自算出の注目度): 76.64466170898369
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper develops constrained diffusion models with primal-dual inference (PDI) to sample from optimal distributions of entropy-regularized optimization problems with \emph{average} constraints. We formalize constrained sampling in the Lagrangian dual domain, where the optimal distribution takes the form of a Gibbs distribution indexed by the optimal dual variable. Rather than estimating this dual multiplier before sampling and freezing it throughout generation, PDI jointly infers the optimal primal distribution and its parametrizing dual variable. Each reverse diffusion step denoises using the score field associated with the current multiplier and then updates the multiplier through dual ascent using the estimated constraint violation of the denoised samples. To enable this conditional score field, we train a single dual-conditioned score network over the family of Gibbs distributions induced by the dual variables encountered during inference. We prove that the time average of the dual variables generated along the inference trajectory converges to a neighborhood of the dual optimum and bound the effect of residual dual mismatch on the terminal distribution through schedule-dependent stability factors. We evaluate PDI on constrained sampling from a mixture of Gaussians, wireless resource allocation, and portfolio management.
- Abstract(参考訳): 本稿では, エントロピー正規化最適化問題の最適分布と<emph{average} 制約から, PDIを用いた制約付き拡散モデルを構築した。
ラグランジアン双対領域において、最適分布が最適双対変数によってインデックス付けされたギブス分布の形を取るような制約付きサンプリングを形式化する。
この双対乗算器をサンプリングおよび凍結前に推定するのではなく、PDIは最適原始分布とそのパラメトリゼーション双対変数を共同で推定する。
各逆拡散ステップは、カレント乗算器に付随するスコアフィールドを用いて復調し、復調されたサンプルの推定制約違反を用いて倍増により乗算器を更新する。
この条件付きスコアフィールドを実現するために、推論中に発生する双対変数によって誘導されるギブス分布の族上で、単一の双対条件付きスコアネットワークを訓練する。
推定軌道に沿って生成された双対変数の時間平均が双対最適の近傍に収束し、残差双対ミスマッチがスケジュールに依存した安定性因子を介して端末分布に与える影響を証明した。
我々は、ガウシアン、無線リソースアロケーション、ポートフォリオ管理の混合による制約サンプリングに基づくPDIを評価する。
関連論文リスト
- Guided Flow Matching for Forward and Inverse PDE Problems with Sparse Observations: Algorithm and Theory [2.148615003900331]
PDE係数の結合分布を学習するフローマッチング生成フレームワークFM4PDEを提案する。
静的および時間依存型ベンチマークPDEの実験では、拡散に基づく生成モデルよりも競合精度と高速な推論が示されている。
論文 参考訳(メタデータ) (2026-05-25T07:14:11Z) - Direct Distributional Optimization for Provable Alignment of Diffusion Models [39.048284342436666]
分布最適化の観点から拡散モデルの新しいアライメント手法を提案する。
まず、確率分布に対する一般正規化損失最小化として問題を定式化する。
本研究では,Doob の $h$-transform 技術を用いてスコア関数を近似することにより,学習した分布からのサンプリングを可能にする。
論文 参考訳(メタデータ) (2025-02-05T07:35:15Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Broadening Target Distributions for Accelerated Diffusion Models via a Novel Analysis Approach [49.97755400231656]
本研究では,新しいDDPMサンプリング器が,これまで考慮されていなかった3種類の分散クラスに対して高速化性能を実現することを示す。
この結果から, DDPM型加速サンプリング器におけるデータ次元$d$への依存性が改善された。
論文 参考訳(メタデータ) (2024-02-21T16:11:47Z) - Joint control variate for faster black-box variational inference [32.38477249925875]
ブラックボックスの変分推論性能は、高ばらつきの勾配推定器の使用によって妨げられることがある。
この分散は、データサブサンプリングとモンテカルロサンプリングの2つのランダム性源に由来する。
論文 参考訳(メタデータ) (2022-10-13T18:36:20Z) - Sinkhorn Distributionally Robust Optimization [18.46110328123008]
シンクホーン距離はエントロピー正則化に基づくワッサーシュタイン距離の変種である。
一般名詞分布,輸送コスト,損失関数に対する凸プログラミング二重再構成を導出する。
論文 参考訳(メタデータ) (2021-09-24T12:40:48Z) - Loss function based second-order Jensen inequality and its application
to particle variational inference [112.58907653042317]
粒子変分推論(PVI)は、後部分布の実験的近似としてモデルのアンサンブルを用いる。
PVIは、最適化されたモデルの多様性を保証するために、各モデルを反発力で反復的に更新する。
我々は,新たな一般化誤差を導出し,モデルの多様性を高めて低減できることを示す。
論文 参考訳(メタデータ) (2021-06-09T12:13:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。