論文の概要: RNE: plug-and-play diffusion inference-time control and energy-based training
- arxiv url: http://arxiv.org/abs/2506.05668v4
- Date: Wed, 03 Sep 2025 13:30:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-04 15:17:02.974775
- Title: RNE: plug-and-play diffusion inference-time control and energy-based training
- Title(参考訳): RNE:プラグアンドプレイ拡散時間制御とエネルギーベーストレーニング
- Authors: Jiajun He, José Miguel Hernández-Lobato, Yuanqi Du, Francisco Vargas,
- Abstract要約: Radon-Nikodym Estimator (RNE) は拡散密度推定、推定時間制御、エネルギーベースの拡散訓練を統合するフレームワークである。
RNEは、アニールやモデル構成などの推論時間制御アプリケーションにおいて強力な結果をもたらし、予測時間スケーリング性能が期待できる。
- 参考スコア(独自算出の注目度): 36.20021254388559
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Diffusion models generate data by removing noise gradually, which corresponds to the time-reversal of a noising process. However, access to only the denoising kernels is often insufficient. In many applications, we need the knowledge of the marginal densities along the generation trajectory, which enables tasks such as inference-time control. To address this gap, in this paper, we introduce the Radon-Nikodym Estimator (RNE). Based on the concept of the density ratio between path distributions, it reveals a fundamental connection between marginal densities and transition kernels, providing a flexible plug-and-play framework that unifies diffusion density estimation, inference-time control, and energy-based diffusion training under a single perspective. Experiments demonstrated that RNE delivers strong results in inference-time control applications, such as annealing and model composition, with promising inference-time scaling performance. Moreover, RNE provides a simple yet efficient regularisation for training energy-based diffusion.
- Abstract(参考訳): 拡散モデルは、ノイズを徐々に除去し、ノイズ発生過程の時間反転に対応するデータを生成する。
しかし、デノナイズされたカーネルのみにアクセスすることは、しばしば不十分である。
多くの応用において、推論時間制御などのタスクを可能にする生成軌道に沿った限界密度の知識が必要である。
本稿では,このギャップに対処するため,Ranon-Nikodym Estimator (RNE)を提案する。
経路分布の密度比の概念に基づいて、境界密度と遷移カーネルの基本的な関係を明らかにし、単一の視点で拡散密度推定、推定時間制御、エネルギーベースの拡散訓練を統一する柔軟なプラグアンドプレイフレームワークを提供する。
実験により、RNEは、アニールやモデル構成などの推論時間制御アプリケーションに強力な結果をもたらし、予測時間スケーリング性能が期待できることを示した。
さらに、RNEはエネルギーベースの拡散を訓練するための単純だが効率的な正規化を提供する。
関連論文リスト
- Latent Diffusion Model Based Denoising Receiver for 6G Semantic Communication: From Stochastic Differential Theory to Application [55.42071552739813]
生成人工知能(GAI)を利用した新しい意味コミュニケーションフレームワークを提案する。
微分方程式(SDE)に基づく理論基礎の確立
信号対雑音比(SNR)と復調時間ステップとの閉形式解析関係を導出する。
受信した信号とDMのトレーニングデータとの分布ミスマッチに対処するため、数学的に原理化されたスケーリング機構を導入する。
論文 参考訳(メタデータ) (2025-06-06T03:20:32Z) - Consistent World Models via Foresight Diffusion [56.45012929930605]
我々は、一貫した拡散に基づく世界モデルを学習する上で重要なボトルネックは、最適下予測能力にあると主張している。
本稿では,拡散に基づく世界モデリングフレームワークであるForesight Diffusion(ForeDiff)を提案する。
論文 参考訳(メタデータ) (2025-05-22T10:01:59Z) - Dequantified Diffusion-Schr{ö}dinger Bridge for Density Ratio Estimation [13.986781622423885]
我々は、堅牢で安定で効率的な密度比推定のための統一的なフレームワークを設計する。
本稿では,分散ブリッジ補間器(DDBI)を提案し,サポート範囲を拡大し,時間スコアを安定化させる。
DDBIを基盤として提案されたSh"odinger Bridge Interpolant (D SBI) は、Sh"odinger Bridgeの問題を解決するための最適な輸送を取り入れている。
論文 参考訳(メタデータ) (2025-05-08T08:12:16Z) - Deterministic Fokker-Planck Transport -- With Applications to Sampling, Variational Inference, Kernel Mean Embeddings & Sequential Monte Carlo [0.0]
我々は,Fokker-Planck方程式を連続性方程式として再構成し,粒子流法における関連する速度場を自然に提案する。
結果として生じる確率フローODEは魅力的な特性を提供するが、ほとんどの実用的な応用において難解な現在の確率密度を評価することに頼っている。
これらの制限を変動推論、カーネル平均埋め込み、シーケンシャルなモンテカルロといったコンテキストの利点に変換する機会を明らかにする。
論文 参考訳(メタデータ) (2024-10-11T13:06:36Z) - Kinetic Interacting Particle Langevin Monte Carlo [0.0]
本稿では,潜在変数モデルにおける統計的推論のために,アンダーダム付きランゲヴィンアルゴリズムの相互作用について紹介し,解析する。
本稿では,パラメータと潜伏変数の空間内で共同で進化する拡散過程を提案する。
統計モデルのパラメータを推定する実用的なアルゴリズムとして,この拡散について2つの明確な考察を行う。
論文 参考訳(メタデータ) (2024-07-08T09:52:46Z) - Scalable Continuous-time Diffusion Framework for Network Inference and Influence Estimation [27.561806717195054]
本稿では,拡散過程を連続時間力学系とみなし,連続時間拡散モデルを確立する。
次に、モデルをスケーラブルで効果的なフレームワーク(FIM)にインスタンス化し、利用可能なカスケードからの拡散拡散を近似する。
影響推定のためのスケーラビリティを実現するため,高度なサンプリング手法を考案し,効率を大幅に向上させる。
論文 参考訳(メタデータ) (2024-03-05T11:21:18Z) - Diffusion Models are Minimax Optimal Distribution Estimators [49.47503258639454]
拡散モデリングの近似と一般化能力について、初めて厳密な分析を行った。
実密度関数がベソフ空間に属し、経験値整合損失が適切に最小化されている場合、生成したデータ分布は、ほぼ最小の最適推定値が得られることを示す。
論文 参考訳(メタデータ) (2023-03-03T11:31:55Z) - Robust Learning via Ensemble Density Propagation in Deep Neural Networks [6.0122901245834015]
本稿では,ディープニューラルネットワーク(DNN)の層を通した密度伝搬の問題を定式化し,それをエンサンブル密度伝搬法を用いて解く。
MNISTとCIFAR-10データセットを用いた実験は、ランダムノイズや敵攻撃に対するトレーニングモデルの堅牢性を大幅に改善したことを示している。
論文 参考訳(メタデータ) (2021-11-10T21:26:08Z) - Deep Data Density Estimation through Donsker-Varadhan Representation [5.276937617129594]
我々は,深層ニューラルネットワークとドンスカー・バラダン変分法を用いて,KL偏差に基づくデータ密度を簡易かつ効果的に推定する手法を提案する。
本研究では,ドンスカー・バラダン表現におけるデータと一様分布の発散に関する最適批判関数が,データ密度を推定できることを示した。
論文 参考訳(メタデータ) (2021-04-14T03:38:32Z) - Probabilistic electric load forecasting through Bayesian Mixture Density
Networks [70.50488907591463]
確率的負荷予測(PLF)は、スマートエネルギーグリッドの効率的な管理に必要な拡張ツールチェーンの重要なコンポーネントです。
ベイジアン混合密度ネットワークを枠とした新しいPLFアプローチを提案する。
後方分布の信頼性と計算にスケーラブルな推定を行うため,平均場変動推定と深層アンサンブルを統合した。
論文 参考訳(メタデータ) (2020-12-23T16:21:34Z) - Imitation with Neural Density Models [98.34503611309256]
本稿では,Imitation Occupancy Entropy Reinforcement Learning (RL) を報奨として,専門家の占有率の密度推定によるImitation Learning (IL) の新しい枠組みを提案する。
提案手法は,専門家の占有率と模倣者の占有率の逆Kulback-Leibler偏差を確実に低くする非逆モデル自由RLの目的を最大化する。
論文 参考訳(メタデータ) (2020-10-19T19:38:36Z) - Network Diffusions via Neural Mean-Field Dynamics [52.091487866968286]
本稿では,ネットワーク上の拡散の推論と推定のための新しい学習フレームワークを提案する。
本研究の枠組みは, ノード感染確率の正確な進化を得るために, モリ・ズワンジッヒ形式から導かれる。
我々のアプローチは、基礎となる拡散ネットワークモデルのバリエーションに対して多用途で堅牢である。
論文 参考訳(メタデータ) (2020-06-16T18:45:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。