論文の概要: SURGE: Approximation-free Training Free Particle Filter for Diffusion Surrogate
- arxiv url: http://arxiv.org/abs/2605.18745v1
- Date: Mon, 18 May 2026 17:59:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-19 17:57:50.227946
- Title: SURGE: Approximation-free Training Free Particle Filter for Diffusion Surrogate
- Title(参考訳): SURGE:拡散サロゲート用無近似自由粒子フィルタ
- Abstract要約: 拡散に基づく生成モデルは、推測時間のガイダンスにますます依存し、ドリフト項や専門家の混合を追加する。
パラメータ変更によるパスワイズ重要度再重み付けを行う,微分自由推論時間スケーリングアルゴリズムである textttURGE を導入する。
- 参考スコア(独自算出の注目度): 10.190682562038047
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion-based generative models increasingly rely on inference-time guidance, adding a drift term or reweighting mixture of experts, to improve sample quality on task-specific objectives. However, most existing techniques require repeated score or gradient evaluations, introducing bias, high computational overhead, or both. We introduce \texttt{URGE}, Unbiased Resampling via Girsanov Estimation, a derivative-free inference-time scaling algorithm that performs path-wise importance reweighting via a Girsanov change of measure. Instead of computing gradient-based particle weights in previous work, \texttt{URGE} attaches a simple multiplicative weight to each simulated trajectory and periodically resamples. No score, no Hessian, and no PDE evaluation is required. We establish an equivalence between path-wise and particle-wise SMC: the Girsanov path weight admits a backward conditional expectation that recovers the previous particle-level weights, guaranteeing that both schemes produce the same unbiased terminal law. Empirically, \texttt{URGE} outperforms existing inference-time guidance baselines on synthetic tests and diffusion-model benchmarks, achieving better generation quality, while being significantly simpler to implement and fully gradient-free.
- Abstract(参考訳): 拡散に基づく生成モデルは、タスク固有の目的のサンプル品質を改善するために、推論時ガイダンスに頼りやすくなり、ドリフト項や専門家の再重み付けが加えられる。
しかし、既存の技術の多くは、繰り返しスコアや勾配の評価、バイアスの導入、高い計算オーバーヘッド、あるいはその両方を必要とする。
本稿では、Girsanov EstimationによるUnbiased Resamplingである‘texttt{URGE}, Unbiased Resampling’を導入する。
以前の研究で勾配に基づく粒子重量を計算する代わりに、 texttt{URGE} はシミュレーションされた軌道と周期的な再サンプリングに単純な乗法的重みを付加する。
スコアもヘッセンもPDE評価も不要。
我々は、経路ワイドと粒子ワイドSMCの等価性を確立する: ジルサノフパスウェイトは、以前の粒子レベルウェイトを回復する後方条件付き期待を許容し、両方のスキームが同じ偏りのない終端法則を生成することを保証する。
経験的に、‘texttt{URGE} は、合成テストと拡散モデルベンチマークにおける既存の推論時ガイダンスベースラインを上回り、より優れた生成品質を実現し、実装が非常に簡単で、完全に勾配なしである。
関連論文リスト
- Revisiting Spectral Representations in Generative Diffusion Models [98.43552218868837]
拡散モデルは多様な生成タスクにおいて顕著な性能を示した。
近年の研究では,拡散ネットワークの隠れ状態に表現アライメントを付与することで,トレーニングの収束とサンプリング品質の向上が図られている。
摂動カーネルの共有視点による自己教師付きスペクトル表現学習と拡散生成モデルの関連性について検討する。
論文 参考訳(メタデータ) (2026-09-08T04:54:02Z) - Simple Approximation and Derivative Free Inference-Time Scaling for Diffusion Models via Sequential Monte Carlo on Path Measures [13.41132148962756]
textttURGEはデリバティブフリーな推論時間スケーリングアルゴリズムで、測定値の変更によって経路的に重要な再重み付けを行う。
我々はパスワイドSMCとパーティクルワイドSMCの等価性を確立する。
論文 参考訳(メタデータ) (2026-05-18T04:45:33Z) - Tempered Guided Diffusion [1.7778609937758325]
拡散前の条件付きトレーニング不要な条件付きサンプリングのためのシーケンシャルなモンテカルロフレームワークを提案する。
TGDは、ノイズ拡散状態のみを補助変数として、クリーン信号上の誘電後部分布を標的とする。
高価な復元作業のために、TGDは初期の粒子探査を継続するが、サンプリングを通して1つの高軌道の軌道の一部にプルーネを配置する。
論文 参考訳(メタデータ) (2026-05-05T13:00:15Z) - Closed-form conditional diffusion models for data assimilation [0.0]
データ同化のための閉形式条件拡散モデルを提案する。
スコア関数の解析的トラクタビリティを利用して,システムの状態と測定値を同化する。
提案手法は, 明示的な知識を必要とせず, システムや計測プロセスに適応できる。
論文 参考訳(メタデータ) (2026-03-22T15:25:23Z) - Sharp Convergence Rates for Masked Diffusion Models [53.117058231393834]
制約を克服するオイラー法に対する全変分に基づく解析法を開発した。
その結果、スコア推定の仮定を緩和し、パラメータ依存性を改善し、収束保証を確立する。
全体としては,CTMC軌道に沿った直接テレビによる誤り分解と,FHSのためのデカップリングに基づく経路解析を導入している。
論文 参考訳(メタデータ) (2026-02-26T00:47:51Z) - Neural Backward Filtering Forward Guiding [2.676349883103404]
木上の非線形連続過程における推論は、観測が疎(リーフのみ)であり、トポロジーが複雑であるときに困難である。
離散遷移と連続拡散の両方のための統一的なフレームワークであるニューラル・バックワード・フィルタリング・フォワード・ガイド(NBFFG)を提案する。
論文 参考訳(メタデータ) (2026-01-30T14:39:50Z) - The Principles of Diffusion Models [81.12042238390075]
拡散モデリングは、データを徐々にノイズに分解するフォワードプロセスを定義することから始まる。
目標は、ノイズをデータに変換しながら、同じ中間体を回復するリバースプロセスを学ぶことだ。
エネルギーベースモデリングに根ざしたスコアベースビューは、進化するデータ分布の勾配を学習する。
フローベースのビューは、フローの正規化に関連するもので、サンプルをノイズからデータに移すスムーズなパスに従って生成する。
論文 参考訳(メタデータ) (2025-10-24T02:29:02Z) - From Noisy Traces to Stable Gradients: Bias-Variance Optimized Preference Optimization for Aligning Large Reasoning Models [90.45197506653341]
大規模推論モデルは最終回答を生成する前に中間的推論トレースを生成する。
LRMと人間の好みの整合性は、モデルデプロイメントにとって重要な前提条件であり、まだ過小評価されていない。
共通の回避策は1つのサンプル軌道を最適化し、トレースサンプリングからかなり勾配のばらつきをもたらす。
論文 参考訳(メタデータ) (2025-10-06T17:58:01Z) - G$^2$RPO: Granular GRPO for Precise Reward in Flow Models [74.21206048155669]
本稿では,サンプリング方向の高精度かつ包括的な報酬評価を実現する新しいグラニュラー-GRPO(G$2$RPO)フレームワークを提案する。
複数の拡散スケールで計算された利点を集約するマルチグラニュラリティ・アドバンテージ・インテグレーション・モジュールを導入する。
G$2$RPOは既存のフローベースGRPOベースラインを著しく上回る。
論文 参考訳(メタデータ) (2025-10-02T12:57:12Z) - Inference-Time Scaling of Diffusion Language Models with Particle Gibbs Sampling [70.8832906871441]
我々は、モデルを再訓練することなく、所望の報酬に向けて世代を操る方法を研究する。
従来の手法では、通常は1つの認知軌道内でサンプリングやフィルタを行い、軌道レベルの改善なしに報酬をステップバイステップで最適化する。
本稿では,拡散言語モデル(PG-DLM)の粒子ギブスサンプリングについて紹介する。
論文 参考訳(メタデータ) (2025-07-11T08:00:47Z) - Consistent Sampling and Simulation: Molecular Dynamics with Energy-Based Diffusion Models [50.77646970127369]
本稿では,Fokker-Planck由来の正規化項を用いたエネルギーベース拡散モデルを提案する。
高速折りたたみタンパク質を含む複数の生体分子系をサンプリング・シミュレートし,本手法を実証する。
論文 参考訳(メタデータ) (2025-06-20T16:38:29Z) - Resolving Memorization in Empirical Diffusion Model for Manifold Data in High-Dimensional Spaces [5.716752583983991]
データ分布がn個の点からなる場合、経験的拡散モデルは既存のデータ点を再現する傾向がある。
本研究は,経験的拡散シミュレーションの最後に慣性更新を適用することで,記憶の問題を解くことができることを示す。
このモデルから得られたサンプルの分布は、次元$d$の$C2$多様体上の真のデータ分布を、位数$O(n-frac2d+4)$のWasserstein-1距離内で近似することを示した。
論文 参考訳(メタデータ) (2025-05-05T09:40:41Z) - Continuous Diffusion Model for Language Modeling [64.7425225935854]
離散的データに対する既存の連続拡散モデルは離散的手法と比較して性能が劣る。
本稿では,下層の分類分布の幾何学を組み込んだ言語モデリングのための連続拡散モデルを提案する。
本手法は,既存の離散拡散モデルより優れ,自己回帰モデルの性能にアプローチする。
論文 参考訳(メタデータ) (2025-02-17T08:54:29Z) - Amortizing intractable inference in diffusion models for vision, language, and control [89.65631572949702]
本稿では,p(mathbfx)$以前の拡散生成モデルとブラックボックス制約,あるいは関数$r(mathbfx)$からなるモデルにおいて,データ上の後部サンプルである $mathbfxsim prm post(mathbfx)propto p(mathbfx)r(mathbfx)$について検討する。
我々は,データフリー学習目標である相対軌道バランスの正しさを,サンプルから抽出した拡散モデルの訓練のために証明する。
論文 参考訳(メタデータ) (2024-05-31T16:18:46Z) - Particle Denoising Diffusion Sampler [32.310922004771776]
Particle Denoising Diffusion Sampler (PDDS) は、軽微な仮定の下で一貫した推定を提供する。
マルチモーダルおよび高次元サンプリングタスクにおけるPDDSの実証を行った。
論文 参考訳(メタデータ) (2024-02-09T11:01:35Z) - Low-Rank Tensor Completion via Novel Sparsity-Inducing Regularizers [30.920908325825668]
低ランクテンソル完備化問題において、l1-ノルムを緩和するため、非ランクサロゲート/正則化器が提案されている。
これらの正則化器は核ランク復元に適用され,乗算器法に基づく効率的なアルゴリズムが提案されている。
論文 参考訳(メタデータ) (2023-10-10T01:00:13Z) - Sampling from Gaussian Process Posteriors using Stochastic Gradient
Descent [43.097493761380186]
勾配アルゴリズムは線形系を解くのに有効な方法である。
最適値に収束しない場合であっても,勾配降下は正確な予測を導出することを示す。
実験的に、勾配降下は十分に大規模または不条件の回帰タスクにおいて最先端の性能を達成する。
論文 参考訳(メタデータ) (2023-06-20T15:07:37Z) - Blackout Diffusion: Generative Diffusion Models in Discrete-State Spaces [0.0]
前方拡散過程における任意の離散状態マルコフ過程の理論的定式化を開発する。
例えばBlackout Diffusion'は、ノイズからではなく、空のイメージからサンプルを生成することを学習する。
論文 参考訳(メタデータ) (2023-05-18T16:24:12Z) - To smooth a cloud or to pin it down: Guarantees and Insights on Score Matching in Denoising Diffusion Models [20.315727650065007]
微分拡散モデル(Denoising diffusion model)は、最近多くの領域で最先端の結果を得た生成モデルのクラスである。
我々は、F"ollmer flow"に似た既知の接続を利用して、F"ollmer drift"の確立されたニューラルネットワーク近似結果を拡張し、拡散モデルとサンプリング器をデノナイズする。
論文 参考訳(メタデータ) (2023-05-16T16:56:19Z) - Diffusion Models in Vision: A Survey [73.10116197883303]
拡散モデルは、前方拡散段階と逆拡散段階の2つの段階に基づく深層生成モデルである。
拡散モデルは、既知の計算負荷にもかかわらず、生成したサンプルの品質と多様性に対して広く評価されている。
論文 参考訳(メタデータ) (2022-09-10T22:00:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。