論文の概要: Specificity-Aware Diffusion Steering via Variance-Reduced Sequential Monte Carlo
- arxiv url: http://arxiv.org/abs/2610.00395v1
- Date: Wed, 30 Sep 2026 11:44:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.63277
- Title: Specificity-Aware Diffusion Steering via Variance-Reduced Sequential Monte Carlo
- Title(参考訳): 可変再生モンテカルロによる特異性を考慮した拡散ステアリング
- Abstract要約: 推論時ステアリングは、事前訓練された拡散モデルにより、完全な再トレーニングなしに新しい制約を満たすことができる。
主な課題は、正の分布を最小に歪めながら負の質量を抑えることである。
我々は,目標設計問題としての特異性を考慮したステアリングを開発し,重なり合う目的から目標分布を導出する。
- 参考スコア(独自算出の注目度): 24.572393069962093
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Inference-time steering enables pretrained diffusion models to satisfy new constraints without full retraining. However, specificity-aware generation is difficult: repelling samples from a negative reference distribution can also erode the positive distribution where the two overlap. The key challenge is to suppress negative mass while minimally distorting the positive distribution. We address this problem by formulating specificity-aware steering as a target-design problem and deriving a target distribution from an overlap-based objective. The resulting target keeps the desired reference distribution only in regions where it is sufficiently preferred over the undesired reference distribution, giving a likelihood-ratio interpretation of specificity. To sample from the corresponding time-dependent target path, we develop a Sequential Monte Carlo sampler with a variance-minimized local proposal. We further introduce a practical fixed-noise optimization procedure with the Jacobian--vector products with the desired and undesired score fields. Experiments on synthetic task, class-contrastive generation, text-to-image tasks and peptide-MHC (p-MHC) binder show that the proposed method suppresses undesired regions more effectively, reduces mode shift, and improves sampling stability by decreasing the SMC weight collapse compared with negative-guidance baselines. Code is available at: https://github.com/WangLuran/Specificity-Aware-Diffusion-Steering
- Abstract(参考訳): 推論時ステアリングは、事前訓練された拡散モデルにより、完全な再トレーニングなしに新しい制約を満たすことができる。
しかし、特異性を考慮した生成は困難であり、負の基準分布からのサンプルの取り消しは、2つの重なり合う正の分布を損なう可能性がある。
鍵となる課題は、正の分布を最小に歪めながら負の質量を抑えることである。
本稿では,具体性を考慮したステアリングを目標設計問題として定式化し,重なり合う目的から目標分布を導出することでこの問題に対処する。
得られた対象は、望ましくない参照分布よりも十分に好まれる領域にのみ所望の参照分布を保持し、特異性の確率比の解釈を与える。
対応する時間依存的対象経路からサンプリングするために,分散最小化された局所的提案を伴うシークエンシャルモンテカルロサンプリング器を開発した。
さらに,所望および望ましくないスコアフィールドを持つヤコビ-ベクトル積を用いた実用的な固定ノイズ最適化手法を導入する。
合成課題, クラスコントラスト生成, テキスト・ツー・イメージタスク, ペプチド-MHC(p-MHC)バインダーを用いた実験により, 提案手法は望ましくない領域をより効果的に抑制し, モードシフトを低減し, SMC重量崩壊を負の誘導ベースラインと比較して減少させることによりサンプリング安定性を向上させることを示した。
コードは、https://github.com/WangLuran/Specificity-Aware-Diffusion-Steeringで入手できる。
関連論文リスト
- Markov Chain Monte Carlo with Diffusion Paths [16.16991829228785]
マルチモーダル分布からのサンプリングは、局所マルコフ連鎖モンテカルロ法における長年の挑戦である。
本稿では,拡散経路に沿って補間すること,すなわちガウスに向かって対象を輸送するノイズ発生拡散過程の限界について提案する。
我々は,MAD-PathがMCMC法と非調整拡散サンプリング器と比較して,グローバル探索とモードウェイト推定を改善したことを示す。
論文 参考訳(メタデータ) (2026-07-13T14:48:19Z) - Expanding SPHERE-JEPA: A Family of Statistical Regularizers for the Hypersphere [11.087393998848254]
SSL(Self-Supervised Learning)では,単位超球面上の一様分布を明示的に強制することにより,表現の崩壊を防止することが実証された。
現在のフレームワークは通常、SIGReg(LeJEPAで使用される)やSUSReg(SPHEREJEPAで使用される)のようなスライスされた統計正規化器に依存している。
これにより、トレーニング勾配にプロジェクションのばらつきを注入し、最適化を安定化させ、収束を妨げる。
本研究では,これらのランダムな射影を解析的に統合することにより,決定論的最大平均離散性(MMD)が得られ,スライスされた手法のばらつきを回避できることを示す。
論文 参考訳(メタデータ) (2026-06-16T07:10:05Z) - Inference-Time Alignment of Diffusion Models via Trust-Region Iterative Twisted Sequential Monte Carlo [15.105260031413698]
拡散に基づく生成モデルの推論時間アライメントについて検討する。
SMCに基づく推論時間アライメントにおけるツイスト機能学習のための信頼領域フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-24T15:08:52Z) - Inference-Time Attribute Distribution Alignment for Unconditional Diffusion [54.28942858023809]
我々は、事前訓練された非条件拡散モデルに対する推論時属性分布アライメント問題を定式化する。
そこで本研究では,逆拡散過程に対する最適制御問題として,推定時属性分布アライメントを適用した。
最適制御に基づくアルゴリズムを用いて分散マッチングの最適化を行う。
論文 参考訳(メタデータ) (2026-05-08T09:02:47Z) - Enhanced Importance Sampling through Latent Space Exploration in Normalizing Flows [69.8873421870522]
重要サンプリングはモンテカルロシミュレーションで使われる稀な事象シミュレーション手法である。
正規化フローの潜在空間における提案分布を更新し,より効率的なサンプリング法を提案する。
論文 参考訳(メタデータ) (2025-01-06T21:18:02Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Invariant Anomaly Detection under Distribution Shifts: A Causal
Perspective [6.845698872290768]
異常検出(AD、Anomaly Detection)は、異常なサンプルを識別する機械学習タスクである。
分散シフトの制約の下では、トレーニングサンプルとテストサンプルが同じ分布から引き出されるという仮定が崩壊する。
我々は,異常検出モデルのレジリエンスを,異なる種類の分布シフトに高めようとしている。
論文 参考訳(メタデータ) (2023-12-21T23:20:47Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。