論文の概要: Constrained Diffusion with Trust Sampling

• arxiv url: http://arxiv.org/abs/2411.10932v1
• Date: Sun, 17 Nov 2024 01:34:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-19 14:34:44.604999
• Title: Constrained Diffusion with Trust Sampling
• Title（参考訳）: 信頼サンプリングによる拘束拡散
• Authors: William Huang, Yifeng Jiang, Tom Van Wouwe, C. Karen Liu,
• Abstract要約: 我々は、最適化の観点から、トレーニングなし損失誘導拡散を再考する。 トラストサンプリングは、無条件拡散モデルに従って効果的にバランスをとり、損失誘導に固執する。 複雑なタスクや画像の領域や3Dモーション生成の領域で広範囲にわたる実験により,本手法の有効性を実証する。
• 参考スコア（独自算出の注目度）: 11.354281911272864
• License:
• Abstract: Diffusion models have demonstrated significant promise in various generative tasks; however, they often struggle to satisfy challenging constraints. Our approach addresses this limitation by rethinking training-free loss-guided diffusion from an optimization perspective. We formulate a series of constrained optimizations throughout the inference process of a diffusion model. In each optimization, we allow the sample to take multiple steps along the gradient of the proxy constraint function until we can no longer trust the proxy, according to the variance at each diffusion level. Additionally, we estimate the state manifold of diffusion model to allow for early termination when the sample starts to wander away from the state manifold at each diffusion step. Trust sampling effectively balances between following the unconditional diffusion model and adhering to the loss guidance, enabling more flexible and accurate constrained generation. We demonstrate the efficacy of our method through extensive experiments on complex tasks, and in drastically different domains of images and 3D motion generation, showing significant improvements over existing methods in terms of generation quality. Our implementation is available at https://github.com/will-s-h/trust-sampling.
• Abstract（参考訳）: 拡散モデルは様々な生成的タスクにおいて大きな可能性を示してきたが、しばしば困難な制約を満たすのに苦労している。 本手法は、最適化の観点から、トレーニング不要な損失誘導拡散を再考することによって、この制限に対処する。 拡散モデルの推論過程を通して一連の制約付き最適化を定式化する。 各最適化において、各拡散レベルのばらつきに応じて、プロキシ制約関数がもはやプロキシを信頼できなくなるまで、サンプルがプロキシ制約関数の勾配に沿って複数のステップを踏むことを可能にする。 さらに,拡散モデルの状態多様体を推定し,各拡散ステップで試料が状態多様体から遠ざかり始めると,早期終了を可能にする。 トラストサンプリングは、非条件拡散モデルに従うことと損失誘導に固執することとのバランスを効果的に保ち、より柔軟で正確な制約付き生成を可能にする。 複雑なタスクや画像領域や3Dモーション生成の領域において,提案手法の有効性を実験的に検証し,既存の手法に比べて生成品質が大幅に向上したことを示す。 実装はhttps://github.com/will-s-h/trust-sampling.comで公開しています。

関連論文リスト

• Training-free Diffusion Model Alignment with Sampling Demons [15.400553977713914]
  提案手法は,報酬関数やモデル再学習を介さずに,推論時の復調過程を導出するための最適化手法である。 提案手法は,高報酬に対応する領域の密度を最適化することにより,雑音分布の制御を行う。 我々の知る限り、提案手法は拡散モデルに対する最初の推論時間、バックプロパゲーションフリーな選好アライメント法である。
  論文  参考訳（メタデータ） (2024-10-08T07:33:49Z)
• Diffusion State-Guided Projected Gradient for Inverse Problems [82.24625224110099]
  逆問題に対する拡散状態ガイド型射影勾配(DiffStateGrad)を提案する。 DiffStateGrad は拡散過程の中間状態の低ランク近似である部分空間に測定勾配を投影する。 DiffStateGradは、測定手順のステップサイズとノイズの選択によって拡散モデルのロバスト性を向上させる。
  論文  参考訳（メタデータ） (2024-10-04T14:26:54Z)
• Intention-aware Denoising Diffusion Model for Trajectory Prediction [14.524496560759555]
  軌道予測は、特に衝突回避システムにおいて、自律運転において不可欠な要素である。 本稿では,拡散モデルを用いて将来の軌道の分布を生成することを提案する。 Intention-aware denoising Diffusion Model (IDM)を提案する。 提案手法は,SDDデータセットでは13.83ピクセル,ETH/UCYデータセットでは0.36メートルのFDEで,最先端の結果が得られる。
  論文  参考訳（メタデータ） (2024-03-14T09:05:25Z)
• Manifold Preserving Guided Diffusion [121.97907811212123]
  条件付き画像生成は、コスト、一般化可能性、タスク固有のトレーニングの必要性といった課題に直面している。 トレーニング不要な条件生成フレームワークであるManifold Preserving Guided Diffusion (MPGD)を提案する。
  論文  参考訳（メタデータ） (2023-11-28T02:08:06Z)
• Semi-Implicit Denoising Diffusion Models (SIDDMs) [50.30163684539586]
  Denoising Diffusion Probabilistic Models (DDPM)のような既存のモデルは、高品質で多様なサンプルを提供するが、本質的に多くの反復的なステップによって遅くなる。 暗黙的要因と明示的要因を一致させることにより、この問題に対処する新しいアプローチを導入する。 提案手法は拡散モデルに匹敵する生成性能と,少数のサンプリングステップを持つモデルに比較して非常に優れた結果が得られることを示す。
  論文  参考訳（メタデータ） (2023-06-21T18:49:22Z)
• Eliminating Lipschitz Singularities in Diffusion Models [51.806899946775076]
  拡散モデルは、時間ステップの零点付近で無限のリプシッツをしばしば表すことを示す。 これは、積分演算に依存する拡散過程の安定性と精度に脅威をもたらす。 我々はE-TSDMと呼ばれる新しい手法を提案し、これは0に近い拡散モデルのリプシッツを除去する。
  論文  参考訳（メタデータ） (2023-06-20T03:05:28Z)
• Conffusion: Confidence Intervals for Diffusion Models [32.36217153362305]
  現在の拡散法は、生成された結果に関する統計的保証を提供していない。 我々は,1つの前方通過における間隔境界を予測するために,事前学習した拡散モデルを微調整する融合法を提案する。 コンフュージョンは3桁の精度でベースライン法より優れていることを示す。
  論文  参考訳（メタデータ） (2022-11-17T18:58:15Z)
• DensePure: Understanding Diffusion Models towards Adversarial Robustness [110.84015494617528]
  拡散モデルの特性を解析し,それらが証明された堅牢性を高める条件を確立する。 事前訓練されたモデル(すなわち分類器)の信頼性向上を目的とした新しいDensePure法を提案する。 このロバストな領域は多重凸集合の和であり、以前の研究で特定されたロバストな領域よりもはるかに大きい可能性が示されている。
  論文  参考訳（メタデータ） (2022-11-01T08:18:07Z)
• Improving Diffusion Models for Inverse Problems using Manifold Constraints [55.91148172752894]
  我々は,現在の解法がデータ多様体からサンプルパスを逸脱し,エラーが蓄積することを示す。 この問題に対処するため、多様体の制約に着想を得た追加の補正項を提案する。 本手法は理論上も経験上も従来の方法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-06-02T09:06:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。