論文の概要: Composition and Alignment of Diffusion Models using Constrained Learning

• arxiv url: http://arxiv.org/abs/2508.19104v1
• Date: Tue, 26 Aug 2025 15:06:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-27 17:42:38.896576
• Title: Composition and Alignment of Diffusion Models using Constrained Learning
• Title（参考訳）: 制約付き学習を用いた拡散モデルの構成とアライメント
• Authors: Shervin Khalafi, Ignacio Hounie, Dongsheng Ding, Alejandro Ribeiro,
• Abstract要約: 拡散モデルは、複雑な分布からサンプルを採取する能力により、生成的モデリングにおいて普及している。 i) 拡散モデルを微調整して報酬と整合させるアライメントと、(ii) 予め訓練された拡散モデルを組み合わせて、それぞれが生成した出力に望ましい属性を強調する合成である。 本稿では,共役モデルが報酬制約を満たすこと,あるいは(潜在的に複数の)事前学習モデルに近づき続けることを強制することによって,拡散モデルのアライメントと構成を統一する制約付き最適化フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 79.36736636241564
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Diffusion models have become prevalent in generative modeling due to their ability to sample from complex distributions. To improve the quality of generated samples and their compliance with user requirements, two commonly used methods are: (i) Alignment, which involves fine-tuning a diffusion model to align it with a reward; and (ii) Composition, which combines several pre-trained diffusion models, each emphasizing a desirable attribute in the generated outputs. However, trade-offs often arise when optimizing for multiple rewards or combining multiple models, as they can often represent competing properties. Existing methods cannot guarantee that the resulting model faithfully generates samples with all the desired properties. To address this gap, we propose a constrained optimization framework that unifies alignment and composition of diffusion models by enforcing that the aligned model satisfies reward constraints and/or remains close to (potentially multiple) pre-trained models. We provide a theoretical characterization of the solutions to the constrained alignment and composition problems and develop a Lagrangian-based primal-dual training algorithm to approximate these solutions. Empirically, we demonstrate the effectiveness and merits of our proposed approach in image generation, applying it to alignment and composition, and show that our aligned or composed model satisfies constraints effectively, and improves on the equally-weighted approach. Our implementation can be found at https://github.com/shervinkhalafi/constrained_comp_align.
• Abstract（参考訳）: 拡散モデルは、複雑な分布からサンプルを採取する能力により、生成的モデリングにおいて普及している。 生成されたサンプルの品質とユーザ要求への準拠を改善するために、一般的には2つの方法がある。 一 報酬と整合させるために拡散モデルを微調整する調整及び (ii)いくつかの事前学習された拡散モデルを組み合わせた合成では、それぞれが生成した出力に望ましい属性を強調する。 しかしながら、複数の報酬を最適化したり、複数のモデルを組み合わせる際に、しばしばトレードオフが発生する。 既存の方法は、結果のモデルがすべての望ましい性質を持つサンプルを忠実に生成することを保証できない。 このギャップに対処するために,適応モデルが報酬制約を満たすこと,あるいは(潜在的に複数の)事前訓練されたモデルに近づき続けることを強制することによって,拡散モデルのアライメントと構成を統一する制約付き最適化フレームワークを提案する。 制約付きアライメントおよび構成問題に対する解の理論的特徴付けを行い、これらの解を近似するラグランジアンに基づく原始双対学習アルゴリズムを開発する。 実験により、画像生成における提案手法の有効性とメリットを実証し、アライメントと合成に適用し、アライメントまたは構成されたモデルが制約を効果的に満たし、等重化アプローチを改善したことを示す。 実装はhttps://github.com/shervinkhalafi/constrained_comp_align.comで確認できます。

関連論文リスト

• Bridging the inference gap in Mutimodal Variational Autoencoders [6.246098300155483]
  マルチモーダル変分オートエンコーダは、観測されたモダリティから観測されていないモダリティを生成するための多目的でスケーラブルな方法を提供する。 エキスパートの混合集合を用いた最近のモデルは、複雑なデータセットにおける生成品質を制限する理論的に基礎的な制限に悩まされている。 本稿では,混合アグリゲーションを導入することなく,結合分布と条件分布の両方を学習できる新しい解釈可能なモデルを提案する。
  論文  参考訳（メタデータ） (2025-02-06T10:43:55Z)
• Variational Search Distributions [16.609027794680213]
  稀に望まれるクラスに対して離散的・変動的デザインの生成モデルを条件付けするVSDを開発する。 実数列設計問題に対して,VSDが既存のベースライン手法より優れていることを実証的に実証した。
  論文  参考訳（メタデータ） (2024-09-10T01:33:31Z)
• Constrained Diffusion Models via Dual Training [80.03953599062365]
  拡散プロセスは、トレーニングデータセットのバイアスを反映したサンプルを生成する傾向がある。 所望の分布に基づいて拡散制約を付与し,制約付き拡散モデルを構築する。 本稿では,制約付き拡散モデルを用いて,目的と制約の最適なトレードオフを実現する混合データ分布から新しいデータを生成することを示す。
  論文  参考訳（メタデータ） (2024-08-27T14:25:42Z)
• Bridging Model-Based Optimization and Generative Modeling via Conservative Fine-Tuning of Diffusion Models [54.132297393662654]
  本稿では,RLによる報酬モデルの最適化により,最先端拡散モデルを微調整するハイブリッド手法を提案する。 我々は、報酬モデルの補間能力を活用し、オフラインデータにおいて最良の設計を上回るアプローチの能力を実証する。
  論文  参考訳（メタデータ） (2024-05-30T03:57:29Z)
• InterHandGen: Two-Hand Interaction Generation via Cascaded Reverse Diffusion [53.90516061351706]
  両手インタラクションに先立って生成を学習する新しいフレームワークであるInterHandGenを提案する。 サンプリングにアンチペネティフィケーションと合成フリーガイダンスを組み合わせることで、プラウシブルな生成を可能にする。 本手法は, 妥当性と多様性の観点から, ベースライン生成モデルよりも有意に優れていた。
  論文  参考訳（メタデータ） (2024-03-26T06:35:55Z)
• Physics-Informed Diffusion Models [0.0]
  生成モデルと偏微分方程式の充足を統一する枠組みを提案する。 本手法は,流体流動ケーススタディにおける従来の研究と比較して,残差を最大2桁まで低減する。
  論文  参考訳（メタデータ） (2024-03-21T13:52:55Z)
• Diffusion Model for Data-Driven Black-Box Optimization [54.25693582870226]
  我々は、強力な生成AI技術である拡散モデルに注目し、ブラックボックス最適化の可能性について検討する。 本研究では,1)実数値報酬関数のノイズ測定と,2)対比較に基づく人間の嗜好の2種類のラベルについて検討する。 提案手法は,設計最適化問題を条件付きサンプリング問題に再構成し,拡散モデルのパワーを有効活用する。
  論文  参考訳（メタデータ） (2024-03-20T00:41:12Z)
• Lp-Norm Constrained One-Class Classifier Combination [18.27510863075184]
  アンサンブルの空間/均一性をモデル化し,一級分類問題を考える。 定式化凸制約問題の解法を効果的に提案する。
  論文  参考訳（メタデータ） (2023-12-25T16:32:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。