論文の概要: Zero-Shot Conditioning of Score-Based Diffusion Models by Neuro-Symbolic Constraints

• arxiv url: http://arxiv.org/abs/2308.16534v2
• Date: Wed, 18 Sep 2024 13:06:30 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-19 23:57:01.043565
• Title: Zero-Shot Conditioning of Score-Based Diffusion Models by Neuro-Symbolic Constraints
• Title（参考訳）: ニューロシンボリック制約によるスコアベース拡散モデルのゼロショット条件付け
• Authors: Davide Scassola, Sebastiano Saccani, Ginevra Carbone, Luca Bortolussi,
• Abstract要約: 本研究では,事前学習した無条件スコアベース生成モデルを用いて,任意の論理的制約の下で条件分布からサンプルを抽出する手法を提案する。 ユーザ定義制約の非正規化分布条件から標本化するために,学習したスコアの操作方法を示す。 ソフト論理制約を符号化するための柔軟で数値的に安定なニューロシンボリック・フレームワークを定義する。
• 参考スコア（独自算出の注目度）: 1.1826485120701153
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Score-based diffusion models have emerged as effective approaches for both conditional and unconditional generation. Still conditional generation is based on either a specific training of a conditional model or classifier guidance, which requires training a noise-dependent classifier, even when a classifier for uncorrupted data is given. We propose a method that, given a pre-trained unconditional score-based generative model, samples from the conditional distribution under arbitrary logical constraints, without requiring additional training. Differently from other zero-shot techniques, that rather aim at generating valid conditional samples, our method is designed for approximating the true conditional distribution. Firstly, we show how to manipulate the learned score in order to sample from an un-normalized distribution conditional on a user-defined constraint. Then, we define a flexible and numerically stable neuro-symbolic framework for encoding soft logical constraints. Combining these two ingredients we obtain a general, but approximate, conditional sampling algorithm. We further developed effective heuristics aimed at improving the approximation. Finally, we show the effectiveness of our approach in approximating conditional distributions for various types of constraints and data: tabular data, images and time series.
• Abstract（参考訳）: スコアベース拡散モデルは条件生成と非条件生成の両方に有効なアプローチとして現れてきた。 条件付き生成は、条件付きモデルの特定の訓練または分類器ガイダンスに基づいており、これは、故障したデータの分類器が与えられた場合でも、ノイズ依存の分類器を訓練する必要がある。 本研究では,事前学習した無条件スコアベース生成モデルを用いて,任意の論理的制約の下で条件分布からサンプルを抽出する手法を提案する。 他のゼロショット法とは違い,本手法は実条件分布を近似するために設計されている。 まず,ユーザ定義制約の非正規化分布条件から標本化するために,学習したスコアの操作方法を示す。 次に,ソフト論理制約を符号化するための柔軟で数値的に安定なニューロシンボリック・フレームワークを定義する。 これら2つの成分を組み合わせることで、一般的な、しかし近似的な条件付きサンプリングアルゴリズムが得られる。 近似の改善を目的とした効果的なヒューリスティックスをさらに発展させた。 最後に,制約やデータの種類に応じて条件分布を近似する手法の有効性を示す。

関連論文リスト

• Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
  本報告では,明示的な次元の一般スコアミスマッチ拡散サンプリング器を用いた最初の性能保証について述べる。 その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。 この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
  論文  参考訳（メタデータ） (2024-10-17T16:42:12Z)
• Controllable Generation via Locally Constrained Resampling [77.48624621592523]
  本研究では, ベイズ条件付けを行い, 制約条件下でサンプルを描画する, トラクタブルな確率的手法を提案する。 提案手法はシーケンス全体を考慮し,現行のグリード法よりも大域的に最適に制約された生成を導出する。 提案手法は, 有害な世代からモデル出力を分離し, 脱毒化に対する同様のアプローチより優れていることを示す。
  論文  参考訳（メタデータ） (2024-10-17T00:49:53Z)
• Unveil Conditional Diffusion Models with Classifier-free Guidance: A Sharp Statistical Theory [87.00653989457834]
  条件付き拡散モデルは現代の画像合成の基礎となり、計算生物学や強化学習などの分野に広く応用されている。 経験的成功にもかかわらず、条件拡散モデルの理論はほとんど欠落している。 本稿では,条件拡散モデルを用いた分布推定の急激な統計的理論を提示することにより,ギャップを埋める。
  論文  参考訳（メタデータ） (2024-03-18T17:08:24Z)
• Wasserstein Generative Regression [6.366148239550708]
  非パラメトリック回帰と条件分布学習のための新しい統一的アプローチを提案する。 提案手法は,生成学習フレームワークを用いた回帰関数と条件生成器を同時に推定する。 非漸近誤差境界の導出と適切な仮定の下でのアプローチの分布整合性による理論的保証を提供する。
  論文  参考訳（メタデータ） (2023-06-27T02:44:54Z)
• User-defined Event Sampling and Uncertainty Quantification in Diffusion Models for Physical Dynamical Systems [49.75149094527068]
  拡散モデルを用いて予測を行い,カオス力学系に対する不確かさの定量化が可能であることを示す。 本研究では,雑音レベルが低下するにつれて真の分布に収束する条件付きスコア関数の確率的近似法を開発する。 推論時に非線形ユーザ定義イベントを条件付きでサンプリングすることができ、分布の尾部からサンプリングした場合でもデータ統計と一致させることができる。
  論文  参考訳（メタデータ） (2023-06-13T03:42:03Z)
• Collapse by Conditioning: Training Class-conditional GANs with Limited Data [109.30895503994687]
  非条件学習を活用することにより、観測モード崩壊を効果的に防止する条件付きGAN(cGAN)のトレーニング戦略を提案する。 我々のトレーニング戦略は、無条件のGANから始まり、徐々に条件情報をジェネレータと目的関数に注入する。 安定したトレーニングだけでなく,高品質な画像を生成するために,限られたデータでcGANを訓練する手法を提案する。
  論文  参考訳（メタデータ） (2022-01-17T18:59:23Z)
• Adversarial sampling of unknown and high-dimensional conditional distributions [0.0]
  本稿では, GAN (Generative Adversarial Network) と呼ばれるデータ駆動方式を用いて, サンプリング法と基礎分布の推定を行う。 GANは、2つの競合するニューラルネットワークをトレーニングし、トレーニングセット分布からサンプルを効果的に生成できるネットワークを生成する。 提案アルゴリズムのすべてのバージョンは, 対象条件分布を, サンプルの品質に最小限の影響で効果的にサンプリングできることが示されている。
  論文  参考訳（メタデータ） (2021-11-08T12:23:38Z)
• Autoregressive Score Matching [113.4502004812927]
  自動回帰条件スコアモデル(AR-CSM)を提案する。 AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。 本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
  論文  参考訳（メタデータ） (2020-10-24T07:01:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。