論文の概要: Test-Time Compositional Generalization in Diffusion Models via Concept Discovery

• arxiv url: http://arxiv.org/abs/2605.07078v1
• Date: Fri, 08 May 2026 00:53:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-11 19:43:38.704086
• Title: Test-Time Compositional Generalization in Diffusion Models via Concept Discovery
• Title（参考訳）: 概念発見による拡散モデルにおけるテスト時間構成一般化
• Abstract要約: 事前学習された拡散モデルにより,学習した時間インデクシングスコアからクエリ固有の概念が検出可能であることを示す。 分析用PoEサンプリングと低ランク適応モデルの両方がクエリ専用で、最も訓練されたクラスベースラインより優れている。
• 参考スコア（独自算出の注目度）: 6.379257030501549
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Compositional generalization requires models to produce novel configurations from familiar parts. In diffusion models, prior compositional generation methods typically assume that the relevant concepts or conditioning signals are already available. We instead ask whether a pretrained diffusion model can discover query-specific concepts from the time-indexed scores it learns for the noisy marginals $p_t(x_t)$ and compose them at test time. Given a single out-of-distribution query, our method performs gradient ascent on $s_θ(x_t,t) \approx \nabla_{x_t}\log p_t(x_t)$ at multiple noising timesteps to recover local density modes, maps these modes into clean-space Gaussians, greedily selects relevant prototypes with a submodular likelihood objective, and combines them into a product-of-experts (PoE) teacher model with an analytic score. This teacher model can be sampled directly through classifier-free guidance or used to generate a sample pool for training a new class embedding and low-rank adapter. On held-out composition benchmarks built from ColorMNIST and CelebA, both the analytic PoE sampler and the low-rank adapted model outperform query-only and nearest trained-class baselines. These results suggest that the time-indexed score geometry of the diffusion model contains reusable density-mode concepts that support test-time compositional generation without a predefined concept library.
• Abstract（参考訳）: 構成一般化は、慣れ親しんだ部分から新しい構成を生成するモデルを必要とする。 拡散モデルでは、初期構成生成法は一般的に、関連する概念や条件付け信号が既に利用可能であると仮定する。 その代わりに、事前訓練された拡散モデルが、ノイズの多い辺りの$p_t(x_t)$で学習した時間インデクシングスコアからクエリ固有の概念を発見でき、テスト時にそれらを構成することができるかどうかを問う。 一つのアウト・オブ・ディストリビューション・クエリが与えられた場合,本手法は,局所密度モードを復元し,これらのモードをクリーン空間のガウスアンにマップし,関連するプロトタイプをサブモジュラーな目的で選択的に選択し,それらを分析スコア付き製品・オブ・エキスパート(PoE)教師モデルに結合する,という複数のノイズ発生時間ステップで, $s_θ(x_t,t) \approx \nabla_{x_t}\log p_t(x_t)$で勾配上昇を実行する。 この教師モデルは、分類器フリーガイダンスを介して直接サンプリングしたり、新しいクラス埋め込みと低ランクアダプタをトレーニングするためのサンプルプールを生成するために使用することができる。 ColorMNISTとCelebAから構築されたホールドアウトコンポジションベンチマークでは、分析PoEサンプリングと低ランク適応モデルの両方がクエリオンリーで、最も訓練されたクラスベースラインより優れている。 これらの結果から,拡散モデルの時間インデクシングスコア幾何は,事前定義された概念ライブラリを使わずに,テスト時間構成生成をサポートする再利用可能な密度モードの概念を含んでいることが示唆された。

関連論文リスト

• CAST: Closed-form Analytic Semantic Transfer for Zero-Shot Classifier Extension [1.8882634075101061]
  CAST(Closed-form Analytic Semantic Transfer)は、トレーニング不要で画像のないフレームワークである。 標準のゼロショット学習ベンチマークの実験では、CASTが既存の画像のないアプローチと一致しているか、超えている。
  論文  参考訳（メタデータ） (2026-08-13T20:20:07Z)
• GenZ: Foundational models as latent variable generators within traditional statistical models [7.74887919885246]
  我々は,解釈可能な意味的特徴を通じて基礎モデルと統計的モデリングを橋渡しするハイブリッドモデルGenZを提案する。 提案手法は,反復的プロセスを通じて意味的特徴記述を発見することによってこの問題に対処する。 Netflixの映画埋め込みでは、セマンティック記述から0.59コサイン類似度で協調フィルタリング表現を予測する。
  論文  参考訳（メタデータ） (2025-12-31T12:56:01Z)
• Distillation of Discrete Diffusion by Exact Conditional Distribution Matching [9.460409527892345]
  本稿では, 空調分布マッチングに基づく簡易かつ原理的な蒸留法を提案する。 我々は,この構造を利用して,事前学習した教師と低NFE学生の条件分布を直接一致させる蒸留目標を定義する。
  論文  参考訳（メタデータ） (2025-12-15T00:16:10Z)
• DDB: Diffusion Driven Balancing to Address Spurious Correlations [24.940576844328408]
  経験的リスク最小化でトレーニングされたディープニューラルネットワークは、アウト・オブ・ディストリビューションのサンプルに一般化できないことが多い。 テキストと画像の拡散モデルを用いたトレーニングサンプルを生成するための拡散駆動バランス(DDB)手法を提案する。 実験の結果,本手法は既存の最先端手法よりもグループ精度がよいことがわかった。
  論文  参考訳（メタデータ） (2025-03-21T15:28:22Z)
• Feynman-Kac Correctors in Diffusion: Annealing, Guidance, and Product of Experts [64.34482582690927]
  事前学習したスコアベースモデルから得られた熱処理, 幾何平均, 製品分布の配列から, 効率的かつ原理的に抽出する方法を提供する。 本稿では,サンプリング品質を向上させるために,推論時間スケーリングを利用する逐次モンテカルロ(SMC)再サンプリングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-03-04T17:46:51Z)
• Generative Modeling with Bayesian Sample Inference [50.07758840675341]
  我々は,反復的なガウス後部推論から新しい生成モデルを導出した。 我々のモデルは、未知のサンプルを反復的に絞り込むために、一連の予測と後続の更新ステップを使用する。 実験では,BFNと近縁な変分拡散モデルの両方に対して,ImageNet32のサンプル品質が向上することが実証された。
  論文  参考訳（メタデータ） (2025-02-11T14:27:10Z)
• Accelerated Diffusion Models via Speculative Sampling [89.43940130493233]
  投機的サンプリングは、大規模言語モデルにおける推論を加速する一般的な手法である。 我々は投機的サンプリングを拡散モデルに拡張し、連続したベクトル値のマルコフ連鎖を介してサンプルを生成する。 本稿では,ドラフトモデルをトレーニングする必要のない,シンプルで効果的なアプローチを含む,さまざまなドラフト戦略を提案する。
  論文  参考訳（メタデータ） (2025-01-09T16:50:16Z)
• Concurrent Misclassification and Out-of-Distribution Detection for Semantic Segmentation via Energy-Based Normalizing Flow [0.0]
  最近のセマンティックセグメンテーションモデルは、トレーニングデータセットの分布に類似したテスト時間例を正確に分類する。 本稿では,正規化フローフレームワークに依存するIDMとOOD検出を同時に行うための生成モデルを提案する。 FlowEneDetは、事前トレーニングされたDeepLabV3+およびSegFormerセマンティックセグメンテーションモデルに適用した場合、IDM/OOD検出におけるCityscapes、Cityscapes-C、FishyScapes、SegmentMeIfYouCanベンチマークの有望な結果を達成する。
  論文  参考訳（メタデータ） (2023-05-16T17:02:57Z)
• Reduce, Reuse, Recycle: Compositional Generation with Energy-Based Diffusion Models and MCMC [102.64648158034568]
  拡散モデルは、多くの領域において、生成モデリングの一般的なアプローチとなっている。 本稿では,新しい構成演算子の利用を可能にする拡散モデルのエネルギーベースパラメータ化を提案する。 これらのサンプルは、幅広い問題にまたがって構成生成の顕著な改善につながっている。
  論文  参考訳（メタデータ） (2023-02-22T18:48:46Z)
• Normalizing Flow based Hidden Markov Models for Classification of Speech Phones with Explainability [25.543231171094384]
  説明可能性を求めるため,逐次データ生成モデルを開発した。 我々は、現代のニューラルネットワーク(正規化フロー)と伝統的な生成モデル(隠れマルコフモデル - HMM)を組み合わせる。 提案した生成モデルは、データの可能性を計算することができ、従って、最大形分類法(ML)に直接適合する。
  論文  参考訳（メタデータ） (2021-07-01T20:10:55Z)
• Continual Learning with Fully Probabilistic Models [70.3497683558609]
  機械学習の完全確率的(または生成的)モデルに基づく継続的学習のアプローチを提案する。 生成器と分類器の両方に対してガウス混合モデル(GMM)インスタンスを用いた擬似リハーサル手法を提案する。 我々は,GMRが,クラス増分学習問題に対して,非常に競合的な時間とメモリの複雑さで,最先端のパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2021-04-19T12:26:26Z)
• Goal-directed Generation of Discrete Structures with Conditional Generative Models [85.51463588099556]
  本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。 提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
  論文  参考訳（メタデータ） (2020-10-05T20:03:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。