論文の概要: Beyond Pairwise Repulsion: Collective Diversity via Determinant Maximization in Diffusion Sampling

• arxiv url: http://arxiv.org/abs/2610.22267v1
• Date: Thu, 15 Oct 2026 17:32:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 06:09:33.227298
• Title: Beyond Pairwise Repulsion: Collective Diversity via Determinant Maximization in Diffusion Sampling
• Title（参考訳）: Pairwise Repulsionを超えて:拡散サンプリングにおける決定的最大化による集団的多様性
• Abstract要約: DetNOは、初期ノイズに対してRKHSボリュームとして多種多様な生成を定式化する。 これは1ステップのツイーディ予測よりもRBFグラム行列の対数行列を最大化する。 DetNOはVendiScoreとMean Self-Similarityのバッチ内多様性をリードする。
• 参考スコア（独自算出の注目度）: 6.580620949123592
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Strong guidance in text-to-image (T2I) diffusion models concentrates sampling toward high-density modes of the conditional distribution, collapsing independently sampled noise vectors onto nearly identical visual prototypes. This limits utility for tasks that demand distributional breadth, most critically synthetic data augmentation. Diversity, however, is a collective property of the whole batch: a set can preserve every pairwise distance yet still collapse onto a low-dimensional subspace. Existing sum-of-pairwise noise-optimization and repulsion objectives respond only weakly to this higher-order failure. We propose DetNO (Determinant Noise Optimization), which formulates diverse generation as RKHS volume maximization on the initial noise, maximizing the log-determinant of an RBF Gram matrix over one-step Tweedie predictions. This set-level functional equals the squared batch volume; its repulsion is strongest when the batch is most collapsed and self-attenuates as diversity is achieved. An anchor-based fidelity term keeps the optimized noises near plausible regions, and Lagrangian relaxation gives a two-term objective with a single hyperparameter $λ$ governing the diversity-quality trade-off, without training or sampler modification. Across three backbones (SD1.5, SDXL, SD3), DetNO achieves leading intra-batch diversity in VendiScore and Mean Self-Similarity, and a downstream few-shot classification experiment confirms that broader mode coverage brings statistically significant accuracy gains for synthetic data augmentation in the low-shot regime. Fixing the pipeline and varying only the batch objective, both RBF-based aggregators outperform InfoNCE, and the log-determinant attains the best downstream accuracy on both benchmarks. Its diversity advantage over InfoNCE widens as the batch grows. Code is available at https://github.com/mobled37/DetNO.
• Abstract（参考訳）: テキスト・トゥ・イメージ(T2I)拡散モデルにおける強いガイダンスは、条件分布の高密度モードへのサンプリングに集中し、独立にサンプリングされたノイズベクトルをほぼ同一の視覚プロトタイプに分解する。 これにより、分散幅、最も重要な合成データ拡張を必要とするタスクのユーティリティが制限される。 しかし、多様性はバッチ全体の集合的性質であり、集合はすべてのペア距離を保ちながら、低次元の部分空間に折り畳むことができる。 既存のノイズ最適化と反発目標の和は、この高次故障に対して弱みにしか応答しない。 本稿では,初期雑音に対するRKHSボリューム最大化として多種多様な生成を定式化するDetNO(Determinant Noise Optimization)を提案し,一段階のTweedie予測よりもRBFグラム行列の対数行列を最大化する。 このセットレベル関数は、二乗バッチボリュームに等しい。その反発は、バッチが最も崩壊し、多様性が達成されるにつれて自己減衰するときに最も強くなる。 アンカーベースの忠実度項は、可塑性領域の近くで最適化されたノイズを保ち、ラグランジアン緩和は、トレーニングやサンプル修正なしに、多様性の高いトレードオフを管理する1つのハイパーパラメーター$λ$で2項の目的を与える。 3つのバックボーン(SD1.5, SDXL, SD3)にわたって、DetNOはVendiScoreとMean Self-Similarityのバッチ内多様性をリードし、下流のいくつかのショット分類実験により、より広いモードのカバレッジが低ショット状態における合成データの増大に対して統計的に有意な精度向上をもたらすことを確認した。 パイプラインを固定し、バッチの目的だけを変更すると、RBFベースのアグリゲータはInfoNCEを上回り、ログ決定器は両方のベンチマークで最高のダウンストリーム精度を達成する。 InfoNCEに対する多様性のアドバンテージは、バッチが大きくなるにつれて拡大する。 コードはhttps://github.com/mobled37/DetNO.comで入手できる。

関連論文リスト

• Distribution-Aware Robust Bilevel Optimization: Quantile-Guided Huber Updates in Two-Timescale Stochastic Approximation [16.106678611834102]
  双レベル最適化(BLO)は階層的な決定には基本的だが、重み付き雑音下での臨界不安定性に悩まされている。 既存の技術は通常、等級チェックに依存しており、情報的幾何学的信号と外れ値の区別に失敗する。
  論文  参考訳（メタデータ） (2026-06-21T10:57:37Z)
• Closed-Form Spectral Regularization for Multi-Task Model Merging [96.82449201305234]
  モデルマージは、個別に調整された複数の専門家をトレーニングデータなしで単一のマルチタスクモデルに結合する。 State-of-the-art merging method formulate merging as a layer-wise interference problem。 本稿では,逐次降下の勾配-流路に一致するソフト指数フィルタを組み合わせた閉形式手法SWUDIを提案する。
  論文  参考訳（メタデータ） (2026-06-05T14:00:47Z)
• Rethinking Refinement: Correcting Generative Bias without Noise Injection [7.28668585578288]
  拡散モデルやフローベースモデルを含む生成モデルは、しばしばサンプルの品質を低下させる体系的なバイアスを示す。 ノイズインジェクションやマルチステップ再サンプリングを使わずに,効果的なバイアス補正がポストホック法として実現できることを示す。
  論文  参考訳（メタデータ） (2026-01-29T02:34:08Z)
• DiffusionDriveV2: Reinforcement Learning-Constrained Truncated Diffusion Modeling in End-to-End Autonomous Driving [65.7087560656003]
  エンドツーエンドの自動運転のための生成拡散モデルは、しばしばモード崩壊に悩まされる。 強化学習を利用して低品質モードを制約し,優れた軌道探索を行うDiffusionDriveV2を提案する。 これにより、そのコアであるガウス混合モデル固有の多重モード性を維持しながら、全体的な出力品質が大幅に向上する。
  論文  参考訳（メタデータ） (2025-12-08T17:29:52Z)
• MMR1: Enhancing Multimodal Reasoning with Variance-Aware Sampling and Open Resources [113.33902847941941]
  VAS (Variance-Aware Sampling) は、Variance Promotion Score (VPS) によって導かれるデータ選択戦略である。 我々は、1.6MのCoT冷間開始データと15kのRLQAペアを含む大規模かつ慎重にキュレートされたリソースをリリースする。 数学的推論ベンチマークによる実験では、キュレートされたデータと提案されたVASの有効性が示されている。
  論文  参考訳（メタデータ） (2025-09-25T14:58:29Z)
• SPREAD: Sampling-based Pareto front Refinement via Efficient Adaptive Diffusion [0.8594140167290097]
  SPREADは拡散確率モデル(DDPM)に基づく生成フレームワークである 決定空間からサンプリングされた点上の条件拡散過程を学習する。 適応的多重勾配降下インスパイアされた更新を高速収束に利用するサンプリングスキームにより、候補を洗練する。
  論文  参考訳（メタデータ） (2025-09-25T12:09:37Z)
• Conditional Diffusion Models with Classifier-Free Gibbs-like Guidance [19.83064246586143]
  CFGは条件付きおよび非条件付きデノイザの出力を線形に結合することにより条件付き拡散モデルを改善する手法である。 CFGは視覚的品質を高め、プロンプトとの整合性を向上させるが、しばしばサンプルの多様性を低下させる。 所望の傾斜分布からサンプルを抽出するギブスライクなサンプリング手法を提案する。
  論文  参考訳（メタデータ） (2025-05-27T12:27:33Z)
• Stable Neighbor Denoising for Source-free Domain Adaptive Segmentation [91.83820250747935]
  擬似ラベルノイズは主に不安定なサンプルに含まれており、ほとんどのピクセルの予測は自己学習中に大きく変化する。 我々は, 安定・不安定な試料を効果的に発見する, SND(Stable Neighbor Denoising)アプローチを導入する。 SNDは、様々なSFUDAセマンティックセグメンテーション設定における最先端メソッドよりも一貫して優れている。
  論文  参考訳（メタデータ） (2024-06-10T21:44:52Z)
• DASA: Difficulty-Aware Semantic Augmentation for Speaker Verification [55.306583814017046]
  本稿では,話者認証のための難易度認識型セマンティック拡張(DASA)手法を提案する。 DASAは、話者埋め込み空間における多様なトレーニングサンプルを、無視できる余分な計算コストで生成する。 最も良い結果は、CN-Celeb評価セット上でのEER測定値の14.6%の相対的な減少を達成する。
  論文  参考訳（メタデータ） (2023-10-18T17:07:05Z)
• Diffusion-GAN: Training GANs with Diffusion [135.24433011977874]
  GAN(Generative Adversarial Network)は、安定してトレーニングすることが難しい。 フォワード拡散チェーンを利用してインスタンスノイズを生成する新しいGANフレームワークであるDiffusion-GANを提案する。 我々は,Diffusion-GANにより,最先端のGANよりも高い安定性とデータ効率で,よりリアルな画像を生成することができることを示す。
  論文  参考訳（メタデータ） (2022-06-05T20:45:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。