論文の概要: Provably Reliable Classifier Guidance through Cross-entropy Error Control
- arxiv url: http://arxiv.org/abs/2601.21200v1
- Date: Thu, 29 Jan 2026 02:59:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-30 16:22:49.53389
- Title: Provably Reliable Classifier Guidance through Cross-entropy Error Control
- Title(参考訳): クロスエントロピー誤差制御による信頼性の高い分類誘導
- Authors: Sharan Sahu, Arisina Banerjee, Yuchen Wu,
- Abstract要約: 軽度な滑らかさ仮定の下では,各拡散ステップにおけるクロスエントロピー誤差を制御し,導出ベクトルの誤差も制御することを示した。
簡単な反例を構築すれば、ほとんどすべての分布に対して誘導ベクトルの制御が失敗することを示した上で、滑らかさの仮定が不可欠であることが示される。
- 参考スコア(独自算出の注目度): 4.298880233819988
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Classifier-guided diffusion models generate conditional samples by augmenting the reverse-time score with the gradient of a learned classifier, yet it remains unclear whether standard classifier training procedures yield effective diffusion guidance. We address this gap by showing that, under mild smoothness assumptions on the classifiers, controlling the cross-entropy error at each diffusion step also controls the error of the resulting guidance vectors: classifiers achieving conditional KL divergence $\varepsilon^2$ from the ground-truth conditional label probabilities induce guidance vectors with mean squared error $\widetilde{O}(d \varepsilon )$. Our result yields an upper bound on the sampling error under classifier guidance and bears resemblance to a reverse log-Sobolev-type inequality. Moreover, we show that the classifier smoothness assumption is essential, by constructing simple counterexamples demonstrating that, without it, control of the guidance vector can fail for almost all distributions. To our knowledge, our work establishes the first quantitative link between classifier training and guidance alignment, yielding both a theoretical foundation for classifier guidance and principled guidelines for classifier selection.
- Abstract(参考訳): 分類器誘導拡散モデルでは、学習した分類器の勾配で逆時間スコアを増大させることで条件付きサンプルを生成するが、標準分類器訓練法が効果的な拡散誘導をもたらすかどうかは不明である。
このギャップを解消するために、各拡散ステップにおけるクロスエントロピー誤差を制御することで、分類器上の穏やかな滑らかさの仮定の下で、各拡散ステップにおけるクロスエントロピー誤差が結果の誘導ベクトルの誤差を制御していることを示す: 条件付きKL発散を達成できる分類器は、基底トラスト条件ラベル確率から誘導ベクトルを平均2乗誤差$\widetilde{O}(d \varepsilon )$で誘導する。
その結果, サンプリング誤差の上限値と逆対数ソボレフ型不等式との類似性が得られた。
さらに、分類器の滑らかさの仮定が不可欠であることを示し、単純な反例を構築して、誘導ベクトルの制御がほとんどすべての分布で失敗することを示す。
本研究は,分類器指導の理論的基礎と分類器選択の原理的ガイドラインを両立させ,分類器指導と指導アライメントの間に最初の定量的リンクを確立する。
関連論文リスト
- Studying Classifier(-Free) Guidance From a Classifier-Centric Perspective [100.54185280153753]
分類器なし誘導と分類器なし誘導の両方が,微分拡散軌道を決定境界から遠ざけることによって条件付き生成を実現することがわかった。
本研究では,フローマッチングをベースとした汎用的な後処理ステップを提案し,事前学習した復調拡散モデルに対する学習分布と実データ分布とのギャップを小さくする。
論文 参考訳(メタデータ) (2025-03-13T17:59:59Z) - The Implicit Bias of Batch Normalization in Linear Models and Two-layer
Linear Convolutional Neural Networks [117.93273337740442]
勾配勾配勾配は、exp(-Omega(log2 t))$収束率でトレーニングデータ上の一様マージン分類器に収束することを示す。
また、バッチ正規化はパッチワイドの均一なマージンに対して暗黙の偏りを持つことを示す。
論文 参考訳(メタデータ) (2023-06-20T16:58:00Z) - Classifier-Free Diffusion Guidance [17.355749359987648]
誘導法は条件付き拡散モデルにおけるモードカバレッジとサンプル忠実度をトレードオフする手法として最近導入された。
このような分類器を使わずに、純粋な生成モデルによってガイダンスを実際に実行できることが示される。
結果の条件と非条件のスコアの見積もりを組み合わせることで、サンプルの品質と多様性のトレードオフを達成します。
論文 参考訳(メタデータ) (2022-07-26T01:42:07Z) - Ensembling over Classifiers: a Bias-Variance Perspective [13.006468721874372]
Pfau (2013) による偏差分解の拡張の上に構築し, 分類器のアンサンブルの挙動に関する重要な知見を得る。
条件付き推定は必然的に既約誤差を生じさせることを示す。
経験的に、標準的なアンサンブルはバイアスを減少させ、この予期せぬ減少のために、分類器のアンサンブルがうまく機能するかもしれないという仮説を立てる。
論文 参考訳(メタデータ) (2022-06-21T17:46:35Z) - Understanding Classifier Mistakes with Generative Models [88.20470690631372]
ディープニューラルネットワークは教師付き学習タスクに有効であるが、脆弱であることが示されている。
本稿では、生成モデルを利用して、分類器が一般化に失敗するインスタンスを特定し、特徴付ける。
我々のアプローチは、トレーニングセットのクラスラベルに依存しないため、半教師付きでトレーニングされたモデルに適用できる。
論文 参考訳(メタデータ) (2020-10-05T22:13:21Z) - Consistency Regularization for Certified Robustness of Smoothed
Classifiers [89.72878906950208]
最近のランダムな平滑化技術は、最悪の$ell$-robustnessを平均ケースのロバストネスに変換することができることを示している。
その結果,スムーズな分類器の精度と信頼性の高いロバスト性とのトレードオフは,ノイズに対する予測一貫性の規則化によって大きく制御できることが判明した。
論文 参考訳(メタデータ) (2020-06-07T06:57:43Z) - Self-adaptive Re-weighted Adversarial Domain Adaptation [12.73753413032972]
自己適応型再重み付き対向ドメイン適応手法を提案する。
条件分布の観点からドメインアライメントを強化する。
実証的な証拠は、提案されたモデルが標準的なドメイン適応データセットで芸術の状態を上回ります。
論文 参考訳(メタデータ) (2020-05-30T08:35:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。