論文の概要: Opening the Black Box of Classifier-Free Guidance via Information Bottleneck
- arxiv url: http://arxiv.org/abs/2610.13369v1
- Date: Fri, 09 Oct 2026 10:44:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.539217
- Title: Opening the Black Box of Classifier-Free Guidance via Information Bottleneck
- Title(参考訳): インフォメーション・ボトルネックによるクラシファイアフリーガイドのブラックボックスのオープン
- Abstract要約: 既存の条件付きガイダンス(CFG)手法の多くは、推論全体を通じて事前に定義されたアクティベーションポリシーに依存している。
推論のためのトレーニング不要な動的CFG戦略を提案する。
本手法は条件付きスコアと無条件スコアの統計からプロセスを構築し,推定したガイダンスゲインが所定のしきい値を超えた場合にガイダンスを起動する。
- 参考スコア(独自算出の注目度): 16.611712300758363
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Classifier-free guidance (CFG) is a standard technique for improving conditional generation in diffusion models, yet its activation schedule is usually selected heuristically. In practice, most existing CFG-based methods rely on a pre-defined activation policy throughout inference, while recent dynamic variants often depend on hand-designed schedules without a principled theoretical explanation of when conditional information is most useful. In order to understand how the informational relevance between conditioning inputs and the score function evolves over the course of generation, we explore when guidance should be activated from an information-theoretic perspective. In this work, we formulate the diffusion trajectory as a time-dependent information bottleneck and show that the effectiveness of conditional information is not uniform throughout sampling, but becomes significantly stronger after a critical stage characterized by a Fisher-information balance condition. Motivated by this insight, we propose a training-free dynamic CFG strategy for inference. Rather than prescribing a fixed schedule in advance, our method constructs a stochastic process from conditional and unconditional score statistics and activates guidance when the estimated guidance gain crosses a prescribed threshold. This yields an adaptive activation rule that aligns condition injection with the underlying generation dynamics, while also recovering interval-based guidance as a limiting special case. Extensive experiments across diverse architectures and tasks, demonstrate that our method is effective, robust, and broadly applicable. Beyond empirical improvements, our framework provides an interpretation of dynamic guidance methods and a principled foundation for inference-time control in conditional diffusion models.
- Abstract(参考訳): 分類器フリーガイダンス(CFG)は拡散モデルにおける条件生成を改善する標準的な手法であるが、そのアクティベーションスケジュールは通常ヒューリスティックに選択される。
実際には、既存のCFGベースのほとんどの手法は推論を通して事前定義されたアクティベーションポリシーに依存しているが、最近の動的変種は条件情報がいつ最も有用かという理論的な説明なしで手書きのスケジュールに依存していることが多い。
コンディショニング入力とスコア関数間の情報関連性は世代毎にどのように進化していくかを理解するため,情報理論の観点から指導を活性化すべきかを考察する。
本研究では,時間依存情報ボトルネックとして拡散軌跡を定式化し,条件情報の有効性はサンプリング全体を通して均一ではなく,フィッシャー情報バランス条件を特徴とする臨界段階の後に著しく強くなることを示す。
この知見に感化されて、推論のためのトレーニング不要な動的CFG戦略を提案する。
本手法は,事前のスケジュールを規定するのではなく,条件付きおよび無条件のスコア統計から確率過程を構築し,推定誘導ゲインが所定のしきい値を超えた場合のガイダンスを活性化する。
これにより、条件注入を基礎となる生成ダイナミクスと整合させる適応的なアクティベーションルールが得られ、また制限のある特別なケースとして間隔ベースのガイダンスを回復する。
多様なアーキテクチャやタスクにまたがる大規模な実験は、我々の手法が効果的で、堅牢で、広く適用可能であることを実証している。
実験的な改善に加えて,我々のフレームワークは動的誘導法を解釈し,条件付き拡散モデルにおける推論時間制御の原理的基礎を提供する。
関連論文リスト
- Adversarial Learning of Classifier-Free Guidance Schedules [74.70485037604884]
我々は,拡散時間,条件付け,および現在の雑音サンプルの関数として指導スケジュールを学習する。
これを密度比推定問題とする。
軽量なジェネレータネットワークは、最適で状態依存のガイダンススケールを予測する。
論文 参考訳(メタデータ) (2026-08-14T07:30:36Z) - Guided Streaming Stochastic Interpolant Policy [8.673777984856075]
推論時指導は, 再現性のない動的目標に向けて, 生成ロボットのポリシーを操るのに不可欠である。
本研究では,動的非構造型補間器(SI)の最適ガイダンス項を導出する。
このフレームワークをストリーム補間ポリシー(SSIP)によるリアルタイム制御に適用する。
論文 参考訳(メタデータ) (2026-05-11T06:24:21Z) - A Systematic Post-Train Framework for Video Generation [76.26555417456773]
大規模ビデオ拡散モデルでは、高解像度でセマンティックにリッチなコンテンツを生成できることが顕著に示されている。
迅速な感度、時間的不整合、禁止的推論コストといった重要な問題のために、事前訓練されたパフォーマンスと実際のデプロイメント要件の間には、大きなギャップが残っている。
本研究では,事前学習されたモデルとユーザの意図を4つの相乗的段階を通して体系的に整合させる総合的なポストトレーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2026-04-28T09:34:51Z) - C$^2$FG: Control Classifier-Free Guidance via Score Discrepancy Analysis [25.481226578749418]
自由誘導の固有力学を厳密に理論的に解析する。
C$2$FGは多種多様な生成タスクに対して有効で広く適用可能であることを示す。
論文 参考訳(メタデータ) (2026-03-09T09:37:17Z) - Not All Preferences Are Created Equal: Stability-Aware and Gradient-Efficient Alignment for Reasoning Models [52.48582333951919]
ポリシー更新の信号対雑音比を最大化することにより、アライメントの信頼性を高めるために設計された動的フレームワークを提案する。
SAGE(Stability-Aware Gradient Efficiency)は、モデル能力に基づいて候補プールをリフレッシュする粗いきめ細かいカリキュラムメカニズムを統合する。
複数の数学的推論ベンチマークの実験により、SAGEは収束を著しく加速し、静的ベースラインを上回っていることが示された。
論文 参考訳(メタデータ) (2026-02-01T12:56:10Z) - RAAG: Ratio Aware Adaptive Guidance [9.525432706814675]
フローベースの生成モデルは驚くべき進歩を遂げた。
推論全体を通じて強力な、固定されたガイダンススケールを適用することは、現代的なアプリケーションに必要な、迅速な、数ステップのサンプリングには適していない。
本稿では,進化率に基づいて早期段階の指導尺度を自動的に減衰させる,シンプルな,理論的に基礎付けられた適応型指導スケジュールを提案する。
論文 参考訳(メタデータ) (2025-08-05T13:41:05Z) - Feedback Guidance of Diffusion Models [14.162420300295365]
Interval-Free Guidance (CFG) は, 条件付き拡散モデルにおける試料の忠実度向上の標準となっている。
本稿では,FBG(FeedBack Guidance)を提案する。
論文 参考訳(メタデータ) (2025-06-06T13:46:32Z) - Enhancing Robustness of Vision-Language Models through Orthogonality Learning and Self-Regularization [77.62516752323207]
そこで本研究では,事前訓練した重みを効率よく微調整する直交微調整法を導入し,頑健さと一般化の強化を実現した。
自己正規化戦略は、OrthSRと呼ばれるVLMのゼロショット一般化の観点から安定性を維持するためにさらに活用される。
筆者らはCLIPとCoOpを再検討し,少数の画像のクラスフィシエーションシナリオにおけるモデルの改善を効果的に行う。
論文 参考訳(メタデータ) (2024-07-11T10:35:53Z) - Instructed Diffuser with Temporal Condition Guidance for Offline
Reinforcement Learning [71.24316734338501]
テンポラリ・コンポラブル・ディフューザ(TCD)を用いた実効時間条件拡散モデルを提案する。
TCDは、相互作用シーケンスから時間情報を抽出し、時間条件で生成を明示的にガイドする。
提案手法は,従来のSOTAベースラインと比較して最高の性能を達成または一致させる。
論文 参考訳(メタデータ) (2023-06-08T02:12:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。