論文の概要: SCALE: Improving Guidance-Free Visual Generation via Self-Contrastive Alignment for Likelihood Estimation
- arxiv url: http://arxiv.org/abs/2610.23263v2
- Date: Tue, 20 Oct 2026 00:27:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.225049
- Title: SCALE: Improving Guidance-Free Visual Generation via Self-Contrastive Alignment for Likelihood Estimation
- Title(参考訳): SCALE: 自己コントラストアライメントによる誘導不要な視覚生成の改善
- Abstract要約: 自己コントラストガイダンス(Self-Contrastive guidance, SCG)は、SCGによる予測を1回の前進パスで生成するガイダンスフリーのトレーニングフレームワークである。
SCALEは、CFGミスのないガイダンスフリーベースラインを一貫して上回り、DPOと組み合わせることでさらに改善される。
- 参考スコア(独自算出の注目度): 16.530888870213445
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Classifier-free guidance (CFG) is essential for improving sample quality in visual generation, but it incurs substantial sampling overhead. Existing guidance-free approaches halve this cost by approximating the CFG with a single model inference, but their performance is bounded by the CFG and inherits its limitations. In this paper, we propose self-contrastive guidance (SCG), which contrasts the model's prediction on real and self-generated samples to obtain a direct, model-based signal that pushes generation toward the true data manifold. Integrating SCG into the standard likelihood objective via reparameterization yields Self-Contrastive Alignment for Likelihood Estimation (SCALE), a guidance-free training framework that produces SCG-enhanced predictions in a single forward pass. Across class-conditional and text-to-image generation on diffusion and autoregressive models, SCALE consistently outperforms CFG-mimicking guidance-free baselines and improves further when combined with DPO, demonstrating that the self-contrastive signal yields gains complementary to both CFG and preference-based fine-tuning.
- Abstract(参考訳): 分類器フリーガイダンス(CFG)は、視覚生成におけるサンプル品質向上に不可欠であるが、かなりのサンプリングオーバーヘッドを引き起こす。
既存のガイダンスのないアプローチは、CFGを単一のモデル推論で近似することで、このコストを半減しますが、そのパフォーマンスはCFGに縛られ、その制限を継承します。
本稿では,実データおよび自己生成サンプルに対するモデル予測と対比して,生成を真のデータ多様体へプッシュする直接的モデルベース信号を得る自己コントラスト誘導(SCG)を提案する。
SCGをパラメータ化(reparameterization)による標準的可能性目標に組み込むことで、SCGによる予測を単一の前方通過で生成するガイダンスのないトレーニングフレームワークであるSCALE(Self-Contrastive Alignment for Likelihood Estimation)が得られる。
拡散および自己回帰モデルに関するクラス条件およびテキスト・ツー・イメージ生成において、SCALEはCFGミスのないガイダンスフリーベースラインを一貫して上回り、DPOと組み合わせるとさらに向上し、自己コントラスト信号がCFGと嗜好に基づく微調整の両方に相補的になることを示す。
関連論文リスト
- Information-Theoretic Classifier-Free Guidance with Adaptive Schedule Optimization [15.35957804795103]
拡散モデルは、画像、テキスト・ツー・イメージ、ビデオ生成において高いパフォーマンスを達成している。
CFGスケジュール最適化のための情報理論フレームワークを提案する。
ImageNet-512、EDM-XXL、COCO、SD-XLでは、学習スケジュールは一定のガイダンスよりも競争力や改善されたトレードオフを達成する。
論文 参考訳(メタデータ) (2026-06-23T00:04:04Z) - Joint Model and Data Sparsification via the Marginal Likelihood [53.29070892356214]
本稿では,個々の特徴とサンプルの相違点を同時学習し,同時にモデルとデータスペーシングを実現することを提案する。
このモデルとデータの対称的なプルーニングは、共役を保存する自然な拡張を提供する。
多様な回帰タスクにわたる経験的結果は、共同ARDアプローチがスパースモデルとロバスト予測モデルの両方を一貫して生成することを確認した。
論文 参考訳(メタデータ) (2026-05-28T13:26:53Z) - MoASE++: Mixture of Activation Sparsity Experts with Domain-Adaptive On-policy Distillation for Continual Test Time Adaptation [65.068801413044]
連続的なテスト時間適応は、非定常な未ラベルのターゲットストリームにソース予測モデルを適用する。
ドメインに依存しない構造をドメイン固有のテクスチャから切り離す。
論文 参考訳(メタデータ) (2026-05-18T01:52:12Z) - MCLR: Improving Conditional Modeling in Visual Generative Models via Inter-Class Likelihood-Ratio Maximization and Establishing the Equivalence between Classifier-Free Guidance and Alignment Objectives [26.118296609018596]
標準復調スコアマッチング(DSM)で訓練された拡散モデルにより,対象データ分布の回復が期待できる。
我々は,授業中にクラス間確率比を明示的に最大化する原理的アライメント目標であるMCLRを提案する。
MCLRで微調整されたモデルは、標準サンプリングの下でCFGライクな改善を示し、推論時ガイダンスを必要とせず、質的および定量的ゲインを同等に達成する。
論文 参考訳(メタデータ) (2026-03-23T05:01:47Z) - Visual Autoregressive Modelling for Monocular Depth Estimation [69.01449528371916]
本稿では,視覚的自己回帰(VAR)に基づく単眼深度推定手法を提案する。
提案手法は,大規模テキスト・画像VARモデルに適応し,スケールワイド・コンディショナル・アップサンプリング機構を導入する。
本研究では,屋内ベンチマークにおける制約付きトレーニング条件下での最先端性能と,屋外データセットに適用した場合の強い性能について報告する。
論文 参考訳(メタデータ) (2025-12-27T17:08:03Z) - Feedback Guidance of Diffusion Models [14.162420300295365]
Interval-Free Guidance (CFG) は, 条件付き拡散モデルにおける試料の忠実度向上の標準となっている。
本稿では,FBG(FeedBack Guidance)を提案する。
論文 参考訳(メタデータ) (2025-06-06T13:46:32Z) - Normalized Attention Guidance: Universal Negative Guidance for Diffusion Models [57.20761595019967]
注意空間にL1をベースとした正規化・精細化を施した,効率的かつトレーニング不要な機構である正規化注意誘導(NAG)を提案する。
NAGは、CFGが忠実性を維持しながら崩壊する効果的な負のガイダンスを復元する。
NAGはアーキテクチャ(UNet、DiT)、サンプリングレシスタンス(複数ステップ、複数ステップ)、モダリティ(イメージ、ビデオ)をまたいで一般化する
論文 参考訳(メタデータ) (2025-05-27T13:30:46Z) - Toward Guidance-Free AR Visual Generation via Condition Contrastive Alignment [31.402736873762418]
言語モデルアライメント手法により,高機能な誘導不要なAR視覚生成を容易にするためのテキストコンディションコントラストアライメント(CCA)を提案する。
実験の結果,CCAは1つのエポック微調整で全試験モデルの誘導不要性能を著しく向上させることができることがわかった。
このことは,言語的アライメントと視覚的アライメントの強い関係を実験的に確認する。
論文 参考訳(メタデータ) (2024-10-12T03:31:25Z) - Consistency Regularization for Generalizable Source-free Domain
Adaptation [62.654883736925456]
ソースフリードメイン適応(source-free domain adapt, SFDA)は、ソースデータセットにアクセスすることなく、十分にトレーニングされたソースモデルを未学習のターゲットドメインに適応することを目的としている。
既存のSFDAメソッドは、ターゲットのトレーニングセット上で適用されたモデルを評価し、目に見えないが同一の分散テストセットからデータを無視する。
より一般化可能なSFDA法を開発するための整合正則化フレームワークを提案する。
論文 参考訳(メタデータ) (2023-08-03T07:45:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。