論文の概要: TSGate: Timestep-Aware Gated Attention for Diffusion Transformers

• arxiv url: http://arxiv.org/abs/2609.34539v1
• Date: Mon, 28 Sep 2026 08:05:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 12:36:59.655462
• Title: TSGate: Timestep-Aware Gated Attention for Diffusion Transformers
• Title（参考訳）: TSGate: 拡散変換器のタイムステップ対応ゲートアテンション
• Abstract要約: 生成品質はドメイン外のプロンプトで著しく低下する可能性がある。 Timestep-Aware Gated Attention (TSGate) は、ベースラインと標準ゲートの両方の注意を一貫して上回る。
• 参考スコア（独自算出の注目度）: 18.067286324114868
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion Transformers (DiTs) have emerged as the dominant architecture for high-fidelity image and video generation. Recent DiT systems increasingly use structured prompts for training, improving caption quality and prompt adherence. However, their generation quality can degrade severely under out-of-domain (OOD) prompts, including the free-form descriptions supplied by users at inference time. Although LLM-based rewriting can convert these prompts into structured formats, it does not guarantee that the rewritten prompts align with the training distribution. Our analysis links this degradation to attention sinks and reduced early-step image-to-text attention and shows that sink suppression alone is insufficient to restore generation quality. Despite effective sink suppression, models trained with standard gated attention exhibit reduced early-step image-to-text attention and suboptimal generation quality. Based on these insights, we propose Timestep-Aware Gated Attention (TSGate), which injects a timestep-conditioned bias into the gate signal so that gating behavior adapts across denoising steps. Extensive experiments show that TSGate consistently outperforms both the baseline and standard gated attention across multiple benchmarks, improving the raw-prompt DPG score by 9.5% over the baseline.
• Abstract（参考訳）: 拡散変換器(DiT)は高忠実度画像およびビデオ生成の主流アーキテクチャとして登場してきた。 最近のDiTシステムでは、トレーニングに構造化プロンプトを使用し、キャプションの品質を改善し、アペンデンスを迅速に行うようになっている。 しかし、その生成品質は、推論時にユーザから提供される自由形式の記述を含む、ドメイン外プロンプト(OOD)の下で著しく劣化する可能性がある。 LLMベースの書き換えはこれらのプロンプトを構造化形式に変換することができるが、書き換えプロンプトがトレーニング分布と一致していることを保証するものではない。 この劣化を注意シンクに関連付け,画像からテキストへの注意を減らし,シンク抑制だけでは生成品質の回復には不十分であることを示す。 効果的なシンク抑制にもかかわらず、標準ゲートアテンションで訓練されたモデルでは、早期のイメージ・ツー・テキストアテンションと準最適生成品質が低下した。 これらの知見に基づいて、ゲート信号に時間条件バイアスを注入し、ゲーティング動作がデノナイジングステップに適応するようにする、TSGate(Timestep-Aware Gated Attention)を提案する。 大規模な実験の結果、TSGateは複数のベンチマークで基準値と標準値の両方を一貫して上回り、基準値に対して9.5%向上した。

関連論文リスト

• Diagnose, Then Refine: A Closed-Loop TTS System with AudioLLM-Guided Correction [32.74294090671982]
  LoopTTS は、AudioLLM で診断された低品質 TTS 出力を復元するための判断誘導フレームワークである。 Refinerは、我々の微粒な命令追従型TSSモデルであり、初期発話、ターゲットテキスト、および命令に基づいて誘導された表現的再合成を実行する。 診断された低品質発話に対する人間の評価は、LoopTTSが知覚的に健全な誤りを検知し、Refinerで修正できることを示している。
  論文  参考訳（メタデータ） (2026-08-29T00:47:53Z)
• SAGA: Stable Acceleration Guidance for Autoregressive Video Generation [17.967260849031593]
  トレーニング不要なtextbftextitstable textbftextitautoregressive video 生成手法である SAGA を提案する。 SAGAは、有限ウィンドウのスレピアン投影に基づく加速度領域スペクトル誘導目標を統合する。 実験により、SAGAは複数の自己回帰拡散モデルにおいて時間的品質を一貫して改善することが示された。
  論文  参考訳（メタデータ） (2026-07-09T00:55:10Z)
• Breaking the Lock-in: Diversifying Text-to-Image Generation via Representation Modulation [25.553618756894593]
  我々は,この成分を早期に選択的に減衰させる訓練自由表現レベル介入であるdiVersity Enhancement (DAVE) のDC減衰を提案する。 DAVEは、サンプリングパイプラインを無視可能なオーバーヘッドで保存し、競合画像の品質を維持しながら、即時一貫性の多様性を改善している。
  論文  参考訳（メタデータ） (2026-06-05T01:27:44Z)
• Where to Refine, When to Stop: Rethinking Redundancy via Latent Discrepancy for Efficient Visual Autoregressive Generation [50.139984798361375]
  遅延不一致による冗長性を除去する学習自由フレームワークを提案する。 LD-Pruningは、Infinity-8Bの最大2.35倍のスピードアップを実現し、高い生成品質を維持しながら推論を大幅に削減する。
  論文  参考訳（メタデータ） (2026-05-29T19:34:39Z)
• All-in-One Video Restoration under Smoothly Evolving Unknown Weather Degradations [102.94052335735326]
  All-in-one画像復元は、単一のモデルを用いて、さまざまな未知の劣化からクリーンなイメージを復元することを目的としている。 既存のアプローチは主に、現実世界の劣化過程に自然に存在する時間的連続性を見越して、フレームワイドの劣化変動に焦点を当てている。 Smoothly Evolving Unknown Degradations (SEUD) のシナリオでは、アクティブな劣化セットと劣化強度の両方が時間とともに連続的に変化する。
  論文  参考訳（メタデータ） (2026-01-02T02:20:57Z)
• Navigating with Annealing Guidance Scale in Diffusion Space [50.53780111249146]
  誘導尺度の選択は、視覚的に魅力的で即応的なイメージへの収束に重大な影響を与える。 本研究では,時間とともに指導尺度を動的に調整するアニーリング誘導スケジューラを提案する。 実験結果から,指導スケジューラは画像品質とテキストプロンプトとの整合性を著しく向上することが示された。
  論文  参考訳（メタデータ） (2025-06-30T17:55:00Z)
• Rethinking Video Tokenization: A Conditioned Diffusion-based Approach [58.164354605550194]
  新しいトークン化ツールであるDiffusion Conditioned-based Gene Tokenizerは、GANベースのデコーダを条件付き拡散モデルで置き換える。 再建に基本的MSE拡散損失とKL項,LPIPSを併用した訓練を行った。 CDTのスケールダウン版(3$times inference speedup)でさえ、トップベースラインと互換性がある。
  論文  参考訳（メタデータ） (2025-03-05T17:59:19Z)
• Auto-Prompt Generation is Not Robust: Prompt Optimization Driven by Pseudo Gradient [50.15090865963094]
  PertBenchは、幅広い入力摂動を含む包括的なベンチマークデータセットである。 我々の分析は、既存の即時生成戦略における重大な脆弱性を明らかにしている。 PGOは、摂動型を擬似次数次信号として活用する、勾配のないプロンプト生成フレームワークである。
  論文  参考訳（メタデータ） (2024-12-24T06:05:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。