論文の概要: RefAdapt-DiT: Adaptive Joint Attention for Reference-Conditioned Diffusion Transformers
- arxiv url: http://arxiv.org/abs/2609.32415v1
- Date: Sat, 26 Sep 2026 09:44:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-07 09:25:53.194575
- Title: RefAdapt-DiT: Adaptive Joint Attention for Reference-Conditioned Diffusion Transformers
- Title(参考訳): RefAdapt-DiT:参照形拡散変圧器の適応継手注意
- Abstract要約: RefAdaptは、参照とターゲット間の共同注意を適応的に制御するための、トレーニング不要のフレームワークである。
RefAdaptは4ステップのMiniMax H3で2.097times$と8ステップのQwen Image Editで3.54times$のスピードアップを可能にする。
- 参考スコア(独自算出の注目度): 25.946135618207723
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Diffusion Transformers (DiTs) have become the standard backbone for high-quality generative modeling, yet deploying them in conditional generation tasks remains computationally prohibitive because bidirectional joint attention repeatedly processes large reference streams. While existing optimization schemes mitigate generic temporal redundancy, they typically rely on coarse-grained static reuse and overlook the distinct dynamics of references and targets. Specifically, we observe that reference representations often evolve slowly along the generation trajectory, while the target often assigns little attention mass to them; reference drift and this target-to-reference exposure jointly shape how strongly stale reference states affect the target. To exploit these patterns, we introduce \RefAdapt, a training-free framework for adaptive control of joint attention between references and targets. Instead of rigid static strategies, \RefAdapt combines consecutive target-Q change with previously observed target-to-reference attention mass to control reference computation adaptively at block granularity. Under ultra-few-step settings, \RefAdapt enables speedups of up to $2.097\times$ on 4-step MiniMax H3 and $3.54\times$ on 8-step Qwen Image Edit, while maintaining comparable visual quality.
- Abstract(参考訳): 拡散変換器(DiT)は、高品質な生成モデリングの標準バックボーンとなっているが、双方向の共同注意が繰り返し大きな参照ストリームを処理するため、条件付き生成タスクにそれらを配置することは、計算的に禁じられている。
既存の最適化スキームは、一般的な時間的冗長性を緩和するが、通常は粗い粒度の静的再利用に依存し、参照とターゲットの異なるダイナミクスを見落としている。
具体的には、参照表現は生成軌道に沿ってゆっくりと進化することが多いが、ターゲットは、しばしば注意質量をほとんど割り当てない。
これらのパターンを活用するために,参照とターゲット間の共同注意を適応制御するトレーニングフリーフレームワークである \RefAdapt を導入する。
厳密な静的戦略の代わりに、\RefAdaptは連続的なターゲット-Q変化と以前に観測されたターゲット-参照アテンション質量を組み合わせ、ブロック粒度での参照計算を適応的に制御する。
超高速設定では、4ステップのMiniMax H3で2.097\times$と8ステップのQwen Image Editで3.54\times$のスピードアップが可能。
関連論文リスト
- From Open Loop to Closed Loop: A Test-Time Iterative Optimization Framework for Reference-Consistent Image Generation [108.02425846269234]
制御可能な画像生成は、視覚的参照条件を組み込むことで、大きな進歩を遂げた。
既存の方法は、主にオープンループシステムとして動作する。
本稿では,閉ループ動的トラッキング問題として参照一貫性生成を再構成する新しいテスト時間反復最適化フレームワークを提案する。
論文 参考訳(メタデータ) (2026-07-06T05:36:30Z) - Keep The Essentials: Efficient Reference Conditioned Generation via Token Dropping [37.53072128034311]
本稿では,参照トークンの少ないサブセットのみを保持することでスパース参照表現を構築する方法であるスパースコンテキストを提案する。
モデルを変更することなく、推論時に参照トークンのかなりの部分を落としてしまうと、その生成能力は大きく保たれます。
提案手法は,複数参照生成のための推論速度を4倍に向上し,単一参照生成のための2倍に向上することを示す。
論文 参考訳(メタデータ) (2026-06-22T17:59:28Z) - Spatial-Temporal Decoupled Reference Conditioning for Identity-Preserving Text-to-Video Generation [79.94088803584262]
アイデンティティ保存ビデオ生成(IPVG)は、参照IDを保持しながらテキストプロンプトに従う高忠実度ビデオの合成を目的としている。
そこで我々は,ST-DRCを提案する。ST-DRCは,個人認証を保存したテキスト・ビデオ生成のための効果的な空間的疎結合参照条件作成フレームワークである。
LTX-2.3 上に構築した軽量な設計により,ST-DRC は強いアイデンティティ保存,迅速なアライメント,時間的整合性,映像品質を実現する。
論文 参考訳(メタデータ) (2026-06-01T16:12:18Z) - Follow the Mean: Reference-Guided Flow Matching [10.73543578064991]
フローマッチングは異なる制御インターフェース(例による適応)を持つことを示す。
決定論的補間子の場合、速度場は条件付き終端平均によってのみ支配される。
これは制御可能な生成の単純な原理である:従う参照集合を変更して事前訓練されたモデルを操る。
論文 参考訳(メタデータ) (2026-05-11T09:57:34Z) - Eulerian Motion Guidance: Robust Image Animation via Bidirectional Geometric Consistency [74.90075313101933]
本稿では、より局所的な監視設計により、同じ光フロープリミティブを再考する。
我々は隣接フレームのユーレアン運動場を用いて生成を誘導し、そこでは運動信号が常に短い時間ホップを記述する。
隣接するフレーム生成に共通するドリフトアーティファクトを軽減するために,双方向幾何整合機構を導入する。
論文 参考訳(メタデータ) (2026-05-07T13:53:31Z) - RefAlign: Representation Alignment for Reference-to-Video Generation [53.368296137314225]
RefAlignは、DiT参照ブランチ機能を視覚基礎モデルのセマンティック空間に整列する表現アライメントフレームワークである。
OpenS2V-Evalベンチマークの実験では、RefAlignがTotalScoreの最先端メソッドより優れていることが示されている。
論文 参考訳(メタデータ) (2026-03-26T17:59:57Z) - Rethinking Multi-Condition DiTs: Eliminating Redundant Attention via Position-Alignment and Keyword-Scoping [61.459927600301654]
マルチコンディション制御は従来のコンカデント・アンド・アットエンドの戦略によってボトルネックとなる。
分析の結果,これらの相互作用の多くは空間的にも意味的にも冗長であることがわかった。
本稿では,これらの冗長性を解消するための高効率なフレームワークであるPKAを提案する。
論文 参考訳(メタデータ) (2026-02-06T16:39:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。