論文の概要: Structured Residual Connectivity Matters for Diffusion Transformers

• arxiv url: http://arxiv.org/abs/2609.33203v1
• Date: Sun, 27 Sep 2026 04:42:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 02:15:53.753695
• Title: Structured Residual Connectivity Matters for Diffusion Transformers
• Title（参考訳）: 拡散変圧器の構造的残留結合性
• Abstract要約: Diffusion Transformers (DiTs) は、高忠実度画像合成のためのスケーラブルなバックボーンとしての地位を確立している。 本稿では,DiTの残差接続を画像復調に最適化した能動的検索機構に変換することを提案する。
• 参考スコア（独自算出の注目度）: 91.88563792356344
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion Transformers (DiTs) have established themselves as a scalable backbone for high-fidelity image synthesis. However, unlike U-Net based diffusion models that rely on rigid, hand-crafted skip connections, DiTs predominantly use a uniform residual stream that integrates all preceding layers as a monolithic state. In this work, we rethink residual connections in diffusion transformers and propose to transform them from passive summation into an active retrieval mechanism optimized for image denoising. First, we conduct a systematic analysis of DiT's internal representation, revealing a latent preference for early-layer feature reuse and symmetric layer guidance. Motivated by this, we introduce a structured connectivity design that explicitly integrates local residual connections with long-range pathways. Instead of static skip connections or dense all-layer routing, our method enables each transformer block to selectively ``attend'' to critical earlier representations, dynamically retrieving spatial and semantic cues through direct, differentiable cross-depth paths. Experiments show that our adaptive connectivity leads to faster convergence, with up to $1.73\times$ fewer training iterations, and significant gains in FID and visual quality with less than $0.1\%$ additional parameters, further improving a strong REPA-XL/2 model from $5.9$ to $4.34$ FID without guidance and reaching $1.39$ FID with classifier-free guidance. Our findings suggest that adaptive cross-layer connectivity is a critical yet underexplored factor in diffusion transformers, and that incorporating structured information pathways provides a simple and effective direction for improving scalable generative models.
• Abstract（参考訳）: Diffusion Transformers (DiTs) は、高忠実度画像合成のためのスケーラブルなバックボーンとしての地位を確立している。 しかし、厳密で手作りのスキップ接続に依存するU-Netベースの拡散モデルとは異なり、DiTは主に、前のすべてのレイヤをモノリシックな状態として統合する均一な残差ストリームを使用する。 本研究では,拡散変換器の残差接続を再考し,それらを受動和から画像復調に最適化した能動的検索機構に変換することを提案する。 まず、DiTの内部表現を体系的に分析し、初期層の特徴の再利用と対称層誘導の潜在的嗜好を明らかにする。 そこで本研究では,局所的残差接続と長距離経路を明示的に統合する構造的接続設計を提案する。 静的なスキップ接続や高密度な全層ルーティングの代わりに,各トランスフォーマーブロックが選択的に `attend'' を初期表現に限定し,直接的かつ微分可能なクロスディープスパスを通じて空間的および意味的キューを動的に検索することができる。 実験によると、我々の適応接続はより高速な収束をもたらし、最大1.73\times$トレーニングイテレーションを減らし、FIDと視覚的品質が0.1\%$追加パラメータで大幅に向上し、強いREPA-XL/2モデルをガイダンスなしで5.9ドルから4.34ドルFIDに改善し、1.39ドルFIDに到達した。 この結果から,適応層間接続は拡散変圧器において重要かつ過小評価されている要素であり,構造化情報経路を取り入れることで,スケーラブルな生成モデルを改善するためのシンプルかつ効果的な方向が導かれることが示唆された。

関連論文リスト

• Scaling Linear Mode Connectivity and Merging to Billion Parameter Pretrained Transformers [42.7047638496247]
  事前学習したトランスにLCCをベースとしたモデルマージを実現するための新しいフレームワークを提案する。 本手法は,パラメータ化機能保存変換を適切に適用し,両モデルが対応する解を共同で学習する2つの学習手順を導入する。 経験的に,本手法はWikiTextにおける中規模パラメータを持つ言語モデルに対するほぼゼロに近い損失障壁を示し,この規模でのニアバリアフリー線形接続の実証実験である。
  論文  参考訳（メタデータ） (2026-06-22T17:08:28Z)
• Rethinking Cross-Layer Information Routing in Diffusion Transformers [17.704741758253675]
  Diffusion Transformer (DiT) は、現代の視覚生成の事実上のバックボーンとなっている。 本稿では,DiTsにおける層間情報フローの系統的解析について述べる。 そこで本稿では,Diffusion-Adaptive Routing(textscDAR)を提案する。
  論文  参考訳（メタデータ） (2026-05-20T05:07:15Z)
• Action-Inspired Generative Models [0.0]
  アクションインスパイアされた生成モデル(AGM) 既往の橋梁整合法が輸送景観の遷移に均一な回帰重みを割り当てるという観察に動機づけられた双対ネットワーク生成フレームワークを導入する。 学習可能なポテンシャルを通して不定形輸送経路を選択的に解析すると、フィデリティとカバレッジのメトリクス間で生成品質が一貫した改善が得られることを実証する。
  論文  参考訳（メタデータ） (2026-05-14T09:43:32Z)
• RF-HiT: Rectified Flow Hierarchical Transformer for General Medical Image Segmentation [6.158409051007809]
  本稿では,時間ガラス変換器のバックボーンと,解剖学的に誘導された特徴条件付けのためのマルチスケール階層型エンコーダを一体化したRectified Flow Hierarchical Transformer RF-HiTを提案する。 RF-HiT は ACDC の 91.27%、BraTS 2021 の 87.40% を達成し、より集中的なアーキテクチャに匹敵する性能を達成している。
  論文  参考訳（メタデータ） (2026-04-21T15:24:39Z)
• Can We Achieve Efficient Diffusion without Self-Attention? Distilling Self-Attention into Convolutions [94.21989689001848]
  従来の自己アテンションモジュールをピラミッド畳み込みブロック((Delta)ConvBlocks)に置き換えるための(Delta)ConvFusionを提案する。 ローカライズされた畳み込み操作に注意パターンを蒸留し、他のコンポーネントを凍結させながら、(Delta)ConvFusionは、トランスフォーマーベースの処理に匹敵する性能を達成し、計算コストを6929$times$、LinFusionを5.42$times$の効率で上回る。
  論文  参考訳（メタデータ） (2025-04-30T03:57:28Z)
• CARE Transformer: Mobile-Friendly Linear Visual Transformer via Decoupled Dual Interaction [77.8576094863446]
  本稿では,新しいdetextbfCoupled dutextbfAl-interactive lineatextbfR atttextbfEntion (CARE) 機構を提案する。 まず,非対称な特徴分離戦略を提案し,非対称的に学習プロセスを局所帰納バイアスと長距離依存に分解する。 分離学習方式を採用し,特徴間の相補性を完全に活用することにより,高い効率性と精度を両立させることができる。
  論文  参考訳（メタデータ） (2024-11-25T07:56:13Z)
• A Hybrid Transformer-Mamba Network for Single Image Deraining [70.64069487982916]
  既存のデラリング変換器では、固定レンジウィンドウやチャネル次元に沿って自己アテンション機構を採用している。 本稿では,多分岐型トランスフォーマー・マンバネットワーク(Transformer-Mamba Network,TransMamba Network,Transformer-Mamba Network)を提案する。
  論文  参考訳（メタデータ） (2024-08-31T10:03:19Z)
• DeblurDiNAT: A Compact Model with Exceptional Generalization and Visual Fidelity on Unseen Domains [1.5124439914522694]
  DeDiNATはDilated Neighborhood Attentionに基づくデブロアリングトランスフォーマーである。 チャンネル横断学習者は、隣接するチャンネル間の短距離関係を理解するためにトランスフォーマーブロックを支援する。 最先端モデルと比較して、コンパクトなDeDiNATはより優れた一般化能力を示し、知覚的メトリクスにおいて顕著な性能を達成する。
  論文  参考訳（メタデータ） (2024-03-19T21:31:31Z)
• Deep Transformers without Shortcuts: Modifying Self-attention for Faithful Signal Propagation [105.22961467028234]
  ディープニューラルネットワーク(DNN)のトレーニングにおいて,スキップ接続と正規化レイヤはユビキタスである Deep Kernel Shapingのような最近のアプローチは、それらへの依存を減らすために進歩しました。 しかし、これらのアプローチは変換器に存在する自己注意層とは相容れない。
  論文  参考訳（メタデータ） (2023-02-20T21:26:25Z)
• CSformer: Bridging Convolution and Transformer for Compressive Sensing [65.22377493627687]
  本稿では,CNNからの詳細な空間情報を活用するためのハイブリッドフレームワークと,表現学習の強化を目的としたトランスフォーマーが提供するグローバルコンテキストを統合することを提案する。 提案手法は、適応的なサンプリングとリカバリからなるエンドツーエンドの圧縮画像センシング手法である。 実験により, 圧縮センシングにおける専用トランスアーキテクチャの有効性が示された。
  論文  参考訳（メタデータ） (2021-12-31T04:37:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。