論文の概要: Why DiT Models Underperform as Representation Learners without Long Skip Connections

• arxiv url: http://arxiv.org/abs/2610.13344v1
• Date: Fri, 09 Oct 2026 10:19:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.522311
• Title: Why DiT Models Underperform as Representation Learners without Long Skip Connections
• Title（参考訳）: 長いスキップ接続のない表現学習者としてのDiTモデルの性能
• Abstract要約: 長いスキップ接続(LSC)が特徴的品質に影響することを示す。 詳細な診断を通じて、この効果を引き起こすメカニズムを明らかにする。 このことから,LSCは単なるトリックではなく,拡散目標と密接に関連していることが分かる。
• 参考スコア（独自算出の注目度）: 79.26841537251293
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion feature, i.e., intermediate activations extracted from diffusion model backbones, has emerged as a promising approach for unifying generation and vision understanding (discrimination). Despite the advancement of diffusion backbones into Diffusion Transformers (DiT), it has been found in previous literature that DiT models tend to yield weaker features despite their stronger generation capability. This poses a threat to good generation-understanding unification. In this work, we show via controlled from-scratch training that long skip connections (LSCs) affect feature quality: a DiT with LSCs can produce better features. Furthermore, through detailed diagnosis, we reveal the mechanism causing this effect. Specifically, the input to a diffusion backbone contains both the latent image and the diffusion noise, where the diffusion noise, though appearing in the form of noises, actually reflects the information of the diffusion trajectory. To make the final prediction of a noisy variable ($v$ or $ε$), the diffusion backbone needs both signals. However, carrying both signals through the main backbone effectively "pollutes" the image signal with noises, leading to poor feature quality. In comparison, LSCs can shortcut diffusion noises directly to where they are needed, leaving much weaker noise signals in the main backbone, thus improving feature quality. To name the broader impact, this reveals that LSCs are not a mere trick but closely related to the diffusion objective. The code is at https://github.com/Darkbblue/dit-lsc.
• Abstract（参考訳）: 拡散モデルバックボーンから抽出される中間活性化である拡散特性は、生成と視覚の理解(識別)を統一するための有望なアプローチとして現れている。 Diffusion Transformers (DiT) への拡散バックボーンの進展にもかかわらず、DiTモデルはより強力な生成能力にもかかわらず弱い特徴を生じる傾向にある。 これは、良質な世代による統一を脅かす。 本研究では,長いスキップ接続(LSC)が機能品質に影響を及ぼす,制御されたオフスクラッチトレーニングを通じて示す。 さらに、詳細な診断により、この効果を引き起こすメカニズムを明らかにする。 具体的には、拡散バックボーンへの入力は、遅延画像と拡散ノイズの両方を含み、拡散ノイズはノイズの形で現れるが、実際に拡散軌跡の情報を反映する。 ノイズ変数(v$または$ε$)の最終的な予測を行うには、拡散バックボーンは両方の信号を必要とする。 しかし、両方の信号がメインのバックボーンを通り抜けることで、画像信号にノイズを伴って効果的に「汚染」し、特徴品質が低下する。 対照的に、LCCは拡散ノイズを必要な場所に直接ショートカットし、メインバックボーンにずっと弱いノイズ信号を残し、特徴品質を向上する。 この結果から,LSCは単なるトリックではなく,拡散目標と密接に関連していることが明らかとなった。 コードはhttps://github.com/Darkbblue/dit-lsc.comにある。

関連論文リスト

• PeLAP-A: Adaptive Latent Pruning for Lightweight Latent Diffusion Models [0.0]
  PeLAP-A(Adaptive Latent Pruning for Diffusion)は、標準的な潜伏拡散パイプラインを学習可能なチャネルワイドな予測器で拡張する軽量フレームワークである。 アグレッシブなスパシティ規則化の下では、重要予測器は全ての潜伏チャネルをほぼゼロに駆動するが、デノナイズされたUNetは拡散損失を低くする。 これらの知見は、潜伏拡散訓練におけるスパーシティダイナミクスの探索的研究であり、潜伏流路抑制に対してかなり頑健であることを示すものである。
  論文  参考訳（メタデータ） (2026-06-22T09:33:19Z)
• Decoupled Residual Denoising Diffusion Models for Unified and Data Efficient Image-to-Image Translation [29.96691004865241]
  本稿では,統合的かつデータ効率のよいイメージ・ツー・イメージ(I2I)翻訳のためのDDD(Decoupled Residual Denoising Diffusion Model)を提案する。
  論文  参考訳（メタデータ） (2026-05-31T06:38:18Z)
• Suppress Content Shift: Better Diffusion Features via Off-the-Shelf Generation Techniques [119.02857688205295]
  拡散機能は、コンテンツシフトと呼ばれる隠れた、普遍的な現象によって妨げられていることがわかりました。 本稿では,拡散モデルに固有の特徴として内容変化の原因を見いだし,拡散特性にこの現象が存在することを示唆する。 本稿では,本手法の有効性を効果的に評価し,提案手法の実装を行うための実践的ガイドラインであるGATEを提案する。
  論文  参考訳（メタデータ） (2024-10-09T09:43:36Z)
• Immiscible Diffusion: Accelerating Diffusion Training with Noise Assignment [56.609042046176555]
  準最適雑音データマッピングは拡散モデルの遅い訓練につながる。 物理学における不和性現象からインスピレーションを得て,不和性拡散を提案する。 我々のアプローチは極めて単純で、各画像の拡散可能な領域を制限するために1行のコードしか必要としない。
  論文  参考訳（メタデータ） (2024-06-18T06:20:42Z)
• Progressive Deblurring of Diffusion Models for Coarse-to-Fine Image Synthesis [39.671396431940224]
  拡散モデルは、徐々にノイズを取り除き、増幅信号を増幅することにより、画像合成において顕著な結果を示した。 本稿では,画像の粗大な合成方法を提案する。 実験の結果,提案手法はLSUNの寝室や教会のデータセットにおいて,従来のFID法よりも優れていた。
  論文  参考訳（メタデータ） (2022-07-16T15:00:21Z)
• Diffusion-GAN: Training GANs with Diffusion [135.24433011977874]
  GAN(Generative Adversarial Network)は、安定してトレーニングすることが難しい。 フォワード拡散チェーンを利用してインスタンスノイズを生成する新しいGANフレームワークであるDiffusion-GANを提案する。 我々は,Diffusion-GANにより,最先端のGANよりも高い安定性とデータ効率で,よりリアルな画像を生成することができることを示す。
  論文  参考訳（メタデータ） (2022-06-05T20:45:01Z)
• On Analyzing Generative and Denoising Capabilities of Diffusion-based Deep Generative Models [18.018935233383935]
  拡散に基づくDeep Generative Models (DDGM)は、生成モデルにおける最先端のパフォーマンスを提供する。 後方拡散過程において, 少量のノイズがどのように変換されるかを検討する。
  論文  参考訳（メタデータ） (2022-05-31T19:29:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。