論文の概要: How Do DiTs Denoise? An Aggregator-Predictor View of Attention and MLPs

• arxiv url: http://arxiv.org/abs/2610.29854v1
• Date: Wed, 21 Oct 2026 15:14:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.389512
• Title: How Do DiTs Denoise? An Aggregator-Predictor View of Attention and MLPs
• Title（参考訳）: DiTはどのように認知するか? -アグリゲータによる注意とMDPの予測-
• Abstract要約: 拡散変換器(DiT)は画像の内容をどのように表現し、それを再利用して一般化するための規則を学ぶのか? 我々は、入力適応型ローカルデノイザとして、DiTのアグリゲータ予測ビューを開発する。 制御されたCelebA64研究において、DiTの代わりに使われる共有メモリパッチ予測器は、競合する復調と生成性能を達成する。
• 参考スコア（独自算出の注目度）: 7.306462076781756
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: How do diffusion transformers (DiTs) represent image content and learn rules for reusing it to generalize? We develop an aggregator--predictor view of DiTs as input-adaptive local denoisers, in which context aggregation and patch prediction provide functional roles for interpreting attention and MLPs. We first establish that, for Gaussian Markov random field (GMRF) priors, the global Bayes denoiser can be approximated using only a subset of context patches, with error decaying exponentially in context radius. We further show that patchwise linear denoisers, often invoked to explain diffusion generalization, recover the empirical local denoiser with sufficiently informative aggregation. Within this view, AdaLN-modulated attention naturally parameterizes an input- and noise-dependent aggregator, while the MLP admits a learned key--value representation for tokenwise patch prediction. Our experiments support this view. DiTs trained on real images exhibit noise-dependent denoising contexts resembling those in the analytic GMRF setting, while attention mass exhibits a qualitatively corresponding broadening pattern. In a controlled CelebA64 study, shared-memory patch predictors used in place of DiT MLPs achieve competitive denoising and generative performance. Finally, cross-dataset component transplantation reveals compatibility patterns consistent with the proposed roles of QK in spatial weighting, VO in feature transport, and MLPs in patch prediction. Together, these results provide a component-level account of DiT denoising and motivate architecture-specific fine-tuning and controlled intervention.
• Abstract（参考訳）: 拡散変換器(DiT)は画像の内容をどのように表現し、それを再利用して一般化するための規則を学ぶのか? そこで我々は,DiTのアグリゲータ・予測ビューを入力適応型ローカルデノイザとして開発し,コンテキストアグリゲーションとパッチ予測が注意とMLPを解釈するための機能的役割を担っている。 まず、ガウス的マルコフ確率場(GMRF)について、大域的ベイズ・デノイザーは文脈パッチのサブセットのみを用いて近似することができ、誤差は文脈半径で指数関数的に減衰する。 さらに,拡散一般化を説明するためにしばしば呼び出されるパッチワイド線形デノイザは,十分な情報集約で経験的局所デノイザを回復することを示した。 この観点では、AdaLNで変調された注目は入力とノイズに依存したアグリゲータを自然にパラメータ化し、MLPはトークンワイドパッチ予測のための学習キー-値表現を認めている。 私たちの実験はこの見解を支持します。 実画像上で訓練されたDiTは、解析的なGMRF設定に類似したノイズ依存のデノナイジングコンテキストを示し、注目質量は質的に対応する拡張パターンを示す。 制御されたCelebA64研究において、DiT MLPの代わりに使われる共有メモリパッチ予測器は、競合する復調と生成性能を達成する。 最後に、クロスデータセットコンポーネント移植は、空間重み付けにおけるQK、特徴輸送におけるVO、パッチ予測におけるMPPの役割と整合性を示す。 これらの結果は、DiTのコンポーネントレベルの説明を提供し、アーキテクチャ固有の微調整と制御された介入を動機づける。

関連論文リスト

• PL-SCEA: Reconfiguring Pretrained Attention for Few-Shot Industrial Anomaly Detection [2.4104933690855153]
  Vision Foundation Models (VFM) は、数発の産業異常検出のための転送可能なパッチ表現を提供する。 本稿では,凍結したVFMの注意を異常検出のタスク関連成分として再構成できるという仮説を考察する。 我々はこのアイデアをPL-SCEA(Power-Law Self-Correlation Enhanced Attention)でインスタンス化する。
  論文  参考訳（メタデータ） (2026-09-03T10:54:05Z)
• Tracing distinguishability through transformer processing with stochastic LayerNorm [0.0]
  表現量を与え、類似性を統計的識別可能性に変換する。 我々は、LayerNormへのライトタッチ修正により、事前訓練されたトランスフォーマーでこのアイデアを実現した。 これらの結果は、トランス計算における機能接地レンズとしての識別可能性を確立する。
  論文  参考訳（メタデータ） (2026-08-31T12:57:38Z)
• Adaptive Guidance for Retrieval-Augmented Masked Diffusion Models [60.25003813232697]
  本稿では,Masked Diffusion Models (MDMs) のトレーニング自由適応ガイダンスフレームワークとして,適応検索型Masked Diffusion (ARAM) を提案する。 ARAMは、検索した文脈によって誘導される分布シフトのSNR(Signal-to-Noise Ratio)に従って、雑音発生時の誘導スケールを校正する。 複数の知識集約型QAベンチマークの実験は、ARAMが競争力のあるRAGベースラインよりも全体的なQA性能を改善することを示している。
  論文  参考訳（メタデータ） (2026-03-18T12:54:50Z)
• Untwisting RoPE: Frequency Control for Shared Attention in DiTs [84.14005261938284]
  位置符号化はトランスフォーマーベースの生成モデルに不可欠である。 ロータリー・ポジショナル・エンベディング (RoPE) は, 異なる位置感性を有する周波数成分に自然に分解されることを示す。 本稿では,厳密な位置アライメントよりも意味的類似性を反映するように,RoPE周波数帯域を選択的に変調する手法を提案する。
  論文  参考訳（メタデータ） (2026-02-04T20:01:59Z)
• Learning to Mask and Permute Visual Tokens for Vision Transformer Pre-Training [55.12082817901671]
  我々はMasked and Permuted Vision Transformer(MaPeT)という自己教師型事前学習手法を提案する。 MaPeTは、自動回帰および置換予測を使用して、パッチ内依存関係をキャプチャする。 以上の結果から,MaPeTはベースラインやコンペティターと同一のモデル設定で比較して,ImageNet上での競合性能を実証した。
  論文  参考訳（メタデータ） (2023-06-12T18:12:19Z)
• Treatment Learning Causal Transformer for Noisy Image Classification [62.639851972495094]
  本研究では,この2値情報「ノイズの存在」を画像分類タスクに組み込んで予測精度を向上させる。 因果的変動推定から動機付け,雑音画像分類のための頑健な特徴表現を潜在生成モデルを用いて推定するトランスフォーマーに基づくアーキテクチャを提案する。 また、パフォーマンスベンチマークのための幅広いノイズ要素を取り入れた、新しいノイズの多い画像データセットも作成する。
  論文  参考訳（メタデータ） (2022-03-29T13:07:53Z)
• Rethinking Global Context in Crowd Counting [70.54184500538338]
  純粋な変換器は、重なり合う画像パッチからグローバル情報で特徴を抽出するために用いられる。 分類によってインスピレーションを得て、入力シーケンスにコンテキストトークンを追加し、画像パッチに対応するトークンと情報交換を容易にする。
  論文  参考訳（メタデータ） (2021-05-23T12:44:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。