Fugu-MT 論文翻訳(概要): Attention Sinks in Diffusion Transformers: A Causal Analysis

論文の概要: Attention Sinks in Diffusion Transformers: A Causal Analysis

arxiv url: http://arxiv.org/abs/2605.09313v2
Date: Tue, 12 May 2026 03:49:31 GMT
ステータス: 翻訳完了
システム内更新日: 2026-05-13 18:21:07.029114
Title: Attention Sinks in Diffusion Transformers: A Causal Analysis
Title（参考訳）: 拡散変圧器の注意シンク:因果解析
Abstract要約: テキスト・画像拡散における因果解析について述べる。我々は,時間経過毎に主観的注意を抽出し,ペアによる無訓練介入によって抑制する。抑制によって引き起こされる知覚の変化は、いずれにせよ、Emphsink固有の -- $sim!6times$等予算のランダムマスクよりも大きい。
参考スコア（独自算出の注目度）: 1.9336815376402718
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Attention sinks -- tokens that receive disproportionate attention mass -- are assumed to be functionally important in autoregressive language models, but their role in diffusion transformers remains unclear. We present a causal analysis in text-to-image diffusion, dynamically identifying dominant attention recipients per timestep and suppressing them via paired, training-free interventions on the score and value paths. Across 553 GenEval prompts on Stable Diffusion~3 (with SDXL corroboration), removing these sinks does not degrade text-image alignment (CLIP-T) or preference proxies (ImageReward, HPS-v2) at $k{=}1$; only under stronger interventions ($k\!\geq\!10$) does HPS-v2 exhibit a metric-dependent boundary, while CLIP-T remains robust throughout. The perceptual shifts induced by suppression are nonetheless \emph{sink-specific} -- $\sim\!6\times$ larger than equal-budget random masking -- revealing an empirical dissociation between trajectory-level perturbation and \emph{semantic alignment} in diffusion transformers. \footnote{Code available at https://github.com/wfz666/ICML26-attention-sink.}
Abstract（参考訳）: 不均等な注意質量を受けるトークンである注意シンクは、自己回帰言語モデルにおいて機能的に重要であると考えられているが、拡散トランスフォーマーにおけるそれらの役割はいまだ不明である。テキストと画像の拡散における因果解析を行い、時間ごとの注目度を動的に識別し、スコアと値パスに対するペアでトレーニング不要な介入によって抑制する。 553を超えるGenEvalは、stable Diffusion~3(SDXL corroboration)をプロンプトするが、これらのシンクを削除してもテキストイメージアライメント(CLIP-T)や選好プロキシ(ImageReward, HPS-v2)を$k{=}1$で低下させることはない。ヘーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーー 10$) HPS-v2 は計量依存的な境界を示すが、CLIP-T は依然として安定である。抑制によって引き起こされる知覚の変化は、それでも \emph{sink-specific} -- $\sim\! 6\times $ larger than equal-budget random masking -- revealed a empirical dissociation between trajectory-level perturbation and \emph{semantic alignment} in diffusion transformer。 \footnote{Code available at https://github.com/wfz666/ICML26-attention-sink.com ※

関連論文リスト

Tracing distinguishability through transformer processing with stochastic LayerNorm [0.0]
表現量を与え、類似性を統計的識別可能性に変換する。我々は、LayerNormへのライトタッチ修正により、事前訓練されたトランスフォーマーでこのアイデアを実現した。これらの結果は、トランス計算における機能接地レンズとしての識別可能性を確立する。
論文参考訳（メタデータ） (2026-08-31T12:57:38Z)
Hallucination Mitigation for Large Vision-Language Models via Implicit Feature Stabilization [11.087363456274737]
LVLM(Large Vision-Language Models)は、画像にないオブジェクト、属性、シーンを柔軟に記述する。この障害の一部は、その表現の計測可能な性質、特徴不安定と結びついており、ここでは、入力の温和なセマンティクス保存の摂動が、学習された埋め込みに大きな変化をもたらす。既存の安定性をモチベーションとしたリメディエーションは、遅延ステアリングや制約付きデコーディングを通じて推論時に介入し、クエリ毎に支払いを行うという意味で明確である。摂動不変性は、微調整中にモデル重みに組み込まれ、デプロイ時に余分に実行されるものはない。
論文参考訳（メタデータ） (2026-08-30T17:39:38Z)
SafeCA: Safe Cross-Attention Localization and Regulation for Text-to-Video Jailbreak Defense [77.70598852234149]
テキスト・トゥ・ビデオ(T2V)生成モデルは、現実世界のデプロイにおいてジェイルブレイク攻撃に対して脆弱である。安全なクロスアテンション・ローカライゼーションと正規化のための機能レベル防衛機構であるSafeCAを提案する。実験の結果、SafeCAは主流のT2Vモデルでジェイルブレイクの成功率を約20%削減することが示された。
論文参考訳（メタデータ） (2026-08-11T14:01:24Z)
SC-Diff: Semantically Calibrated Diffusion for Visible-to-Infrared Image Translation [52.62632888060867]
可視赤外画像変換は、豊富な可視画像を用いて赤外線トレーニングデータを拡張するための実用的な方法を提供する。既存の拡散に基づくメソッドは、通常、外部条件としてのみセマンティックプリエントを使用する。 SC-Diffは、条件付きガイダンスと内部自己注意校正の両方にセマンティックな事前情報を利用する意味論的潜伏拡散フレームワークである。
論文参考訳（メタデータ） (2026-08-09T07:57:40Z)
Retrieval-Warmed Energy-Based Reasoning: A Five-Arm Ablation Methodology for Diffusion-as-Inference on Structured Reasoning Tasks [7.954260884574662]
textbfwarmretrieval-ed energy-based reasoning (RW-EBR) - IREDエネルギーベース拡散モデル。 We study textbfwarmretrieval-ed energy-based reasoning (RW-EBR) -- a IRED energy-based diffusion model。 We study textbfwarmretrieval-ed energy-based reasoning (RW-EBR) -- a IRED energy-based diffusion model。
論文参考訳（メタデータ） (2026-06-25T00:28:08Z)
The Structural Origin of Attention Sink: Variance Discrepancy, Super Neurons, and Dimension Disparity [22.040532283910522]
この研究は、この現象のテクトメカニスティックな説明を提供する。我々はそのルーツを自己注意に固有の価値集約プロセスに遡る。概念実証として,事前学習時の値アグリゲーション出力を安定化するアーキテクチャ変更であるtextithead-wise RMSNormを提案する。
論文参考訳（メタデータ） (2026-05-07T17:28:55Z)
Generalizing GNNs with Tokenized Mixture of Experts [75.8310720413187]
安定性の向上には,変化に敏感な特徴への依存を低減し,既約最悪の一般化フロアを残す必要があることを示す。本研究では,STEM-GNNを提案する。STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN。 9つのノード、リンク、グラフのベンチマークで、STEM-GNNはより強力な3方向バランスを実現し、クリアグラフ上での競争力を維持しながら、次数/ホモフィリーシフトや特徴/エッジの破損に対する堅牢性を改善している。
論文参考訳（メタデータ） (2026-02-09T22:48:30Z)
Continuously Augmented Discrete Diffusion model for Categorical Generative Modeling [87.34677262370924]
標準離散拡散モデルは、吸収[MASK]トークンにそれらをマッピングすることで、すべての観測されていない状態を同一に扱う。これは'インフォメーション・ヴォイド'を生成します。そこでは、偽のトークンから推測できるセマンティック情報は、デノイングステップの間に失われます。連続的拡張離散拡散(Continuously Augmented Discrete Diffusion)は、連続的な潜在空間における対拡散で離散状態空間を拡大するフレームワークである。
論文参考訳（メタデータ） (2025-10-01T18:00:56Z)
QuantSparse: Comprehensively Compressing Video Diffusion Transformer with Model Quantization and Attention Sparsification [67.15451442018258]
拡散変換器は素晴らしいビデオ生成能力を示すが、その計算とメモリの禁止コストは実際の展開を妨げる。モデル量子化とアテンションスパシフィケーションは圧縮に有望な2つの方向であるが、それぞれがアグレッシブ圧縮の下で深刻な性能劣化を被っている。モデル量子化と注意散布を統合した統合フレームワークである textbfQuantSparse を提案する。
論文参考訳（メタデータ） (2025-09-28T06:49:44Z)
Rethinking Cross-Modal Interaction in Multimodal Diffusion Transformers [79.94246924019984]
マルチモーダル拡散変換器 (MM-DiT) はテキスト駆動型視覚生成において顕著な進歩を遂げている。マルチモーダルインタラクションを動的に再バランスするパラメータ効率向上手法である textbfTemperature-Adjusted Cross-modal Attention (TACA) を提案する。本研究は,テキスト・画像拡散モデルにおける意味的忠実度向上における相互注意のバランスの重要性を強調した。
論文参考訳（メタデータ） (2025-06-09T17:54:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。