論文の概要: SAFE-DiT: Semantics-Aware Fast-path Execution for High-Resolution Diffusion Transformers

• arxiv url: http://arxiv.org/abs/2606.29360v1
• Date: Sun, 28 Jun 2026 12:16:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.896786
• Title: SAFE-DiT: Semantics-Aware Fast-path Execution for High-Resolution Diffusion Transformers
• Title（参考訳）: SAFE-DiT:高分解能拡散変圧器のセマンティックス対応高速パス実行
• Abstract要約: 高分解能拡散変換器 (DiT) 推論は空間的冗長性を含む。 多くの空間適応型実装は、注意マスクとして地域計算を符号化し、スケールしたドット積の注意をFlashAttention fast pathsから遠ざけることができる。 トレーニング不要なセマンティックス対応高速パス実行フレームワークであるSAFE-DiTを導入する。
• 参考スコア（独自算出の注目度）: 6.990241138675761
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: High-resolution Diffusion Transformer (DiT) inference contains substantial spatial redundancy, but many spatially adaptive implementations encode regional computation as attention masks, which can inadvertently move scaled dot-product attention (SDPA) away from FlashAttention fast paths. We identify this avoidable systems bottleneck as Mask-Induced Dispatch Tax (MIDT) and show that it grows with latent sequence length. We introduce SAFE-DiT, a training-free Semantics-Aware Fast-path Execution framework that separates exact mask elision from approximation-based spatial scheduling. SAFE-DiT removes only provenance-certified image self-attention masks that induce a row-wise constant shift in attention logits, preserves semantics-bearing masks such as text-padding masks, and realizes spatial adaptation through prompt-conditioned token partitioning, selective state updates with global context, and periodic context refresh. We call this acceleration-only configuration SAFE-Core and report sensitivity-weighted classifier-free guidance separately as SAFE-DiT+SW. On the evaluated PyTorch SDPA stack, redundant masks make long-sequence attention $4.1\times$ to $5.8\times$ slower than the mask-free path. On Lumina-Next, SAFE-DiT achieves $2.69\times$ end-to-end acceleration at $1024^2$ resolution and $5.09\times$ at $2560^2$, reduces peak memory at $2560^2$ from 94.1 to 27.9 GB, and enables $3072^2$ generation when dense inference runs out of memory. Paired metrics, component ablations, and a blinded human study support visual non-inferiority of SAFE-Core to the dense fast-path baseline, while SAFE-DiT+SW provides a separate prompt-alignment operating point without reintroducing spatial self-attention masks. Code is available at https://github.com/xuanhuayin/SAFE-DiT.
• Abstract（参考訳）: 高分解能拡散変換器(DiT)の推論には空間的冗長性が含まれているが、多くの空間適応型実装では注意マスクとして地域計算を符号化しており、スケールされた点積注意(SDPA)をFlashAttention fast pathsから不注意に移動させることができる。 この回避可能なシステムのボトルネックを,マスク誘導型ディスパッチ税(MIDT)と同一視し,遅延シーケンス長で成長することを示す。 トレーニング不要なセマンティックス対応高速パス実行フレームワークであるSAFE-DiTを導入する。 SAFE-DiTは、アテンションロジットの行方向に一定のシフトを誘導する証明済みの画像自己注意マスクのみを除去し、テキストパディングマスクのようなセマンティックスを含むマスクを保存し、プロンプト条件付きトークンパーティショニング、グローバルコンテキストによる選択状態更新、周期的コンテキストリフレッシュを通じて空間適応を実現する。 我々はこの加速度のみの設定SAFE-Coreと呼び、感度重み付け型分類器フリーガイダンスをSAFE-DiT+SWと別々に報告する。 評価されたPyTorch SDPAスタックでは、冗長マスクは長時間の注意を4.1\times$から5.8\times$はマスクフリーパスよりも遅い。 ルミナ・ネクストでは、SAFE-DiTは、$2.69\times$1024^2$、$5.09\times$2560^2$を達成し、ピークメモリを$2560^2$から94.1から27.9GBに下げる。 SAFE-DiT+SWは、空間的自己注意マスクを再導入することなく、別個のプロンプトアライメント操作ポイントを提供する。 コードはhttps://github.com/xuanhuayin/SAFE-DiT.comで入手できる。

関連論文リスト

• Token-Space Mask Prediction for Efficient Vision Transformer Segmentation [3.090546888821788]
  TokenMaskはトークンスペースマスクヘッドで、クエリトークン親和性から直接マスクトークンログを計算する。 多様なViTバックボーン、データセット、セグメンテーションタスクにわたって、TokenMaskは一貫して効率を改善している。
  論文  参考訳（メタデータ） (2026-05-18T10:20:23Z)
• YOSE: You Only Select Essential Tokens for Efficient DiT-based Video Object Removal [83.78619790270523]
  YOSEはBatch Variable-length Indexing (BVI)とDiffusion Process Simulator (DiffSim)モジュールという2つの重要なコンポーネントを導入している。 BVIは、サンプル間で可変長トークン処理を可能にするマスク情報に基づく必須トークンを選択する。 DiffSimは、不正トークンの拡散プロセス近似機構を提供する。 実験では、YoSEは70%のケースで2.5倍のスピードアップを達成した。
  論文  参考訳（メタデータ） (2026-04-30T02:08:13Z)
• Scaling Attention via Feature Sparsity [50.64995497733461]
  超長期のコンテキストにトランスフォーマーをスケールすることは、自己注意のコスト$O(n2 d)$コストによってボトルネックとなる。 本稿では,高次元表現性を維持するために,クエリとキーを$k$sparseコードとして表現するスパース特徴注意法を提案する。 GPT-2とQwen3の事前トレーニングで、SFAは密度の高いベースラインにマッチし、最高2.5タイムのスピードを向上し、FLOPとKVキャッシュを50%近く削減した。
  論文  参考訳（メタデータ） (2026-03-17T08:41:50Z)
• FMS$^2$: Unified Flow Matching for Segmentation and Synthesis of Thin Structures [1.3111058225843968]
  2つのモジュールを持つフローマッチングフレームワークであるFMS$2$を提案する。 SegFlowは標準的なエンコーダ/デコーダのバックボーン上に構築された2.96Mパラメータセグメンテーションモデルである。 SynFlowはマスク付きマスク$rightarrow$イメージジェネレータで、ピクセル対応の合成イメージマスクペアを生成する。
  論文  参考訳（メタデータ） (2026-03-14T00:04:25Z)
• Rethinking Multi-Condition DiTs: Eliminating Redundant Attention via Position-Alignment and Keyword-Scoping [61.459927600301654]
  マルチコンディション制御は従来のコンカデント・アンド・アットエンドの戦略によってボトルネックとなる。 分析の結果,これらの相互作用の多くは空間的にも意味的にも冗長であることがわかった。 本稿では,これらの冗長性を解消するための高効率なフレームワークであるPKAを提案する。
  論文  参考訳（メタデータ） (2026-02-06T16:39:10Z)
• $ρ$-$\texttt{EOS}$: Training-free Bidirectional Variable-Length Control for Masked Diffusion LLMs [28.452292098891018]
  我々はデノナイジングダイナミクスを研究し、その暗黙の密度(texttEOS$)が世代十分性の信頼できるシグナルとなることを発見した。 マスク付きdLLMの双方向可変長生成を可能にする,トレーニングフリーの単一ステージ戦略を提案する。
  論文  参考訳（メタデータ） (2026-01-30T04:00:04Z)
• MaskAttn-SDXL: Controllable Region-Level Text-To-Image Generation [10.894281690166418]
  安定拡散XL(SDXL)のUNetのクロスアテンションロジットに適用した領域レベルのゲーティング機構であるMaskAttn-SDXLを提案する。 MaskAttn-SDXLは、層ごとのバイナリマスクを学習し、トークン間相互作用をスパシフィケートするために、ソフトマックスの前に各アテンションロジットマップにそれを注入する。 画像の質と多様性を保ちながら,マルチオブジェクトプロンプトにおける空間コンプライアンスと属性バインディングを改善した。
  論文  参考訳（メタデータ） (2025-09-18T18:57:47Z)
• High-Frequency Prior-Driven Adaptive Masking for Accelerating Image Super-Resolution [87.56382172827526]
  高周波領域は再建に最も重要である。 本稿では,アクセラレーションのためのトレーニング不要適応マスキングモジュールを提案する。 本手法は,最先端モデルのFLOPを24～43%削減する。
  論文  参考訳（メタデータ） (2025-05-11T13:18:03Z)
• S^2-Transformer for Mask-Aware Hyperspectral Image Reconstruction [59.39343894089959]
  トランスフォーマー再構成バックエンドを備えたスナップショット圧縮撮像器(CASSI)は、高忠実度センシング性能を示す。 空間的およびスペクトル的アテンションデザインは ハイパースペクトルモデリングの限界を示します パラレルアテンション設計とマスク認識学習戦略により実装された空間スペクトル(S2-)変換器を提案する。
  論文  参考訳（メタデータ） (2022-09-24T19:26:46Z)
• Adaptive Shrink-Mask for Text Detection [91.34459257409104]
  既存のリアルタイムテキスト検出器は、ストリップマスクによってテキストの輪郭を直接再構築する。 予測された収縮マスクへの依存は不安定な検出結果をもたらす。 スーパーピクセルウィンドウ (SPW) はネットワークを監督するように設計されている。
  論文  参考訳（メタデータ） (2021-11-18T07:38:57Z)
• SipMask: Spatial Information Preservation for Fast Image and Video Instance Segmentation [149.242230059447]
  SipMaskと呼ばれる高速な単一ステージインスタンス分割法を提案する。 検出されたバウンディングボックスの異なるサブリージョンにインスタンスのマスク予測を分離することで、インスタンス固有の空間情報を保存する。 リアルタイム機能の面では、SipMaskはYOLACTを、同様の設定で3.0%(マスクAP)という絶対的なゲインで上回ります。
  論文  参考訳（メタデータ） (2020-07-29T12:21:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。