論文の概要: Backend-Agnostic Sparse Attention for Fast High-Resolution Visual Generation

• arxiv url: http://arxiv.org/abs/2610.08772v1
• Date: Tue, 06 Oct 2026 17:55:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:30.160775
• Title: Backend-Agnostic Sparse Attention for Fast High-Resolution Visual Generation
• Title（参考訳）: 高速高解像度視覚生成のためのバックエンド非依存スパース注意
• Abstract要約: 分割された窓の注意は、通常、その理論的複雑さと整合した計算効率を達成する。 きめ細かいスライディングウインドウの注意は、近隣の窓の相互作用を効果的に復元し、視覚的品質を改善する。 我々は,視覚的品質と実用的な加速度の両世界の長所をもたらす,バックエンドに依存しないスパースアテンションであるBASAを提案する。
• 参考スコア（独自算出の注目度）: 49.257426699033495
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion Transformers (DiTs) have achieved strong performance in image and video generation, but the quadratic complexity of full attention makes high-resolution generation computationally expensive. Window attention offers an efficient alternative, yet existing methods face a practical trade-off: partitioned window attention typically achieves computational efficiency consistent with its theoretical complexity. However, isolated windows block cross-window interaction, often introducing visible grid-like artifacts in the generated results. Fine-grained sliding-window attention effectively restores interactions across neighboring windows and improves visual quality. However, its irregular computation patterns create a substantial gap between theoretical and practical speedups and require specialized kernels tailored to each hardware backend. To tackle these challenges, we propose BASA, a backend-agnostic sparse attention, which brings the best of both worlds: visual quality and practical acceleration. Specifically, BASA replaces visual self-attention with shifted local-window attention. By introducing a structured window-shifting scheme across DiT blocks, we allow tokens divided by window boundaries in one layer to communicate in the following layers, thereby achieving global information exchange and eliminating window-induced visual artifacts. Notably, our design introduces no additional irregular operators or customized kernels, making it readily deployable on existing attention backends and closing the gap between theoretical sparsity and practical acceleration. Experiments demonstrate that BASA achieves measured speedups exceeding 90\% of the theoretical estimates on FLUX and delivers a 4.52$\times$ attention speedup on Wan while maintaining competitive generation quality.
• Abstract（参考訳）: 拡散変換器 (DiT) は画像生成と映像生成において高い性能を達成しているが, フルアテンションの2次複雑さは高分解能な生成を計算コストで実現する。 ウィンドウアテンションは効率的な代替手段を提供するが、既存の手法は実践的なトレードオフに直面している。 しかし、分離されたウィンドウはウィンドウ間の相互作用をブロックし、しばしば生成された結果に可視的なグリッドのようなアーティファクトを導入します。 きめ細かいスライディングウインドウの注意は、近隣の窓の相互作用を効果的に復元し、視覚的品質を改善する。 しかし、その不規則な計算パターンは理論と実用のスピードアップの間に大きなギャップを生じさせ、各ハードウェアバックエンドに合わせた特別なカーネルを必要とする。 これらの課題に対処するため、バックエンドに依存しないスパースアテンションであるBASAを提案し、視覚的品質と実用的なアクセラレーションの両世界の長所をもたらす。 具体的には、BASAは視覚的自己注意を局所的な注意移りに置き換える。 DiTブロック間で構造化されたウィンドウシフト方式を導入することにより、ひとつのレイヤ内のウィンドウ境界によって分割されたトークンが以下のレイヤで通信できるようにし、グローバルな情報交換を実現し、ウィンドウによって引き起こされる視覚的アーティファクトを除去する。 特に、我々の設計では、追加の不規則演算子やカスタマイズされたカーネルを導入せず、既存のアテンションバックエンドに容易にデプロイでき、理論的な間隔と実用的なアクセラレーションのギャップを埋めることができる。 実験により、BASAはFLUXの理論的推定の90%以上を達成し、Wanに4.52$\times$ attention speedupを供給し、競争力のある生成品質を維持していることが示された。

関連論文リスト

• CUST: Clustered Unit-level Similarity Transformer for Lightweight Image Super-Resolution [0.2538209532048866]
  クラスタ化単位レベル類似性変換器(CUST)は、グローバルおよびローカル情報を効率的に統合する新しいアーキテクチャである。 CUSTは各パッチを集約し、ローカルウィンドウの外側の広い領域の範囲内で同様のパッチに対処することを可能にする。 実験により,提案モデルが計算効率と復元性能の両立を実証した。
  論文  参考訳（メタデータ） (2026-07-13T04:56:57Z)
• CETUS: Causal Event-Driven Temporal Modeling With Unified Variable-Rate Scheduling [18.82030002020162]
  イベントカメラは、マイクロ秒時間解像度で非同期ピクセルレベルの輝度変化をキャプチャする。 既存の方法では、イベントストリームをフレーム、ボクセルグリッド、ポイントクラウドなどの中間表現に変換することが多い。 本稿では、中間表現なしで生イベントストリームを直接処理する新しいアーキテクチャである可変レート空間イベントマンバを提案する。
  論文  参考訳（メタデータ） (2025-09-17T07:55:37Z)
• Compact Attention: Exploiting Structured Spatio-Temporal Sparsity for Fast Video Generation [21.87891961960399]
  Compact Attentionは,3つのイノベーションを特徴とする,ハードウェア対応のアクセラレーションフレームワークだ。 単体GPUのセットアップに注意を向け,1.62.5倍の高速化を実現した。 この研究は、構造化された空間的利用を通じて効率的な長ビデオ生成を解放するための原則化されたアプローチを提供する。
  論文  参考訳（メタデータ） (2025-08-18T14:45:42Z)
• RATTENTION: Towards the Minimal Sliding Window Size in Local-Global Attention Models [22.336203514583243]
  RATTENTIONは、特別な線形アテンション機構と統合された局所アテンションの変種である。 RATTENTIONは性能と効率のトレードオフが優れていることを示す。 特殊なカーネル実装とウィンドウサイズ削減により、RATTENTIONは既存の最先端アプローチに匹敵するトレーニング速度を維持している。
  論文  参考訳（メタデータ） (2025-06-18T15:18:07Z)
• PiT: Progressive Diffusion Transformer [50.46345527963736]
  拡散変換器(DiT)は変換器アーキテクチャを用いて画像生成において顕著な性能を発揮する。 DiTは以前信じられていたようなグローバルな情報に大きく依存していない。 Pseudo Progressive Diffusion Transformer (PiT)を提案する。
  論文  参考訳（メタデータ） (2025-05-19T15:02:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。