論文の概要: FVAttn: Adaptive Sparse Attention with Runtime Load Balancing for Video Generation

• arxiv url: http://arxiv.org/abs/2607.16190v1
• Date: Fri, 17 Jul 2026 17:59:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-20 17:56:52.931324
• Title: FVAttn: Adaptive Sparse Attention with Runtime Load Balancing for Video Generation
• Title（参考訳）: FVAttn: ビデオ生成のための実行時ロードバランシングによる適応スパース注意
• Abstract要約: トレーニング不要なスパースアテンションは、マルチGPUシーケンス下での適応スパースアテンションの分散実行効率を向上させる。 平均負荷不均衡を 1.34 から 1.08 に減らし、FlashAttention よりも 4.41 倍の注目速度を提供する。 Wan2.2 I2V では、平均負荷不均衡を 1.34 から 1.08 に減らし、FlashAttention よりも 4.41 倍の注意速度を提供する。
• 参考スコア（独自算出の注目度）: 19.638077533543754
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Video Diffusion Transformers process long spatio-temporal sequences, making self-attention the main bottleneck in high-resolution video generation. Training-free sparse attention reduces this cost, but adaptive Top-$p$ routing creates uneven per-head workloads under multi-GPU sequence parallelism. The resulting workload heterogeneity turns sparse attention into a rank-level straggler problem. We present \method{}, a training-free sparse-attention system that improves the distributed execution efficiency of adaptive sparse attention under multi-GPU sequence parallelism. \method{} uses Top-$p$ routing, a Top-$k$ safety floor, and video-aware block organization as the sparse-routing frontend, then repairs the materialized mask at runtime. Runtime Load Balancing migrates a small number of heavy heads via P2P communication to shorten the current critical path. Slack-Aware Sparse Augmentation fills residual non-critical-rank slack with additional high-value blocks, while overlap hides scheduling and migration overhead behind existing computation. On step-distilled Wan2.2 I2V, \method{} reduces average load imbalance from 1.34 to 1.08 and delivers a $4.41\times$ attention speedup over FlashAttention, while achieving a $2.02$--$2.11\times$ DiT inference speedup with competitive video quality.
• Abstract（参考訳）: ビデオ拡散変換器は長時間の時空間シーケンスを処理し、高解像度ビデオ生成において自己注意が主要なボトルネックとなる。 トレーニング不要のスパースアテンションは、このコストを削減するが、適応的なTop-$$ルーティングは、マルチGPUシーケンス並列性の下で、ヘッド当たりの不均一なワークロードを生成する。 結果として生じるワークロードの不均一性は、まばらな注意をランクレベルのストラグラー問題に変える。 マルチGPUシーケンス並列化下での適応スパースアテンションの分散実行効率を向上させる訓練自由スパースアテンションシステムである \method{} を提案する。 \method{}はTop-$p$ルーティング、Top-$k$セーフティフロア、ビデオ対応ブロック組織をスパースルーのフロントエンドとして使用し、実行時に物質化されたマスクを修復する。 実行時のロードバランシングは、P2P通信を介して少数のヘビーヘッドを移行し、現在のクリティカルパスを短縮する。 Slack-Aware Sparse Augmentationは、余剰な非クリティカルランクのスラックに付加された高値ブロックを埋める一方で、オーバーラップは、既存の計算の背後にあるスケジューリングとマイグレーションのオーバーヘッドを隠蔽する。 Wan2.2 I2Vでは、平均負荷不均衡を1.34から1.08に減らし、FlashAttentionよりも4.41\times$アテンションスピードアップを実現し、競争力のあるビデオ品質で2.02$-2.11\times$ DiT推論スピードアップを達成した。

関連論文リスト

• Fast Enough to Act: Spatio-Temporal Visual Token Merging for Low-Latency Robotic VLMs and VLAs [21.02858354959528]
  視覚言語モデルと視覚言語アクションモデルにより、ロボットには前例のない能力がある。 ビデオや高解像度画像の入力は膨大な数の視覚トークンをもたらし、非常に高い推論遅延をもたらし、ロボットのリアルタイム制御を著しく妨げる。 本稿では,視覚的エンコーディングフェーズにおいて,冗長トークンを直接効率的に融合するプラグイン・アンド・プレイフレームワークST-Mergeを提案する。
  論文  参考訳（メタデータ） (2026-06-28T11:42:55Z)
• PARE: Pruning and Adaptive Routing for Efficient Video Generation [71.54959622788608]
  ビデオ拡散変換器(DiT)は高品質なビデオを生成するが、広いブロック、深いアーキテクチャ、反復的なサンプリングのためにかなりの計算を必要とする。 最近の手法では、幅、深さ、サンプリングのステップを圧縮することでコストを削減するが、通常は個々の入力に適応できない固定されたアーキテクチャにコミットする。 本稿では,構造対応プルーニングと入力適応ルーティングを併用して,幅と深さを共同で圧縮するPAREを提案する。
  論文  参考訳（メタデータ） (2026-05-26T17:43:25Z)
• HASTE: Training-Free Video Diffusion Acceleration via Head-Wise Adaptive Sparse Attention [68.95533683996236]
  トレーニング不要のスパースアテンションは、トレーニングなしで事前トレーニングされたモデルを加速するため、魅力的である。 既存のオンラインのトップ$p$のスパース・アテンションは、マスクの予測に何の費用もかからない。 これら2つの見過ごされた要因は、ビデオDiTにおけるトレーニング不要のスパースアテンションの実践的スピード品質トレードオフを制限していることを示す。
  論文  参考訳（メタデータ） (2026-05-14T07:57:55Z)
• Expert Streaming: Accelerating Low-Batch MoE Inference via Multi-chiplet Architecture and Dynamic Expert Trajectory Scheduling [29.998645673111536]
  Mixture-of-Expertsは、ローバッチ推論を備えたエッジAIの有望なアプローチである。 MoEのスパーシリティと動的ゲーティングシフト 分散戦略は、より微細なランタイムの粒度に向かっている。 Fully Sharded Expert Data Parallelismは、低バッチのMoE計算用に特別に設計された並列化パラダイムである。
  論文  参考訳（メタデータ） (2026-03-29T10:44:55Z)
• Spava: Accelerating Long-Video Understanding via Sequence-Parallelism-aware Approximate Attention [63.69228529380251]
  Spavaはシーケンス並列フレームワークで、ロングビデオ推論に最適化されている。 Spavaは、FlashAttn、ZigZagRing、APBで12.72x、1.70x、1.18xのスピードアップを提供する。
  論文  参考訳（メタデータ） (2026-01-29T09:23:13Z)
• StreamDiffusionV2: A Streaming System for Dynamic and Interactive Video Generation [65.90400162290057]
  生成モデルは、コンテンツの作り方、スタイル、配信方法を再定義することで、ライブストリーミング業界を変革している。 ビデオ拡散の最近の進歩は、オフライン生成のための時間的一貫性とサンプリング効率を著しく改善した。 ライブオンラインストリーミングは厳しいサービスレベル(SLO)の下で動作します。 タイム・ツー・ファーストフレームは最小限でなければなりません。
  論文  参考訳（メタデータ） (2025-11-10T18:51:28Z)
• SLA: Beyond Sparsity in Diffusion Transformers via Fine-Tunable Sparse-Linear Attention [88.47701139980636]
  Diffusion Transformer(DiT)モデルでは、特にビデオ生成において、注意遅延が大きなボトルネックとなっている。 注目重量は2つの部分に分けられる: 高いランクの大型重量のごく一部と、非常に低いランクの残りの重量の2つである。 本稿では,拡散モデルを高速化するために,疎度と直線的注意を融合させる訓練可能な注意法SLAを提案する。
  論文  参考訳（メタデータ） (2025-09-28T17:58:59Z)
• Astraea: A Token-wise Acceleration Framework for Video Diffusion Transformers [29.130090574300635]
  ビデオ拡散変換器(vDiTs)は、テキストからビデオへの生成において大きな進歩を遂げているが、その計算要求は、実用的な展開において大きな課題となっている。 Astraeaは,vDiTをベースとしたビデオ生成の最適に近い構成を,パフォーマンス目標下で検索するフレームワークである。
  論文  参考訳（メタデータ） (2025-06-05T14:41:38Z)
• VORTA: Efficient Video Diffusion via Routing Sparse Attention [54.84294780326206]
  VORTAは2つの新しいコンポーネントを持つアクセラレーションフレームワークである。 VBenchの品質を損なうことなく、エンドツーエンドのスピードアップを$1.76タイムで実現している。 モデルキャッシングやステップ蒸留など、他の様々なアクセラレーション手法とシームレスに統合でき、14.41タイムのスピードアップに到達し、性能劣化を無視できる。
  論文  参考訳（メタデータ） (2025-05-24T17:46:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。