論文の概要: Attn-Forcing: Learning Full-Context Attention Proxies for Streaming Video Generation

• arxiv url: http://arxiv.org/abs/2610.30036v1
• Date: Wed, 21 Oct 2026 16:59:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.418369
• Title: Attn-Forcing: Learning Full-Context Attention Proxies for Streaming Video Generation
• Title（参考訳）: Attn-Forcing:ストリーミングビデオ生成のためのフルコンテキストアテンションプロキシの学習
• Abstract要約: 本稿では,境界メモリおよび計算条件下でのストリーミングビデオ生成に対して,フルコンテキストアテンションのコントリビューションを保持するフレームワークであるAttn-Forcingを紹介する。 我々は、歴史的文脈によって引き起こされた注意応答を連続的に近似する注意プロキシを実装した。 また,学習したプロキシの注意行動を明示的に制約するアテンションマッチング損失を提案する。
• 参考スコア（独自算出の注目度）: 39.76187174717426
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Increasing the attention context length significantly improves streaming video generation quality, while incurring prohibitive memory and computational costs as the context grows. Existing methods attempt to capture this contextual information through attention selection or compression, but remain limited by bounded representations and lack explicit attention-level supervision to retain historical contributions to current queries. To address this, we introduce Attn-Forcing, a novel framework that preserves full-context attention contributions for streaming video generation under bounded memory and computation. We achieve this by introducing attention proxies that continuously approximate the attention responses induced by the historical context. Specifically, we implement the proxies as learnable visual latents and employ a Proxy Update Module to incorporate visual context from historical latents. Moreover, we propose an Attention Matching Loss to explicitly constrain the attention behavior of the learned proxies using full-context attention supervision. Extensive qualitative and quantitative experiments demonstrate that Attn-Forcing consistently improves streaming video generation quality and achieves state-of-the-art performance over existing baseline methods.
• Abstract（参考訳）: 注目コンテキスト長の増大は、コンテキストが大きくなるにつれて、禁止メモリと計算コストが増大する一方で、ストリーミングビデオ生成品質を著しく向上させる。 既存の手法では、このコンテキスト情報を注目の選択や圧縮を通じて捉えようとするが、境界表現によって制限され、現在のクエリに対する歴史的貢献を維持するための明確な注意レベルの監督が欠如している。 そこで本研究では,境界メモリおよび計算条件下でのストリーミングビデオ生成に対して,フルコンテキストアテンションのコントリビューションを保持する新しいフレームワークであるAttn-Forcingを紹介する。 歴史的文脈によって引き起こされる注意応答を連続的に近似する注意プロキシを導入することでこれを実現できる。 具体的には、これらのプロキシを学習可能な視覚的潜伏語として実装し、歴史的潜伏語からの視覚的コンテキストを組み込むためにプロキシ更新モジュールを使用する。 さらに,本論文では,学習したプロキシの注意行動を,フルコンテクスト・アテンション・インスペクションを用いて明示的に抑制するアテンションマッチング・ロスを提案する。 大規模定性的および定量的実験により、Attn-Forcingはストリーミングビデオ生成の品質を一貫して改善し、既存のベースライン法よりも最先端のパフォーマンスを実現する。

関連論文リスト

• VIS-Ground: Video Interactive Storytelling with Contextual Grounding [65.05595690379268]
  我々は、不均一な入力コンテキストをビデオ生成のための実行可能な制約モデルに変換するプロセスとしてコンテキストグラウンドを導入する。 VIS-Groundは最高総合スコアを一貫して達成し、バックボーン毎のベースラインよりも平均10.3ポイント向上した。
  論文  参考訳（メタデータ） (2026-10-07T02:31:32Z)
• StreamFlow: Dynamic Memory Flows for Streaming Video Understanding [65.10324190760602]
  StreamFlowは、歴史的視覚情報への動的なオンデマンドアクセスを可能にする効率的なビジュアルメモリフレームワークである。 最先端のストリーミングビデオ理解性能を達成し、StreamingBenchの全体的な精度は67.73%に達した。 バニラ設定とは対照的に、視覚的注意スコア(VAS)を59.1%改善し、それぞれエンドツーエンドのレイテンシとピークメモリを50.4%、21.1%削減した。
  論文  参考訳（メタデータ） (2026-08-11T14:19:03Z)
• StreamAgent: Towards Anticipatory Agents for Streaming Video Understanding [52.55809460075286]
  本稿では,今後のタスク関連情報を含むと思われる時間間隔と空間領域を予測できるStreamAgentを提案する。 我々は,重要な出来事の時間的進行を予測するために,予測エージェントに期待を促すことによって,質問の意味論と歴史的観察を統合する。 提案手法は,応答精度とリアルタイム効率において既存の手法よりも優れており,実世界のストリーミングシナリオの実用的価値を強調している。
  論文  参考訳（メタデータ） (2025-08-03T18:15:42Z)
• HAtt-Flow: Hierarchical Attention-Flow Mechanism for Group Activity Scene Graph Generation in Videos [8.10024991952397]
  Group Activity Scene Graph (GASG) の生成は、コンピュータビジョンにおいて難しい課題である。 我々は,JRDBデータセットを拡張したGASGデータセットを,textitAppearance, Interaction, position, Relationship, situation属性を含むニュアンスなアノテーションで導入する。 我々はまた,GASG性能を向上させるために,フローネットワーク理論に根ざした革新的アプローチである textbfHierarchical textbfAttention-textbfFlow (HAtt-Flow) 機構を導入する。
  論文  参考訳（メタデータ） (2023-11-28T16:04:54Z)
• Attention in Attention: Modeling Context Correlation for Efficient Video Classification [47.938500236792244]
  本稿では,注目度向上のためのAIA手法を提案する。 ビデオ特徴コンテキストを,グローバル平均およびプール操作を伴う特定の軸に沿って集約されたダイナミックスとしてインスタンス化する。 注意ユニット内の全ての計算処理は、プール化された次元に作用し、計算コストの増大は極めて少ない。
  論文  参考訳（メタデータ） (2022-04-20T08:37:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。