論文の概要: Velox: Spatial Memory Makes World Models Efficient
- arxiv url: http://arxiv.org/abs/2610.22311v1
- Date: Thu, 15 Oct 2026 17:50:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:09:33.24099
- Title: Velox: Spatial Memory Makes World Models Efficient
- Title(参考訳): Velox:空間記憶は世界モデルを効率的にする
- Abstract要約: Veloxは、リージョンレベルのコンテキスト選択のためのトレーニング不要アテンションルータである。
チャンク48で、ベロックスは注意を4.36タイムズ$に加速し、2.43タイムズ$に減らした。
フル158ケースのWBenchナビゲーションスプリットでは、LingBot-Fast-CamのAPIのない平均点0.15に留まっている。
- 参考スコア(独自算出の注目度): 54.59114328524447
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Video world models turn actions and camera motion into long visual rollouts, making video a natural interface for interactive simulation. Such interaction requires responsive generation, yet coherent rollouts must retain visual memory of what has already been generated. Chunked video diffusion models usually keep this context in growing KV caches, so later chunks become progressively slower. To address this bottleneck, we introduce Velox, a training-free attention router for region-level context selection using frustum slab correspondences from streaming geometry. Velox represents historical blocks as camera frustum slabs with depth intervals and obtains current-block depth through recency-priority multiwarp. For well-covered regions, frustum slab overlap softly modulates each layer's model-derived block importance. Uncovered regions retain the model-derived route without geometric bias. The fixed token-block granularity matches FlashAttention-style tiled execution and reduces the attention term that grows with rollout length. Frustum slab construction runs asynchronously with denoising on the same H200. At chunk 48, Velox accelerates attention by $4.36\times$ and denoising by $2.43\times$. On the full 158-case WBench navigation split, it remains within 0.15 API-free average points of dense LingBot-Fast-Cam. Please see our project page at https://velox-world.com/velox/ for more details.
- Abstract(参考訳): ビデオワールドモデルはアクションやカメラの動きを長い視覚的なロールアウトに変え、動画をインタラクティブなシミュレーションの自然なインターフェースにする。
このような相互作用は応答性のある生成を必要とするが、コヒーレントなロールアウトは、すでに生成されたものの視覚記憶を保持する必要がある。
チャンクされたビデオ拡散モデルは通常、このコンテキストをKVキャッシュの成長に保ちます。
このボトルネックに対処するために,ストリーミング幾何学からのフラストラムスラブ対応を用いた領域レベルのコンテキスト選択のためのトレーニング不要アテンションルータであるVeloxを紹介した。
Veloxは、深さ間隔のカメラフラストタルスラブとして歴史的ブロックを表現し、電流優先マルチワープにより電流ブロック深さを得る。
良好な被覆領域では、フラスタムスラブオーバーラップは各層のモデル由来のブロックの重要性をソフトに調節する。
発見されている領域は、幾何学的バイアスなしでモデル由来の経路を保持します。
固定トークンブロックの粒度は、FlashAttentionスタイルのタイル付き実行と一致し、ロールアウトの長さで成長する注目項を減らす。
Frustum slab 構造は非同期に動作し、同一の H200 を denoising する。
チャンク48で、Veloxは注意を4.36\times$に加速し、2.43\times$に減らした。
フル158ケースのWBenchナビゲーションスプリットでは、LingBot-Fast-CamのAPIのない平均点0.15に留まっている。
詳しくはプロジェクトのページをhttps://velox-world.com/velox/でご覧ください。
関連論文リスト
- In-Flight KV Cache with Clean Anchors for Faster Autoregressive Video Diffusion [62.81366599086374]
数ステップの自己回帰ビデオ拡散は、ビデオを時間的チャンクに分割し、チャンク・バイ・チャンクを生成することによって、長いビデオを生成する。
既に生成されたチャンクを記憶するために、以前のメソッドは、クリーンでノイズの少ないキー値(KV)キャッシュを追加のフォワードで再構築し、出力遅延を前進させることなくキャッシュを構築する。
我々は、このキャッシュを直接再利用して、重いキャッシュ更新のみのモデル転送を避けるFlashForwardを紹介します。
論文 参考訳(メタデータ) (2026-09-26T12:19:50Z) - Video DeltaNet: A Video-Native Hybrid Attention for Livestream Video Generation [52.14962478768438]
Video DeltaNet (VDN) は、Softmaxのローカルな注意と、長距離コンテキストビデオのための双方向リニアメモリを組み合わせたものだ。
We instantiate VDN on MiniMax H3, using the hybrid to video-to- video interaction while keeping Softmax。
8段階の蒸留と最適化されたSG供給スタックにより、VDN-H3は14.3秒、768pのビデオを6.70秒でDiTデノイングする。
論文 参考訳(メタデータ) (2026-09-17T17:33:15Z) - Small Vision-Language Models are Smart Compressors for Long Video Understanding [73.65465038390771]
長時間のビデオ理解は、欲求に満ちたコンテキストではなく、意図駆動の効率に頼っている。
本稿では,下流の理解のために長い動画を圧縮する効率的なクエリ認識フレームワークであるTempoを提案する。
テストでは、Tempoが1時間のビデオを理論的限界以下に圧縮し、真のロングフォームビデオ理解が意図駆動の効率に依存することを示した。
論文 参考訳(メタデータ) (2026-04-09T11:40:25Z) - Block Cascading: Training Free Acceleration of Block-Causal Video Models [87.49370566105999]
小さな1.3Bモデルは16FPSしか管理せず、大きな14Bモデルは4.5FPSでクロールする。
Block Cascadingは、トレーニング不要の並列化を通じて、このトレードオフを著しく軽減する。
私たちの重要な洞察は、将来のビデオブロックは、生成を開始するために完全に識別された現在のブロックを必要としないということです。
論文 参考訳(メタデータ) (2025-11-25T15:52:58Z) - VROOM - Visual Reconstruction over Onboard Multiview [0.0]
Vroomはフォーミュラ1のサーキットの3Dモデルを、レースカーのカメラ映像のみを使って再構築するシステムである。
私たちのパイプラインでは、DROID-SLAM、AnyCam、Monst3rといったさまざまなメソッドを分析しています。
Vroomは複雑な環境下でトラックや車両の軌道を部分的に復元できることを示す。
論文 参考訳(メタデータ) (2025-08-24T00:44:46Z) - No Time to Waste: Squeeze Time into Channel for Mobile Video Understanding [38.60950616529459]
我々は,ビデオシーケンスの時間軸をチャネル次元に絞り込み,モバイルビデオ理解のための軽量なビデオ認識ネットワークであるtextitSqueezeTime を提案する。
提案されているSqueezeTimeは、非常に軽量で高速で、モバイルビデオ理解の精度が高い。
論文 参考訳(メタデータ) (2024-05-14T06:32:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。