論文の概要: Position Rebinding Cache Reuse: Replay-Free Visual Revisiting for Interleaved Multimodal Reasoning
- arxiv url: http://arxiv.org/abs/2606.26631v1
- Date: Thu, 25 Jun 2026 05:47:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 18:46:32.182101
- Title: Position Rebinding Cache Reuse: Replay-Free Visual Revisiting for Interleaved Multimodal Reasoning
- Title(参考訳): 位置リバインドキャッシュ再使用: インターリーブマルチモーダル推論のための再生不要なビジュアル再検討
- Abstract要約: マルチモーダル推論は、マルチステップ生成中に視覚的証拠を再考することによって、視覚的接地を改善する。
再生不要な視覚的再考のためのキャッシュレベルフレームワークであるPlace Rebinding Cache Reuse (PRCR)を提案する。
PRCRはリプレイレベルまたはパフォーマンスの向上を実現し、平均精度を5%向上し、視覚的再考を最大数万倍削減する。
- 参考スコア(独自算出の注目度): 51.563653495547335
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Interleaved multimodal reasoning improves visual grounding by revisiting visual evidence during multi-step generation, yet existing methods typically rely on token replay, repeatedly forwarding selected visual tokens. A natural shortcut is to reuse the historical visual key-value (KV) cache directly. However, we identify a critical failure mode of this strategy: cached visual keys are already bound to their original positional context. Such stale positional binding distorts attention under later decoding contexts and can trigger severe autoregressive decoding collapse. This failure suggests that effective cache reuse requires reconstructing visual evidence under positions compatible with the current decoding state, rather than directly copying position-bound historical cache entries. To this end, we propose Position Rebinding Cache Reuse (PRCR), a cache-level framework for replay-free visual revisiting. PRCR stores raw visual KV cache together with their original spatial coordinates, then reassigns position-compatible coordinates to select entries and rebinds their keys before injecting the reconstructed cache into the active decoder cache. This design reuses historical visual evidence while preserving textual positional continuity and relative visual structure. Experiments across multiple multimodal reasoning benchmarks show that PRCR achieves replay-level or better performance, improving average accuracy by 5 percent and reducing visual-revisiting computation by up to tens of thousands of times.
- Abstract(参考訳): インターリーブされたマルチモーダル推論は、マルチステップ生成中に視覚的エビデンスを再考することによって視覚的グラウンドを改善するが、既存の手法は通常トークンの再生に依存し、選択された視覚的トークンを何度も転送する。
自然なショートカットは、歴史的ビジュアルキー値(KV)キャッシュを直接再利用することである。
しかし、我々はこの戦略の重要な失敗モードを特定している。キャッシュされたビジュアルキーは、既に元の位置コンテキストに結びついている。
このような固定位置結合は、後続のデコードコンテキスト下での注意を歪め、重度の自己回帰的デコード崩壊を引き起こす可能性がある。
この失敗は、効果的なキャッシュ再利用は、位置境界の履歴キャッシュエントリを直接コピーするのではなく、現在の復号状態と互換性のある位置下で視覚的エビデンスを再構築する必要があることを示唆している。
この目的のために,リプレイフリーな視覚的再考のためのキャッシュレベルフレームワークであるPlace Rebinding Cache Reuse (PRCR)を提案する。
PRCRは、元の空間座標と共に生の視覚的KVキャッシュを格納し、次に位置互換座標を割り当ててエントリを選択し、再構成されたキャッシュをアクティブデコーダキャッシュに注入する前にキーを再結合する。
この設計は、テキストの位置連続性と相対的な視覚構造を保持しながら、歴史的視覚的証拠を再利用する。
複数のマルチモーダル推論ベンチマークによる実験により、PRCRはリプレイレベルまたはより良いパフォーマンスを実現し、平均精度を5%改善し、視覚的再考計算を最大数万倍削減した。
関連論文リスト
- LayerRecall: A State-Conditioned Memory Router for Long-Horizon Consistency in Video Generation [22.878882105342182]
自己回帰ビデオ拡散は、境界付けられた最近の文脈からチャンクを生成する。
頻度ベースのキャッシュは、被写体、オブジェクト、シーン、または属性が再び現れるときに必要となる歴史的手がかりを排除します。
LayerRecallは関連するK/V状態を取得し、バックボーン固有のメモリ依存レイヤにのみ注入する。
論文 参考訳(メタデータ) (2026-08-28T15:49:13Z) - ReCache: Efficient KV Cache Reuse and Compression for Tool-Augmented LLM Agents [7.368551130048085]
textbfReCacheは、リソース表現を独立してキャッシュするためのフレームワークである。
7つの公開ツールとスキルユースデータセットから収集したベンチマークでReCacheを評価した。
論文 参考訳(メタデータ) (2026-08-20T05:57:24Z) - Addressable Memory for Video World Models [50.40232922140905]
インタラクティブなビデオワールドモデルにおける視覚的永続性について研究する。
長時間の視覚的永続性のためのトレーニング不要なメモリフレームワーク WorldTrace を提案する。
論文 参考訳(メタデータ) (2026-08-07T16:55:57Z) - Back from the Future: Key-Value Cache Management by Counter-Causal Surprise [67.1056509495879]
近年,キーバリュー(KV)キャッシュ管理が重要な研究方向として注目されている。
より最近のトークンからよく予測できる過去のトークンは冗長である,という洞察に動機づけられた,単純かつ効果的なKV消去スキームを提案する。
我々は,他の最先端手法と比較して,競争力や性能向上を示す各種オープンソースLCMとベンチマークデータセットについて,我々の戦略を評価した。
論文 参考訳(メタデータ) (2026-07-30T02:42:51Z) - Latent Visual Cache for Video Reasoning [64.44259870076141]
我々は,遅延ビデオキャッシュ(Latent-VC)を導入し,遅延ビデオキャッシュをデコーダに挿入し,推論を通してコンパクトな視覚記憶を維持する。
Latent-VCは、6つのビデオベンチマークでCoTとSFT+ GRPOのベースラインを一貫して上回っている。
また、かなり短い応答で高い精度を達成する。
論文 参考訳(メタデータ) (2026-07-01T13:51:02Z) - Kamera: Unified Position-Invariant Multimodal KV Cache for Training-Free Reuse [1.081571058570587]
マルチモーダルエージェントは、同じビデオフレーム、UIスクリーンショット、アーティファクトをコンテキストウィンドウスライドとして再検査する。
この再計算は回避可能であることを示すとともに,KV再利用が損なうものを特定する。
したがって、ブラインドはシングルホップのリコールをそのまま残し、マルチホップの精度を半減させる。
トレーニング不要な低ランク条件パッチを各位置のないチャンクに格納して修復する。
論文 参考訳(メタデータ) (2026-06-22T16:47:00Z) - FadeMem: Distance-Aware Memory Consolidation for Autoregressive Video Diffusion [59.207505503284715]
FadeMemは、歴史的なKVブロックを固定キャッシュ予算の下で時間階層に整理する。
新しい歴史はきめ細かいエントリとして挿入され、古い隣のエントリは徐々にマージされる。
実験では、既存の有界キャッシュ戦略よりも、被験者の一貫性、背景安定性、時間的コヒーレンスが改善された。
論文 参考訳(メタデータ) (2026-06-09T10:22:18Z) - Echo-Memory: A Controlled Study of Memory in Action World Models [58.77172260403133]
本研究では,行動条件付き世界モデルにおける記憶機構の制御に関する研究を行う。
既存のメモリ設計と比較するのは難しいのは、ゲインにはバックボーン、トレーニング、検索、評価の違いが絡み合っているからである。
我々はEcho-Memoryを使ってアクション・ツー・ビデオのインタフェースを修正し、生成元によって履歴が保存され読み込まれるかだけを変える。
論文 参考訳(メタデータ) (2026-06-08T17:54:10Z) - CoRDS: Coreset-based Representative and Diverse Selection for Streaming Video Understanding [30.287018710590257]
大規模な視覚言語モデル(VLM)によるビデオ理解のストリーミングには、成長を続ける視覚履歴に対する将来の推論をサポートするためのコンパクトなメモリが必要である。
一般的な解決策はキー値(KV)キャッシュを圧縮することだが、既存のストリーミングメソッドは通常、ローカルトークンに頼っている。
我々は,KV-cache圧縮を,保持のために独立にトークンをスコアリングするのではなく,コアセット選択問題とみなす。
論文 参考訳(メタデータ) (2026-05-14T03:22:30Z) - Decouple and Cache: KV Cache Construction for Streaming Video Understanding [53.55135022958052]
ストリーミングビデオ理解には、限られたメモリと計算量で無制限のビデオストリームを処理する必要がある。
トレーニング不要なキャッシュ構築機構であるDecoupled Streaming Cache(DSCache)を提案する。
Streaming Video QAベンチマークの実験では、DSCacheの最先端のパフォーマンスが実証され、従来の手法よりも平均2.5%精度が向上した。
論文 参考訳(メタデータ) (2026-05-03T13:02:44Z) - Sparse Prefix Caching for Hybrid and Recurrent LLM Serving [0.7284556903703034]
重なり合う深さの分布の下で,スパースプレフィックスキャッシングをチェックポイント配置として定式化する。
リクエストが非自明なプレフィックスを共有する場合、実世界のデータ上で標準非対称性によって追跡されるフロンティアを一貫して改善することを示す。
正確な出力を保持し、リカレント計算自体を変更したり、新しいリカレント更新カーネルを必要としたりしない。
論文 参考訳(メタデータ) (2026-04-17T09:24:58Z) - PackCache: A Training-Free Acceleration Method for Unified Autoregressive Video Generation via Compact KV-Cache [61.57938553036056]
トレーニング不要なKVキャッシュ管理手法であるPackCacheを導入し,KVキャッシュを3つの協調機構でコンパクト化する。
効率の面では、PackCacheは48フレームの長いシーケンスで1.7-2.2倍のエンドツーエンド生成を高速化する。
論文 参考訳(メタデータ) (2026-01-07T19:51:06Z) - Advancing Cache-Based Few-Shot Classification via Patch-Driven Relational Gated Graph Attention [3.4693817403659515]
限られた監督下では、画像の分類は困難である。
最近のキャッシュベースの適応アプローチ(例えば、Tip-Adapter)は、この課題をある程度解決している。
画像内パッチ依存関係からキャッシュアダプタ重みを学習する,パッチ駆動リレーショナルリレーショナルリフレクションを導入する。
論文 参考訳(メタデータ) (2025-12-13T23:53:00Z) - KV Cache Recycling to Expand Usable Context Capacity in Low Parameter LLMs [2.261486598306908]
我々は過去のアクティベーションのキャッシュを構築し、文の埋め込みによってエントリを取得し、キャッシュされたプロンプトが新しい入力の正確なプレフィックスであるときに過去のキー値を再利用する。
リサイクルとベースラインの実行をレイテンシと出力の忠実度で比較し、トークンの再利用深度をログ化する。
テストでは、プレフィックスオーバーラップが存在する場合、出力セマンティクスの材料劣化がなく、オーバーラップがない場合、一貫したスピードアップを観察する。
論文 参考訳(メタデータ) (2025-12-04T17:04:43Z) - Efficient Inference of Vision Instruction-Following Models with Elastic Cache [76.44955111634545]
我々は,命令追従型大規模視覚言語モデルの効率的なデプロイのための新しい戦略であるElastic Cacheを紹介する。
本稿では,冗長キャッシュを具現化する重要なキャッシュマージ戦略を提案する。
命令符号化では,キャッシュの重要性を評価するために周波数を利用する。
様々なLVLMの結果は、Elastic Cacheが効率を向上するだけでなく、言語生成における既存のプルーニングメソッドよりも優れていることを示している。
論文 参考訳(メタデータ) (2024-07-25T15:29:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。