論文の概要: VisReflect: Latent Visual Reflection for Fine-Grained Perception in Long Visual Context
- arxiv url: http://arxiv.org/abs/2606.30288v1
- Date: Mon, 29 Jun 2026 13:30:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:16.246549
- Title: VisReflect: Latent Visual Reflection for Fine-Grained Perception in Long Visual Context
- Title(参考訳): VisReflect:長期視覚における細粒度知覚のための潜時視覚反射
- Abstract要約: 潜時視覚反射による長い視覚的コンテキストにおけるきめ細かい知覚を改善するフレームワークである**VisReflect*を提案する。
画像ベンチマークでは4.1%,ビデオベンチマークでは1.8%向上した。
ズーム法と比較すると,提案手法は映像理解における推論時間を約44%削減し,比較性能が向上する。
- 参考スコア(独自算出の注目度): 47.466197471764104
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Vision Language Models (LVLMs) have achieved remarkable success on vision-language tasks, yet fine-grained perception over high-resolution images and long-context videos remains challenging. As the number of visual tokens increases, the visual attention sink phenomenon becomes increasingly severe, causing irrelevant tokens to absorb a disproportionate amount of attention mass. Recent approaches attempt to mitigate this issue by explicitly predicting bounding boxes or temporal spans and re-encoding the cropped visual regions. Such methods depend on unreliable numeric localization in the discrete token space and incur significant computational overhead due to additional forward passes. In this work, we propose **VisReflect**, a simple yet effective framework that improves fine-grained perception in long visual contexts through latent visual reflection. Instead of decoding intermediate predictions into discrete tokens, the model generates continuous visual reflection that represents question-relevant visual features in the latent space. These reflections selectively emphasize salient regions or frames, guiding attention towards relevant visual tokens within a single forward pass. We conduct comprehensive evaluations on challenging high-resolution image benchmarks, including BLINK, V*, and HRBench-4K/8K, as well as video understanding benchmarks such as MVBench, VideoMME, and MLVU. Our method consistently improves over strong baselines, achieving gains of 4.1% on image benchmarks and 1.8% on video benchmarks. Compared with zooming-based methods, our model achieves comparable performance while reducing inference time by roughly 44% on video understanding.
- Abstract(参考訳): LVLM(Large Vision Language Models)は、視覚言語タスクにおいて顕著な成功を収めているが、高解像度の画像や長文ビデオに対する微妙な認識は依然として困難である。
視覚的なトークンの数が増加するにつれて、視覚的な注意シンク現象はますます深刻になり、無関係なトークンは不均等な量の注意質量を吸収する。
最近のアプローチでは、境界ボックスや時間スパンを明示的に予測し、収穫した視覚領域を再エンコードすることでこの問題を緩和しようとしている。
このような手法は離散トークン空間における信頼できない数値の局所化に依存し、追加のフォワードパスによる計算オーバーヘッドを生じさせる。
本研究は, 視覚的長期的文脈における微妙な知覚を潜時反射によって改善する, シンプルで効果的なフレームワークである*VisReflect*を提案する。
中間予測を離散トークンに復号する代わりに、モデルは潜在空間における疑問関連視覚特徴を表す連続的な視覚反射を生成する。
これらの反射は静かな領域やフレームを選択的に強調し、単一の前方通過内で関連する視覚的トークンに注意を向ける。
BLINK, V*, HRBench-4K/8K, MVBench, VideoMME, MLVUなどの高精細画像の総合評価を行った。
画像ベンチマークでは4.1%,ビデオベンチマークでは1.8%向上した。
ズーム法と比較すると,提案手法は映像理解における推論時間を約44%削減し,比較性能が向上する。
関連論文リスト
- LASER: A Corrective Lens for LVLMs via Visual Attention Preservation and Sink Suppression [50.454633334898396]
大規模視覚言語モデル(LVLM)は、強い推論能力を示すが、長い水平デコーディング中に視覚的忘れを被る。
本稿では,推論中の視覚的注意軌跡と視覚的トークン内注意分布を制御した後学習フレームワークLASERを提案する。
8つのベンチマークデータセットの実験は、LASERが強いベースラインを一貫して上回っていることを示している。
論文 参考訳(メタデータ) (2026-07-02T04:59:56Z) - Learning to See What You Need: Gaze Attention for Multimodal Large Language Models [96.20985292033465]
本稿では,世代別タスク関連視覚領域へのMLLMの選択的参加を可能にする新しいメカニズムであるGaze Attentionを紹介する。
注意計算では、視線KVエントリが最大90%少ないのに対して、視線アテンションは高密度アテンションベースラインと一致または超過していることが示される。
論文 参考訳(メタデータ) (2026-05-13T06:54:09Z) - Sparrow: Text-Anchored Window Attention with Visual-Semantic Glimpsing for Speculative Decoding in Video LLMs [28.766303423132722]
Video Large Language Models (Vid-LLMs) は通常、キーバリューキャッシュの爆発とコンテキストウィンドウのミスマッチによる注意の希釈と負の視覚的利得の罠に陥る。
本研究では,まず,隠れ状態の再利用によって視覚的に認識可能なウィンドウアテンションを利用して,視覚的計算を対象モデルに完全にオフロードするSparrowフレームワークを提案する。
実験の結果,25kの視覚トークンでも平均2.82倍のスピードアップを実現し,長いシーケンスでの性能劣化を効果的に解消できることがわかった。
論文 参考訳(メタデータ) (2026-02-17T02:51:36Z) - VideoAnchor: Reinforcing Subspace-Structured Visual Cues for Coherent Visual-Spatial Reasoning [69.64660280965971]
VideoAnchorは、サブスペース親和性を活用してフレーム間の視覚的手がかりを強化するプラグイン・アンド・プレイモジュールである。
InternVL2-8BとQ2.5VL-72Bのベンチマークで一貫した性能向上を示した。
私たちのコードはhttps://github.com/feufhd/VideoAnchor.comで公開されます。
論文 参考訳(メタデータ) (2025-09-29T17:54:04Z) - Autoregressive Semantic Visual Reconstruction Helps VLMs Understand Better [44.15671594378141]
自動回帰視覚再構成(ASVR)を導入し,統合された自己回帰フレームワーク内での視覚的・テキスト的モダリティの同時学習を実現する。
ASVRは14のマルチモーダルベンチマークの平均スコアでLLaVA-1.5を5%改善する。
論文 参考訳(メタデータ) (2025-06-10T17:57:50Z) - TokBench: Evaluating Your Visual Tokenizer before Visual Generation [75.38270351179018]
さまざまな画像トークンやVAEに対して,テキストと顔の復元品質をさまざまな尺度で分析する。
以上の結果から, 現代の視覚トークン化器は, 特に小規模では, 細粒度保存に苦慮していることが明らかとなった。
論文 参考訳(メタデータ) (2025-05-23T17:52:16Z) - MINT: Mitigating Hallucinations in Large Vision-Language Models via Token Reduction [6.416957959150438]
幻覚は、高い信頼性を必要とする領域におけるLVLM(Large Vision-Language Models)の適用を妨げる。
tokeN再帰による幻覚を緩和する訓練不要な復号法であるMINTを提案する。
提案手法は,従来のモデルに比べて知覚障害による幻覚の緩和効果が4%向上する。
論文 参考訳(メタデータ) (2025-02-02T08:34:57Z) - VideoLLM-MoD: Efficient Video-Language Streaming with Mixture-of-Depths Vision Computation [66.00245701441547]
我々は、視覚トークンの数を減らさずに、冗長な視覚トークンを「スキップ層」として活用することで、視覚計算を減らし、新しいアプローチを導入する。
提案手法であるVideoLLM-MoDは深度混合LLMにインスパイアされ,長期・ストリーミングビデオにおける多数の視覚トークンの課題に対処する。
論文 参考訳(メタデータ) (2024-08-29T17:21:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。