論文の概要: FoveaTree: Information-Density Trees for Query-Guided Visual Token Pruning in Video Large Language Models

• arxiv url: http://arxiv.org/abs/2610.16744v1
• Date: Mon, 12 Oct 2026 13:11:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-18 21:40:52.097986
• Title: FoveaTree: Information-Density Trees for Query-Guided Visual Token Pruning in Video Large Language Models
• Title（参考訳）: FoveaTree:ビデオ大言語モデルにおけるクエリガイド型ビジュアルトーケンプルーニングのための情報密度木
• Abstract要約: 本稿では,FoveaTreeを提案する。 InternVL3.5-8BとQwen3-VL-8BのFoveaTreeを5つのビデオ質問回答ベンチマークと1つのキャプションベンチマークで50%,30%,10%の視覚的保持率で評価した。
• 参考スコア（独自算出の注目度）: 25.916091021332065
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Video large language models (Video LLMs) encode each frame into hundreds of visual tokens, making video inference expensive. Existing methods reduce this cost through similarity-based merging or attention-based selection but face two challenges: Hierarchy-blind Pruning, which overlooks regional compressibility and can discard critical evidence, and Attention Drift, where positional effects and attention sinks shift text-to-vision attention away from task relevance. We propose FoveaTree, a two-stage, training-free visual-token pruning framework. First, Merge-Gain Density Estimation measures the feature distortion caused by regional merging and constructs a quadtree-derived density map to guide token dropping, merging, and retention. Second, Attention Tree Pruning uses the surviving units and inherited tree topology to refine text-to-vision attention in intermediate LLM layers, preserving relevant regional evidence while removing low-relevance content. We evaluate FoveaTree on InternVL3.5-8B and Qwen3-VL-8B across five video question-answering benchmarks and one captioning benchmark at 50%, 30%, and 10% visual-token retention. FoveaTree consistently achieves overall state-of-the-art performance across the evaluated settings, offering a strong accuracy-efficiency trade-off.
• Abstract（参考訳）: ビデオ大言語モデル(ビデオLLM)は、各フレームを数百の視覚トークンにエンコードし、ビデオ推論を高価にする。 既存の手法では、類似性に基づくマージや注意に基づく選択によってコストを削減しているが、地域的な圧縮性を見落とし、批判的証拠を排除できる階層的ブラインド・プルーニング(Hierarchy-blind Pruning)と、位置効果と注意シンクがタスク関連性からテキストから視覚的注意を遠ざけるアテンション・ドリフト(Atention Drift)という2つの課題に直面している。 本稿では,FoveaTreeを提案する。 まず, マージゲイン密度推定法を用いて, 局所的なマージによる特徴歪みを測定し, トークンのドロップ, マージ, 保持を導くクワッドツリー由来の密度マップを構築した。 第二に、アテンション・ツリー・プルーニングは生き残ったユニットと継承されたツリー・トポロジーを使用して、中間LCM層におけるテキスト・ツー・ビジョンの注意を洗練し、低関連コンテンツを取り除きながら関連する地域証拠を保存する。 InternVL3.5-8BとQwen3-VL-8BのFoveaTreeを5つのビデオ質問回答ベンチマークと1つのキャプションベンチマークで50%,30%,10%の視覚的保持率で評価した。 FoveaTreeは評価された設定全体にわたって一貫して最先端のパフォーマンスを達成し、高い精度と効率のトレードオフを提供します。

関連論文リスト

• Focus-Scan-Refine: From Human Visual Perception to Efficient Visual Token Pruning [78.75062483648243]
  視覚言語モデル(VLM)は、しばしば大量の視覚トークンを生成し、推論遅延とメモリフットプリントを大幅に増加させる。 視覚的質問に対して人間がどのように答えるかを模倣する,人間にインスパイアされたプラグアンドプレイプルーニングフレームワークであるFSRを提案する。 FSRは、既存の最先端プルーニング法よりも精度と効率のトレードオフを一貫して改善する。
  論文  参考訳（メタデータ） (2026-02-05T16:02:48Z)
• Fast Inference of Visual Autoregressive Model with Adjacency-Adaptive Dynamical Draft Trees [50.230925890958936]
  本稿では,隣接するトークン状態と先行受入率を活用することで,ドラフトツリーの深さと幅を調整できる適応型動的ドラフトツリーを提案する。 ADT-Treeは、それぞれ3.13xと3.05xのスピードアップを実現し、LANTERNのような緩やかなサンプリング手法とシームレスに統合する。
  論文  参考訳（メタデータ） (2025-12-26T04:45:49Z)
• Traceable Evidence Enhanced Visual Grounded Reasoning: Evaluation and Methodology [87.65242416688146]
  TreeBenchは、ビジュアルグラウンド推論の診断ベンチマークである。 TreeVGRは、強化学習と共同でローカライゼーションと推論を監督する訓練パラダイムである。
  論文  参考訳（メタデータ） (2025-07-10T17:59:58Z)
• VideoTree: Adaptive Tree-based Video Representation for LLM Reasoning on Long Videos [67.78336281317347]
  長文理解は,ビデオデータの冗長度が高く,クエリ非関連情報の豊富さによって複雑になる。 我々は,LLM推論のためのクエリ適応的かつ階層的なビデオ表現を構築する,トレーニング不要なフレームワークであるVideoTreeを提案する。
  論文  参考訳（メタデータ） (2024-05-29T15:49:09Z)
• TreeFormer: a Semi-Supervised Transformer-based Framework for Tree Counting from a Single High Resolution Image [6.789370732159176]
  単一空中・衛星画像を用いた木密度推定と推定は,光度測定とリモートセンシングにおいて難しい課題である。 リモートセンシング画像に対する高価なツリーアノテーションを低減させる,ツリーカウントのための最初の半教師付きトランスフォーマーベースのフレームワークを提案する。 我々のモデルは、JiosuとYosemiteという2つのベンチマークツリーカウントデータセットと、彼ら自身が作成した新しいデータセットKCL-Londonで評価された。
  論文  参考訳（メタデータ） (2023-07-12T12:19:36Z)
• Hypotheses Tree Building for One-Shot Temporal Sentence Localization [53.82714065005299]
  ワンショット時間文のローカライゼーション(ワンショットTSL)は、1つの注釈付きフレームだけでビデオ全体のクエリ情報を取得することを学習する。 我々はMHST(Multiple hypotheses Segment Tree)と呼ばれるワンショットTSLのための有効で斬新な木構造ベースラインを提案する。 MHSTは、不十分なアノテーションの下で、クエリ対応の識別フレーム情報をキャプチャする。
  論文  参考訳（メタデータ） (2023-01-05T01:50:43Z)
• Crown-CAM: Interpretable Visual Explanations for Tree Crown Detection in Aerial Images [7.682800716763564]
  樹冠検出のための解釈可能なクラスアクティベーションマッピング(Crown-CAM)を提案する。 従来の手法の非正確な局所化と計算複雑性を克服する。 空中画像における樹冠検出の困難かつ動的問題に対する信頼性の高い視覚的説明を生成する。
  論文  参考訳（メタデータ） (2022-11-23T17:01:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。