論文の概要: SEER: Long-Context Reasoning via Selective Visual-Text Compression
- arxiv url: http://arxiv.org/abs/2608.15962v1
- Date: Sun, 16 Aug 2026 23:30:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.480952
- Title: SEER: Long-Context Reasoning via Selective Visual-Text Compression
- Title(参考訳): SEER:選択的なビジュアルテキスト圧縮によるLong-Context Reasoning
- Abstract要約: 視覚的スキャンによってクエリ関連画像の選択を学習し,必要な場合にのみテキストコンテンツを検索するフレームワークであるSEERを提案する。
ロングベンチでは、SEERは51.11%の平均精度を達成し、視覚テキストベースラインのGlyph-9Bを2.33ポイント、Qwen3-8Bを3.49ポイント上回る。
- 参考スコア(独自算出の注目度): 34.52413671245954
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Long-context reasoning remains computationally expensive for large language models due to the quadratic complexity of attention over text tokens. Visual-text compression offers a promising alternative by rendering text into images and processing them with vision-language models, often reducing token usage. However, existing approaches apply uniform compression regardless of query relevance, potentially sacrificing precision where detailed extraction is required. We present SEER, a framework that learns to select query-relevant images through visual scanning and retrieve textual content only where needed, combining the efficiency of visual compression with the precision of text-based reasoning. Through supervised fine-tuning on tool-interaction trajectories, SEER learns adaptive tool invocation for selection and retrieval. Experiments on long-context benchmarks show that SEER improves extraction precision through selective text retrieval while retaining average prompt-token savings relative to full-text baselines. On LongBench, SEER achieves 51.11% average accuracy, outperforming the visual-text baseline Glyph-9B by 2.33 points and Qwen3-8B by 3.49 points. Code can be accessed at https://github.com/jiaweixu98/SEER
- Abstract(参考訳): 長文推論は、テキストトークンに対する注意の二次的な複雑さのため、大きな言語モデルでは計算コストがかかるままである。
ビジュアルテキスト圧縮は、画像にテキストをレンダリングし、それを視覚言語モデルで処理することで、有望な代替手段を提供する。
しかし,既存手法ではクエリの関連性に関係なく一様圧縮を適用しており,詳細な抽出が必要な場合の精度を犠牲にする可能性がある。
視覚的スキャンによりクエリ関連画像の選択を学習し,必要な場合にのみテキストコンテンツを検索し,視覚的圧縮の効率とテキストベースの推論の精度を併用するフレームワークSEERを提案する。
ツール・インタラクション・トラジェクトリの教師付き微調整を通じて、SEERは、選択と検索のための適応ツール呼び出しを学ぶ。
長文ベンチマーク実験の結果,SEERは選択テキスト検索により抽出精度を向上し,全文ベースラインに対して平均的なプロンプト・トケ・セーブを維持できることがわかった。
ロングベンチでは、SEERは51.11%の平均精度を達成し、視覚テキストベースラインのGlyph-9Bを2.33ポイント、Qwen3-8Bを3.49ポイント上回る。
コードはhttps://github.com/jiaweixu98/SEERでアクセスすることができる。
関連論文リスト
- Same Semantics, Different Paths: Self-Improving Alignment for Vision-Text Compression [7.944386069136441]
Vision-Text Compression (VTC)は、長いテキストを画像にレンダリングし、視覚エンコーダ(ViT)を介してエンコードする。
ViTは言語意味論よりも視覚的属性(グリフ、フォントサイズ、レイアウト)をキャプチャし、描画イメージ表現をネイティブテキスト表現から分離させる。
我々は、モデル自身のテキストパス動作のみを監督として使用することで、このギャップを埋める自己教師付きアライメントフレームワークであるSPIRALを提案する。
論文 参考訳(メタデータ) (2026-08-03T12:08:56Z) - PIXELRAG: Web Screenshots Beat Text for Retrieval-Augmented Generation [70.26672362704758]
我々は,Webサイトを視覚的に表現する新しい検索拡張手法であるPixelRAGを紹介する。
PixelRAGはこの形式で完全なウィキペディアコーパス上で動作する最初のパイプラインである。
非検索とテキストベースのRAGベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-06-01T23:20:51Z) - LensVLM: Selective Context Expansion for Compressed Visual Representation of Text [43.63292785228071]
視覚言語モデル(VLM)はテキストをレンダリング画像として処理することができ、テキストのトークン化の必要性を回避できる。
提案するLensVLMは,VLMが圧縮された画像をスキャンし,関連する画像のみを選択的に拡張することのできる,推論フレームワークと学習後レシピである。
Qwen3.5-9Bベース上に構築されたLensVLMは、4.3倍の効率な圧縮でフルテキスト上界に匹敵する精度を維持している。
LensVLMはマルチモーダル文書やコード理解タスクにも一般化されており、圧縮が増加するにつれてベースラインよりも精度が向上する。
論文 参考訳(メタデータ) (2026-05-07T23:03:21Z) - TextGuider: Training-Free Guidance for Text Rendering via Attention Alignment [68.91073792449201]
そこで本研究では,テキストの正確かつ完全な出現を促すトレーニング不要な方法であるTextGuiderを提案する。
具体的には,多モード拡散変換器(MM-DiT)モデルにおける注意パターンを解析し,特に画像に描画することを意図したテキスト関連トークンについて検討する。
テスト時間テキストレンダリングでは,OCR精度とCLIPスコアが大幅に向上し,高い結果が得られた。
論文 参考訳(メタデータ) (2025-12-10T06:18:30Z) - Glyph: Scaling Context Windows via Visual-Text Compression [91.20717058018745]
Glyphは、長いテキストを画像にレンダリングし、視覚言語モデルで処理するフレームワークである。
提案手法は,従来の長文モデルに匹敵する精度を維持しつつ,3~4倍のトークン圧縮を実現する。
極端な圧縮では、128KテキストのVLMが1Mレベルのテキストタスクにスケールできる。
論文 参考訳(メタデータ) (2025-10-20T17:58:56Z) - GoMatching++: Parameter- and Data-Efficient Arbitrary-Shaped Video Text Spotting and Benchmarking [77.0306273129475]
ビデオテキストスポッティング(VTS)は、テキストトラッキングを追加することで、画像テキストスポッティング(ITS)を拡張する。
VTSの進歩にもかかわらず、既存のメソッドはまだITSで見られるパフォーマンスに劣っている。
GoMatching++は、既製の画像テキストスポッターをビデオスペシャリストに変換する。
論文 参考訳(メタデータ) (2025-05-28T11:02:45Z) - Focus, Distinguish, and Prompt: Unleashing CLIP for Efficient and Flexible Scene Text Retrieval [13.315951821189538]
シーンテキスト検索は、画像ギャラリーからクエリテキストを含むすべての画像を見つけることを目的としている。
現在の取り組みでは、複雑なテキスト検出および/または認識プロセスを必要とする光学文字認識(OCR)パイプラインを採用する傾向にある。
我々は,OCRのないシーンテキスト検索のためのCLIP(Contrastive Language- Image Pre-Trening)の本質的な可能性について検討する。
論文 参考訳(メタデータ) (2024-08-01T10:25:14Z) - TextFormer: A Query-based End-to-End Text Spotter with Mixed Supervision [61.186488081379]
Transformerアーキテクチャを用いた問合せベースのエンドツーエンドテキストスポッターであるTextFormerを提案する。
TextFormerは、画像エンコーダとテキストデコーダの上に構築され、マルチタスクモデリングのための共同セマンティック理解を学ぶ。
分類、セグメンテーション、認識のブランチの相互訓練と最適化を可能にし、より深い特徴共有をもたらす。
論文 参考訳(メタデータ) (2023-06-06T03:37:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。