論文の概要: RenderRank: Learning to Rerank Text with Compressed Visual Tokens
- arxiv url: http://arxiv.org/abs/2609.35069v1
- Date: Mon, 28 Sep 2026 12:57:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-02 17:20:48.927108
- Title: RenderRank: Learning to Rerank Text with Compressed Visual Tokens
- Title(参考訳): RenderRank: 圧縮されたビジュアルトークンでテキストの参照を学ぶ
- Abstract要約: 文書を画像としてレンダリングすることで、視覚言語モデルで文書を視覚トークンとしてエンコードすることができる。
RenderRankは、圧縮されたビジュアル文書表現からクエリ依存の関連性スコアを学習するリランカーである。
BEIRの11データセットにわたって、RenderRankは16.5-35.5%少ない入力トークンを使用し、平均NDCG@10は55.96である。
- 参考スコア(独自算出の注目度): 26.443216883777882
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Rendering document text as images allows vision-language models to encode documents as visual tokens, which can reduce input sequence length compared with text input. This reduction in input length is particularly useful for reranking, where each query involves scoring multiple candidate documents and token savings apply to each candidate evaluation. We introduce RenderRank, a reranker that learns query-dependent relevance scoring from compressed visual document representations instead of the text token sequences used by conventional text-based rerankers. Training first aligns relevance scores from visual inputs with those of a text-based teacher, then refines the relative scores of positive and negative documents for the same query. Across 11 datasets from BEIR, RenderRank uses 16.5-35.5% fewer input tokens while achieving an average NDCG@10 of 55.96, outperforming all evaluated text-based baselines below 4B parameters and some larger models. Across four long-document datasets, it achieves an average NDCG@10 of 88.27 with approximately half the average input token count of the evaluated text-based rerankers. In this setting, RenderRank delivers 1.70x the highest average throughput of the evaluated baselines. These results demonstrate that compressed visual representations can support accurate document relevance scoring, providing an alternative to text token representations for reranking.
- Abstract(参考訳): 文書テキストを画像としてレンダリングすることで、視覚言語モデルで文書を視覚トークンとしてエンコードすることができ、テキスト入力と比較して入力シーケンスの長さを削減できる。
この入力長の削減は、各クエリが複数の候補文書をスコアリングし、トークンセーブが各候補評価に適用されるような、再ランク付けに特に有用である。
RenderRankは、従来のテキストベースの再ランカが使用するテキストトークンシーケンスの代わりに、圧縮されたビジュアル文書表現からクエリ依存の関連性スコアを学習するリランカである。
トレーニングはまず、視覚的入力からの関連スコアとテキストベースの教師のスコアとを一致させ、同じクエリに対して正と負の文書の相対スコアを洗練させる。
BEIRの11データセットのうち、RenderRankは16.5-35.5%少ない入力トークンを使用し、平均NDCG@10の55.96を達成している。
4つの長期文書データセットの中で、評価されたテキストベースのリランカの平均入力トークン数の半分のNDCG@10を88.27の平均で達成している。
この設定では、RenderRankは評価されたベースラインの平均スループットを1.70倍にします。
これらの結果は、圧縮された視覚表現が正確な文書関連スコアリングをサポートし、再ランク付けのためのテキストトークン表現の代替を提供することを示す。
関連論文リスト
- When Text Matters: Design Principles for Visual Token Pruning in Vision-Language Model [7.554237564746049]
視覚トークンプルーニングは、大規模視覚言語モデルの計算コストを削減するための実践的なアプローチである。
我々は、初期視覚誘導プルーニングと遅延テキスト誘導再選択を分離する訓練不要な方法を開発した。
本手法は, 平均11.10ポイントの性能回復率において, 最良性能のベースラインを上回っている。
論文 参考訳(メタデータ) (2026-09-28T10:49:40Z) - SEER: Long-Context Reasoning via Selective Visual-Text Compression [34.52413671245954]
視覚的スキャンによってクエリ関連画像の選択を学習し,必要な場合にのみテキストコンテンツを検索するフレームワークであるSEERを提案する。
ロングベンチでは、SEERは51.11%の平均精度を達成し、視覚テキストベースラインのGlyph-9Bを2.33ポイント、Qwen3-8Bを3.49ポイント上回る。
論文 参考訳(メタデータ) (2026-08-16T23:30:41Z) - MonkeyOCRv2: A Visual-Text Foundation Model for Document AI [71.06391669976786]
MonkeyOCRv2は、ドキュメントAIのためのビジュアルテキスト事前トレーニングモデルである。
MonkeyDoc v2は17言語にまたがる1億1300万のイメージからなる、最大規模のドキュメントイメージ事前トレーニングコーパスである。
論文 参考訳(メタデータ) (2026-07-13T13:43:39Z) - PIXELRAG: Web Screenshots Beat Text for Retrieval-Augmented Generation [70.26672362704758]
我々は,Webサイトを視覚的に表現する新しい検索拡張手法であるPixelRAGを紹介する。
PixelRAGはこの形式で完全なウィキペディアコーパス上で動作する最初のパイプラインである。
非検索とテキストベースのRAGベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-06-01T23:20:51Z) - ClapperText: A Benchmark for Text Recognition in Low-Resource Archival Documents [1.2875548392688383]
ClapperTextは、視覚的に劣化した低リソース設定で手書きおよび印刷されたテキスト認識のためのベンチマークデータセットである。
データセットは、第2次世界大戦時代のクラッパーボードを含む127のアーカイブビデオセグメントに由来する。
クラッパーボードのテキストを認識することは、動きのぼやけ、手書きのバリエーション、露出のゆらぎ、散らかった背景など、大きな課題を生んでいる。
論文 参考訳(メタデータ) (2025-10-17T11:44:08Z) - Contextual Document Embeddings [77.22328616983417]
本稿では,コンテキスト化された文書埋め込みのための2つの補完手法を提案する。
第一に、文書近傍を明示的にバッチ内コンテキスト損失に組み込む別のコントラスト学習目標である。
第二に、隣接する文書情報をエンコードされた表現に明示的にエンコードする新しいコンテキストアーキテクチャ。
論文 参考訳(メタデータ) (2024-10-03T14:33:34Z) - Evaluating Factual Consistency of Texts with Semantic Role Labeling [3.1776833268555134]
本稿では,テキスト要約を念頭に設計した参照不要評価指標SRLScoreを紹介する。
最終事実度スコアは、調整可能なスコアリング機構により算出される。
英語の要約データセットにおける人間の判断との相関は、SRLScoreが最先端の手法と競合していることを示している。
論文 参考訳(メタデータ) (2023-05-22T17:59:42Z) - TextMatcher: Cross-Attentional Neural Network to Compare Image and Text [0.0]
この問題に特化して設計された最初の機械学習モデルを考案する。
一般的なIAMデータセット上で,TextMatcherの実証性能を広範囲に評価した。
銀行のキーの自動処理に関する現実的なアプリケーションシナリオとして,TextMatcherを紹介した。
論文 参考訳(メタデータ) (2022-05-11T14:01:12Z) - BARTScore: Evaluating Generated Text as Text Generation [89.50052670307434]
我々は、事前学習されたシーケンス・ツー・シーケンスモデルを用いてモデル化されたテキスト生成問題として、生成されたテキストの評価を概念化する。
我々は、エンコーダ-デコーダベースの事前学習モデルであるBARTを用いて、このアイデアを運用する。
本稿では,様々な視点からテキストの評価に柔軟に適用可能な,数多くの変種を持つメトリクスBARTScoreを提案する。
論文 参考訳(メタデータ) (2021-06-22T03:20:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。