論文の概要: Very Efficient Listwise Multimodal Reranking for Long Documents

• arxiv url: http://arxiv.org/abs/2605.11864v1
• Date: Tue, 12 May 2026 09:45:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.767472
• Title: Very Efficient Listwise Multimodal Reranking for Long Documents
• Title（参考訳）: 長文文書におけるリストワイズマルチモーダルの高度化
• Authors: Yiqun Sun, Pengfei Wei, Lawrence B. Hsieh,
• Abstract要約: リストワイズマルチモーダルリランカであるZipRerankを提案する。 軽量なクエリイメージの早期インタラクション機構を通じて、入力長を削減する。 MMDocIRベンチマークの実験では、ZipRerankは最先端のマルチモーダルリランカにマッチするか、超えている。
• 参考スコア（独自算出の注目度）: 7.558933130117637
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Listwise reranking is a key yet computationally expensive component in vision-centric retrieval and multimodal retrieval-augmented generation (M-RAG) over long documents. While recent VLM-based rerankers achieve strong accuracy, their practicality is often limited by long visual-token sequences and multi-step autoregressive decoding. We propose ZipRerank, a highly efficient listwise multimodal reranker that directly addresses both bottlenecks. It reduces input length via a lightweight query-image early interaction mechanism and eliminates autoregressive decoding by scoring all candidates in a single forward pass. To enable effective learning, ZipRerank adopts a two-stage training strategy: (i) listwise pretraining on large-scale text data rendered as images, and (ii) multimodal finetuning with VLM-teacher-distilled soft-ranking supervision. Extensive experiments on the MMDocIR benchmark show that ZipRerank matches or surpasses state-of-the-art multimodal rerankers while reducing LLM inference latency by up to an order of magnitude, making it well-suited for latency-sensitive real-world systems. The code is available at https://github.com/dukesun99/ZipRerank.
• Abstract（参考訳）: リストワイズ・リランクは、長いドキュメント上での視覚中心の検索とマルチモーダル検索拡張生成(M-RAG)において、重要な計算コストの要素である。 最近のVLMベースのリランカは高い精度を達成するが、その実用性は長い視覚的トーケンシーケンスと多段階自己回帰復号によって制限されることが多い。 ZipRerankは高効率なリストワイズマルチモーダル・リランカで、両方のボトルネックに直接対処する。 軽量なクエリイメージによる早期インタラクション機構を通じて入力長を削減し、すべての候補を1回のフォワードパスでスコア付けすることで、自動回帰デコードを排除する。 ZipRerankは効果的な学習を可能にするために、2段階のトレーニング戦略を採用している。 (i)画像として描画された大規模テキストデータの一覧事前学習、及び (II)VLM-Teacher-distilled soft-level supervisionによるマルチモーダル微調整 MMDocIRベンチマークの大規模な実験によると、ZipRerankは最先端のマルチモーダルリランカと一致またはオーバーし、LSM推論のレイテンシを最大で最大で最大で削減し、遅延に敏感な現実世界システムに適している。 コードはhttps://github.com/dukesun99/ZipRerank.comから入手できる。

関連論文リスト

• Efficient Listwise Reranking with Compressed Document Representations [10.623994225850046]
  本稿では,文書をマルチトークンの固定サイズ埋め込み表現に圧縮する効率的なリストワイド・リランカであるRRKを紹介する。 蒸留による簡単な訓練は、このリッチ圧縮表現とリストワイズ再ランクの組み合わせが、非常に効率的で効果的なシステムであることを示している。
  論文  参考訳（メタデータ） (2026-04-29T09:48:44Z)
• Multivector Reranking in the Era of Strong First-Stage Retrievers [11.098422338598454]
  2つの公開データセット上で、最先端のマルチベクタ検索手法を再現する。 トークンレベルの集合フェーズを単一ベクトル文書検索器に置き換えることで,より小さく,より意味的に一貫性のある候補セットが生成されることを示す。 我々の2段階のアプローチは、最先端のマルチベクター検索システムに対して24ドル以上のスピードアップを実現し、同等または優れた検索品質を維持しています。
  論文  参考訳（メタデータ） (2026-01-08T18:22:18Z)
• Q-RAG: Long Context Multi-step Retrieval via Value-based Embedder Training [50.37345200692884]
  強化学習(RL)を用いた多段階探索のための細粒度埋め込みモデルQ-RAGを提案する。 Q-RAGは、オープンドメイン質問応答のための既存のマルチステップ検索方法に代わる、競合的でリソース効率のよい代替手段を提供する。
  論文  参考訳（メタデータ） (2025-11-10T17:31:02Z)
• SparseVILA: Decoupling Visual Sparsity for Efficient VLM Inference [49.84148668264725]
  SparseVILAは効率的なVLM推論のための新しいパラダイムであり、前処理と復号の段階で視覚空間を疎結合する。 AWQ最適化推論パイプライン上に構築されたSparseVILAは、プリフィルの最大4.0倍、デコーディングの2.5倍、長文ビデオタスクの2.6倍のエンドツーエンド高速化を実現している。
  論文  参考訳（メタデータ） (2025-10-20T17:35:47Z)
• Free-MoRef: Instantly Multiplexing Context Perception Capabilities of Video-MLLMs within Single Inference [88.57742986765238]
  Free-MoRefは、ビデオMLLMのコンテキスト認識能力を多重化するトレーニング不要のアプローチである。 実験によると、Free-MoRefは1つのA100 GPUで圧縮することなく、2$times$から8$times$の入力フレームを完全に認識できる。
  論文  参考訳（メタデータ） (2025-08-04T07:31:10Z)
• Turning Trash into Treasure: Accelerating Inference of Large Language Models with Token Recycling [24.04649159686283]
  投機的復号化(英: Speculative decoding)は、推測と検証のパラダイムを通じて推論を加速するアプローチである。 トケンリサイクルは、候補トークンを隣接行列に格納し、幅優先探索アルゴリズムを用いる。 既存の列車なしの手法を30%上回り、広く認められた訓練方法さえも25%上回っている。
  論文  参考訳（メタデータ） (2024-08-16T12:20:56Z)
• Multimodal Learned Sparse Retrieval with Probabilistic Expansion Control [66.78146440275093]
  学習検索(LSR)は、クエリとドキュメントを疎語彙ベクトルにエンコードするニューラルネットワークのファミリーである。 テキスト画像検索に焦点をあて,マルチモーダル領域へのLSRの適用について検討する。 LexLIPやSTAIRのような現在のアプローチでは、大規模なデータセットで複雑なマルチステップのトレーニングが必要です。 提案手法は, 密度ベクトルを凍結密度モデルからスパース語彙ベクトルへ効率的に変換する。
  論文  参考訳（メタデータ） (2024-02-27T14:21:56Z)
• CFIR: Fast and Effective Long-Text To Image Retrieval for Large Corpora [3.166549403591528]
  本稿では,高速かつ効率的な画像検索のための2段階の粗度指数共有検索(CFIR)フレームワークを提案する。 CFIRは、Recall@1000で既存のMLLMを最大11.06%上回り、トレーニング時間と検索時間をそれぞれ68.75%、99.79%削減している。
  論文  参考訳（メタデータ） (2024-02-23T11:47:16Z)
• InfLLM: Training-Free Long-Context Extrapolation for LLMs with an Efficient Context Memory [93.20588235940453]
  本稿では,トレーニング不要なメモリベースのInfLLMを提案する。 InfLLMは、リモートコンテキストを追加のメモリユニットに格納し、トークン関連ユニットを注目するために効率的なメカニズムを使用する。 シーケンス長が$1,024$Kにスケールしても、InfLLMは依然として、長距離依存関係を効果的にキャプチャする。
  論文  参考訳（メタデータ） (2024-02-07T06:50:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。