論文の概要: CompRank: Efficient LLM Reranking via Token-Level Compression and Decoding-Free Scoring
- arxiv url: http://arxiv.org/abs/2606.11700v1
- Date: Wed, 10 Jun 2026 06:23:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-18 14:46:40.628757
- Title: CompRank: Efficient LLM Reranking via Token-Level Compression and Decoding-Free Scoring
- Title（参考訳）: CompRank:Token-Level CompressionとDecoding-free Scoringによる効率的なLCMリグレード
- Authors: Xuan Lu, Haohang Huang, Yingqi Fan, Junlong Tong, Yuxuan Zhang, Ping Nie, Rui Meng, Xiaoyu Shen,
- Abstract要約: 大規模言語モデル(LLM)のリランカーは、現代の検索および検索拡張生成パイプラインの重要なコンポーネントとなっている。
トークン効率のよい再ランクフレームワークである textbfCompRank を提案する。
- 参考スコア（独自算出の注目度）: 21.743431063000674
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Large language model (LLM) rerankers have become an important component of modern retrieval and retrieval-augmented generation pipelines, but their high computational cost limits their applicability to long candidate lists. In this paper, we propose \textbf{CompRank}, a token-efficient reranking framework that reduces redundant computation by aligning reranker design with the sparsity of ranking signals. CompRank decouples document representations from candidate order and query context, enabling reusable document-side states; applies segment-wise token compression to reduce query--document interaction cost; and introduces a CopyNet-style objective that directly aligns attention-based document scoring with training supervision. Experiments on seven BEIR datasets show that CompRank achieves strong reranking performance while retaining only 10.2\% of document tokens, reaching an average NDCG@10 of 39.2 compared with 39.7 under full-token attention. Further scaling experiments on TREC-COVID show that CompRank remains stable when evaluated on candidate lists of up to 500 documents after training on 30-document lists, while achieving $4.9\times$--$9.5\times$ end-to-end speedup over generation-based listwise reranking and approximately $1.3\times$ speedup over the full-token CompRank variant. These results suggest that token-level compression and decoding-free attention scoring provide an effective path toward scalable LLM-based reranking.
- Abstract（参考訳）: 大規模言語モデル(LLM)のリランカーは、現代の検索および検索拡張生成パイプラインの重要なコンポーネントとなっているが、その高い計算コストは、長い候補リストに適用性を制限する。
本稿では,トークン効率のよい再ランクフレームワークである \textbf{CompRank} を提案する。
CompRankは、ドキュメント表現を候補順序とクエリコンテキストから切り離し、再利用可能なドキュメント側状態を可能にする。クエリ-ドキュメント間相互作用コストを削減するためにセグメントワイドトークン圧縮を適用する。
BEIRデータセットの7つの実験により、CompRankは10.2\%の文書トークンを保持し、39.2の平均NDCG@10に達した。
TREC-COVIDのさらなるスケーリング実験は、30文書リストのトレーニング後に最大500のドキュメントの候補リストで評価された場合、CompRankが安定していることを示しているが、同時に4.9\times$--$9.5\times$と1.3\times$フルトーケンのCompRankの派生版を上回り、エンド・ツー・エンドのスピードアップを達成した。
これらの結果から,トークンレベルの圧縮と復号化を考慮したアテンションスコアリングが,拡張性のあるLCMベースのリランク化に有効な方法であることが示唆された。
関連論文リスト
- Layer-wise Token Compression for Efficient Document Reranking [18.48737466474846]
クロスエンコーダのリランカは、推論時に長いクエリドキュメントシーケンスを処理するため、高い計算コストを被る。
中間変圧器層に適応トークンプーリングを適用するレイヤワイドトークン圧縮を提案する。
また,中間層での圧縮は評価品質を保ちながら,経路ランクでは25%,文書ランクでは最大116%向上することを示した。
論文 参考訳（メタデータ） (2026-05-20T03:52:31Z) - ResRank: Unifying Retrieval and Listwise Reranking via End-to-End Joint Training with Residual Passage Compression [5.223477157195793]
中間のロスト」現象は、入力長が大きくなるにつれてランキング品質を低下させる。
推論レイテンシは、シーケンス長と超直線的にスケールし、産業展開において非現実的にリストワイズする。
ResRankは、両方の課題を根本的に解決する統合検索格付けフレームワークである。
論文 参考訳（メタデータ） (2026-04-24T03:11:51Z) - E2Rank: Your Text Embedding can Also be an Effective and Efficient Listwise Reranker [39.61739668491574]
本稿では,単一のテキスト埋め込みモデルを拡張し,高品質な検索とリストワイズを両立させるシンプルな統合フレームワークであるE2Rankを提案する。
クエリとドキュメント埋め込みのコサイン類似性を統一ランキング関数として適用することにより、リストワイドランキングプロンプトは、上位K文書からの信号に富んだ拡張クエリとして機能する。
E2Rankは、推論集約型BRIGHTベンチマークで最先端の結果を達成し、再ランクのレイテンシが非常に低い。
論文 参考訳（メタデータ） (2025-10-26T16:04:48Z) - Hierarchical Patch Compression for ColPali: Efficient Multi-Vector Document Retrieval with Dynamic Pruning and Quantization [0.0]
ColPaliのようなマルチベクトル文書検索システムは、複雑なクエリのきめ細かいマッチングが優れているが、かなりのストレージと計算コストがかかる。
検索精度を保ちながらColPaliの効率を向上する,きめ細かいパッチ圧縮フレームワークであるHPC-ColPaliを提案する。
提案手法は,(1)1バイトのセントロイドインデックスにパッチ埋め込みを圧縮し,最大32$times$ストレージ削減を実現するK平均量子化,(2)Vision-Language Modelアテンション重みを利用した注意誘導動的プルーニングの3つの革新的手法を統合する。
論文 参考訳（メタデータ） (2025-06-19T08:45:52Z) - ImpliRet: Benchmarking the Implicit Fact Retrieval Challenge [50.93758649363798]
Impliretは、推論の課題をドキュメント側処理にシフトするベンチマークである。
我々は,この環境下で苦戦している,疎水・密集したレトリバーの幅を評価した。
論文 参考訳（メタデータ） (2025-06-17T11:08:29Z) - Leveraging Reference Documents for Zero-Shot Ranking via Large Language Models [16.721450557704767]
RefRankは、固定参照文書に基づく単純で効果的な比較ランク付け手法である。
RefRankはポイントワイドのベースラインをはるかに上回り、少なくともペアワイドのアプローチと同等のパフォーマンスを達成できることを示した。
論文 参考訳（メタデータ） (2025-06-13T04:03:09Z) - Rank-R1: Enhancing Reasoning in LLM-based Document Rerankers via Reinforcement Learning [76.50690734636477]
ランキングタスクを実行する前にユーザクエリと候補文書の両方を推論する新しいLCMベースのリランカである Rank-R1 を導入する。
TREC DL と BRIGHT データセットを用いた実験により,Ranc-R1 が特に複雑なクエリに対して非常に有効であることが判明した。
論文 参考訳（メタデータ） (2025-03-08T03:14:26Z) - Gumbel Reranking: Differentiable End-to-End Reranker Optimization [61.16471123356738]
RAGシステムは関連する文書を識別するためにリランカーに依存している。
注釈付きクエリ-ドキュメントペアが不足しているため、これらのモデルの微調整は依然として難しい。
我々は,トレーニングと推論のギャップを最小限に抑えることを目的とした,リランカーのためのエンドツーエンドのトレーニングフレームワークであるGumbel Re rankを提案する。
論文 参考訳（メタデータ） (2025-02-16T13:23:39Z) - Zero-Shot Listwise Document Reranking with a Large Language Model [58.64141622176841]
本稿では,タスク固有の学習データを用いることなく,言語モデル(LRL)を用いたリスワイズ・リランカを提案する。
3つのTRECウェブサーチデータセットの実験により、LRLは第1段検索結果の再ランク付け時にゼロショットポイントワイズ法より優れるだけでなく、最終段再ランカとしても機能することが示された。
論文 参考訳（メタデータ） (2023-05-03T14:45:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。