論文の概要: Generative Late-Interaction Embeddings For Visual Document Retrieval
- arxiv url: http://arxiv.org/abs/2609.11808v1
- Date: Thu, 10 Sep 2026 16:58:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 23:53:35.452422
- Title: Generative Late-Interaction Embeddings For Visual Document Retrieval
- Title（参考訳）: Visual Document Retrievalのためのジェネレーティブな遅延インタラクション埋め込み
- Abstract要約: 遅延インタラクション検索は、ビジュアルドキュメント検索の最先端技術だが、ストレージの精度は高い。
GLIE (Generative Late-Interaction Embeddings: k N vectors per page) を紹介する。
ViDoRe v1のページあたりの4つのベクトルでは、GLIEは圧縮されていないシステムのnDCG@5の80%を保持しており、最も優れたポストホック法では70%である。
- 参考スコア（独自算出の注目度）: 3.3830567744123723
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Late-interaction retrieval is the state-of-the-art for visual document search, but it pays for its accuracy in storage. Existing compression methods retain a subset or local average of the N~1,000 vectors per page. Under aggressive storage budgets, however, these methods degrade sharply, and alternatives require retraining the encoder. Investigating this degradation across three encoders, we found two consistent properties: the vectors lie exactly on the unit sphere and concentrate near a manifold of intrinsic dimension five to six. This geometry yields two insights. First, standard k-means centroids fall inside the sphere, causing systematic underestimation of MaxSim scores. Normalizing them to the surface is a free correction worth up to +0.093 nDCG@5 over raw centroids. Second, because the page manifold has few degrees of freedom, the full set of vectors can be regenerated from only a few. To this end, we introduce Generative Late-Interaction Embeddings (GLIE): k << N vectors per page learned from the normalized centroids to serve as both a lightweight index and a basis for regenerating the page's full embedding set. At query time, search runs exclusively on these k vectors, and a decoder expands only the top candidates back to all N vectors for exact rescoring. At four vectors per page on ViDoRe v1, GLIE retains nearly 80% of the uncompressed system's nDCG@5, against 70% for the best prior post-hoc method. These results use a 415K-parameter network fitted in under three GPU-minutes on just a thousand training pages. At a matched training budget, fine-tuning the encoder does not reach even the training-free stage of GLIE, and the full system beats it at every budget. These patterns hold across a second encoder and ViDoRe v2. By reconstructing evidence on demand rather than sampling it, GLIE opens a new axis for storage-efficient retrieval, with the decoder as its main design surface.
- Abstract（参考訳）: 遅延インタラクション検索は、ビジュアルドキュメント検索の最先端技術だが、ストレージの精度は高い。
既存の圧縮手法では、ページあたりのN~1000ベクトルのサブセットまたは局所平均を保持する。
しかし、積極的なストレージ予算の下では、これらの手法は急激に低下し、代替手段はエンコーダを再訓練する必要がある。
この分解を3つのエンコーダで調べると、2つの一貫した性質が見つかった:ベクトルは正確に単位球上にあり、固有次元5から6の多様体の近くに集中する。
この幾何学は2つの洞察を与える。
第一に、標準k平均セントロイドは球体内に落下し、マックスシムのスコアを体系的に過小評価する。
表面への正規化は、生のセントロイドに対して+0.093 nDCG@5に値する自由補正である。
第二に、ページ多様体は自由度がほとんどないため、ベクトルの完全な集合はわずか数個から再生することができる。
この目的のために、我々はジェネレーティブ・レイト・インタラクション・エンベディング(GLIE:Generative Late-Interaction Embeddings)を紹介した。
クエリ時に検索はこれらのkベクトルのみで動作し、デコーダは上位候補のみをNベクトルに拡張して正確な再描画を行う。
ViDoRe v1のページあたりの4つのベクトルでは、GLIEは圧縮されていないシステムのnDCG@5の80%を保持しており、最も優れたポストホック法では70%である。
これらの結果は、わずか1000ページのトレーニングページで3分未満のGPUに415Kのパラメータネットワークが組み込まれている。
一致したトレーニング予算では、エンコーダの微調整はGLIEのトレーニングフリーステージにまで達せず、全ての予算でフルシステムがそれを打ち負かす。
これらのパターンは、第2エンコーダとViDoRe v2で保持される。
GLIEは、サンプリングではなく需要に関するエビデンスを再構築することにより、デコーダを主設計面として、ストレージ効率の高い検索のための新しい軸を開く。
関連論文リスト
- Matryoshka Hash Representations for Model-Aware Compact Semantic Retrieval [0.4859781642217615]
マトリオシュカ・ハッシュ表現(MHR)は,前置組織から全幅トレーニングを分離する2段階の手順である。
MHRは.5561 NDCG@10と.6535 Recall@100を32バイトに到達し、同じ予算で最高のベースラインを超えた。
このコードはまた、2つの一般的なパイプラインを強化している: 完全精度の再ランクの候補をショートリストし、低ストレージグラフインデックスをプルーニングする。
論文 参考訳（メタデータ） (2026-09-07T09:38:28Z) - RSLM: Training-Free Vector Quantization for Approximate Nearest Neighbor Search [0.4077787659104315]
RSLMは1次元あたり1〜4ビットの埋め込みを圧縮する訓練不要なベクトル量子化コーデックのファミリーである。
我々は,ANN(Aroximate Nearest Neighbor)サーチシステムのメモリコストとメモリ帯域幅を削減する。
我々の大きな革新は、残基だけでなく、最終的な再構成ベクトルの$L$ノルムを補正することである。
論文 参考訳（メタデータ） (2026-08-31T07:40:57Z) - LeVJEPA: Efficient & Scalable Video Pretraining without the Heuristics [50.45297537821907]
我々はLeJEPAの崩壊のない目的の下で訓練された最初のビデオエンコーダLeVJEPAを紹介する。
単一のエンコーダは、クリップのグローバルおよびローカルビューよりも分散損失で訓練される。
LeVJEPAはV-JEPA 2とVT-S/B/Lの5.6から20.8倍の速さで一致または超える。
論文 参考訳（メタデータ） (2026-08-27T17:26:24Z) - Beyond Encoder Accumulation: Measuring Encoder Roles in Multi-Encoder VLMs [50.3757247538081]
我々は、統一パイプラインの下で、5つの共通ビジョンエンコーダの空でないサブセット31を再訓練し、評価する。
各エンコーダのコントリビューションを,容量と必要量という2つの軸に分解する。
エンコーダごとのプロジェクタ有効ランクは、残留スコアの変動を説明する。
論文 参考訳（メタデータ） (2026-06-02T16:46:42Z) - Scaling Parallel Sequence Models to Foundation-Scale Vision Encoders [123.58723804218151]
ビジョンファウンデーションモデルは、自己注意の二次的なコストによってボトルネックとなる。
2次元空間伝搬伝搬に基づくC-GSPNを提案する。
論文 参考訳（メタデータ） (2026-05-30T14:29:43Z) - No More K-means: Single-Stage Sparse Coding for Efficient Multi-Vector Retrieval [51.43543998583709]
SSR(Single-stage Sparse Retrieval)は、高価なクラスタリングを効率的なスパースコーディングに置き換えるパラダイムシフトである。
ColBERTv2と比較してインデックス処理時間を15倍短縮し、検索レイテンシを半減させ、同時に検索性能を向上させる。
論文 参考訳（メタデータ） (2026-05-28T15:53:34Z) - Visual RAG Toolkit: Scaling Multi-Vector Visual Retrieval with Training-Free Pooling and Multi-Stage Search [0.0]
マルチベクター・ビジュアル・レトリバーは精度は高いが、各ページが数千のベクターを生成するため、スケールが悪くなる。
トレーニング不要,モデル対応,マルチステージ検索による視覚的マルチベクトル検索システムであるVisual RAG Toolkitを提案する。
論文 参考訳（メタデータ） (2026-02-13T01:27:39Z) - V-DETR: DETR with Vertex Relative Position Encoding for 3D Object
Detection [73.37781484123536]
DETRフレームワークを用いた点雲のための高性能な3次元物体検出器を提案する。
限界に対処するため,新しい3次元相対位置(3DV-RPE)法を提案する。
挑戦的なScanNetV2ベンチマークで例外的な結果を示す。
論文 参考訳（メタデータ） (2023-08-08T17:14:14Z) - Learning Low-Rank Representations for Model Compression [6.721845345130468]
本稿では,従来のVQアルゴリズムを様々なタスクやアーキテクチャで上回る低ランク表現ベクトル量子化(textLR2textVQ$)手法を提案する。
本手法では,圧縮率を直接$m$で制御することができ,最終的な精度は$tilded$で決定される。
適切な$tilded$で、ImageNet分類データセット上でResNet-18/ResNet-50で$textLR2textVQ$を評価します。
論文 参考訳（メタデータ） (2022-11-21T12:15:28Z) - Learning Spatio-Temporal Transformer for Visual Tracking [108.11680070733598]
本稿では,エンコーダ・デコーダ変換器をキーコンポーネントとする新しいトラッキングアーキテクチャを提案する。
メソッド全体がエンドツーエンドであり、コサインウィンドウやバウンディングボックススムーシングのような後処理ステップは不要である。
提案されたトラッカーは、Siam R-CNNよりも6倍速いリアルタイム速度を実行しながら、5つのチャレンジングな短期および長期ベンチマークで最先端のパフォーマンスを実現します。
論文 参考訳（メタデータ） (2021-03-31T15:19:19Z) - SOLAR: Sparse Orthogonal Learned and Random Embeddings [45.920844071257754]
我々は,高次元および超スパース埋め込みが,クエリ効率と精度の両面において,高密度な低次元埋め込みよりもはるかに優れていると論じている。
我々は,最大3つの公開データセット上で1.6万冊の書籍を検索し,複数ラベルの分類を行うタスクに対して,500K次元のSOLAR埋め込みを訓練する。
それぞれのタスクに対して,最大10倍の高速さで,各タスクの最先端のベースラインと比較して,精度とリコールの精度が向上する。
論文 参考訳（メタデータ） (2020-08-30T17:35:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。