論文の概要: QV-PIC: Query-Aware Visual Position-Independent Caching for Efficient RAG Serving
- arxiv url: http://arxiv.org/abs/2608.12121v1
- Date: Wed, 12 Aug 2026 14:40:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-13 19:07:54.615391
- Title: QV-PIC: Query-Aware Visual Position-Independent Caching for Efficient RAG Serving
- Title(参考訳): QV-PIC: 効率的なRAGサービングのためのクエリ対応ビジュアル位置独立キャッシング
- Authors: Yilin Liu, Rui Meng, Wangze Ni, Jianxin Yan, Heng Cao, Libin Zheng, Peng Cheng, Jinfei Liu,
- Abstract要約: 本稿では、モデルネイティブテンプレートでガイドされたクエリ対応の二重解像度PIC再利用フレームワークを提案する。
オフラインでは、QV-PICはモデルのネイティブチャットテンプレートプレフィックスの下でビジュアルキャッシュをコンパイルし、オンライン再計算なしでPICの品質を改善する。
オンラインでは、低解像度でグローバルなコンテキストを保存し、高解像度の予算内できめ細かいテキストの証拠を復元する。
- 参考スコア(独自算出の注目度): 24.408037458818413
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Retrieval-Augmented Generation (RAG) repeatedly prefills identical text chunks across queries, incurring redundant computations. Position-Independent Caching (PIC) mitigates it by reusing precomputed Key-Value (KV) across positions, but its efficiency is constrained by the large volume of text tokens. Rendering text chunks as images can compress the text into fewer visual tokens, but the rendered-image PIC suffers more severe quality degradation than the text PIC. This representation-specific gap primarily arises from contextual mismatches across independently compiled caches and the loss of fine-grained textual evidence during visual compression. Existing PIC repair methods mainly address the former through selective recomputation, but they incur online computation and cannot recover lost textual details. We propose QV-PIC, a query-aware dual-resolution PIC reuse framework guided by model-native templates. Offline, QV-PIC compiles visual caches under the model's native chat-template prefix, improving PIC quality without online recomputation. Online, it preserves global context with low resolution and restores fine-grained textual evidence within a high-resolution budget by cumulative query relevance scores, retaining the efficiency benefit of visual compression. Across six tasks, QV-PIC improves average F1 by 21.6 points over vanilla rendered-image PIC, closes the gap to vanilla text PIC, and surpasses optimized text PIC by 2.58 F1 while reducing TTFT by 17.2\%. Relative to full prefill, it cuts TTFT by 83.8%.
- Abstract(参考訳): Retrieval-Augmented Generation (RAG) はクエリ間で同じテキストチャンクを何度もプリフィルし、冗長な計算を行う。
位置独立キャッシング(PIC)は、プリ計算されたキーバリュー(KV)を位置間で再利用することでそれを緩和するが、その効率は大量のテキストトークンによって制限される。
テキストチャンクを画像としてレンダリングすることで、テキストを少ないビジュアルトークンに圧縮することができるが、レンダリングイメージのPICは、テキストPICよりも深刻な品質劣化を被る。
この表現固有のギャップは、主に独立してコンパイルされたキャッシュ間のコンテキストミスマッチと、視覚的圧縮中に微細なテキスト証拠が失われることから生じる。
既存のPIC修復法は、主に選択的な再計算によって前者に対処するが、それらはオンライン計算を発生させ、失われたテキストの詳細を復元することができない。
本稿では、QV-PICを提案する。QV-PICは、モデルネイティブテンプレートでガイドされる、クエリ対応の二重解像度PIC再利用フレームワークである。
オフラインでは、QV-PICはモデルのネイティブチャットテンプレートプレフィックスの下でビジュアルキャッシュをコンパイルし、オンライン再計算なしでPICの品質を改善する。
オンラインでは、低解像度でグローバルコンテキストを保存し、累積クエリ関連スコアによって高解像度の予算内できめ細かいテキスト証拠を復元し、視覚圧縮の効率性を維持する。
6つのタスクで、QV-PICはバニラレンダリング画像PICよりも平均F1を21.6ポイント改善し、バニラテキストPICとのギャップを埋め、最適化テキストPICを2.58F1で上回り、TTFTを17.2\%削減する。
完全なプリフィルとは対照的に、TTFTを83.8%削減する。
関連論文リスト
- PIXELRAG: Web Screenshots Beat Text for Retrieval-Augmented Generation [70.26672362704758]
我々は,Webサイトを視覚的に表現する新しい検索拡張手法であるPixelRAGを紹介する。
PixelRAGはこの形式で完全なウィキペディアコーパス上で動作する最初のパイプラインである。
非検索とテキストベースのRAGベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-06-01T23:20:51Z) - Image Complexity-Aware Adaptive Retrieval for Efficient Vision-Language Models [0.17188280334580197]
視覚言語モデルにおける視覚変換器は、175.33 GFLOP(ViT-L/14)を出力する全画像にわたって一様計算処理を適用する
単純な画像に対して,視覚変換器が少ない計算量で使用できるICAR(Image Complexity-Aware Retrieval)を提案する。
論文 参考訳(メタデータ) (2025-12-17T12:19:54Z) - Text to Image for Multi-Label Image Recognition with Joint Prompt-Adapter Learning [69.33115351856785]
本稿では,PEFTのテキストキャプションのみを使用する場合のモダリティギャップ問題に対処するため,T2I-PALと呼ばれる新しい手法を提案する。
T2I-PALの中核となる設計は、事前訓練されたテキスト-画像生成モデルを利用して、テキストキャプションからフォトリアリスティックで多様な画像を生成することである。
MS-COCO、VOC2007、NAS-WIDEを含む複数のベンチマークに対する大規模な実験は、我々のT2I-PALが認識性能を平均3.47%向上させることができることを示している。
論文 参考訳(メタデータ) (2025-06-12T11:09:49Z) - End-to-End Semantic Preservation in Text-Aware Image Compression Systems [42.76781276416154]
光文字認識(OCR)のためのテキスト固有の特徴を保持するエンドツーエンド圧縮フレームワークを提案する。
実験では、低速度でのテキスト抽出精度が大幅に向上し、圧縮されていない画像ではOCRよりも優れていた。
我々はこの研究を汎用エンコーダに拡張し、極端圧縮下で隠れセマンティクスを保存する能力を探究する。
論文 参考訳(メタデータ) (2025-03-25T09:36:13Z) - PDV: Prompt Directional Vectors for Zero-shot Composed Image Retrieval [35.19203010854668]
Composed Image Retrieval (ZS-CIR) は、大規模なペアデータで訓練された特殊なテキスト画像合成ネットワークを必要とせず、参照画像とテキストプロンプトを用いた画像検索を可能にする。
textbfPrompt Directional Vector (PDV)は、ユーザプロンプトによって誘導されるセマンティックな修正をキャプチャする、シンプルで効果的なトレーニング不要拡張である。
PDVは、3つの重要な改善を可能にしている。(1) 即時調整をスケーリング係数で制御可能な動的合成テキスト埋め込み、(2) テキストプロンプトから画像特徴へのセマンティックトランスファーによる合成画像埋め込み、(3) 合成テキストと画像埋め込みの重み付け融合である。
論文 参考訳(メタデータ) (2025-02-11T03:20:21Z) - Unleashing Text-to-Image Diffusion Prior for Zero-Shot Image Captioning [70.98890307376548]
そこで本研究では,学習中に不信なコンテンツを適応的に緩和する,新しいPatch-wise Cross-modal Feature Mix-up(PCM)機構を提案する。
私たちのPCM-Netは、ドメイン内およびクロスドメインのゼロショット画像キャプションの両方で第1位です。
論文 参考訳(メタデータ) (2024-12-31T13:39:08Z) - Semantic Alignment and Reinforcement for Data-Free Quantization of Vision Transformers [58.80845404416028]
データフリー量子化(DFQ)は、実際のデータにアクセスせずにモデル量子化を可能にし、データのセキュリティとプライバシに関する懸念に対処する。
ビジョントランスフォーマー(ViTs)の普及に伴い、ViTsのDFQは大きな注目を集めている。
本稿では,新しいセマンティックアライメントと強化データ自由化手法であるSARDFQを提案する。
論文 参考訳(メタデータ) (2024-12-21T09:30:45Z) - Fast Prompt Alignment for Text-to-Image Generation [28.66112701912297]
本稿では,FPA(Fast Prompt Alignment)を提案する。
FPAは単一命令プロンプトのパラフレーズに大規模言語モデル(LLM)を使用し、その後最適化されたプロンプトで微調整やテキスト内学習を行う。
FPAは、処理時間のごく一部で競合するテキスト画像アライメントスコアを達成する。
論文 参考訳(メタデータ) (2024-12-11T18:58:41Z) - EPIC: Efficient Position-Independent Caching for Serving Large Language Models [19.510078997414606]
キャッシングは、リクエスト間でキーバリューベクトルを再利用することで、パフォーマンスを向上させる。
既存のコンテキストキャッシュでは、リクエストにまたがる正確なプレフィックスが必要である。
位置独立キャッシング (PIC) を導入し, プレフィックスによらず KV ベクトルのモジュラー再利用を可能にする。
また、新しいLegoLinkアルゴリズムを取り入れたサービスシステムEPICも導入しています。
論文 参考訳(メタデータ) (2024-10-20T08:42:29Z) - Optimizing CLIP Models for Image Retrieval with Maintained Joint-Embedding Alignment [0.7499722271664144]
Contrastive Language and Image Pairing (CLIP) はマルチメディア検索における変換手法である。
CLIPは通常、2つのニューラルネットワークを同時にトレーニングし、テキストとイメージペアのジョイント埋め込みを生成する。
本稿では,様々な画像に基づく類似性検索シナリオに対して,CLIPモデルを最適化するという課題に対処する。
論文 参考訳(メタデータ) (2024-09-03T14:33:01Z) - LexLIP: Lexicon-Bottlenecked Language-Image Pre-Training for Large-Scale
Image-Text Retrieval [71.01982683581572]
従来の高密度検索パラダイムは、デュアルストリームエンコーダを用いて画像やテキストを高密度表現に符号化することに依存している。
本稿では,語彙空間における疎表現を画像やテキストに対して学習する語彙重み付けパラダイムを提案する。
重要度を意識した辞書表現を学習する新しい事前学習フレームワークを提案する。
我々のフレームワークは、検索速度5.5221.3倍、インデックス記憶メモリ13.248.8倍の高速化を実現している。
論文 参考訳(メタデータ) (2023-02-06T16:24:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。