論文の概要: ReuseGR: Offline--Online Decoupled Generative Retrieval via Adaptive Prefix Reuse
- arxiv url: http://arxiv.org/abs/2611.04259v1
- Date: Tue, 03 Nov 2026 03:51:38 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-04 17:46:13.233781
- Title: ReuseGR: Offline--Online Decoupled Generative Retrieval via Adaptive Prefix Reuse
- Title(参考訳): ReuseGR: オフライン--Adaptive Prefix Reuseを通じて、オフラインで分離された生成検索
- Abstract要約: ReuseGRは、クエリレベルの候補計画とリクエストレベルのパーソナライズされた補完を分離する。
約200万のクエリ-イテムレコードと338万のカタログ項目を持つ産業検索広告データセットでは、ReuseGRはクエリレベルHR@100を3.83ポイント改善する。
- 参考スコア(独自算出の注目度): 30.366862304284158
- License:
- Abstract: Larger generative retrieval models can improve retrieval quality, but their decoding cost makes low-latency serving difficult. When different users submit the same query, generating complete Semantic IDs (SIDs) for every request repeats computation, while their interaction histories call for different results. The challenge is to reuse large-model computation across requests while keeping retrieval personalized. We propose \textbf{ReuseGR}, which separates query-level candidate planning from request-level personalized completion. A 7B offline planner generates SID prefix sets shared across requests with the same query. A 0.5B online model uses each request's history to select prefixes and generate the remaining tokens. ReuseCut chooses a cache depth for each query based on historical coverage, balancing computation reuse and candidate coverage. To strengthen online completion, we transfer 7B suffix-scoring knowledge to 0.5B through path-level knowledge distillation (Path KD). BudgetCut then selects scored branches to improve final top-100 recall under a fixed branch budget. Its selection policy is initialized by on-policy distillation (OPD) and refined through group-relative policy optimization (GRPO). On an industrial search-advertising dataset with approximately 2M query--item records and 3.38M catalog items, ReuseGR improves query-level HR@100 by 3.83 percentage points and reduces mean online latency by 38.9\% relative to an all-online 0.5B baseline when prefixes are prepared. It achieves HR@100 comparable to an all-online 7B baseline with 57.7\% lower online latency. A 14-day user-level online A/B test against the 0.5B baseline shows relative gains of 0.93\% in click-through rate and 1.05\% in revenue per thousand requests.
- Abstract(参考訳): より大規模な生成検索モデルは、検索品質を改善することができるが、その復号化コストは、低レイテンシーの提供を困難にする。
異なるユーザが同じクエリを送信すると、リクエスト毎に完全なセマンティックID(SID)が生成される。
課題は、検索をパーソナライズしながら、リクエスト全体にわたる大規模なモデル計算を再利用することだ。
要求レベルのパーソナライズされた補完からクエリレベルの候補プランニングを分離する。
7Bオフラインプランナーは、同じクエリでリクエスト間で共有されるSIDプレフィックスセットを生成する。
0.5Bのオンラインモデルは、各リクエストの履歴を使用してプレフィックスを選択し、残りのトークンを生成する。
ReuseCutは、履歴カバレッジ、計算再利用のバランスと候補カバレッジに基づいて、クエリ毎にキャッシュ深さを選択する。
オンライン・コンプリートを強化するため,パスレベルの知識蒸留(Path KD)を通じて7Bサフィックスの知識を0.5Bに転送する。
BudgetCutは、固定されたブランチ予算の下で、スコア付きブランチを選択して、最終トップ100リコールを改善する。
その選択政策は、オン・ポリーズ蒸留(OPD)によって初期化され、グループ相対的政策最適化(GRPO)によって洗練される。
ReuseGRは、約2Mのクエリ-テムレコードと3.38Mのカタログ項目を持つ産業検索広告データセットにおいて、クエリレベルHR@100を3.83ポイント改善し、プレフィックス作成時に全オンライン0.5Bベースラインに対して平均オンラインレイテンシを38.9\%削減する。
HR@100は全オンライン7Bベースラインに匹敵し、オンラインレイテンシは57.7\%低下した。
0.5Bベースラインに対する14日間のユーザレベルのオンラインA/Bテストでは、クリックスルーレートが0.93\%、1000リクエストあたりの収益が1.05\%である。
関連論文リスト
- Cascaded Retrieval with Cross-Modal Query Refinement for Efficient Visual Document Search [54.48124421246385]
現在の視覚言語レトリバーは、コーパスサイズとともに成長し、スケールすることができないクエリ時間コストを発生させる。
本稿では,検索性能を徹底検索から分離する2トラック検索フレームワークSCOUTを提案する。
SCOUTを4つの主要なベンチマークで評価し、最高のベースラインに対して80.7倍(平均28.8倍)のクエリ時間遅延改善を観測した。
論文 参考訳(メタデータ) (2026-10-14T15:40:27Z) - Agentic AutoRAG: RAG Pipeline Optimization through Reasoning-Driven Agents [1.0112913394578702]
Retrieval-augmented Generation (RAG) は、大規模言語モデル(LLM)を外部知識でグラウンド化するための広く使われているアプローチである。
本稿では,多目的最適化のためのLLMエージェントであるAgentic AutoRAGを紹介する。
各試験の後、ダイアグノーサーは、失敗した各質問を検索または生成に属性付け、モデルランキングと価格の知識ベースに基づくプロポーラが次の設定を選択する。
論文 参考訳(メタデータ) (2026-10-06T14:38:15Z) - EAVer: Long-Form Factuality Verification as an End-to-End Agentic Policy [50.665874114632]
我々は、完全な応答レベルの検証ワークフローを統一ポリシーとして制御することを学ぶ、エンドツーエンドのエージェント検証であるEAVerを紹介する。
EAVerはセマンティック関連クレームをグループ化し、信頼に基づいた直接検証やターゲット検索にルートし、コンパクトなインコンテキストメモで検索によって返される証拠を保持する。
論文 参考訳(メタデータ) (2026-09-02T21:00:35Z) - Codebook Agent: Amortized Topology Design for LLM Multi-Agent Systems [67.04448659688579]
クエリ非依存の16エントリのコードブックを開発し、上位のデコード候補を1回のバッチフォワードパスでランク付けする。
反復検索がなく、テスト時にメッセージパッシングがないため、Codebook Agentは6つのベンチマークでもっとも正確な方法である。
論文 参考訳(メタデータ) (2026-09-02T08:10:22Z) - SPEAR: Selection-aware Personalized End-to-end Adaptive Rewriting and Retrieval for Community Search [16.046037914956504]
1つの障害モードをターゲットにした3つのコンポーネントを統合するSPEARを提案する。
提案されたフレームワークは、書き直しセマンティックな類似性@10を +18.2 で改善し、リコール@10を +99.5 でプロダクションベースラインでクリックする。
論文 参考訳(メタデータ) (2026-08-03T06:03:58Z) - SelRoute: Query-Type-Aware Routing for Long-Term Conversational Memory Retrieval [0.0]
SelRouteは、クエリタイプに基づいて、各クエリを専用のパイプラインにルーティングするフレームワークである。
LongMemEval_Mでは、bge-base-en-v1.5 (109Mパラメータ)で0.800、bge-small-en-v1.5 (109Mパラメータ)で0.786のRecall@5を達成する。
FTS5のみを使用したゼロMLベースラインは0.692のNDCG@5を達成する。
論文 参考訳(メタデータ) (2026-04-02T18:02:59Z) - Test-Time Strategies for More Efficient and Accurate Agentic RAG [58.44913384057518]
Retrieval-Augmented Generation (RAG) システムは複雑なマルチホップ問題に直面している。
このような手法は、以前に処理された情報の反復的な検索を含む非効率性を導入することができる。
本稿では,これらの問題を軽減するために,サーチ-R1パイプラインに対するテスト時間修正について検討する。
論文 参考訳(メタデータ) (2026-03-12T19:18:59Z) - MemSearcher: Training LLMs to Reason, Search and Manage Memory via End-to-End Reinforcement Learning [73.27233666920618]
本稿では,メモリを反復的に保持し,現在のターンと組み合わせたエージェントワークフローであるMemSearcherを提案する。
それぞれのターンで、MemSearcherはユーザーの質問をメモリに融合させ、推論トレースを生成し、検索アクションを実行し、メモリを更新してタスクの解決に必要な情報のみを保持する。
我々は,MemSearcher Agents の推論,検索戦略,メモリ管理を協調的に最適化する,エンドツーエンドの RL フレームワークである Multi-context GRPO を紹介する。
論文 参考訳(メタデータ) (2025-11-04T18:27:39Z) - Learning to Route: A Rule-Driven Agent Framework for Hybrid-Source Retrieval-Augmented Generation [55.47971671635531]
大言語モデル(LLM)は、一般質問回答(QA)において顕著な性能を示した。
Retrieval-Augmented Generation (RAG)は、LLMを外部知識で強化することで、この制限に対処する。
既存のシステムは、主に構造化されていないドキュメントに依存しているが、主にリレーショナルデータベースを見下ろしている。
論文 参考訳(メタデータ) (2025-09-30T22:19:44Z) - TreeHop: Generate and Filter Next Query Embeddings Efficiently for Multi-hop Question Answering [27.37434534716611]
TreeHopはマルチホップ質問応答のための埋め込みレベルのフレームワークである。
TreeHopはクエリの埋め込みを動的に更新する。
TreeHopは、知識集約型アプリケーションにデプロイするための、より速く、よりコスト効率の良いソリューションです。
論文 参考訳(メタデータ) (2025-04-28T01:56:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。