論文の概要: WeGR: Towards Unified Generative Retrieval via Behavior-aware Tokenization and Preference Alignment

• arxiv url: http://arxiv.org/abs/2610.16979v2
• Date: Tue, 20 Oct 2026 07:12:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-22 01:25:39.236458
• Title: WeGR: Towards Unified Generative Retrieval via Behavior-aware Tokenization and Preference Alignment
• Title（参考訳）: WeGR:行動認識のトークン化と優先度アライメントによる統合生成検索を目指して
• Abstract要約: 2つの補完的なコンポーネントを持つ統一GRフレームワークであるWeGRを提案する。 CoCo-VAEは、クエリ・ツー・イテムとアイテム・ツー・イテムの協調的な信号を量子化の前に連続的な表現に注入する。 DHPOは報酬評価と政策最適化の地平線を徐々に拡大し、報酬の分散を緩和する。
• 参考スコア（独自算出の注目度）: 3.38771188110133
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generative retrieval (GR) offers a promising paradigm for industrial search by unifying candidate generation within an autoregressive framework. However, effectively leveraging user behaviors in industrial GR remains challenging: existing SID tokenization methods struggle to preserve collaborative signals while maintaining balanced codebook utilization, whereas reinforcement learning (RL) for prioritizing high-value candidates suffers from sparse rewards when generated SIDs fail to match positive items. To address these challenges, we propose WeGR, a unified GR framework with two complementary components. Specifically, the Collaborative and Collapse-free Tokenizer (CoCo-VAE) injects query-to-item and item-to-item collaborative signals into continuous representations before quantization, preserving behavioral information without disrupting codebook optimization. It further couples first-layer codebook refresh to reactivate underutilized codewords with fidelity anti-collapse regularization, which broadens gradient coverage over relevant codewords and penalizes collisions in deeper layers to yield behavior-aware SIDs with balanced utilization. For preference alignment, Dynamic Horizon Policy Optimization (DHPO) progressively expands reward evaluation and policy optimization horizons to alleviate reward sparsity, enabling coarse-to-fine preference learning from SID prefixes to complete items without auxiliary reward models. Extensive offline experiments validate that WeGR improves retrieval and ranking performance. Moreover, a six-week online A/B test on a large-scale e-commerce search platform achieves relative gains of 2.539% in orders, 1.508% in CTR, and 1.381% in CVR, while reducing CPU and GPU usage by 25.5% and 26.1%. These results highlight the effectiveness and efficiency of WeGR in industrial deployment, supporting multiple search scenarios and tens of millions of daily page views.
• Abstract（参考訳）: 生成検索(GR)は、自己回帰フレームワーク内での候補生成を統一することで、産業検索に有望なパラダイムを提供する。 しかし、既存のSIDトークン化手法は、バランスの取れたコードブックの利用を維持しながら協調的な信号の保存に苦慮しているのに対し、高価値候補の優先順位付けのための強化学習(RL)は、生成したSIDが正の項目と一致しない場合のスパース報酬に悩まされている。 これらの課題に対処するために,2つの相補的なコンポーネントを持つ統合GRフレームワークWeGRを提案する。 特に、CoCo-VAE(Collaborative and Collapse-free Tokenizer)は、クエリ・ツー・イテムとアイテム・ツー・イテムの協調的な信号を量子化の前に連続的な表現に注入し、コードブックの最適化を妨害することなく行動情報を保存する。 さらに、1層目のコードブックをリフレッシュして、未使用のコードワードを不確実な反崩壊正則化で再活性化し、関連するコードワードの勾配範囲を広げ、より深い層での衝突をペナルティ化し、バランスの取れた利用で振舞いを意識したSIDを得る。 選好調整のために、動的水平政策最適化(DHPO)は、報酬評価と政策最適化の地平線を徐々に拡張し、報酬空間を緩和し、SIDプレフィックスから粗大な選好学習を補助報酬モデルなしで完備化できるようにする。 大規模なオフライン実験により、WeGRは検索性能とランキング性能を改善した。 さらに、大規模なeコマース検索プラットフォーム上での6週間のオンラインA/Bテストでは、注文数2.539%、CTR 1.508%、CVR 1.381%の相対的な増加を達成し、CPUとGPUの使用量を25.5%、26.1%削減した。 これらの結果は、産業展開におけるWeGRの有効性と効率を強調し、複数の検索シナリオと数千万ページビューをサポートします。

関連論文リスト

• GR2 Technical Report [58.300302585605095]
  GR2は、セマンティックIDの中間トレーニングと、より強い教師から抽出された推論トレースを組み合わせたエンドツーエンドフレームワークである。 GR2は産業規模の交通のレガシーベースラインに対して+18.7%のR@1、+7.1%のR@3、+9.6%のN@3を提供する。
  論文  参考訳（メタデータ） (2026-06-30T17:22:22Z)
• Efficient Generative Retrieval for E-commerce Search with Semantic Cluster IDs and Expert-Guided RL [8.046510111008638]
  生成検索は、断片化された多段階検索プロセスを単一のエンドツーエンドモデルに統一することで、有望な代替手段を提供する。 本稿では,実世界のリコールシナリオに適した検索フレームワークを提案し,生成的検索をエンド・ツー・エンドの置き換えではなく,リコール・ステージ・サプリメントとして位置付ける。
  論文  参考訳（メタデータ） (2026-05-14T06:27:46Z)
• CoSearch: Joint Training of Reasoning and Document Ranking via Reinforcement Learning for Agentic Search [51.911048955965136]
  CoSearchは多段階推論エージェントと生成ドキュメントランキングモデルを共同でトレーニングするフレームワークである。 この結果から, 推論エージェントと検索システムの協調訓練は, 実現可能であり, 性能も高いことが示唆された。
  論文  参考訳（メタデータ） (2026-04-19T17:48:17Z)
• Search-R2: Enhancing Search-Integrated Reasoning via Actor-Refiner Collaboration [49.9937230730202]
  本稿では,新たなアクター・リファイナ・コラボレーション・フレームワークであるSearch-R2を提案する。 提案手法は,生成過程をアクターに分解し,最初の推論軌道を生成する。 本稿では,検索-R2がモデルスケール全体にわたって強力なRAGとRLベースのベースラインを一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2026-02-03T15:32:09Z)
• FORGE: Forming Semantic Identifiers for Generative Retrieval in Industrial Datasets [64.51403245281547]
  FORGEは、産業データセットを使ったジェネレーティブrEtrievalにおけるFOrmingセマンティック識別のベンチマークである。 現実世界のアプリケーションでは、オンラインコンバージェンスを半減するオフライン事前トレーニングスキーマが導入されている。
  論文  参考訳（メタデータ） (2025-09-25T08:44:22Z)
• A Deep Dive into Retrieval-Augmented Generation for Code Completion: Experience on WeChat [16.059798732980347]
  Retrieval-augmented Generation (RAG) は、大規模言語モデル(LLM)のコード補完能力を向上するための有望な方法として登場した。 WeChatの産業規模におけるコード補完に広く用いられているRAG法の性能について,実証的研究を行った。
  論文  参考訳（メタデータ） (2025-07-24T15:36:31Z)
• Process vs. Outcome Reward: Which is Better for Agentic RAG Reinforcement Learning [45.10424242207931]
  Retrieval-augmented Generation (RAG)は大規模言語モデル(LLM)のテキスト生成能力を向上する RAG-ProGuideは,クエリ生成,エビデンス抽出,回答生成のためのプロセスレベルの報酬を提供する高品質なデータセットである。 プロセスレベルのポリシー最適化により、提案フレームワークはLLMに対して、検索を自律的に実行し、クエリを生成し、関連する証拠を抽出し、最終的な回答を生成する権限を与える。
  論文  参考訳（メタデータ） (2025-05-20T08:21:00Z)
• Zero-Shot Retrieval with Search Agents and Hybrid Environments [8.017306481455778]
  現在の言語モデルは、伝統的な用語ベースの検索と組み合わせて、シンボリックなクエリ再構成ポリシーを学習することができるが、より優れたニューラル検索には及ばない。 本稿では,2つのエンコーダを経由した1回目検索の後に,個別のクエリ精算操作を受け入れるハイブリッド環境に,従来の学習環境を拡張した。 BEIRタスクの実験では、動作クローンによって訓練されたサーチエージェントが、二重エンコーダレシーバーとクロスエンコーダリランカの組み合わせに基づいて、基礎となるサーチシステムより優れていることが示された。
  論文  参考訳（メタデータ） (2022-09-30T13:50:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。