論文の概要: GR2 Technical Report
- arxiv url: http://arxiv.org/abs/2606.31984v2
- Date: Wed, 01 Jul 2026 23:39:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-03 19:45:08.504526
- Title: GR2 Technical Report
- Title(参考訳): GR2技術報告
- Abstract要約: GR2は、セマンティックIDの中間トレーニングと、より強い教師から抽出された推論トレースを組み合わせたエンドツーエンドフレームワークである。
GR2は産業規模の交通のレガシーベースラインに対して+18.7%のR@1、+7.1%のR@3、+9.6%のN@3を提供する。
- 参考スコア(独自算出の注目度): 57.44304577640032
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Industrial recommendation systems serve billions of users through a multi-stage funnel -- retrieval, early-stage ranking, and re-ranking -- where the final re-ranking step disproportionately shapes user engagement and downstream performance, particularly for carousel and grid display formats. Despite growing enthusiasm for Large Language Models (LLMs) in recommendation, three gaps hinder industrial adoption: (1) most efforts target retrieval and ranking, leaving re-ranking -- the stage closest to the final user experience -- largely underexplored; (2) LLMs are typically deployed zero-shot or via supervised fine-tuning, underutilizing the reasoning capabilities unlocked by reinforcement learning (RL) on verifiable rewards; (3) deployed catalogs index billions of items with non-semantic identifiers that lie outside any base-LLM vocabulary. We present GR2 (Generative Reasoning Re-Ranker), an end-to-end framework that combines (i) mid-training on semantic IDs produced by a tokenizer with >=99% uniqueness, (ii) reasoning-trace distilled from a stronger teacher via targeted prompting and rejection sampling, and (iii) RL with verifiable rewards purpose-built for re-ranking. To make GR2 resource-viable, we further (iv) introduce a context compressor that amortizes training cost, On-Policy Distillation (OPD) as a scalable alternative to SFT -- which we find collapses at industrial scale -- and reasoning distillation for low-latency serving. GR2 delivers +18.7% R@1, +7.1% R@3, and +9.6% N@3 over legacy baselines on industrial-scale traffic. We further find that reward design is critical in re-ranking: LLMs often hack rewards by preserving the incoming order or exploiting position bias, motivating conditional verifiable rewards as essential industrial components.
- Abstract(参考訳): インダストリアルレコメンデーションシステムは、検索、アーリーステージのランク付け、再ランク付けといったマルチステージのファンネルを通じて、数十億のユーザにサービスを提供する。
大規模言語モデル (LLMs) の推奨に対する熱意の高まりにもかかわらず、(1) 最終ユーザエクスペリエンスに最も近い段階である、検索とランク付けを目標とし、再ランク付けを目標とすること、(2) LLM は一般的にゼロショットまたは監督された微調整によってデプロイされ、検証可能な報酬に対して強化学習 (RL) によってアンロックされた推論能力の活用、(3) ベースLLM 語彙の外にある何十億もの非意味な識別子を持つ何十億もの項目のカタログをデプロイすること、の3つのギャップが産業採用を妨げる。
我々は、GR2(Generative Reasoning Re-Ranker)というエンドツーエンドフレームワークを紹介します。
(i)トークン発行者が生成するセマンティックIDの中間トレーニング。>=99%の独自性。
二 指導教官の指示及び拒絶を目的とし、より強い教官から蒸留した推論トレース、及び
三 報酬の検証可能なRLは、再ランク付けを目的とする。
GR2 リソースを有効化するために、我々はさらに
(四)トレーニングコストを下げる文脈圧縮機、産業規模で崩壊するSFTに代わるスケーラブルな代替手段としてのオン・ポリシィ蒸留(OPD)を導入し、低レイテンシサービスのための蒸留を推し進める。
GR2は産業規模の交通のレガシーベースラインに対して+18.7% R@1, +7.1% R@3, +9.6% N@3を提供する。
LLMは、しばしば、入ってくる注文を保存したり、位置バイアスを利用して報酬をハックし、条件付き検証可能な報酬を必須産業部品として動機付ける。
関連論文リスト
- AgentKGV: Agentic LLM-RAG Framework with Two-Stage Training for the Fact Verification of Knowledge Graphs [15.215103223762364]
AgentKGVは動的ルーティングと反復的なクエリ書き換えを統合し、産業規模で知識グラフを確実に検証する。
2段階のトレーニング戦略は、大規模な教師モデルから安定したクエリ書き換えと推論のための小さなモデルに推論能力を移行する。
我々のフレームワークはシングルターンRAGのマクロF1を5.5%改善し、2段階のトレーニングは9.4%改善した。
論文 参考訳(メタデータ) (2026-07-10T04:22:34Z) - RGAlign-Rec: Ranking-Guided Alignment for Latent Query Reasoning in Recommendation Systems [25.34524038198569]
本稿では,プロアクティブな意図予測のための閉ループアライメントフレームワーク RGAlign-Rec を提案する。
また、マルチステージトレーニングパラダイムであるRGA(Ranning-Guided Alignment)も導入する。
我々のフレームワークはGAUCで0.12%向上し、エラー率を3.52%削減し、Recall@3で0.56%改善した。
論文 参考訳(メタデータ) (2026-02-13T14:38:02Z) - Generative Reasoning Re-ranker [24.386586034456673]
Generative Reasoning Reranker (GR2)は3段階のトレーニングパイプラインを備えたエンドツーエンドのフレームワークである。
GR2は、慎重に設計されたプロンプトとリジェクションサンプリングにより高品質な推論トレースを生成する。
2つの実世界のデータセットの実験では、GR2の有効性が示されている。
論文 参考訳(メタデータ) (2026-02-08T02:12:24Z) - From Verifiable Dot to Reward Chain: Harnessing Verifiable Reference-based Rewards for Reinforcement Learning of Open-ended Generation [52.62655622099456]
検証基準ベース報酬(RLVRR)を用いた強化学習を提案する。
最後の答えをチェックする代わりに、RLVRRは高品質な参照(すなわち報酬連鎖)から順序付けられた言語信号を抽出する。
このようにして、RLVRRは報酬を2つの次元に分解する。
論文 参考訳(メタデータ) (2026-01-26T14:39:58Z) - OnePiece: Bringing Context Engineering and Reasoning to Industrial Cascade Ranking System [61.12400636463362]
OnePieceは、LLMスタイルのコンテキストエンジニアリングと推論を、検索モデルとランキングモデルの両方にシームレスに統合する統合フレームワークである。
OnePieceは、Shopeeの主要なパーソナライズされた検索シナリオにデプロイされ、さまざまな主要なビジネス指標で一貫したオンラインゲインを実現している。
論文 参考訳(メタデータ) (2025-09-22T17:59:07Z) - ERank: Fusing Supervised Fine-Tuning and Reinforcement Learning for Effective and Efficient Text Reranking [33.25740773392183]
ERankは、多種多様な関連シナリオにまたがるLLMから構築された、非常に効率的で効率的なポイントワイド・リランカである。
スーパーバイザードファインチューニング(SFT)から始まる新しい2段階トレーニングパイプラインを提案する。
この段階では、二進ラベルを超えてモデルを生成的に訓練し、微粒な整数スコアを出力し、妥当性の識別を大幅に向上させる。
BRIGHT, FollowIR, TREC DL, BEIRベンチマークにおけるERankリランカの評価を行い, 既存手法と比較して優れた有効性と堅牢性を示した。
論文 参考訳(メタデータ) (2025-08-30T14:56:53Z) - GRPO-CARE: Consistency-Aware Reinforcement Learning for Multimodal Reasoning [53.894789613838654]
我々は、複雑な実世界のビデオにバランスの取れた知覚と推論を必要とするベンチマークであるSEED-Bench-R1を紹介する。
SEED-Bench-R1を用いて、標準GRPOは解の精度を向上する一方で、推論ステップと解の論理的コヒーレンスを57.9%の一貫性で減少させる。
応答の正しさと推論コヒーレンスの両方を明示的な監督なしに最適化する整合性を考慮したRLフレームワークGRPO-CAREを提案する。
論文 参考訳(メタデータ) (2025-06-19T08:49:13Z) - Reinforcing Video Reasoning with Focused Thinking [65.85683941058916]
本稿では,集中的思考と深い報酬の粒度で視覚的推論を強化する新しいフレームワークであるTW-GRPOを提案する。
具体的には,高情報密度のトークンを優先するトークン重み付け機構を用いる。
また,シングルチョイスからマルチチョイスQAタスクにシフトすることで,RLトレーニングを再構築する。
論文 参考訳(メタデータ) (2025-05-30T15:42:19Z) - The Dual-use Dilemma in LLMs: Do Empowering Ethical Capacities Make a Degraded Utility? [54.18519360412294]
大きな言語モデル(LLM)は、安全のための有害な要求を拒否することと、ユーティリティのための正当な要求を収容することのバランスをとる必要がある。
本稿では,DPO(Direct Preference Optimization)に基づくアライメントフレームワークを提案する。
我々は,DeepSeek-R1をベンチマークでテストした結果を解析し,この高い評価を得たモデルがもたらす批判的倫理的懸念を明らかにする。
論文 参考訳(メタデータ) (2025-01-20T06:35:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。