論文の概要: Bi-Level Optimization for Generative Recommendation: Bridging Tokenization and Generation

• arxiv url: http://arxiv.org/abs/2510.21242v1
• Date: Fri, 24 Oct 2025 08:25:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-28 06:57:23.401211
• Title: Bi-Level Optimization for Generative Recommendation: Bridging Tokenization and Generation
• Title（参考訳）: 生成レコメンデーションのための双方向最適化:ブリッジングトークン化と生成
• Authors: Yimeng Bai, Chang Liu, Yang Zhang, Dingxian Wang, Frank Yang, Andrew Rabinovich, Wenge Rong, Fuli Feng,
• Abstract要約: ジェネレーティブレコメンデーションは,マッチングに頼るのではなく,推奨項目を直接生成することによって,変革的なパラダイムとして現れています。 既存のアプローチでは、トークン化器を扱い、適切なアイテム識別子とそれらの識別子に基づいてレコメンデータを導出する。 BLOGER, Bi-Level Optimization for GEnerative Recommendation frameworkを提案する。
• 参考スコア（独自算出の注目度）: 42.09028908758132
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generative recommendation is emerging as a transformative paradigm by directly generating recommended items, rather than relying on matching. Building such a system typically involves two key components: (1) optimizing the tokenizer to derive suitable item identifiers, and (2) training the recommender based on those identifiers. Existing approaches often treat these components separately--either sequentially or in alternation--overlooking their interdependence. This separation can lead to misalignment: the tokenizer is trained without direct guidance from the recommendation objective, potentially yielding suboptimal identifiers that degrade recommendation performance. To address this, we propose BLOGER, a Bi-Level Optimization for GEnerative Recommendation framework, which explicitly models the interdependence between the tokenizer and the recommender in a unified optimization process. The lower level trains the recommender using tokenized sequences, while the upper level optimizes the tokenizer based on both the tokenization loss and recommendation loss. We adopt a meta-learning approach to solve this bi-level optimization efficiently, and introduce gradient surgery to mitigate gradient conflicts in the upper-level updates, thereby ensuring that item identifiers are both informative and recommendation-aligned. Extensive experiments on real-world datasets demonstrate that BLOGER consistently outperforms state-of-the-art generative recommendation methods while maintaining practical efficiency with no significant additional computational overhead, effectively bridging the gap between item tokenization and autoregressive generation.
• Abstract（参考訳）: ジェネレーティブレコメンデーションは,マッチングに頼るのではなく,推奨項目を直接生成することによって,変革的なパラダイムとして現れています。 このようなシステムの構築には、(1)トークン化ツールを最適化して適切なアイテム識別子を導出すること、(2)それらの識別子に基づいてレコメンデータをトレーニングすること、の2つの重要なコンポーネントが含まれる。 既存のアプローチでは、これらのコンポーネントを、順番に、あるいは交互に、相互依存関係を見渡すように、別々に扱うことが多い。 トークンライザはレコメンデーションの目的から直接のガイダンスなしでトレーニングされ、リコメンデーションのパフォーマンスを低下させる、最適以下の識別子が得られます。 そこで本稿では,トークン化とレコメンダの相互依存性を統一最適化プロセスで明示的にモデル化する,GEnerative Recommendationフレームワークのバイレベル最適化であるBLOGERを提案する。 下層はトークン化シーケンスを使用してレコメンダをトレーニングし、上層はトークン化損失とレコメンデーション損失の両方に基づいてトークン化を最適化する。 この二段階最適化を効率的に解くためにメタラーニングアプローチを採用し、上位レベルの更新における勾配競合を軽減するために勾配手術を導入し、アイテム識別子が情報的かつレコメンデーション的であることを保証する。 実世界のデータセットに関する大規模な実験により、BLOGERは最先端のジェネレーティブ・レコメンデーション・メソッドを一貫して上回りながら、計算上のオーバーヘッドを増大させることなく実用的な効率を維持し、アイテムのトークン化と自己回帰生成のギャップを効果的に埋めることを示した。

関連論文リスト

• Closing the Performance Gap in Generative Recommenders with Collaborative Tokenization and Efficient Modeling [10.757287948514604]
  本稿では,協調情報を学習項目表現に直接統合するコントラストトークン化手法を提案する。 また、アイテムデコーディングからタイムラインモデリングを分離する軽量な音声インスパイアされた生成モデルであるMARIUSを提案する。
  論文  参考訳（メタデータ） (2025-08-12T17:06:55Z)
• On the Role of Feedback in Test-Time Scaling of Agentic AI Workflows [71.92083784393418]
  エージェントAI(自律的な計画と行動を行うシステム)は広く普及しているが、複雑なタスクにおけるタスクの成功率は低いままである。 推論時のアライメントは、サンプリング、評価、フィードバックの3つのコンポーネントに依存します。 本稿では,様々な形態の批判から抽出されたフィードバックを繰り返し挿入するIterative Agent Decoding(IAD)を紹介する。
  論文  参考訳（メタデータ） (2025-04-02T17:40:47Z)
• Generative Recommender with End-to-End Learnable Item Tokenization [51.82768744368208]
  ETEGRecは、アイテムのトークン化と生成レコメンデーションを結合的なフレームワークに統合する、新しいエンドツーエンド生成レコメンダである。 ETEGRecは、アイテムトークンライザと、デュアルエンコーダ-デコーダアーキテクチャ上に構築された生成レコメンデータで構成されている。 我々は、フレームワーク全体の安定的で効率的なエンドツーエンドトレーニングを保証するために、交互に最適化する手法を開発した。
  論文  参考訳（メタデータ） (2024-09-09T12:11:53Z)
• Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
  バイレベル最適化は多くの機械学習問題に対するツールである。 Stoc-BiO という新しい確率効率勾配推定器を提案する。
  論文  参考訳（メタデータ） (2020-10-15T18:09:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。