論文の概要: Progressive Collaborative and Semantic Knowledge Fusion for Generative Recommendation
- arxiv url: http://arxiv.org/abs/2502.06269v1
- Date: Mon, 10 Feb 2025 09:08:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-11 14:29:02.205645
- Title: Progressive Collaborative and Semantic Knowledge Fusion for Generative Recommendation
- Title（参考訳）: ジェネレーティブレコメンデーションのためのプログレッシブ・コラボレーティブ・セマンティック・ナレッジ・フュージョン
- Authors: Longtao Xiao, Haozhao Wang, Cheng Wang, Linfei Ji, Yifan Wang, Jieming Zhu, Zhenhua Dong, Rui Zhang, Ruixuan Li,
- Abstract要約: 本稿では, ProRec という, 進化的協調的・意味的知識融合モデルを提案する。
最初の段階では、意味的知識を協調的な埋め込みに統合する、モダリティ間の知識アライメントタスクを提案する。
第2段階では,意味的・協調的なモダリティから知識を効果的に把握し,統合することを目的とした,モダリティ内知識蒸留タスクを提案する。
- 参考スコア（独自算出の注目度）: 36.48113842751375
- License:
- Abstract: With the recent surge in interest surrounding generative paradigms, generative recommendation has increasingly attracted the attention of researchers in the recommendation community. This paradigm generally consists of two stages. In the first stage, pretrained semantic embeddings or collaborative ID embeddings are quantized to create item codes, aiming to capture and preserve rich semantic or collaborative knowledge within these codes. The second stage involves utilizing these discrete codes to perform an autoregressive sequence generation task. Existing methods often either overlook collaborative or semantic knowledge, or combine the two roughly. In this paper, we observe that naively concatenating representations from semantic and collaborative modality leads to a semantic domination issue, where the resulting representation is overly influenced by semantic information, effectively overshadowing the collaborative representation. Consequently, downstream recommendation tasks fail to fully exploit the knowledge from both modalities, resulting in suboptimal performance. To address this, we propose a progressive collaborative and semantic knowledge fusion model for generative recommendation, named PRORec, which integrates semantic and collaborative knowledge with a unified code through a two-stage framework. Specifically, in the first stage, we propose a cross-modality knowledge alignment task, which integrates semantic knowledge into collaborative embeddings, enhancing their representational capability. In the second stage, we propose an in-modality knowledge distillation task, designed to effectively capture and integrate knowledge from both semantic and collaborative modalities. Extensive experiments on three widely used benchmarks validate the effectiveness of our approach, demonstrating its superiority compared to existing methods.
- Abstract（参考訳）: 生成パラダイムを取り巻く最近の関心の高まりにより、生成的推薦はリコメンデーションコミュニティの研究者の注目を集めている。
このパラダイムは一般的に2つのステージから構成される。
最初の段階では、事前訓練されたセマンティック埋め込みまたはコラボレーティブID埋め込みを定量化し、アイテムコードを作成し、これらのコード内でリッチなセマンティックまたはコラボレーティブな知識を捕捉し保存することを目的としている。
第2段階では、これらの離散コードを利用して自己回帰シーケンス生成タスクを実行する。
既存の手法は、しばしば協調的または意味的な知識を見落としているか、その2つを大まかに組み合わせている。
本稿では,意味的モダリティと協調的モダリティとの因果的結合が意味的支配問題を引き起こし,結果の表現が意味的情報に過度に影響され,協調的表現を効果的に覆い隠すことを観察する。
その結果、下流のレコメンデーションタスクは両方のモダリティからの知識を十分に活用することができず、結果として準最適性能が得られる。
そこで本研究では,2段階のフレームワークを通じて,意味的および協調的な知識を統一されたコードと統合するPropRecという,プロジェクティブレコメンデーションのための,プログレッシブな協調的・意味的知識融合モデルを提案する。
具体的には、第1段階では、意味的知識を協調的な埋め込みに統合し、その表現能力を向上するモダリティ間知識アライメントタスクを提案する。
第2段階では,意味的・協調的なモダリティから知識を効果的に把握し,統合することを目的とした,モダリティ内知識蒸留タスクを提案する。
広範に使用されている3つのベンチマークによる大規模な実験により,提案手法の有効性が検証され,既存手法と比較してその優位性が確認された。
関連論文リスト
- EAGER: Two-Stream Generative Recommender with Behavior-Semantic Collaboration [63.112790050749695]
本稿では,行動情報と意味情報の両方をシームレスに統合する新しい生成推薦フレームワークであるEAGERを紹介する。
EAGERの有効性を4つの公開ベンチマークで検証し,既存手法と比較して優れた性能を示した。
論文 参考訳（メタデータ） (2024-06-20T06:21:56Z) - Concept Matching with Agent for Out-of-Distribution Detection [19.407364109506904]
本稿では,エージェントパラダイムをアウト・オブ・ディストリビューション(OOD)検出タスクに統合する手法を提案する。
提案手法であるConcept Matching with Agent (CMA) は、CLIPに基づくOOD検出プロセスを強化するために、中性プロンプトをエージェントとして利用する。
実験結果から, ゼロショット法とトレーニング要求法の両方よりもCMAの方が優れた性能を示した。
論文 参考訳（メタデータ） (2024-05-27T02:27:28Z) - LEARN: Knowledge Adaptation from Large Language Model to Recommendation for Practical Industrial Application [54.984348122105516]
Llm-driven knowlEdge Adaptive RecommeNdation (LEARN)フレームワークは、オープンワールドの知識と協調的な知識をシナジする。
オープンワールドの知識と協調的な知識を相乗化するLlm-driven knowlEdge Adaptive RecommeNdation (LEARN) フレームワークを提案する。
論文 参考訳（メタデータ） (2024-05-07T04:00:30Z) - Deep Boosting Learning: A Brand-new Cooperative Approach for Image-Text Matching [53.05954114863596]
画像テキストマッチングのための新しいDeep Boosting Learning (DBL)アルゴリズムを提案する。
アンカーブランチは、まずデータプロパティに関する洞察を提供するために訓練される。
ターゲットブランチは、一致したサンプルと未一致のサンプルとの相対距離をさらに拡大するために、より適応的なマージン制約を同時に課される。
論文 参考訳（メタデータ） (2024-04-28T08:44:28Z) - Co-guiding for Multi-intent Spoken Language Understanding [53.30511968323911]
本稿では,2つのタスク間の相互指導を実現するための2段階のフレームワークを実装した,コガイドネットと呼ばれる新しいモデルを提案する。
第1段階では,単一タスクによる教師付きコントラスト学習を提案し,第2段階ではコガイドによる教師付きコントラスト学習を提案する。
マルチインテリジェントSLU実験の結果,我々のモデルは既存のモデルよりも大きなマージンで優れていることがわかった。
論文 参考訳（メタデータ） (2023-11-22T08:06:22Z) - REKnow: Enhanced Knowledge for Joint Entity and Relation Extraction [30.829001748700637]
関係抽出はテキストからすべての隠れた関係事実を抽出することを目的とした課題である。
様々な関係抽出設定下でうまく機能する統一されたフレームワークは存在しない。
これら2つの問題を緩和する知識強化型生成モデルを提案する。
本モデルは,WebNLG,NYT10,TACREDなど,複数のベンチマークや設定において優れた性能を実現する。
論文 参考訳（メタデータ） (2022-06-10T13:59:38Z) - Human-Centered Prior-Guided and Task-Dependent Multi-Task Representation
Learning for Action Recognition Pre-Training [8.571437792425417]
本稿では,人間中心の事前知識を利用した行動認識事前学習フレームワークを提案する。
具体的には、人間の構文解析モデルから知識を抽出し、表現の意味的能力を強化する。
さらに,知識蒸留とコントラスト学習を組み合わせることで,タスク依存型マルチタスクフレームワークを構成する。
論文 参考訳（メタデータ） (2022-04-27T06:51:31Z) - PAIR: Leveraging Passage-Centric Similarity Relation for Improving Dense
Passage Retrieval [87.68667887072324]
本稿では,クエリ中心とPAssage中心のsmilarity Relations(PAIR)を併用した新しい手法を提案する。
本稿では,2種類の類似性関係の形式的定式化を導入することにより,3つの主要な技術的貢献を行う。
MSMARCOとNatural Questionsの両方のデータセットにおいて、従来の最先端モデルよりも大幅に優れています。
論文 参考訳（メタデータ） (2021-08-13T02:07:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。