論文の概要: End-to-end Training for Recommendation with Language-based User Profiles

• arxiv url: http://arxiv.org/abs/2410.18870v1
• Date: Thu, 24 Oct 2024 15:57:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-25 12:48:55.596253
• Title: End-to-end Training for Recommendation with Language-based User Profiles
• Title（参考訳）: 言語に基づくユーザプロファイルによる推薦のためのエンドツーエンドトレーニング
• Authors: Zhaolin Gao, Joyce Zhou, Yijia Dai, Thorsten Joachims,
• Abstract要約: LangPTuneは、LLMをトレーニングして言語ベースのユーザプロファイルを生成するための、最初のエンドツーエンドの学習方法である。 我々は、LangPTuneが既存のプロファイルベースの手法を著しく上回っていることを示す。 最先端で透明性の低いレコメンデーションシステムに匹敵するパフォーマンスレベルにアプローチする。
• 参考スコア（独自算出の注目度）: 21.61482456379204
• License:
• Abstract: Many online platforms maintain user profiles for personalization. Unfortunately, these profiles are typically not interpretable or easily modifiable by the user. To remedy this shortcoming, we explore natural language-based user profiles, as they promise enhanced transparency and scrutability of recommender systems. While existing work has shown that language-based profiles from standard LLMs can be effective, such generalist LLMs are unlikely to be optimal for this task. In this paper, we introduce LangPTune, the first end-to-end learning method for training LLMs to produce language-based user profiles that optimize recommendation effectiveness. Through comprehensive evaluations of LangPTune across various training configurations and benchmarks, we demonstrate that our approach significantly outperforms existing profile-based methods. In addition, it approaches performance levels comparable to state-of-the-art, less transparent recommender systems, providing a robust and interpretable alternative to conventional systems. Finally, we validate the relative interpretability of these language-based user profiles through user studies involving crowdworkers and GPT-4-based evaluations. Implementation of LangPTune can be found at https://github.com/ZhaolinGao/LangPTune.
• Abstract（参考訳）: 多くのオンラインプラットフォームはパーソナライズのためのユーザープロファイルを維持している。 残念ながら、これらのプロファイルは通常、ユーザーが解釈したり簡単に修正したりできない。 この欠点を解消するため,推奨システムの透明性と精査性の向上を約束する自然言語ベースのユーザプロファイルについて検討する。 既存の研究は、標準LLMの言語ベースのプロファイルが有効であることを示しているが、そのような一般LLMは、このタスクに最適である可能性は低い。 本稿では,LangPTuneについて紹介する。LangPTuneは,LLMを学習し,推薦効率を最適化する言語ベースのユーザプロファイルを生成するための,最初のエンドツーエンド学習手法である。 様々なトレーニング設定やベンチマークでLangPTuneを総合的に評価することで、我々のアプローチが既存のプロファイルベースの手法よりも大幅に優れていることを示す。 さらに、最先端で透明性の低いレコメンデータシステムに匹敵するパフォーマンスレベルにアプローチし、従来のシステムに対して堅牢で解釈可能な代替手段を提供する。 最後に,これらの言語に基づくユーザプロファイルの相対的解釈可能性について,クラウドワーカーによるユーザスタディとGPT-4による評価を用いて検証する。 LangPTuneの実装はhttps://github.com/ZhaolinGao/LangPTuneで見ることができる。

関連論文リスト

• Clear Preferences Leave Traces: Reference Model-Guided Sampling for Preference Learning [59.11519451499754]
  直接選好最適化(DPO)は、言語モデルと人間の選好を整合させるデファクトアプローチとして登場した。 最近の研究によると、DPOの有効性はデータ品質のトレーニングに依存している。 基準モデル確率空間は,高品質なトレーニングサンプルを自然に検出する。
  論文  参考訳（メタデータ） (2025-01-25T07:21:50Z)
• Align-SLM: Textless Spoken Language Models with Reinforcement Learning from AI Feedback [50.84142264245052]
  テキストレス音声言語モデル(SLM)のセマンティック理解を強化するためのAlign-SLMフレームワークを導入する。 提案手法は、与えられたプロンプトから複数の音声継続を生成し、意味的指標を用いて、直接選好最適化(DPO)のための選好データを生成する。 語彙および構文モデリングのためのZeroSpeech 2021ベンチマーク、意味的コヒーレンスのためのStoryClozeデータセットの音声バージョン、GPT4-oスコアや人間評価などの音声生成指標を用いて、フレームワークの評価を行った。
  論文  参考訳（メタデータ） (2024-11-04T06:07:53Z)
• STAR: A Simple Training-free Approach for Recommendations using Large Language Models [36.18841135511487]
  現在の最先端の手法は、最適な結果を得るために微調整された大規模言語モデル(LLM)に依存している。 LLMを利用するフレームワークを提案し、微調整を必要とせずに様々なレコメンデーションタスクに適用できる。 The method achieves Hits@10 performance of +23.8% on Beauty, +37.5% on Toys & Games, and -1.8% on Sports & Outdoors。
  論文  参考訳（メタデータ） (2024-10-21T19:34:40Z)
• Monte Carlo Tree Search Boosts Reasoning via Iterative Preference Learning [55.96599486604344]
  本稿では,Large Language Models (LLMs) の推論能力向上を目的とした,反復的な選好学習プロセスによるアプローチを提案する。 我々は、MCTS(Monte Carlo Tree Search)を用いて好みデータを反復的に収集し、そのルックアヘッド機能を利用して、インスタンスレベルの報酬をよりきめ細かいステップレベルの信号に分解する。 提案アルゴリズムはDPO(Direct Preference Optimization)を用いて,新たに生成されたステップレベルの優先度データを用いてLCMポリシーを更新する。
  論文  参考訳（メタデータ） (2024-05-01T11:10:24Z)
• Uncertainty-Aware Explainable Recommendation with Large Language Models [15.229417987212631]
  GPT-2のプロンプトとしてユーザおよびアイテム入力のIDベクトルを利用するモデルを開発する。 マルチタスク学習フレームワークには,推薦タスクと説明タスクの両方を最適化するために,共同トレーニング機構が採用されている。 提案手法はYelp, TripAdvisor, Amazon のデータセット上でそれぞれ 1.59 DIV, 0.57 USR, 0.41 FCR を達成する。
  論文  参考訳（メタデータ） (2024-01-31T14:06:26Z)
• Self-Play Fine-Tuning Converts Weak Language Models to Strong Language Models [52.98743860365194]
  本稿では,SPIN(Self-Play fIne-tuNing)と呼ばれるファインチューニング手法を提案する。 SPINの中心には自己再生機構があり、LLMは自身のインスタンスと対戦することでその能力を洗練させる。 このことは、自己プレイの約束に光を当て、熟練した相手を必要とせずに、LSMにおける人間レベルのパフォーマンスの達成を可能にする。
  論文  参考訳（メタデータ） (2024-01-02T18:53:13Z)
• LlamaRec: Two-Stage Recommendation using Large Language Models for Ranking [10.671747198171136]
  ランキングベースレコメンデーション(LlamaRec)のための大規模言語モデルを用いた2段階フレームワークを提案する。 特に,ユーザインタラクション履歴に基づいて候補を検索するために,小規模なシーケンシャルレコメンデータを用いる。 LlamaRecは、推奨パフォーマンスと効率の両方において、データセットの優れたパフォーマンスを一貫して達成している。
  論文  参考訳（メタデータ） (2023-10-25T06:23:48Z)
• Read-only Prompt Optimization for Vision-Language Few-shot Learning [20.66798356082751]
  学習可能なプロンプトは、自己アテンションモジュールの内部表現に影響を与える可能性がある。 本稿では,リードオンリーのプロンプト最適化(RPO)を提案する。 実験により, RPOはCLIPとCoCoOpより, ベース・ツー・ニューな一般化とドメインの一般化に優れることが示された。
  論文  参考訳（メタデータ） (2023-08-29T01:22:30Z)
• LLMRec: Benchmarking Large Language Models on Recommendation Task [54.48899723591296]
  推奨領域におけるLarge Language Models (LLMs) の適用について, 十分に検討されていない。 我々は、評価予測、シーケンシャルレコメンデーション、直接レコメンデーション、説明生成、レビュー要約を含む5つのレコメンデーションタスクにおいて、市販のLLMをベンチマークする。 ベンチマークの結果,LLMは逐次的・直接的推薦といった精度に基づくタスクにおいて適度な熟練度しか示さないことがわかった。
  論文  参考訳（メタデータ） (2023-08-23T16:32:54Z)
• ReLLa: Retrieval-enhanced Large Language Models for Lifelong Sequential Behavior Comprehension in Recommendation [43.270424225285105]
  ゼロショットと少数ショットのレコメンデーションタスクのために、純粋に大きな言語モデルを適応し、強化することに重点を置いています。 ゼロショット設定と少数ショット設定の両方でレコメンデーションタスクを行うRetrieval-enhanced Large Language Model (ReLLa)を提案する。
  論文  参考訳（メタデータ） (2023-08-22T02:25:04Z)
• Improving Self-Supervised Learning by Characterizing Idealized Representations [155.1457170539049]
  与えられたデータ拡張に不変なタスクに対して必要かつ十分な条件を証明します。 対照的に、我々のフレームワークは、従来の手法に対して単純だが重要な改善を規定している。 非コントラスト学習では、私たちのフレームワークを使って、シンプルで斬新な目的を導き出します。
  論文  参考訳（メタデータ） (2022-09-13T18:01:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。