論文の概要: Self-supervised User Profile Generation for Personalization
- arxiv url: http://arxiv.org/abs/2606.05336v1
- Date: Wed, 03 Jun 2026 18:25:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-05 22:39:44.340955
- Title: Self-supervised User Profile Generation for Personalization
- Title(参考訳): パーソナライズのための自己教師型ユーザプロファイル生成
- Authors: Clark Mingxuan Ju, Yuwei Qiu, Tong Zhao, Neil Shah,
- Abstract要約: 本稿では,プロファイルを用いた双方向ユーザモデリング(BUMP)について紹介する。
BUMPは、ラベル付き報酬に依存するクローズドソースAPIや先行メソッドにマッチするか、より優れています。
- 参考スコア(独自算出の注目度): 29.85412538714496
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Personalizing large language models (LLMs) has become a central challenge as LLMs are deployed across recommendation, search, dialogue, and content generation -- settings where the same query should yield different answers given different users. A promising route is to summarize each user's interaction history into a natural-language memory or profile and prepend it to the prompt to facilitate personalization. Existing methods learn such profile generators with explicit rewards derived from labeled downstream tasks, which are expensive and sparse as they require annotated supervision for every target task. In light of this challenge, we introduce Bidirectional User Modeling via Profiles (BUMP), a self-supervised framework that trains a profile generator without any downstream labels. Specifically, given a user's interaction history, we use GRPO to train an LLM to emit a free-form textual profile under a bidirectional in-batch ranking objective: a small LLM judge measures (i) how well the generated profile, used as a query, ranks the user's own held-out interactions above interactions from other users in the batch, and (ii) how well a held-out interaction, used as a query, ranks the user's own profile above profiles of other users. Both directions are scored with multi-positive NDCG and combined into a dense reward per rollout; other users in the batch supply free negatives, so every training example yields supervision from raw interaction logs alone. Evaluated on the LaMP benchmark, BUMP matches or outperforms closed-source APIs and prior methods relying on labeled rewards, while requiring no task label at training.
- Abstract(参考訳): 大規模言語モデル(LLM)のパーソナライズは、LLMがレコメンデーション、検索、対話、コンテンツ生成にまたがってデプロイされるため、中心的な課題となっている。
期待できるルートは、各ユーザのインタラクション履歴を自然言語のメモリやプロファイルにまとめ、パーソナライズを容易にするプロンプトにプリペイトすることである。
既存の手法では、ラベル付き下流タスクから得られる明確な報酬でプロファイルジェネレータを学習する。
この課題を踏まえて、下流ラベルを使わずにプロファイルジェネレータをトレーニングする自己教師型フレームワークである bidirectional User Modeling via Profiles (BUMP) を導入する。
具体的には、ユーザのインタラクション履歴を考慮し、GRPOを用いてLLMをトレーニングし、双方向のバッチ内ランキングの目的の下で自由形式のテキストプロファイルを出力する。
i) クエリとして使用される生成されたプロファイルが、バッチ内の他のユーザからのインタラクションよりも、ユーザの保持されたインタラクションをいかにランク付けするか。
(i)クエリーとして使用されるホールドアウトインタラクションが、ユーザのプロフィールを他のユーザのプロフィールの上にランク付けする方法について。
どちらの方向も多陽性のNDCGでスコアされ、ロールアウト毎に密集した報酬にまとめられる。
LaMPベンチマークで評価すると、BUMPはクローズドソースAPIと、ラベル付き報酬に依存する事前メソッドと、トレーニング時にタスクラベルを必要とせず、比較または性能を向上する。
関連論文リスト
- DUET: Joint Exploration of User Item Profiles in Recommendation System [64.09357667290634]
本稿では,ユーザやアイテムに対して効果的なテキストプロファイルを構築する方法について検討する。
最大の難点は、最高のプロファイルフォーマットがプリオリを知らないことである。
ユーザ履歴とアイテムエビデンスの両方で条件付きユーザプロファイルとアイテムプロファイルを共同で生成するインタラクション対応プロファイル生成器であるDuetを提案する。
論文 参考訳(メタデータ) (2026-04-15T12:37:40Z) - Towards Realistic Personalization: Evaluating Long-Horizon Preference Following in Personalized User-LLM Interactions [50.70965714314064]
大規模言語モデル(LLM)は、ユーザが拡張されたインタラクションよりも複雑で多様な好みを共有するパーソナルアシスタントとして、ますます機能している。
この研究は、パーソナライズされたユーザ-LLMインタラクションにおいて、リアルな嗜好フォローを評価するためのベンチマークであるRealPrefを提案する。
論文 参考訳(メタデータ) (2026-03-04T15:42:43Z) - Users as Annotators: LLM Preference Learning from Comparison Mode [9.005226538625474]
我々は、比較モードからユーザアノテーションをペアワイズに選好するデータを収集する代替手法を検討する。
ユーザの潜在品質係数を推定する予測最大化アルゴリズムを開発した。
論文 参考訳(メタデータ) (2025-10-10T08:57:34Z) - PrLM: Learning Explicit Reasoning for Personalized RAG via Contrastive Reward Optimization [4.624026598342624]
検索したユーザプロファイルを明示的に推論するために,LLMをトレーニングする強化学習フレームワークであるPrLMを提案する。
PrLMは、注釈付き推論パスを必要とせずに、ユーザの応答から効果的に学習する。
3つのパーソナライズされたテキスト生成データセットの実験は、PrLMが既存の手法より優れていることを示している。
論文 参考訳(メタデータ) (2025-08-10T13:37:26Z) - Know Me, Respond to Me: Benchmarking LLMs for Dynamic User Profiling and Personalized Responses at Scale [53.059480071818136]
大規模言語モデル(LLM)は、幅広いタスクでユーザのためのパーソナライズされたアシスタントとして登場した。
PERSONAMEMは180以上のユーザ-LLMインタラクション履歴を持つキュレートされたユーザプロファイルを備えている。
LLMチャットボットのユーザプロファイルの現在状況に応じて,最も適切な応答を識別する能力を評価する。
論文 参考訳(メタデータ) (2025-04-19T08:16:10Z) - Prompt Tuning as User Inherent Profile Inference Machine [68.16976932088708]
本稿では,ユーザプロファイルの推測にプロンプトチューニングを用いるUserIP-Tuningを提案する。
UserIP-Tuningは最先端のレコメンデーションアルゴリズムより優れている。
提案されたソリューションは2025年5月からHuawei AppGalleryのExploreページにデプロイされている。
論文 参考訳(メタデータ) (2024-08-13T02:25:46Z) - Reinforced Prompt Personalization for Recommendation with Large Language Models [24.360796133889156]
本稿では,個々のユーザに対して個別のプロンプトをパーソナライズすることを目的とした,インスタンスワイドプロンプトの概念を紹介する。
効率と品質を向上させるため、RPPは単語ごとの単語を検索するのではなく、文レベルでプロンプトをパーソナライズする。
論文 参考訳(メタデータ) (2024-07-24T09:24:49Z) - Aligning Language Models with Demonstrated Feedback [58.834937450242975]
Demonstration ITerated Task Optimization (DITTO)は、言語モデルの出力とユーザの実証された振る舞いを直接調整する。
我々は,DITTOがニュース記事やメール,ブログ記事などのドメイン間できめ細かいスタイルやタスクアライメントを学習する能力を評価する。
論文 参考訳(メタデータ) (2024-06-02T23:13:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。