論文の概要: Federated User Behavior Modeling for Privacy-Preserving LLM Recommendation
- arxiv url: http://arxiv.org/abs/2604.14833v1
- Date: Thu, 16 Apr 2026 10:10:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-17 21:29:31.835695
- Title: Federated User Behavior Modeling for Privacy-Preserving LLM Recommendation
- Title(参考訳): プライバシ保護LLMレコメンデーションのためのフェデレーションユーザ行動モデリング
- Authors: Lei Guo, Hongyun Yang, Pengjie Ren, Tong Chen, Hui Liu, Zhumin Chen,
- Abstract要約: 本稿では,セマンティック・エンハンスド・フェデレーション・ユーザ・ビヘイビア・モデリング手法であるSF-UBMを提案する。
我々は、解離したドメインを接続するために、自然言語を普遍的なブリッジとして使用します。
Challenge 2を扱うために、私たちはFact-counter Knowledge Distillationモジュールを設計する。
チャレンジ3に取り組むために、事前に学習したユーザ好みとドメイン横断のアイテム表現をソフトプロンプト空間に投影する。
- 参考スコア(独自算出の注目度): 31.675771303239884
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Models have shown great success in recommender systems. However, the limited and sparse nature of user data often restricts the LLM's ability to effectively model behavior patterns. To address this, existing studies have explored cross-domain solutions by conducting Cross-Domain Recommendation tasks. But previous methods typically assume domains are overlapped and can be accessed readily. None of the LLM methods address the privacy-preserving issues in the CDR settings, that is, Privacy-Preserving Cross-Domain Recommendation. Conducting non-overlapping PPCDR with LLM is challenging since: 1)The inability to share user identity or behavioral data across domains impedes effective cross-domain alignment. 2)The heterogeneity of data modalities across domains complicates knowledge integration. 3)Fusing collaborative filtering signals from traditional recommendation models with LLMs is difficult, as they operate within distinct feature spaces. To address the above issues, we propose SF-UBM, a Semantic-enhanced Federated User Behavior Modeling method. Specifically, to deal with Challenge 1, we leverage natural language as a universal bridge to connect disjoint domains via a semantic-enhanced federated architecture. Here, text-based item representations are encrypted and shared, while user-specific data remains local. To handle Challenge 2, we design a Fact-counter Knowledge Distillation module to integrate domain-agnostic knowledge with domain-specific knowledge, across different data modalities. To tackle Challenge 3, we project pre-learned user preferences and cross-domain item representations into the soft prompt space, aligning behavioral and semantic spaces for effective LLM learning. We conduct extensive experiments on three pairs of real-world domains, and the experimental results demonstrate the effectiveness of SF-UBM compared to the recent SOTA methods.
- Abstract(参考訳): 大規模言語モデルはレコメンデーションシステムで大きな成功を収めています。
しかし、ユーザデータの限定的かつスパースな性質は、LLMの行動パターンを効果的にモデル化する能力を制限していることが多い。
これを解決するために、クロスドメイン勧告タスクを実行することで、クロスドメインソリューションを探索してきた。
しかし、以前のメソッドは通常、ドメインが重複しており、簡単にアクセスできると仮定します。
LLMメソッドはいずれも、CDR設定におけるプライバシ保護の問題、すなわちプライバシ保護のクロスドメイン勧告に対処するものではない。
1) ドメイン間でユーザアイデンティティや行動データを共有できないことは、ドメイン間の効果的なアライメントを阻害する。
2) ドメイン間のデータモダリティの不均一性は知識統合を複雑にする。
3) 従来のレコメンデーションモデルとLLMとの協調フィルタリング信号の融合は, 特徴空間内での動作が困難である。
上記の問題に対処するため,セマンティック・エンハンスド・フェデレーション・ユーザ・ビヘイビア・モデリング手法であるSF-UBMを提案する。
特に、チャレンジ1に対処するためには、自然言語を普遍的なブリッジとして活用し、セマンティック・エンハンスド・フェデレーションド・アーキテクチャを介して非結合領域を接続する。
ここでは、テキストベースのアイテム表現が暗号化され、共有され、ユーザ固有のデータはローカルのままである。
Challenge 2を扱うために、私たちはドメインに依存しない知識とドメイン固有の知識を統合するためのFact-counter Knowledge Distillationモジュールを設計しました。
課題3に取り組むために,我々は,事前学習されたユーザ嗜好とドメイン横断の項目表現をソフトプロンプト空間に投影し,行動空間と意味空間を協調させて,効果的なLLM学習を行う。
実世界の3つのドメインについて広範な実験を行い,最近のSOTA法と比較してSF-UBMの有効性を実証した。
関連論文リスト
- FeDecider: An LLM-Based Framework for Federated Cross-Domain Recommendation [75.50721642765994]
大規模言語モデル(LLM)ベースのレコメンデーションモデルは、素晴らしいパフォーマンスを示している。
We propose a LLM-based framework for Federated cross- domain recommendation, FeDecider。
多様なデータセットにわたる大規模な実験により、提案したFeDeciderの有効性が検証された。
論文 参考訳(メタデータ) (2026-02-17T21:42:28Z) - LLM-EDT: Large Language Model Enhanced Cross-domain Sequential Recommendation with Dual-phase Training [53.539682966282534]
クロスドメインシーケンスレコメンデーション (CDSR) は、様々なドメインからの情報を取り入れることで、ユーザとイテムのインタラクションを強化するために提案されている。
現在の進歩にもかかわらず、不均衡問題と移行問題はCDSRのさらなる発展を妨げる。
デュアルフェーズトレーニング(LLM-EDT)によるLLMの拡張型クロスドメインシーケンスレコメンデーションを提案する。
論文 参考訳(メタデータ) (2025-11-25T05:18:04Z) - Bridge the Domains: Large Language Models Enhanced Cross-domain Sequential Recommendation [30.116213884571803]
クロスドメインシークエンシャルレコメンデーション (CDSR) は、様々なドメインにわたるユーザの歴史的なインタラクションから好みを抽出することを目的としている。
既存のCDSRメソッドは、クロスドメインアイテムの関係を学習するために、すべてのドメインでインタラクションを所有するユーザに依存している。
強力な表現力と推論能力により、LLM(Large Language Models)はこれらの2つの問題に対処することを約束している。
論文 参考訳(メタデータ) (2025-04-25T14:30:25Z) - Let Synthetic Data Shine: Domain Reassembly and Soft-Fusion for Single Domain Generalization [68.41367635546183]
単一ドメインの一般化は、単一のソースからのデータを使用して、さまざまなシナリオで一貫したパフォーマンスでモデルをトレーニングすることを目的としている。
モデル一般化を改善するために合成データを活用した学習フレームワークDRSFを提案する。
論文 参考訳(メタデータ) (2025-03-17T18:08:03Z) - xTED: Cross-Domain Adaptation via Diffusion-Based Trajectory Editing [21.37585797507323]
ドメイン間政策伝達手法は主に、ポリシー学習を容易にするために、ドメインの対応や修正を学習することを目的としている。
本稿では,クロスドメイントラジェクトリ適応のために特別に設計された拡散モデルを用いたクロスドメイントラジェクトリ・EDitingフレームワークを提案する。
提案するモデルアーキテクチャは,対象データ内の動的パターンだけでなく,状態,行動,報酬間の複雑な依存関係を効果的にキャプチャする。
論文 参考訳(メタデータ) (2024-09-13T10:07:28Z) - Exploring User Retrieval Integration towards Large Language Models for Cross-Domain Sequential Recommendation [66.72195610471624]
Cross-Domain Sequential Recommendationは、異なるドメイン間でユーザのシーケンシャルな好みをマイニングし、転送することを目的としている。
本稿では,ユーザ検索手法を探索し,CDSRの性能向上を目的とした URLLM という新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-06-05T09:19:54Z) - BLADE: Enhancing Black-box Large Language Models with Small Domain-Specific Models [56.89958793648104]
大規模言語モデル(LLM)は多用途であり、多様なタスクに対処することができる。
従来のアプローチでは、ドメイン固有のデータによる継続的な事前トレーニングを行うか、一般的なLLMをサポートするために検索拡張を採用する。
BLADEと呼ばれる新しいフレームワークを提案する。このフレームワークは、小さなDomain-spEcificモデルでブラックボックスのLArge言語モデルを拡張する。
論文 参考訳(メタデータ) (2024-03-27T08:57:21Z) - Knowledge Plugins: Enhancing Large Language Models for Domain-Specific
Recommendations [50.81844184210381]
本稿では,大規模言語モデルをDOmain固有のKnowledgEで拡張し,実践的アプリケーション,すなわちDOKEの性能を向上させるためのパラダイムを提案する。
このパラダイムはドメイン知識抽出器に依存し,1)タスクに効果的な知識を準備すること,2)特定のサンプルごとに知識を選択すること,3)LLMで理解可能な方法で知識を表現すること,の3つのステップで動作する。
論文 参考訳(メタデータ) (2023-11-16T07:09:38Z) - One Model for All: Large Language Models are Domain-Agnostic Recommendation Systems [43.79001185418127]
本稿では,事前学習された大規模言語モデル(LLM)をドメインに依存しない推薦に利用するフレームワークを提案する。
具体的には、複数のドメインやアイテムタイトルからのユーザの振る舞いを文に混ぜて、ユーザとアイテムの表現を生成するためにLLMを使用する。
論文 参考訳(メタデータ) (2023-10-22T13:56:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。