論文の概要: Federated Personal Knowledge Graph Completion with Lightweight Large Language Models for Personalized Recommendations
- arxiv url: http://arxiv.org/abs/2603.13264v1
- Date: Wed, 25 Feb 2026 22:30:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-23 08:17:42.245468
- Title: Federated Personal Knowledge Graph Completion with Lightweight Large Language Models for Personalized Recommendations
- Title(参考訳): 個人化レコメンデーションのための軽量大言語モデルを用いた個人知識グラフ補完
- Authors: Fernando Spadea, Oshani Seneviratne,
- Abstract要約: 知識グラフと言語モデル(FedTREK-LM)を進化させたフェデレーションターゲットレコメンデーションを提案する。
FedTREK-LMは、軽量な大規模言語モデル(LLM)の統合、個人知識グラフ(PKG)の進化、フェデレートラーニング(FL)の最適化、そしてスケーラブルで分散化されたパーソナライゼーションを実現するためのKahneman-Tversky最適化のためのフレームワークである。
以上の結果から,実際のユーザデータは,合成データの性能を最大46%低下させるため,効果的なパーソナライズに不可欠であることが示唆された。
- 参考スコア(独自算出の注目度): 46.90931293070464
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Personalized recommendation increasingly relies on private user data, motivating approaches that can adapt to individuals without centralizing their information. We present Federated Targeted Recommendations with Evolving Knowledge graphs and Language Models (FedTREK-LM), a framework that unifies lightweight large language models (LLMs), evolving personal knowledge graphs (PKGs), federated learning (FL), and Kahneman-Tversky Optimization to enable scalable, decentralized personalization. By prompting LLMs with structured PKGs, FedTREK-LM performs context-aware reasoning for personalized recommendation tasks such as movie and recipe suggestions. Across three lightweight Qwen3 models (0.6B, 1.7B, 4B), FedTREK-LM consistently and substantially outperforms state-of-the-art KG completion and federated recommendation baselines (HAKE, KBGAT, and FedKGRec), achieving more than a 4x improvement in F1-score on the movie and food benchmarks. Our results further show that real user data is critical for effective personalization, as synthetic data degrades performance by up to 46%. Overall, FedTREK-LM offers a practical paradigm for adaptive, LLM-powered personalization that generalizes across decentralized, evolving user PKGs.
- Abstract(参考訳): パーソナライズされたレコメンデーションは、個人情報を集中せずに個人に適応できるアプローチを動機付ける、プライベートなユーザーデータにますます依存している。
我々は、軽量な大規模言語モデル(LLM)を統一するフレームワークであるFedTREK-LM(Federated Targeted Recommendations with Evolving Knowledge Graphs and Language Models)、PKGsの進化、Federated Learning(FL)、Kahneman-Tversky Optimizationを提示し、スケーラブルで分散化されたパーソナライゼーションを実現する。
構造化されたPKGでLLMを誘導することにより、FedTREK-LMは、映画やレシピの提案といったパーソナライズされたレコメンデーションタスクに対してコンテキスト対応の推論を行う。
3つの軽量Qwen3モデル(0.6B, 1.7B, 4B)にまたがって、FedTREK-LMは、最先端のKGの完成とフェデレーション・リコメンデーションベースライン(HAKE、KBGAT、FedKGRec)を大幅に上回り、映画や食品のベンチマークでF1スコアを4倍以上改善した。
さらに,本研究の結果から,合成データの性能を最大46%低下させるため,実際のユーザデータが効果的なパーソナライズに不可欠であることが示唆された。
全体として、FedTREK-LMは、分散化され進化するユーザPKGをまたいで一般化する、適応的でLLMを使ったパーソナライズのための実践的なパラダイムを提供する。
関連論文リスト
- Enriching Semantic Profiles into Knowledge Graph for Recommender Systems Using Large Language Models [7.054093620465398]
大規模言語モデル(LLM)は様々な知識源から圧縮された有理を抽出するのに有効であり,知識グラフ(KG)はこれらのプロファイルを伝播して到達範囲を拡大するのに適している,と我々は主張する。
この知見に基づいて,SPiKEと呼ばれる新しいレコメンデーションモデルを提案する。
実験では,SPiKEは実世界の環境において,最先端のKGやLLMベースのレコメンデータよりも一貫して優れていることを示した。
論文 参考訳(メタデータ) (2026-01-13T02:23:32Z) - Personalized LLM Decoding via Contrasting Personal Preference [7.183110910374338]
本研究では,パラメータ効率のよい微細チューニング(PEFT)をユーザ固有のデータに適用した新しいデコード時間手法CoPeを提案する。
私たちの中核となる考え方は、各ユーザの暗黙の報酬信号の最大化によって、特にパーソナライズのために報酬誘導復号を利用することです。
実験の結果,CoPeは高い性能を示し,ROUGE-Lでは平均10.57%のパーソナライゼーションが向上した。
論文 参考訳(メタデータ) (2025-06-13T09:12:44Z) - FSPO: Few-Shot Preference Optimization of Synthetic Preference Data in LLMs Elicits Effective Personalization to Real Users [111.56469697145519]
メタ学習問題として報酬モデルを再設計するFew-Shot Preference Optimizationを提案する。
このフレームワークでは、LDMはそのユーザからいくつかのラベル付けされた好みを通じてユーザへの迅速な適応を学び、パーソナライズされた報酬関数を構築する。
公開されているLLMを用いて100万以上の合成パーソナライズされた好みを生成する。
本研究は,映画レビュー,教育背景に基づく教育適応,一般質問応答の3分野を対象に,最大1,500人の総合ユーザを対象に,パーソナライズされたオープンエンド世代に対するFSPOの評価を行った。
論文 参考訳(メタデータ) (2025-02-26T17:08:46Z) - Federated Fine-Tuning of LLMs: Framework Comparison and Research Directions [59.5243730853157]
Federated Learning(FL)は、分散プライベートデータセットを使用して、トレーニング済みの大規模言語モデル(LLM)を微調整するための、プライバシ保護ソリューションを提供する。
本稿では、知識蒸留(KD)とスプリットラーニング(SL)を統合し、これらの問題を緩和する3つの先進的連合LLM(FedLLM)フレームワークの比較分析を行う。
論文 参考訳(メタデータ) (2025-01-08T11:37:06Z) - Personalized Federated Fine-Tuning for LLMs via Data-Driven Heterogeneous Model Architectures [23.45003063073793]
フェデレートラーニング(FL)は、生データにアクセスすることなく、大規模言語モデルの協調的な微調整を可能にする。
既存のファインチューニングへのアプローチは通常、一様モデルアーキテクチャを採用する。
データ駆動の異種モデルアーキテクチャを実現する軽量なパーソナライズFLフレームワークであるFedAMoLEを提案する。
論文 参考訳(メタデータ) (2024-11-28T13:20:38Z) - Self-Play Fine-Tuning Converts Weak Language Models to Strong Language Models [52.98743860365194]
本稿では,SPIN(Self-Play fIne-tuNing)と呼ばれるファインチューニング手法を提案する。
SPINの中心には自己再生機構があり、LLMは自身のインスタンスと対戦することでその能力を洗練させる。
このことは、自己プレイの約束に光を当て、熟練した相手を必要とせずに、LSMにおける人間レベルのパフォーマンスの達成を可能にする。
論文 参考訳(メタデータ) (2024-01-02T18:53:13Z) - Evaluating and Enhancing Large Language Models for Conversational Reasoning on Knowledge Graphs [4.092862870428798]
我々は知識グラフ(KG)を用いた現在最先端の大規模言語モデル(GPT-4)の会話推論能力を評価する。
我々は,KG経路の正確かつ適応的な予測を行うために設計された基底KG推論エージェントであるLLM-ARKを紹介する。
LLaMA-2-7B-ARKは、現在の最先端モデルよりも5.28ポイント優れており、ターゲット@1評価基準では36.39%である。
論文 参考訳(メタデータ) (2023-12-18T15:23:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。