Fugu-MT 論文翻訳(概要): PLUME: Parameter-Efficient Personalization of Large Language Models via Low-Rank User Modulation in Shared Subspaces

論文の概要: PLUME: Parameter-Efficient Personalization of Large Language Models via Low-Rank User Modulation in Shared Subspaces

arxiv url: http://arxiv.org/abs/2609.04715v1
Date: Fri, 04 Sep 2026 04:38:50 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-07 18:15:23.911686
Title: PLUME: Parameter-Efficient Personalization of Large Language Models via Low-Rank User Modulation in Shared Subspaces
Title（参考訳）: PLUME:共有部分空間における低ランクユーザ変調による大規模言語モデルのパラメータ効率の良いパーソナライズ
Abstract要約: PLUMEは、共有タスク固有のサブスペースを活用することで、ユーザごとの効率的かつ表現力のある適応を実現するフレームワークである。 PLUMEは、ユーザ毎のパラメータを95%以上削減しながら、強力なベースラインと同等または優れたパフォーマンスを実現している。
参考スコア（独自算出の注目度）: 10.890278280201592
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Personalizing large language models (LLMs) is essential for delivering AI assistance that aligns with individual users' styles, intents, and preferences. While per-user fine-tuning can substantially enhance personalization quality, it introduces significant parameter and storage overhead, limiting scalability to large user populations. We propose PLUME (Personalized Low-Rank Adaptation through User Modulation and Shared Subspace), a lightweight framework that achieves efficient and expressive per-user adaptation by leveraging a shared task-specific subspace. Specifically, PLUME first learns a global task subspace from aggregated user data. Personalization is then achieved by training only a lightweight small square matrix within this subspace, enabling each user to obtain a tailored model while keeping shared components fixed. Cross-layer shared parameters and rank-1 residual terms are further introduced to significantly reduce redundancy while maintaining expressiveness. Experiments on multiple personalized text generation benchmarks demonstrate that PLUME achieves comparable or superior performance to strong baselines, while reducing per-user parameters by over 95%. These results establish shared-subspace modulation with minimal residuals as a scalable and semantically grounded approach to LLM personalization.
Abstract（参考訳）: 大規模言語モデル(LLM)のパーソナライズは、個々のユーザのスタイル、意図、好みに合わせてAIアシストを提供するために不可欠である。ユーザ毎の微調整はパーソナライズ品質を大幅に向上させるが、大きなパラメータとストレージオーバーヘッドを導入し、大きなユーザ人口にスケーラビリティを制限している。本稿では,PLUME(Personalized Low-Rank Adaptation through User Modulation and Shared Subspace)を提案する。具体的には、PLUMEはまず、集約されたユーザデータからグローバルなタスクサブスペースを学習する。パーソナライゼーションは、このサブスペース内の軽量な小さな正方行列のみをトレーニングすることで実現される。さらに、表現性を保ちながら冗長性を著しく低減するために、層間共有パラメータとランク1残項が導入された。複数のパーソナライズされたテキスト生成ベンチマークの実験では、PLUMEは強いベースラインと同等または優れたパフォーマンスを達成し、ユーザ毎のパラメータを95%以上削減している。これらの結果は、LLMパーソナライゼーションに対するスケーラブルでセマンティックなアプローチとして、最小限の残差を持つ共有部分空間変調を確立する。

関連論文リスト

Aplaud: Adaptive Personalized Low-Rank Decomposition for User-Specific LLM [12.162804028842586]
微調整大言語モデル(LLM)を用いたパーソナライズされたサーベイ応答予測の問題について検討する。このタスクには、ユーザ毎のトレーニングデータ制限、モデルストレージのスケーラビリティ、調査質問間の共有構造を利用する必要性など、ユニークな課題が伴う。 LLMパーソナライズのための軽量でスケーラブルなフレームワークであるAplaudを提案する。
論文参考訳（メタデータ） (2026-09-04T05:09:17Z)
Beyond Retrieval: Learning Compact User Representations for Scalable LLM Personalization [9.496320762102252]
ユーザの好みを学習可能な表現としてエンコードするフレームワークであるTAP-PERを提案する。 6つのLaMPタスクの実験では、TAP-PERはプロンプトベースとモデルベースベースラインを一貫して上回っている。 TAP-PERはユーザ毎のパラメータをOPPUの130倍少なくし、PER-PCSの総パラメータフットプリントの約半分をユーザスケールで使用している。
論文参考訳（メタデータ） (2026-06-03T07:32:18Z)
CLIPer: Tailoring Diverse User Preference via Classifier-Guided Inference-Time Personalization [28.672568353736335]
軽量なパーソナライゼーションアプローチであるtextbfCLIPer (textbfClassifier-guided textbfInference-time textbfPersonalization) を導入する。提案手法では, 微調整が不要となり, 計算オーバーヘッドが増大する。
論文参考訳（メタデータ） (2026-05-08T02:47:30Z)
Synthetic Interaction Data for Scalable Personalization in Large Language Models [67.31884245564086]
本稿ではPersonaGymという高忠実な合成データ生成フレームワークを紹介する。パーソナライゼーションを静的なペルソナ-参照ペアとして扱う以前の作業とは異なり、PersonaGymは動的な選好プロセスをモデル化する。我々は,高忠実度マルチターンパーソナライズされたインタラクショントラジェクトリの大規模かつ高品質で多様な合成データセットであるPersonaAtlasをリリースする。
論文参考訳（メタデータ） (2026-02-12T20:41:22Z)
Instant Personalized Large Language Model Adaptation via Hypernetwork [56.512539596908745]
Profile-to-PEFTは、ハイパーネットワークでトレーニングされたエンドツーエンドを使用して、ユーザのエンコードされたプロファイルを直接、アダプタパラメータの完全なセットにマッピングするスケーラブルなフレームワークである。提案手法は,展開時に計算資源を著しく減らしながら,プロンプトベースのパーソナライゼーションとOPPUの両方に優れることを示す。
論文参考訳（メタデータ） (2025-10-18T00:41:25Z)
LoRe: Personalizing LLMs via Low-Rank Reward Modeling [47.12507639759984]
本稿では,低ランク嗜好モデルを利用してユーザ固有の報酬関数を効率的に学習し,一般化する新しいフレームワークを提案する。提案手法を複数の選好データセット上で検証し、未確認ユーザに対して優れた一般化を示し、選好予測タスクの精度を改善した。
論文参考訳（メタデータ） (2025-04-20T01:16:24Z)
Measuring What Makes You Unique: Difference-Aware User Modeling for Enhancing LLM Personalization [68.79814761867314]
本稿では,Large Language Models (LLM) のパーソナライゼーションを強化するために,差分認識パーソナライズ学習(DPL)を提案する。 DPLは、戦略的に代表ユーザを比較のために選択し、タスク関連の違いを抽出するための構造化標準を確立する。実世界のデータセットの実験により、DPLはLLMのパーソナライゼーションを大幅に向上させることが示された。
論文参考訳（メタデータ） (2025-03-04T09:53:26Z)
Lifelong Personalized Low-Rank Adaptation of Large Language Models for Recommendation [50.837277466987345]
我々は、推奨のために大規模言語モデル(LLM)の分野に焦点を当てる。ユーザ毎に独立したLoRAを管理するPersonalized LoRAモジュールを組み込んだRecLoRAを提案する。また、Few2Many Learning Strategyを設計し、従来のレコメンデーションモデルをレンズとして使用して、小さなトレーニングスペースをフルスペースに拡大する。
論文参考訳（メタデータ） (2024-08-07T04:20:28Z)
Personalized Soups: Personalized Large Language Model Alignment via Post-hoc Parameter Merging [148.77027765872006]
パーソナライズされたヒューマンフィードバック(RLPHF)問題からの強化学習について検討する。 LLMは、多目的強化学習(MORL)問題としてアライメントをモデル化することで、複数の好みに整列する。我々は、好みを複数の次元に分解することで、パーソナライズされたアライメントを実現することができることを示す。
論文参考訳（メタデータ） (2023-10-17T20:22:13Z)
Sample-Efficient Personalization: Modeling User Parameters as Low Rank Plus Sparse Components [30.32486162748558]
個人ユーザ/ドメイン/エンタプライズに対する機械学習(ML)予測のパーソナライズは,実践的なレコメンデーションシステムにおいて重要である。ネットワーク重みを低ランクおよびスパース成分の和としてモデル化するメタラーニング方式を提案する。 AMHT-LRSは、ほぼ最適なサンプル複雑さで効率よく問題を解く。
論文参考訳（メタデータ） (2022-10-07T12:50:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。