論文の概要: Aplaud: Adaptive Personalized Low-Rank Decomposition for User-Specific LLM
- arxiv url: http://arxiv.org/abs/2609.04738v1
- Date: Fri, 04 Sep 2026 05:09:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 18:15:23.917289
- Title: Aplaud: Adaptive Personalized Low-Rank Decomposition for User-Specific LLM
- Title(参考訳): Aplaud: ユーザ特化LDMのための適応型パーソナライズされた低ランク分解
- Abstract要約: 微調整大言語モデル(LLM)を用いたパーソナライズされたサーベイ応答予測の問題について検討する。
このタスクには、ユーザ毎のトレーニングデータ制限、モデルストレージのスケーラビリティ、調査質問間の共有構造を利用する必要性など、ユニークな課題が伴う。
LLMパーソナライズのための軽量でスケーラブルなフレームワークであるAplaudを提案する。
- 参考スコア(独自算出の注目度): 12.162804028842586
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we study the problem of personalized survey response prediction using fine-tuned large language models (LLMs). This task poses unique challenges: limited per-user training data, scalability of model storage, and the need to exploit shared structure across survey questions. To address these issues, we propose Aplaud (Adaptive Personalized Low-rank and User-specific Nested Decomposition), a lightweight and scalable framework for LLM personalization. Aplaud extends the LoRA paradigm by separating adaptation into a frozen, shared low-rank basis and a compact user-specific correction, augmented with a rank-one residual for finer personalization. To further reduce per-user parameter cost and mitigate overfitting, the correction matrix can be factorized into an even lower-rank form. Empirical results demonstrate that Aplaud achieves efficient, scalable personalization across users while outperforming state-of-the-art LoRA-based personalized LLM approaches in both generalization and inference efficiency.
- Abstract(参考訳): 本稿では,LLMを用いたパーソナライズされたサーベイ応答予測の問題について検討する。
このタスクには、ユーザ毎のトレーニングデータ制限、モデルストレージのスケーラビリティ、調査質問間の共有構造を利用する必要性など、ユニークな課題が伴う。
これらの問題に対処するため、LLMパーソナライズのための軽量でスケーラブルなフレームワークであるAplaud(Adaptive Personalized Low-rank and User-specific Nested Decomposition)を提案する。
AplaudはLoRAパラダイムを拡張し、適応を凍結された共有低ランクベースと、より細かいパーソナライズのためにランクワン残差を付加したコンパクトなユーザ固有の修正に分離する。
ユーザ毎のパラメータコストをさらに削減し、オーバーフィッティングを軽減するために、補正行列をさらに低ランクな形式に分解することができる。
実験結果から,Aplaudはユーザ間で効率よく,スケーラブルなパーソナライズを実現すると同時に,汎用性と推論効率の両面で,最先端のLoRAベースのパーソナライズ LLM アプローチより優れていることが示された。
関連論文リスト
- PLUME: Parameter-Efficient Personalization of Large Language Models via Low-Rank User Modulation in Shared Subspaces [10.890278280201592]
PLUMEは、共有タスク固有のサブスペースを活用することで、ユーザごとの効率的かつ表現力のある適応を実現するフレームワークである。
PLUMEは、ユーザ毎のパラメータを95%以上削減しながら、強力なベースラインと同等または優れたパフォーマンスを実現している。
論文 参考訳(メタデータ) (2026-09-04T04:38:50Z) - CLIPer: Tailoring Diverse User Preference via Classifier-Guided Inference-Time Personalization [28.672568353736335]
軽量なパーソナライゼーションアプローチであるtextbfCLIPer (textbfClassifier-guided textbfInference-time textbfPersonalization) を導入する。
提案手法では, 微調整が不要となり, 計算オーバーヘッドが増大する。
論文 参考訳(メタデータ) (2026-05-08T02:47:30Z) - FedPDPO: Federated Personalized Direct Preference Optimization for Large Language Model Alignment [55.97027207627]
Fed PDPO(Federated Personalized Direct Preference Optimization)は、大規模言語モデル(LLM)の優先順位調整のためのパーソナライズされたフレームワークである。
パラメータ効率の良い微調整アーキテクチャを採用し、各クライアントはLow-Rank Adaptation (LoRA)アダプタで拡張された凍結したLLMバックボーンを維持し、通信効率のよいアグリゲーションを可能にする。
複数の嗜好データセットの実験では、最先端のパフォーマンスを示し、フェデレーション付きドメイン内およびクロスドメイン設定の平均精度が4.80%向上した。
論文 参考訳(メタデータ) (2026-03-20T08:24:49Z) - Synthetic Interaction Data for Scalable Personalization in Large Language Models [67.31884245564086]
本稿ではPersonaGymという高忠実な合成データ生成フレームワークを紹介する。
パーソナライゼーションを静的なペルソナ-参照ペアとして扱う以前の作業とは異なり、PersonaGymは動的な選好プロセスをモデル化する。
我々は,高忠実度マルチターンパーソナライズされたインタラクショントラジェクトリの大規模かつ高品質で多様な合成データセットであるPersonaAtlasをリリースする。
論文 参考訳(メタデータ) (2026-02-12T20:41:22Z) - One Adapts to Any: Meta Reward Modeling for Personalized LLM Alignment [55.86333374784959]
これらの制約に対処するには、データの適合からユーザの好みを学習し、嗜好適応のプロセスを学ぶためのパラダイムシフトが必要である、と我々は主張する。
メタ学習問題としてパーソナライズされた報酬モデルを変更するメタリワードモデリング(MRM)を提案する。
MRMはパーソナライズを強化し、ユーザの堅牢性を向上し、ベースラインを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-01-26T17:55:52Z) - Towards Effective Model Editing for LLM Personalization [36.236438676571034]
我々はパーソナライズをモデル編集タスクとして概念化し、パーソナライズ編集を導入する。
このフレームワークは、クラスタ化された選好表現によってガイドされる局所的な編集を適用する。
微調整よりも高い編集精度と計算効率を実現する。
論文 参考訳(メタデータ) (2025-12-15T18:58:15Z) - Beyond Personalization: Federated Recommendation with Calibration via Low-rank Decomposition [18.323509259364908]
フェデレーションレコメンデーション(FR)は、レコメンデーションシステムにおけるユーザのプライバシを保護するための有望なパラダイムである。
グローバルに集約されたアイテムの埋め込みはユーザ埋め込みのスキューを誘導し、最適以下のパフォーマンスをもたらすことを実証的に見出した。
我々は、ユーザ埋め込みスキューを緩和し、パフォーマンス、効率、プライバシ間で望ましいトレードオフを実現するためにPFedCLRを提案する。
論文 参考訳(メタデータ) (2025-06-11T08:51:19Z) - LoRe: Personalizing LLMs via Low-Rank Reward Modeling [47.12507639759984]
本稿では,低ランク嗜好モデルを利用してユーザ固有の報酬関数を効率的に学習し,一般化する新しいフレームワークを提案する。
提案手法を複数の選好データセット上で検証し、未確認ユーザに対して優れた一般化を示し、選好予測タスクの精度を改善した。
論文 参考訳(メタデータ) (2025-04-20T01:16:24Z) - CoPL: Collaborative Preference Learning for Personalizing LLMs [24.12554324555074]
本稿では, ユーザの反応関係をモデル化し, 嗜好推定を向上するグラフベースの協調フィルタリングフレームワークを提案する。
CoPLは大きな言語モデル(LLM)を効率よく微調整し、共有とユーザ固有の好みを動的にバランスさせる。
UltraFeedback-Pの実験では、CoPLが既存のパーソナライズされた報酬モデルより優れていることが示されている。
論文 参考訳(メタデータ) (2025-03-03T15:32:02Z) - FSPO: Few-Shot Preference Optimization of Synthetic Preference Data in LLMs Elicits Effective Personalization to Real Users [111.56469697145519]
メタ学習問題として報酬モデルを再設計するFew-Shot Preference Optimizationを提案する。
このフレームワークでは、LDMはそのユーザからいくつかのラベル付けされた好みを通じてユーザへの迅速な適応を学び、パーソナライズされた報酬関数を構築する。
公開されているLLMを用いて100万以上の合成パーソナライズされた好みを生成する。
本研究は,映画レビュー,教育背景に基づく教育適応,一般質問応答の3分野を対象に,最大1,500人の総合ユーザを対象に,パーソナライズされたオープンエンド世代に対するFSPOの評価を行った。
論文 参考訳(メタデータ) (2025-02-26T17:08:46Z) - Few-shot Steerable Alignment: Adapting Rewards and LLM Policies with Neural Processes [50.544186914115045]
大きな言語モデル(LLM)は、日々のアプリケーションにますます組み込まれています。
個人ユーザの多様な嗜好との整合性を確保することは、重要な課題となっている。
数発のステアライメントのための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-18T16:14:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。