論文の概要: Does Every User Need a Private LoRA? Decoupling Personalization from Per-User Adaptation

• arxiv url: http://arxiv.org/abs/2610.02353v1
• Date: Thu, 01 Oct 2026 18:29:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.044568
• Title: Does Every User Need a Private LoRA? Decoupling Personalization from Per-User Adaptation
• Title（参考訳）: すべてのユーザがプライベートLoRAが必要なのか? ユーザごとの適応からパーソナライズを分離する
• Abstract要約: パーソナライズされた大規模言語モデルは、各ユーザに対して完全な適応状態を必要とすることが多い、と私たちは主張する。 我々は,再利用可能な低ランク個人化要因のバンクを学習し,ユーザ条件のリコールとクエリ依存キャリブレーションによって構成するLINEUPを提案する。 LINEUPは、再利用可能な低ランクのパーソナライズ要素のバンクを学習し、ユーザ条件のリコールとクエリ依存キャリブレーションを通じて構成し、小さなユーザコードへのターゲットユーザ適応を、共有の修正空間上で制限する。
• 参考スコア（独自算出の注目度）: 12.971519641070307
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Personalized large language models often require a complete adaptation state for each user. However, this paradigm scales poorly as the user population grows. We revisit this design through the lens of personalization capacity allocation: how much adaptation capacity can be shared across users, how the shared capacity should be composed, and how much must remain user-specific. We answer them through three complementary empirical analyses. We find that independent user adapters contain substantial cross-user reusable structure, that the utility of reusable directions reflects both user relevance and variation across queries, and that user histories provide transferable signals for compact individual correction. Motivated by these findings, we propose LINEUP. It learns a bank of reusable low-rank personalization factors, composes them through user-conditioned recall and query-dependent calibration, and restricts target-user adaptation to a tiny user code over a shared correction space. This design decouples expressive personalization capacity from per-user trainable state. Each target user optimizes only eight scalars, while all shared components remain fixed. By comparison, the evaluated private-LoRA configuration uses 4.19 million per-user parameters. Our theoretical analysis gives a finite-step, finite-history risk bound and sufficient conditions for user-code refinement to improve on history initialization. Across six tasks spanning personalized classification, prediction, and generation, LINEUP leads on all 12 metrics, each averaged over three independent runs (e.g., reducing LaMP-3 RMSE by 11.4% relative to the strongest baseline). It maintains advantages under limited history. These results show that rich personalization can be supported primarily by reusable, conditionally composed shared capacity, while independent user adaptation remains confined to a tiny correction state.
• Abstract（参考訳）: パーソナライズされた大きな言語モデルは、ユーザーごとに完全な適応状態を必要とすることが多い。 しかし、このパラダイムは、ユーザ人口の増加に伴って、不十分にスケールする。 我々はこのデザインを、パーソナライズ能力割り当てのレンズを通して再考する: ユーザ間でどの程度のアダプティブキャパシティを共有できるか、どのように共有キャパシティを構成するべきか、そして、どの程度ユーザ固有のままでなければならないか。 3つの相補的な経験分析を通して答える。 独立したユーザアダプタには、ユーザ間の再利用可能な構造が含まれており、再利用可能な方向の効用は、クエリ間の関連性とばらつきの両方を反映し、ユーザヒストリーは、個々の修正をコンパクトにするための転送可能な信号を提供する。 これらの知見に感銘を受け、LINEUPを提案する。 再利用可能な低ランクのパーソナライズ要素のバンクを学習し、ユーザ条件のリコールとクエリ依存キャリブレーションを通じて構成し、小さなユーザコードへのターゲットユーザ適応を、共有の修正空間上で制限する。 この設計は、ユーザごとのトレーニング可能な状態から表現的パーソナライズ能力を分離する。 各ターゲットユーザは8つのスカラーのみを最適化するが、共有コンポーネントはすべて固定されている。 一方、評価済みのprivate-LoRA構成では、ユーザ毎のパラメータは4.19百万である。 我々の理論的分析は、歴史の初期化を改善するために、有限ステップ、有限ヒストリーリスクバウンドとユーザコード改善のための十分な条件を与える。 パーソナライズされた分類、予測、生成にまたがる6つのタスクの中で、LINEUPは3つの独立した実行(例えばLaMP-3 RMSEを最強のベースラインに対して11.4%削減する)で平均12のメトリクスをリードしている。 限られた歴史の下では優位性を維持している。 これらの結果から,リッチなパーソナライゼーションは再利用可能な条件付き共有キャパシティによって支援され,独立したユーザ適応は小さな修正状態に留まっていることが明らかとなった。

関連論文リスト

• Unlocking Latent Personalization in LLMs [10.590261472250118]
  我々は、共有潜在適応空間におけるナビゲーションとしてパーソナライズを定式化するフレームワークであるLatentPersonalを提案する。 LatentPersonalは、いくつかのユーザサンプルからコンパクトな潜在表現を推論して、ユーザ固有のモデル適応をガイドする。 複数のパーソナライズデータセットに対する実験では、LatentPersonalがユーザ固有の適応オーバーヘッドを大幅に削減することが示された。
  論文  参考訳（メタデータ） (2026-09-27T04:00:46Z)
• Aplaud: Adaptive Personalized Low-Rank Decomposition for User-Specific LLM [12.162804028842586]
  微調整大言語モデル(LLM)を用いたパーソナライズされたサーベイ応答予測の問題について検討する。 このタスクには、ユーザ毎のトレーニングデータ制限、モデルストレージのスケーラビリティ、調査質問間の共有構造を利用する必要性など、ユニークな課題が伴う。 LLMパーソナライズのための軽量でスケーラブルなフレームワークであるAplaudを提案する。
  論文  参考訳（メタデータ） (2026-09-04T05:09:17Z)
• PLUME: Parameter-Efficient Personalization of Large Language Models via Low-Rank User Modulation in Shared Subspaces [10.890278280201592]
  PLUMEは、共有タスク固有のサブスペースを活用することで、ユーザごとの効率的かつ表現力のある適応を実現するフレームワークである。 PLUMEは、ユーザ毎のパラメータを95%以上削減しながら、強力なベースラインと同等または優れたパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2026-09-04T04:38:50Z)
• Cautious Context Steering for Language Model Personalization [12.733264310259836]
  既存の手法は、通常、個々のユーザに対して個別のアダプタをトレーニングするか、あるいはスコアがユーザに依存する報酬モデルを学ぶ。 フリーズバックボーンLMに軽量なアダプタを追加し,各トークンに対して,ユーザコンテキストが生成にどの程度強く影響するかを判断するCautious Context Steeringを提案する。 1つのデータセットでトレーニングされたCCSアダプタは、ドメイン内と4つのアウト・オブ・ディストリビューションパーソナライゼーションベンチマークの両方で生成品質を改善する。
  論文  参考訳（メタデータ） (2026-08-06T09:45:25Z)
• Beyond Retrieval: Learning Compact User Representations for Scalable LLM Personalization [9.496320762102252]
  ユーザの好みを学習可能な表現としてエンコードするフレームワークであるTAP-PERを提案する。 6つのLaMPタスクの実験では、TAP-PERはプロンプトベースとモデルベースベースラインを一貫して上回っている。 TAP-PERはユーザ毎のパラメータをOPPUの130倍少なくし、PER-PCSの総パラメータフットプリントの約半分をユーザスケールで使用している。
  論文  参考訳（メタデータ） (2026-06-03T07:32:18Z)
• Preference-Aware Rubric Learning for Personalized Evaluation [59.539429430690156]
  既存の評価手法では、長期的なインタラクション履歴に埋め込まれたユーザ固有の嗜好をキャプチャできない。 静的判断よりも学習問題としてパーソナライズされた評価を定式化するパラダイムであるパーソナライズド・アズ・ラーニングを提案する。 実験により、PARLはユーザ対応の応答を確実に識別し、ユーザ間で一般化する高忠実なルーブリックを一貫して誘導することが示された。
  論文  参考訳（メタデータ） (2026-05-29T17:00:55Z)
• Towards Realistic Personalization: Evaluating Long-Horizon Preference Following in Personalized User-LLM Interactions [50.70965714314064]
  大規模言語モデル(LLM)は、ユーザが拡張されたインタラクションよりも複雑で多様な好みを共有するパーソナルアシスタントとして、ますます機能している。 この研究は、パーソナライズされたユーザ-LLMインタラクションにおいて、リアルな嗜好フォローを評価するためのベンチマークであるRealPrefを提案する。
  論文  参考訳（メタデータ） (2026-03-04T15:42:43Z)
• P-GenRM: Personalized Generative Reward Model with Test-time User-based Scaling [66.55381105691818]
  P-GenRM(Personalized Generative Reward Model)を提案する。 P-GenRMは、選好信号を適応的なペルソナとスコアリングルーリックを導出する構造化評価チェーンに変換する。 さらにユーザをユーザプロトタイプにクラスタリングし、二重粒度スケーリングメカニズムを導入している。
  論文  参考訳（メタデータ） (2026-02-12T16:07:22Z)
• Instant Personalized Large Language Model Adaptation via Hypernetwork [56.512539596908745]
  Profile-to-PEFTは、ハイパーネットワークでトレーニングされたエンドツーエンドを使用して、ユーザのエンコードされたプロファイルを直接、アダプタパラメータの完全なセットにマッピングするスケーラブルなフレームワークである。 提案手法は,展開時に計算資源を著しく減らしながら,プロンプトベースのパーソナライゼーションとOPPUの両方に優れることを示す。
  論文  参考訳（メタデータ） (2025-10-18T00:41:25Z)
• Personalized Reasoning: Just-In-Time Personalization and Why LLMs Fail At It [81.50711040539566]
  現在の大規模言語モデル(LLM)開発は、タスク解決と優先順位調整を別の課題として扱う。 静的ベンチマークを対話型パーソナライズタスクに変換する評価手法であるPreFDISCOを紹介する。 我々のフレームワークは、ユーザコンテキストに応じて、同じ質問が異なる推論チェーンを必要とするシナリオを作成します。
  論文  参考訳（メタデータ） (2025-09-30T18:55:28Z)
• Unsupervised Model Personalization while Preserving Privacy and Scalability: An Open Problem [55.21502268698577]
  本研究では,非教師なしモデルパーソナライゼーションの課題について検討する。 この問題を探求するための新しいDual User-Adaptation Framework(DUA)を提供する。 このフレームワークは、サーバ上のモデルパーソナライズとユーザデバイス上のローカルデータ正規化に柔軟にユーザ適応を分散させる。
  論文  参考訳（メタデータ） (2020-03-30T09:35:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。