Fugu-MT 論文翻訳(概要): Unlocking Latent Personalization in LLMs

論文の概要: Unlocking Latent Personalization in LLMs

arxiv url: http://arxiv.org/abs/2609.33182v1
Date: Sun, 27 Sep 2026 04:00:46 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-06 02:28:36.560915
Title: Unlocking Latent Personalization in LLMs
Title（参考訳）: LLMにおける非ロック潜在パーソナライゼーション
Abstract要約: 我々は、共有潜在適応空間におけるナビゲーションとしてパーソナライズを定式化するフレームワークであるLatentPersonalを提案する。 LatentPersonalは、いくつかのユーザサンプルからコンパクトな潜在表現を推論して、ユーザ固有のモデル適応をガイドする。複数のパーソナライズデータセットに対する実験では、LatentPersonalがユーザ固有の適応オーバーヘッドを大幅に削減することが示された。
参考スコア（独自算出の注目度）: 10.590261472250118
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Large language models (LLMs) are increasingly expected to adapt to individual users, yet effective personalization remains challenging when only limited user-specific samples are available. In this work, we take an alternative perspective: pretrained LLMs may already possess latent capacity for personalization, and a few user samples may therefore suffice to guide the model toward user-aligned behavior with minimal user-specific adaptation. From this perspective, we propose LatentPersonal, a framework that formulates personalization as navigation in a shared latent adaptation space. LatentPersonal infers a compact latent representation from a few user samples to guide user-specific model adaptation, regularized with a variational information bottleneck to encourage compact preference representations. We instantiate LatentPersonal with LoRA, leveraging its low-rank parameterization as a natural low-dimensional adaptation space for personalization. By simply inserting a user-specific guidance vector between the shared low-rank factors, the model can navigate toward personalized adaptations through lightweight inference of this compact representation, without updating the shared LoRA parameters. Experiments across multiple personalization datasets demonstrate that LatentPersonal substantially reduces user-specific adaptation overhead while achieving effective personalization from only a few user-specific interactions, with particularly strong performance in the one-shot regime.
Abstract（参考訳）: 大規模言語モデル (LLM) は, 個々のユーザに対して適応することがますます期待されているが, ユーザ固有のサンプルが限られている場合にのみ, 効果的なパーソナライゼーションは困難である。事前学習されたLLMは、パーソナライズのための潜在能力を有しており、従っていくつかのユーザサンプルは、ユーザ固有の適応を最小限に抑えながら、モデルをユーザ指向の振る舞いへと導くのに十分である。この観点から、共有潜在適応空間におけるナビゲーションとしてのパーソナライゼーションを定式化するフレームワークであるLatentPersonalを提案する。 LatentPersonalは、少数のユーザサンプルからコンパクトな潜在表現を推論して、ユーザ固有のモデル適応をガイドし、変更情報のボトルネックで正規化して、コンパクトな嗜好表現を促進する。我々はLatentPersonalをLoRAでインスタンス化し、ローランクパラメータ化をパーソナライズのための自然な低次元適応空間として活用する。共有された低ランク要素間でユーザ固有のガイダンスベクトルを挿入するだけで、モデルは共有のLoRAパラメータを更新することなく、このコンパクト表現の軽量な推論を通じてパーソナライズされた適応に向かってナビゲートすることができる。複数のパーソナライズデータセットを対象とした実験では、LatentPersonalはユーザ固有の適応オーバーヘッドを大幅に低減するとともに、ユーザ固有のインタラクションから効果的なパーソナライズを実現している。

関連論文リスト

Aplaud: Adaptive Personalized Low-Rank Decomposition for User-Specific LLM [12.162804028842586]
微調整大言語モデル(LLM)を用いたパーソナライズされたサーベイ応答予測の問題について検討する。このタスクには、ユーザ毎のトレーニングデータ制限、モデルストレージのスケーラビリティ、調査質問間の共有構造を利用する必要性など、ユニークな課題が伴う。 LLMパーソナライズのための軽量でスケーラブルなフレームワークであるAplaudを提案する。
論文参考訳（メタデータ） (2026-09-04T05:09:17Z)
PLUME: Parameter-Efficient Personalization of Large Language Models via Low-Rank User Modulation in Shared Subspaces [10.890278280201592]
PLUMEは、共有タスク固有のサブスペースを活用することで、ユーザごとの効率的かつ表現力のある適応を実現するフレームワークである。 PLUMEは、ユーザ毎のパラメータを95%以上削減しながら、強力なベースラインと同等または優れたパフォーマンスを実現している。
論文参考訳（メタデータ） (2026-09-04T04:38:50Z)
Beyond Retrieval: Learning Compact User Representations for Scalable LLM Personalization [9.496320762102252]
ユーザの好みを学習可能な表現としてエンコードするフレームワークであるTAP-PERを提案する。 6つのLaMPタスクの実験では、TAP-PERはプロンプトベースとモデルベースベースラインを一貫して上回っている。 TAP-PERはユーザ毎のパラメータをOPPUの130倍少なくし、PER-PCSの総パラメータフットプリントの約半分をユーザスケールで使用している。
論文参考訳（メタデータ） (2026-06-03T07:32:18Z)
CLIPer: Tailoring Diverse User Preference via Classifier-Guided Inference-Time Personalization [28.672568353736335]
軽量なパーソナライゼーションアプローチであるtextbfCLIPer (textbfClassifier-guided textbfInference-time textbfPersonalization) を導入する。提案手法では, 微調整が不要となり, 計算オーバーヘッドが増大する。
論文参考訳（メタデータ） (2026-05-08T02:47:30Z)
Synthetic Interaction Data for Scalable Personalization in Large Language Models [67.31884245564086]
本稿ではPersonaGymという高忠実な合成データ生成フレームワークを紹介する。パーソナライゼーションを静的なペルソナ-参照ペアとして扱う以前の作業とは異なり、PersonaGymは動的な選好プロセスをモデル化する。我々は,高忠実度マルチターンパーソナライズされたインタラクショントラジェクトリの大規模かつ高品質で多様な合成データセットであるPersonaAtlasをリリースする。
論文参考訳（メタデータ） (2026-02-12T20:41:22Z)
One Adapts to Any: Meta Reward Modeling for Personalized LLM Alignment [55.86333374784959]
これらの制約に対処するには、データの適合からユーザの好みを学習し、嗜好適応のプロセスを学ぶためのパラダイムシフトが必要である、と我々は主張する。メタ学習問題としてパーソナライズされた報酬モデルを変更するメタリワードモデリング(MRM)を提案する。 MRMはパーソナライズを強化し、ユーザの堅牢性を向上し、ベースラインを一貫して上回ることを示す。
論文参考訳（メタデータ） (2026-01-26T17:55:52Z)
Instant Personalized Large Language Model Adaptation via Hypernetwork [56.512539596908745]
Profile-to-PEFTは、ハイパーネットワークでトレーニングされたエンドツーエンドを使用して、ユーザのエンコードされたプロファイルを直接、アダプタパラメータの完全なセットにマッピングするスケーラブルなフレームワークである。提案手法は,展開時に計算資源を著しく減らしながら,プロンプトベースのパーソナライゼーションとOPPUの両方に優れることを示す。
論文参考訳（メタデータ） (2025-10-18T00:41:25Z)
LoRe: Personalizing LLMs via Low-Rank Reward Modeling [47.12507639759984]
本稿では,低ランク嗜好モデルを利用してユーザ固有の報酬関数を効率的に学習し,一般化する新しいフレームワークを提案する。提案手法を複数の選好データセット上で検証し、未確認ユーザに対して優れた一般化を示し、選好予測タスクの精度を改善した。
論文参考訳（メタデータ） (2025-04-20T01:16:24Z)
Personalized Language Models via Privacy-Preserving Evolutionary Model Merging [53.97323896430374]
言語モデルにおけるパーソナライゼーションは、個々のユーザやユーザグループに対する振る舞いをモデル化することを目的としている。進化的アルゴリズム(PriME)によるプライバシ保護モデルマージを提案する。 PriMEは、プライバシーリスクを低減しつつ、ユーティリティを直接最適化するために、勾配のない方法を採用している。 LaMPベンチマークの実験によると、Primeは一貫してベースラインを上回り、タスクパフォーマンスを最大45%改善している。
論文参考訳（メタデータ） (2025-03-23T09:46:07Z)
Few-shot Steerable Alignment: Adapting Rewards and LLM Policies with Neural Processes [50.544186914115045]
大きな言語モデル(LLM)は、日々のアプリケーションにますます組み込まれています。個人ユーザの多様な嗜好との整合性を確保することは、重要な課題となっている。数発のステアライメントのための新しいフレームワークを提案する。
論文参考訳（メタデータ） (2024-12-18T16:14:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。