論文の概要: MoF: Preference-Aware Mixture Modeling for Black-Box LLM Personalization
- arxiv url: http://arxiv.org/abs/2610.08330v1
- Date: Tue, 06 Oct 2026 13:29:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:30.008492
- Title: MoF: Preference-Aware Mixture Modeling for Black-Box LLM Personalization
- Title(参考訳): MoF: Black-Box LLMパーソナライゼーションのための優先認識混合モデル
- Abstract要約: Mixture-of-Facets (MoF) はブラックボックス LLM のためのスケーラブルなパーソナライズフレームワークである。
MoFは、共有ファセットヘッド上の履歴条件付きルーティングを通じてパーソナライズを行う。
さらなる分析は、目に見えないユーザーへの強力な一般化を示している。
- 参考スコア(独自算出の注目度): 0.261072980439312
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Proprietary Large Language Models (LLMs) have demonstrated remarkable capabilities across a wide range of tasks, yet aligning their outputs with diverse user preferences remains challenging. Existing personalization approaches for black-box LLMs often rely on user-specific scoring heads, causing the number of personalized parameters to grow linearly with the number of users and requiring additional adaptation for unseen users. To address these limitations, we propose Mixture-of-Facets (MoF), a scalable personalization framework for black-box LLMs that models user preferences as compositions of shared latent preference facets rather than dedicated user-specific parameters. MoF performs personalization through history-conditioned routing over shared facet heads, enabling personalization for users unseen during training without additional parameter updates. Across diverse personalization tasks, MoF delivers stronger personalization performance while maintaining a more scalable and parameter-efficient design than prior approaches. Additional analysis indicates strong generalization to unseen users.
- Abstract(参考訳): Proprietary Large Language Models (LLM) は、幅広いタスクにまたがって顕著な機能を示してきたが、その出力を多様なユーザの好みに合わせることは依然として困難である。
既存のブラックボックスLSMのパーソナライズアプローチは、しばしばユーザ固有のスコアリングヘッドに依存しており、パーソナライズされたパラメータの数がユーザ数と線形に増加し、目に見えないユーザへの追加適応が要求される。
これらの制約に対処するため,ブラックボックスLLMのためのスケーラブルなパーソナライズフレームワークであるMixture-of-Facets (MoF)を提案する。
MoFは、共有ファセットヘッド上の履歴条件付きルーティングを通じてパーソナライズを行い、追加のパラメータ更新なしでトレーニング中に見えないユーザのパーソナライズを可能にする。
多様なパーソナライズタスク全体にわたって、MoFは、以前のアプローチよりもスケーラブルでパラメータ効率の良い設計を維持しながら、より強力なパーソナライズパフォーマンスを提供する。
さらなる分析は、目に見えないユーザーへの強力な一般化を示している。
関連論文リスト
- Unlocking Latent Personalization in LLMs [10.590261472250118]
我々は、共有潜在適応空間におけるナビゲーションとしてパーソナライズを定式化するフレームワークであるLatentPersonalを提案する。
LatentPersonalは、いくつかのユーザサンプルからコンパクトな潜在表現を推論して、ユーザ固有のモデル適応をガイドする。
複数のパーソナライズデータセットに対する実験では、LatentPersonalがユーザ固有の適応オーバーヘッドを大幅に削減することが示された。
論文 参考訳(メタデータ) (2026-09-27T04:00:46Z) - Synthetic Interaction Data for Scalable Personalization in Large Language Models [67.31884245564086]
本稿ではPersonaGymという高忠実な合成データ生成フレームワークを紹介する。
パーソナライゼーションを静的なペルソナ-参照ペアとして扱う以前の作業とは異なり、PersonaGymは動的な選好プロセスをモデル化する。
我々は,高忠実度マルチターンパーソナライズされたインタラクショントラジェクトリの大規模かつ高品質で多様な合成データセットであるPersonaAtlasをリリースする。
論文 参考訳(メタデータ) (2026-02-12T20:41:22Z) - One Adapts to Any: Meta Reward Modeling for Personalized LLM Alignment [55.86333374784959]
これらの制約に対処するには、データの適合からユーザの好みを学習し、嗜好適応のプロセスを学ぶためのパラダイムシフトが必要である、と我々は主張する。
メタ学習問題としてパーソナライズされた報酬モデルを変更するメタリワードモデリング(MRM)を提案する。
MRMはパーソナライズを強化し、ユーザの堅牢性を向上し、ベースラインを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-01-26T17:55:52Z) - Towards Effective Model Editing for LLM Personalization [36.236438676571034]
我々はパーソナライズをモデル編集タスクとして概念化し、パーソナライズ編集を導入する。
このフレームワークは、クラスタ化された選好表現によってガイドされる局所的な編集を適用する。
微調整よりも高い編集精度と計算効率を実現する。
論文 参考訳(メタデータ) (2025-12-15T18:58:15Z) - LoRe: Personalizing LLMs via Low-Rank Reward Modeling [47.12507639759984]
本稿では,低ランク嗜好モデルを利用してユーザ固有の報酬関数を効率的に学習し,一般化する新しいフレームワークを提案する。
提案手法を複数の選好データセット上で検証し、未確認ユーザに対して優れた一般化を示し、選好予測タスクの精度を改善した。
論文 参考訳(メタデータ) (2025-04-20T01:16:24Z) - Measuring What Makes You Unique: Difference-Aware User Modeling for Enhancing LLM Personalization [68.79814761867314]
本稿では,Large Language Models (LLM) のパーソナライゼーションを強化するために,差分認識パーソナライズ学習(DPL)を提案する。
DPLは、戦略的に代表ユーザを比較のために選択し、タスク関連の違いを抽出するための構造化標準を確立する。
実世界のデータセットの実験により、DPLはLLMのパーソナライゼーションを大幅に向上させることが示された。
論文 参考訳(メタデータ) (2025-03-04T09:53:26Z) - LLMs + Persona-Plug = Personalized LLMs [41.60364110693824]
パーソナライゼーションは多くの言語タスクやアプリケーションにおいて重要な役割を担っている。
これにより、大きな言語モデル(LLM)を適用して、ユーザの好みに合わせてカスタマイズされたアウトプットを生成する、さまざまなパーソナライズされたアプローチが開発された。
そこで我々は,LLMモデルを提案する。軽量なプラグインユーザ埋め込みモジュールを用いて,過去の状況をすべてモデル化し,個人毎のユーザ固有の埋め込みを構築する。
論文 参考訳(メタデータ) (2024-09-18T11:54:45Z) - PEFT-U: Parameter-Efficient Fine-Tuning for User Personalization [9.594958534074074]
ユーザパーソナライズのためのNLPモデルの構築と評価のための新しいデータセットであるPEFT-Uベンチマークを紹介する。
多様なユーザ中心タスクのコンテキストにおいて、LLMを効率よくパーソナライズし、ユーザ固有の嗜好に適合させるという課題について検討する。
論文 参考訳(メタデータ) (2024-07-25T14:36:18Z) - Democratizing Large Language Models via Personalized Parameter-Efficient Fine-tuning [36.88126051792774]
大規模言語モデル(LLM)のパーソナライゼーションはますます重要になっている。
1つのPEFT Per User (OPPU) は、パーソナライズされたパラメータ効率の微調整(PEFT)モジュールを使用して、ユーザ固有の行動パターンと好みを保存する。
OPPUは、LaMPベンチマークの7つのタスクで既存のプロンプトベースのメソッドよりも大幅に優れています。
論文 参考訳(メタデータ) (2024-02-06T21:03:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。