論文の概要: FleetPilot: Fine-Grained Steering Empowers Real-World LLM Personalization
- arxiv url: http://arxiv.org/abs/2610.14970v1
- Date: Sat, 10 Oct 2026 14:44:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.13834
- Title: FleetPilot: Fine-Grained Steering Empowers Real-World LLM Personalization
- Title(参考訳): FleetPilot: 現実世界のLLMパーソナライゼーションを実現するファイングラインドステアリング・エンパワーズ
- Abstract要約: Modelnameはきめ細やかなインスタンスに適したステアリングフレームワークです。
ユーザデータからサンプルレベルの干渉を生成し、モデルをフォワードパスに注入してパーソナライズする。
その結果,本手法は連続的に性能向上をもたらし,高速シフトおよびデータスパース環境において極めて優れた性能を示すことがわかった。
- 参考スコア(独自算出の注目度): 51.242762264023675
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the rapid evolution of large language models (LLMs), there is an increasing demand for effective personalization techniques that can adapt model behavior to individual user preferences. Personalized LLMs must infer a user's query-dependent preferences from limited, heterogeneous, and evolving interaction histories. Existing approaches rely primarily on in-context personalization, parametric adaptation, or personalized reward modeling, but respectively incur recurring costs in context management, model optimization and deployment, or multi-candidate generation and scoring. These limitations become particularly restrictive when user observations are sparse and the preference evidence relevant to each query varies across contexts and over time. To address these challenges, we propose \modelname, a fine-grained and instance-tailored steering framework that dynamically generates sample-level interference vectors from user data and injects them into the model's forward pass for personalized adaptation. Our approach introduces: match contrast that produces user-relevant signals, fine-grained steering component that captures nuanced signals by hooking activations from attention and MLP layers, and query-conditioned aggregation module that synthesizes these signals into contextually relevant enhancements. Extensive experiments across diverse scenarios, including short-to-long text generation, and web function calling, validate the effectiveness and compatibility of \modelname. Results show that our method consistently brings significant performance gains, and show extreme superiority in fast-shifting and data-sparse environments. Additionally, \modelname rids us of training cycles and incurs light overhead of storage or inference latency. These make \modelname a strong and real-world deployable method. Implementation is available \footnote{https://anonymous.4open.science/r/FleetPilot}.
- Abstract(参考訳): 大規模言語モデル(LLM)の急速な進化に伴い、モデルの振る舞いを個々のユーザの好みに適応できる効果的なパーソナライズ技術への需要が高まっている。
パーソナライズされたLLMは、限定的で異質で進化するインタラクション履歴から、ユーザのクエリ依存の好みを推論しなければならない。
既存のアプローチは、主にコンテキスト内パーソナライズ、パラメトリック適応、パーソナライズされた報酬モデリングに頼っているが、それぞれ、コンテキスト管理、モデル最適化とデプロイメント、マルチ候補生成とスコアリングの繰り返しコストが発生する。
これらの制限は、ユーザの観察が不十分で、各クエリに関連する好みのエビデンスがコンテキストや時間によって異なる場合に、特に制限される。
これらの課題に対処するために,ユーザデータからサンプルレベルの干渉ベクトルを動的に生成し,パーソナライズされた適応のためにモデルの前方パスに注入する,きめ細かなインスタンス調整型ステアリングフレームワークである \modelname を提案する。
提案手法では,ユーザ関連信号を生成するマッチコントラスト,注意層やMLP層からのアクティベーションをフックすることでニュアンス信号を取得する微粒なステアリングコンポーネント,これらの信号を文脈的に関連付けられた拡張に合成するクエリ条件付アグリゲーションモジュールを導入している。
ショート・ツー・ロングテキスト生成やWeb関数呼び出しなど、さまざまなシナリオにわたる大規模な実験は、 \modelnameの有効性と互換性を検証する。
その結果,本手法は高い性能向上をもたらし,高速シフトおよびデータ分散環境において極めて優れた性能を示すことがわかった。
さらに、 \modelnameはトレーニングサイクルを排除し、ストレージや推論遅延の軽量なオーバーヘッドを発生させる。
これにより \modelname は、強力で実世界のデプロイ可能なメソッドになる。
実装は \footnote{https://anonymous.4open.science/r/FleetPilot} で利用可能である。
関連論文リスト
- Sparse Personalized Text Generation with Multi-Trajectory Reasoning [95.19317487799292]
PAT(Personalization with Aligned Trajectories)は、コールドスタートLDMパーソナライズのための推論フレームワークである。
まず、スタイリスティックに類似したユーザからの書き込みスタイルの手がかりと、嗜好に沿ったユーザからのトピック固有のコンテキストの2つの相補的なトラジェクトリに沿って情報を取得する。
次に、強化学習に基づく反復的な二重共振機構を用い、LLMはこれらの信号を共同で洗練し統合することができる。
論文 参考訳(メタデータ) (2026-04-27T20:58:49Z) - Synthetic Interaction Data for Scalable Personalization in Large Language Models [67.31884245564086]
本稿ではPersonaGymという高忠実な合成データ生成フレームワークを紹介する。
パーソナライゼーションを静的なペルソナ-参照ペアとして扱う以前の作業とは異なり、PersonaGymは動的な選好プロセスをモデル化する。
我々は,高忠実度マルチターンパーソナライズされたインタラクショントラジェクトリの大規模かつ高品質で多様な合成データセットであるPersonaAtlasをリリースする。
論文 参考訳(メタデータ) (2026-02-12T20:41:22Z) - Multimodal Large Language Models with Adaptive Preference Optimization for Sequential Recommendation [60.33386541343322]
本稿では,Hardness-Aware とNoNoRec (HaNoRec) を併用したマルチモーダル大規模言語モデルフレームワークを提案する。
具体的には、HaNoRecは、各トレーニングサンプルの予測硬度とポリシーモデルのリアルタイム応答性の両方に基づいて、最適化重量を動的に調整する。
論文 参考訳(メタデータ) (2025-11-24T04:10:46Z) - Fints: Efficient Inference-Time Personalization for LLMs with Fine-Grained Instance-Tailored Steering [49.212940215720884]
本稿では,ユーザデータからサンプルレベルの干渉を生成し,モデルの前方通過に注入してパーソナライズするステアリングフレームワークを提案する。
本手法は,対話モードやコンテキスト長の異なる環境において,ロバスト性を保ちながら,高速シフト環境におけるパーソナライズ性能を著しく向上させる。
論文 参考訳(メタデータ) (2025-10-31T06:01:04Z) - Personas within Parameters: Fine-Tuning Small Language Models with Low-Rank Adapters to Mimic User Behaviors [1.8352113484137629]
正確なレコメンデーションモデルを開発する上での長年の課題は、主にユーザインタラクションの複雑な性質のために、ユーザの振る舞いをシミュレートすることである。
本研究では, 凍結したLarge Language Models (LLMs) を用いてロバストなユーザ表現を抽出し, 微調整小言語モデル (SLMs) を用いたコスト効率, 資源効率のよいユーザエージェントをシミュレートする手法を提案する。
提案手法の有効性を実証し,本手法を用いて開発したユーザエージェントが,オフラインメトリクスとレコメンデータシステムの実環境性能のギャップを埋める可能性を示した。
論文 参考訳(メタデータ) (2025-08-18T22:14:57Z) - Few-shot Steerable Alignment: Adapting Rewards and LLM Policies with Neural Processes [50.544186914115045]
大きな言語モデル(LLM)は、日々のアプリケーションにますます組み込まれています。
個人ユーザの多様な嗜好との整合性を確保することは、重要な課題となっている。
数発のステアライメントのための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-18T16:14:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。