論文の概要: Personalizing Large Language Model Agents with Small Policy Models
- arxiv url: http://arxiv.org/abs/2608.00215v1
- Date: Fri, 31 Jul 2026 18:56:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 15:23:29.11534
- Title: Personalizing Large Language Model Agents with Small Policy Models
- Title(参考訳): 小政策モデルを用いた大規模言語モデルエージェントのパーソナライズ
- Abstract要約: FABLEは、潜在的にブラックボックスホストエージェントの外部の軽量なポリシーレイヤである。
メモリ、情報取得、レスポンスの決定を分解し、フィードバックが関連する選択を更新する。
固定されたデフォルトとコストのスコアに対して、ユーザ固有の残留嗜好を学習する。
- 参考スコア(独自算出の注目度): 6.759195695948836
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Large language model (LLM) agents can retrieve memory, call tools, ask clarifying questions, and vary response style, yet adapting these execution decisions to an individual user remains difficult. Fine-tuning a separate LLM is costly or impossible for proprietary systems, while prompts and memory primarily expose user information to the agent rather than adapt its execution decisions from feedback. We formulate personalization of a frozen agent as online learning of a per-user execution policy from scalar feedback observed only for the executed action. We propose FABLE (Factorized Adaptive Bandit Layer for Execution), a lightweight policy layer outside a potentially black-box host agent. FABLE factorizes memory, information-acquisition, and response decisions so feedback updates related choices; filters actions through an externally specified feasible set before exploration; and learns user-specific residual preferences relative to a fixed default-and-cost score via Bayesian contextual Thompson sampling. Under a linear residual-reward model, a calibrated variant inherits an expected-regret bound against the best feasible action. We also characterize preferences unidentifiable under persistent feasibility constraints and provide anytime-valid false-promotion control. Across personalized-reasoning, controlled-feedback, and executable tool-use evaluations, FABLE improves several preference-sensitive behaviors relative to rule-only control while remaining competitive on end-to-end task performance.
- Abstract(参考訳): 大規模言語モデル(LLM)エージェントは、メモリの取得、ツールの呼び出し、質問の明確化、レスポンススタイルの変更が可能だが、個々のユーザにこれらの実行決定を適用することは難しいままである。
個別のLLMを微調整することは、プロプライエタリなシステムではコストがかかるか不可能である。
我々は,実行中の行動にのみ観察されるスカラーフィードバックからユーザごとの実行ポリシーのオンライン学習としての凍結エージェントのパーソナライズを定式化する。
FABLE(Factorized Adaptive Bandit Layer for Execution)を提案する。
FABLEはメモリ、情報取得、レスポンスの決定を分解し、フィードバックが関連する選択を更新し、探索前に外部で指定された実行可能なセットを通じてアクションをフィルタリングする。
線形剰余回帰モデルの下では、キャリブレーションされた変種は、最良の実行可能な作用に対して期待される回帰的境界を継承する。
また、持続可能性制約下では特定不能な選好を特徴付けるとともに、任意の有意な偽プロモーション制御を提供する。
FABLEは、パーソナライズされた推論、制御されたフィードバック、実行可能なツール使用の評価全体にわたって、エンドツーエンドのタスクパフォーマンスに競争力を維持しながら、ルールのみの制御に対するいくつかの嗜好に敏感な振る舞いを改善している。
関連論文リスト
- From Profiling to Synthesis: Benchmarking Implicit Behavioral Alignment in Personalized LLM Agents [56.187590188698955]
大規模言語モデルは、ますます有能な自律エージェントを可能にしてきたが、そのようなエージェントを実用的に有効にするためには、パーソナライズが不可欠である。
最近のベンチマークではエージェントのパーソナライゼーションの評価が始まっているが、それらは主に静的な選好スナップショット、固定されたインタラクションログ、あるいは事前に定義されたユーザプロファイルに対する質問応答に依存している。
縦断的相互作用履歴から構築した暗黙的行動アライメントのベンチマークであるIBA-Benchを紹介する。
IBA-Agentは、広範囲な検索と軌道レベルのアライメントを通じて競合する優先順位を調整するエージェントフレームワークである。
論文 参考訳(メタデータ) (2026-08-03T12:52:04Z) - OLIVIA: Online Learning via Inference-time Action Adaptation for Decision Making in LLM ReAct Agents [74.20327254615854]
大規模言語モデルエージェントは、シーケンシャルな意思決定タスクを解決するために、推論、行動選択、観察をインターリーブする。
LLMエージェントの既存の推論時間適応法は、主にプロンプトや検索に依存している。
提案するOLIVIAは,ReAct型エージェントのための推論時行動適応フレームワークである。
論文 参考訳(メタデータ) (2026-05-11T19:28:20Z) - KnowU-Bench: Towards Interactive, Proactive, and Personalized Mobile Agent Evaluation [72.01173512175531]
KnowU-Benchはパーソナライズされたモバイルエージェントのためのオンラインベンチマークである。
42のGUIタスク、86のパーソナライズされたタスク、64のプロアクティブタスクをカバーしている。
明示的なタスク実行に優れるエージェントは、あいまいな指示の下で50%以下に低下する。
論文 参考訳(メタデータ) (2026-04-09T16:50:50Z) - Interactive Recommendation Agent with Active User Commands [35.77744269746443]
本稿では、主流の推薦フィード内で自然言語コマンドを可能にする先駆的なパラダイムであるInteractive Recommendation Feed(IRF)を紹介する。
ユーザが暗黙的な行動の影響を受動的に抑制する従来のシステムとは異なり、IRFはリアルタイム言語コマンドを通じて推奨ポリシーを積極的に制御する。
RecBotは、ユーザ満足度とビジネス成果の両方において、大幅に改善されている。
論文 参考訳(メタデータ) (2025-09-25T15:38:27Z) - PersonaAgent: When Large Language Model Agents Meet Personalization at Test Time [87.99027488664282]
PersonaAgentは、汎用的なパーソナライゼーションタスクに対処するために設計されたフレームワークである。
パーソナライズされたメモリモジュールとパーソナライズされたアクションモジュールを統合する。
テストタイムのユーザ嗜好アライメント戦略は、リアルタイムのユーザの嗜好アライメントを保証する。
論文 参考訳(メタデータ) (2025-06-06T17:29:49Z) - Few-shot Steerable Alignment: Adapting Rewards and LLM Policies with Neural Processes [50.544186914115045]
大きな言語モデル(LLM)は、日々のアプリケーションにますます組み込まれています。
個人ユーザの多様な嗜好との整合性を確保することは、重要な課題となっている。
数発のステアライメントのための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-18T16:14:59Z) - On Generative Agents in Recommendation [58.42840923200071]
Agent4Recは、Large Language Modelsに基づいたレコメンデーションのユーザーシミュレータである。
各エージェントは、ページ単位でパーソナライズされた推奨モデルと対話する。
論文 参考訳(メタデータ) (2023-10-16T06:41:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。