論文の概要: Expert Personas Improve LLM Alignment but Damage Accuracy: Bootstrapping Intent-Based Persona Routing with PRISM

• arxiv url: http://arxiv.org/abs/2603.18507v1
• Date: Thu, 19 Mar 2026 05:28:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-20 17:19:05.970024
• Title: Expert Personas Improve LLM Alignment but Damage Accuracy: Bootstrapping Intent-Based Persona Routing with PRISM
• Title（参考訳）: 専門家ペルソナによるLLMアライメントの改善と損傷精度:PRISMによるインテントベースのペルソナルーティングのブートストラップ
• Authors: Zizhao Hu, Mohammad Rostami, Jesse Thomason,
• Abstract要約: 本研究では,モデル最適化,タスクタイプ,プロンプト長,配置が,学習指導と推論における専門家ペルソナの有効性に与える影響について検討する。 そこで本研究では,PRISMという専門家ペルソナのメリットをフル活用するパイプラインを開発した。
• 参考スコア（独自算出の注目度）: 21.495137998180954
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Persona prompting can steer LLM generation towards a domain-specific tone and pattern. This behavior enables use cases in multi-agent systems where diverse interactions are crucial and human-centered tasks require high-level human alignment. Prior works provide mixed opinions on their utility: some report performance gains when using expert personas for certain domains and their contribution to data diversity in synthetic data creation, while others find near-zero or negative impact on general utility. To fully leverage the benefits of the LLM persona and avoid its harmfulness, a more comprehensive investigation of the mechanism is crucial. In this work, we study how model optimization, task type, prompt length, and placement can impact expert persona effectiveness across instruction-tuned and reasoning LLMs, and provide insight into conditions under which expert personas fail and succeed. Based on our findings, we developed a pipeline to fully leverage the benefits of an expert persona, named PRISM (Persona Routing via Intent-based Self-Modeling), which self-distills an intent-conditioned expert persona into a gated LoRA adapter through a bootstrapping process that requires no external data, models, or knowledge. PRISM enhances human preference and safety alignment on generative tasks while maintaining accuracy on discriminative tasks across all models, with minimal memory and computing overhead.
• Abstract（参考訳）: ペルソナプロンプトは、LLM生成をドメイン固有のトーンとパターンに操る。 この振る舞いは、多様な相互作用が不可欠であり、人間中心のタスクが高レベルな人間のアライメントを必要とするマルチエージェントシステムにおけるユースケースを可能にする。 特定のドメインで専門家のペルソナを使用することと、合成データ作成におけるデータの多様性への貢献について報告する一方で、一般的なユーティリティにほぼゼロあるいは負の影響があるという報告もある。 LLMペルソナの利点を十分に活用し、その有害性を避けるためには、より包括的なメカニズムの研究が不可欠である。 本研究では, モデル最適化, タスクタイプ, プロンプト長, 配置が, LLMの学習・推論における専門家のペルソナの有効性にどのように影響するかを考察し, 専門家のペルソナが失敗して成功する条件について考察する。 PRISM(Persona Routing via Intent-based Self-Modeling)という名のエキスパートペルソナのメリットをフル活用するためのパイプラインを開発しました。 PRISMは、生成タスクに対する人間の嗜好と安全性の整合性を高め、メモリとコンピューティングのオーバーヘッドを最小限に抑えながら、すべてのモデルにおける識別タスクの精度を維持する。

関連論文リスト

• How Does Personalized Memory Shape LLM Behavior? Benchmarking Rational Preference Utilization in Personalized Assistants [25.83552447206606]
  大規模言語モデル(LLM)を利用したアシスタントは、最近、ユーザの好みを記録するメモリメカニズムを統合し、よりパーソナライズされ、ユーザに準拠した応答をもたらす。 RPEvalは、パーソナライズされた意図推論データセットとマルチグラニュラリティ評価プロトコルからなるベンチマークである。 RPEvalは、既存のLCMにおける不合理なパーソナライゼーションの広範な現象を明らかにし、エラーパターン解析を通じて、ユーザエクスペリエンスに悪影響を及ぼすことを示す。 本稿では、メモリ利用を実用的な推論プロセスとして扱い、パーソナライズされた情報の選択的統合を可能にするRP-Reasonerを紹介する。
  論文  参考訳（メタデータ） (2026-01-23T10:19:48Z)
• HumanLLM: Towards Personalized Understanding and Simulation of Human Nature [72.55730315685837]
  HumanLLMは個人のパーソナライズされた理解とシミュレーションのために設計された基礎モデルである。 私たちはまず、Reddit、Twitter、Blogger、Amazonといったプラットフォーム上で、現実世界のユーザデータをキュレートした大規模なコーパスであるCognitive Genomeを構築しました。 次に、多様な学習タスクを定式化し、教師付き微調整を行い、モデルの幅広い個人化された人間の行動、思考、経験を予測する。
  論文  参考訳（メタデータ） (2026-01-22T09:27:27Z)
• Learning Individual Intrinsic Reward in Multi-Agent Reinforcement Learning via Incorporating Generalized Human Expertise [6.441011477647557]
  マルチエージェント強化学習(MARL)の効率的な探索は、チーム報酬のみを受け取る場合の課題である。 この問題を緩和するための強力な方法は、エージェントを効率的な探索へと導くために、密集した個人報酬を作成することである。 本稿では,MARLアルゴリズムに人間の知識をエンドツーエンドで組み込む新しいフレームワーク LIGHT を提案する。
  論文  参考訳（メタデータ） (2025-07-25T00:59:10Z)
• PersonaAgent: When Large Language Model Agents Meet Personalization at Test Time [87.99027488664282]
  PersonaAgentは、汎用的なパーソナライゼーションタスクに対処するために設計されたフレームワークである。 パーソナライズされたメモリモジュールとパーソナライズされたアクションモジュールを統合する。 テストタイムのユーザ嗜好アライメント戦略は、リアルタイムのユーザの嗜好アライメントを保証する。
  論文  参考訳（メタデータ） (2025-06-06T17:29:49Z)
• OPeRA: A Dataset of Observation, Persona, Rationale, and Action for Evaluating LLMs on Human Online Shopping Behavior Simulation [56.47029531207105]
  OPERAは、ユーザペルソナ、ブラウザの観察、きめ細かいWebアクション、そして自己報告されたジャストインタイム論理を包括的にキャプチャする最初のパブリックデータセットである。 我々は,現在のLCMがユーザの次の行動と合理的性をどの程度予測できるかを評価するための最初のベンチマークを確立する。
  論文  参考訳（メタデータ） (2025-06-05T21:37:49Z)
• AgentDAM: Privacy Leakage Evaluation for Autonomous Web Agents [66.29263282311258]
  我々は、AIウェブナビゲーションエージェントがデータ最小化のプライバシー原則に従うかどうかを測定する新しいベンチマークAgentDAMを紹介する。 我々のベンチマークは、現実的なWebインタラクションシナリオをエンドツーエンドでシミュレートし、既存のWebナビゲーションエージェントに適応する。
  論文  参考訳（メタデータ） (2025-03-12T19:30:31Z)
• PersLLM: A Personified Training Approach for Large Language Models [66.16513246245401]
  データ構築とモデルチューニングを改善するためのフレームワークPersLLMを提案する。 データ利用が不十分な場合には、Chain-of-Thoughtプロンプトやアンチインダクションといった戦略を取り入れます。 厳密な振舞いパターンを設計し,モデルの性格の特異性とダイナミズムを高めるために自動DPOを導入する。
  論文  参考訳（メタデータ） (2024-07-17T08:13:22Z)
• Task-aware Privacy Preservation for Multi-dimensional Data [4.138783926370621]
  ローカルディファレンシャルプライバシ(LDP)は、プライバシ保護のための最先端技術である。 将来的には、よりリッチなユーザデータ属性を匿名化するために、LCPを採用することができる。 課題認識型プライバシ保存問題を考慮し,多次元ユーザデータの究極のタスク性能を大幅に向上させる方法について述べる。
  論文  参考訳（メタデータ） (2021-10-05T20:03:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。