論文の概要: Toward Robust Personalized Alignment for LLMs: Mitigating Persona Drift in Multi-Turn Dialogue
- arxiv url: http://arxiv.org/abs/2609.12373v1
- Date: Fri, 11 Sep 2026 02:43:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-15 07:38:31.591792
- Title: Toward Robust Personalized Alignment for LLMs: Mitigating Persona Drift in Multi-Turn Dialogue
- Title（参考訳）: LLMのロバストなパーソナライズアライメントに向けて--多言語対話におけるペルソナドリフトの緩和
- Abstract要約: パーソナライズされた言語モデルにとって、パーソナライズドリフトは依然として中心的な課題である。
そこで我々は,局地的証拠を永続的なペルソナ状態修正から分離するCOREを提案する。
また、逐次的相互作用ストレス下での人格状態の堅牢性のベンチマークであるPERSISTも導入する。
- 参考スコア（独自算出の注目度）: 21.86720581525853
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Persona drift remains a central challenge for personalized language models, as user profiles evolve over long interactions rather than remain permanently fixed. Models must therefore revise persistent persona states when preferences genuinely change, while avoiding updates driven by transient, ambiguous, or unresolved observations. We propose CORE, which separates turn-local evidence from persistent persona-state revision and selectively updates grounded user preferences through uncertainty-aware belief revision. We also introduce PERSIST, a held-out post-anchor benchmark for persona-state robustness under sequential interaction stress, covering ambiguity, conflict, and controlled social influence. Across ALOE, PersonaChat, and PERSIST, CORE improves personalized alignment and robustness, with complementary gains in normalized closed-slot state fidelity. Human evaluation and mechanistic controls further support explicit update control beyond stronger generation or persistent memory alone.
- Abstract（参考訳）: パーソナライズされた言語モデルにとって、パーソナライズドリフトは依然として中心的な課題であり続けている。
したがって、モデルは、過渡的、曖昧、未解決の観察によって駆動される更新を避けながら、嗜好が真に変わるとき、永続的なペルソナ状態を修正する必要がある。
本研究では,個人状態の永続的なリビジョンからターンローカルなエビデンスを分離し,不確実性を認識したリビジョンを通じてユーザ嗜好を選択的に更新するCOREを提案する。
また、逐次的相互作用ストレス下でのペルシスト(perSIST)は、あいまいさ、対立、社会的影響力の制御を網羅した、ペルシスト(perSIST)も導入した。
ALOE、PersonaChat、PERSIST全体で、COREはパーソナライズされたアライメントとロバスト性を改善し、正規化されたクローズドスロット状態の忠実度で相補的なゲインを得る。
ヒューマン評価とメカニスティックコントロールは、より強力な生成や永続メモリ以外の明示的な更新制御をサポートする。
関連論文リスト
- Hypotheses-Guided Self Distillation for Continual Personalization [16.17908994206264]
我々はHypReflectを紹介した。HypReflectは継続的パーソナライゼーションのための信頼性が高くスケーラブルなフレームワークだ。
HypReflectは、多様なユーザ信号から明示的で不確実性を認識した選好仮説を推論する。
結果は、信頼性とスケーラブルな継続的パーソナライゼーションへの一歩を示唆している。
論文 参考訳（メタデータ） (2026-08-31T18:52:21Z) - From Profiling to Synthesis: Benchmarking Implicit Behavioral Alignment in Personalized LLM Agents [56.187590188698955]
大規模言語モデルは、ますます有能な自律エージェントを可能にしてきたが、そのようなエージェントを実用的に有効にするためには、パーソナライズが不可欠である。
最近のベンチマークではエージェントのパーソナライゼーションの評価が始まっているが、それらは主に静的な選好スナップショット、固定されたインタラクションログ、あるいは事前に定義されたユーザプロファイルに対する質問応答に依存している。
縦断的相互作用履歴から構築した暗黙的行動アライメントのベンチマークであるIBA-Benchを紹介する。
IBA-Agentは、広範囲な検索と軌道レベルのアライメントを通じて競合する優先順位を調整するエージェントフレームワークである。
論文 参考訳（メタデータ） (2026-08-03T12:52:04Z) - Preference-Aware Rubric Learning for Personalized Evaluation [59.539429430690156]
既存の評価手法では、長期的なインタラクション履歴に埋め込まれたユーザ固有の嗜好をキャプチャできない。
静的判断よりも学習問題としてパーソナライズされた評価を定式化するパラダイムであるパーソナライズド・アズ・ラーニングを提案する。
実験により、PARLはユーザ対応の応答を確実に識別し、ユーザ間で一般化する高忠実なルーブリックを一貫して誘導することが示された。
論文 参考訳（メタデータ） (2026-05-29T17:00:55Z) - VitaBench 2.0: Evaluating Personalized and Proactive Agents in Long-Term User Interactions [63.13827503828231]
我々は、長期ユーザーインタラクションにおけるパーソナライズされたプロアクティブなエージェント動作を評価するためのベンチマークであるVitaBench 2.0を紹介する。
結果は、最先端のモデルでさえ、現実世界のパーソナライゼーションは非常に困難であることを示している。
論文 参考訳（メタデータ） (2026-05-26T15:07:38Z) - PERMA: Benchmarking Personalized Memory Agents via Event-Driven Preference and Realistic Task Environments [72.02445514666428]
静的な嗜好リコールを超えてペルマの一貫性を評価するためのベンチマークであるPERMAを紹介する。
PerMAは、複数のセッションとドメインにまたがる時間的に順序付けられたインタラクションイベントと、時間とともに好みに関連するクエリで構成されている。
実験により、関連するインタラクションをリンクすることで、高度なメモリシステムはより正確な好みを抽出し、トークン消費を減らすことができることが示された。
論文 参考訳（メタデータ） (2026-03-24T14:04:11Z) - Personalization Increases Affective Alignment but Has Role-Dependent Effects on Epistemic Independence in LLMs [2.1198879079315573]
大規模言語モデル(LLM)は、ユーザの信念に反し、サイコファンティックな振る舞いをしがちである。
本研究では,9つのフロンティアモデルと5つのベンチマークデータセットにわたるLLMサイコファシーに対するパーソナライズの影響を厳密に評価する。
論文 参考訳（メタデータ） (2026-02-03T19:04:03Z) - SPRInG: Continual LLM Personalization via Selective Parametric Adaptation and Retrieval-Interpolated Generation [11.253466187411524]
SPRInGは、効果的な継続パーソナライズを目的とした、新しい半パラメトリックフレームワークである。
訓練中、SPRInGはドリフト駆動の選択的適応を採用しており、これは確率に基づくスコアリング機能を用いて高能率相互作用を識別する。
長期のパーソナライズされた生成ベンチマークの実験は、SPRInGが既存のベースラインを上回っていることを示している。
論文 参考訳（メタデータ） (2026-01-15T01:32:27Z) - PersonaDual: Balancing Personalization and Objectivity via Adaptive Reasoning [57.10486355722133]
PersonaDualは、汎用的な客観的推論とパーソナライズされた推論の両方を単一のモデルでサポートする。
客観的およびパーソナライズされたベンチマークの実験は、PersonaDualが干渉を減らしながらパーソナライゼーションの利点を保っていることを示している。
論文 参考訳（メタデータ） (2026-01-13T16:02:35Z) - Towards Proactive Personalization through Profile Customization for Individual Users in Dialogues [28.522406727886395]
PersonalAgentは、ユーザの好みを継続的に推測し、適応するように設計された、生涯にわたるエージェントである。
実験により、PersonalAgentは強力なプロンプトベースおよびポリシー最適化ベースラインよりも優れたパフォーマンスを達成できることが示された。
本研究は、より包括的で適応的な会話エージェントを開発するために、生涯のパーソナライズの重要性を浮き彫りにした。
論文 参考訳（メタデータ） (2025-12-17T10:47:06Z) - Personalized Reasoning: Just-In-Time Personalization and Why LLMs Fail At It [81.50711040539566]
現在の大規模言語モデル(LLM)開発は、タスク解決と優先順位調整を別の課題として扱う。
静的ベンチマークを対話型パーソナライズタスクに変換する評価手法であるPreFDISCOを紹介する。
我々のフレームワークは、ユーザコンテキストに応じて、同じ質問が異なる推論チェーンを必要とするシナリオを作成します。
論文 参考訳（メタデータ） (2025-09-30T18:55:28Z) - Spotting Out-of-Character Behavior: Atomic-Level Evaluation of Persona Fidelity in Open-Ended Generation [16.76995815742803]
より微細な粒度でペルソナの忠実度を定量化する原子レベル評価フレームワークを提案する。
私たちの3つの重要な測定基準は、世代間でのペルソナのアライメントと一貫性の度合いを測定します。
多様なタスクやパーソナリティの多様さからペルソナの忠実度を解析することにより,タスク構造とペルソナの嗜好性がモデル適応性にどのように影響するかを明らかにする。
論文 参考訳（メタデータ） (2025-06-24T06:33:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。