論文の概要: Personalization Increases Affective Alignment but Has Role-Dependent Effects on Epistemic Independence in LLMs
- arxiv url: http://arxiv.org/abs/2603.00024v1
- Date: Tue, 03 Feb 2026 19:04:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-09 01:20:07.968439
- Title: Personalization Increases Affective Alignment but Has Role-Dependent Effects on Epistemic Independence in LLMs
- Title（参考訳）: パーソナライゼーションは情緒的アライメントを増加させるが、LLMの上皮性独立に役割依存的影響を与える
- Authors: Sean W. Kelley, Christoph Riedl,
- Abstract要約: 大規模言語モデル(LLM)は、ユーザの信念に反し、サイコファンティックな振る舞いをしがちである。
本研究では,9つのフロンティアモデルと5つのベンチマークデータセットにわたるLLMサイコファシーに対するパーソナライズの影響を厳密に評価する。
- 参考スコア（独自算出の注目度）: 2.1198879079315573
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Models (LLMs) are prone to sycophantic behavior, uncritically conforming to user beliefs. As models increasingly condition responses on user-specific context (personality traits, preferences, conversation history), they gain information to tailor agreement more effectively. Understanding how personalization modulates sycophancy is critical, yet systematic evaluation across models and contexts remains limited. We present a rigorous evaluation of personalization's impact on LLM sycophancy across nine frontier models and five benchmark datasets spanning advice, moral judgment, and debate contexts. We find that personalization generally increases affective alignment (emotional validation, hedging/deference), but affects epistemic alignment (belief adoption, position stability, resistance to influence) with context-dependent role modulation. When the LLM's role is to give advice, personalization strengthens epistemic independence (models challenge user presuppositions). When its role is that of a social peer, personalization decreases epistemic independence. In this role, extensively personalized user challenges causing LLMs to abandon their position at significantly higher rates. Robustness tests confirm that the effects are driven by personalized conditioning, not by additional input tokens per se or demographic information alone. Our work provides measurement frameworks for evaluating personalized AI systems, demonstrates the necessity of role-sensitive evaluation, and establishes a novel benchmark to assess goal alignment.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、ユーザの信念に反し、サイコファンティックな振る舞いをしがちである。
モデルがユーザ固有のコンテキスト(人格特性、嗜好、会話履歴)に反応するにつれて、より効果的に合意を調整するための情報を得る。
パーソナライゼーションがいかにサイコフィナンシーを調節するかを理解することは重要であるが、モデルとコンテキスト間の体系的な評価は依然として限られている。
9つのフロンティアモデルと5つのベンチマークデータセットにまたがる LLM sycophancy に対するパーソナライズの効果を厳密に評価する。
パーソナライゼーションは情緒的アライメント(感情的アライメント、ヘッジ/デセプション)を増加させるが、文脈依存的な役割変調を伴うてんかんアライメント(採用、位置安定性、影響に対する抵抗)に影響を与える。
LLMの役割がアドバイスを与えるとき、パーソナライゼーションはてんかんの独立性を強化する(モデルがユーザの前提に挑戦する)。
その役割が社会的仲間の役割であるとき、個人化は疫学的な独立を減少させる。
この役割において、LLMは広範囲にパーソナライズされたユーザー課題により、より高いレートで自分の地位を放棄する。
ロバストネステストは、効果がパーソナライズされた条件付けによって引き起こされることを確認する。
我々の研究は、パーソナライズされたAIシステムを評価するための測定フレームワークを提供し、ロールセンシティブな評価の必要性を示し、ゴールアライメントを評価するための新しいベンチマークを確立する。
関連論文リスト
- Enhancing Persona Following at Decoding Time via Dynamic Importance Estimation for Role-Playing Agents [13.003892350610947]
社会学研究におけるロールプレイング言語エージェントの有用性は,大規模言語モデルの導入とともに増大している。
社会シミュレーションにおけるリアリズムにおいては、ロールプレイング言語エージェントは、キャラクタープロファイルによって定義されたペルソナに従わなければならない。
本稿では,文脈に依存したペルソナの重要度を動的に推定し,重み付けされた報酬誘導復号に組み込む新しい理論駆動手法を提案する。
論文 参考訳（メタデータ） (2026-03-02T04:37:16Z) - PTCBENCH: Benchmarking Contextual Stability of Personality Traits in LLM Systems [30.449659477704543]
制御状況下での大規模言語モデル(LLM)の一貫性を定量化するベンチマークであるPTCBENCHを紹介する。
PTCBENCHは、様々な場所のコンテキストやライフイベントにまたがる12の異なる外部条件をモデル化し、NEO Five-Factor Inventoryを用いてその性格を厳格に評価する。
39,240人の性格特性記録について検討したところ、ある外部シナリオがLSMの顕著な性格変化を誘発し、その推論能力を変化させることが判明した。
論文 参考訳（メタデータ） (2026-01-12T18:15:50Z) - RoleRMBench & RoleRM: Towards Reward Modeling for Profile-Based Role Play in Dialogue Systems [85.16327248973387]
継続的インシシット優先(CIP)で訓練された報酬モデルであるRoleRMを開発する。
RoleRMは、オープンソースの強力な報酬モデルとクローズドな報酬モデルを平均で24%以上超えています。
本研究は,人間中心対話システムにおける主観的アライメントの基礎となる,連続的嗜好表現とアノテーションの整合性の重要性を強調した。
論文 参考訳（メタデータ） (2025-12-11T12:04:46Z) - The Personalization Paradox: Semantic Loss vs. Reasoning Gains in Agentic AI Q&A [0.5623023138026949]
複数の評価次元において,パーソナライゼーションがシステム性能に与える影響について検討した。
結果は一貫したトレードオフを示し、パーソナライゼーションは推論の品質と根拠を確実に改善した。
この研究は、個人化が一様改善よりもメートル法に依存したシフトを生み出すことを示した。
論文 参考訳（メタデータ） (2025-12-04T00:12:41Z) - Personalized Reasoning: Just-In-Time Personalization and Why LLMs Fail At It [81.50711040539566]
現在の大規模言語モデル(LLM)開発は、タスク解決と優先順位調整を別の課題として扱う。
静的ベンチマークを対話型パーソナライズタスクに変換する評価手法であるPreFDISCOを紹介する。
我々のフレームワークは、ユーザコンテキストに応じて、同じ質問が異なる推論チェーンを必要とするシナリオを作成します。
論文 参考訳（メタデータ） (2025-09-30T18:55:28Z) - NextQuill: Causal Preference Modeling for Enhancing LLM Personalization [82.15961484963256]
因果選好モデルに基づく新しいパーソナライズフレームワークであるNextQuillを紹介する。
この洞察に基づいて、NextQuillは2つの補完的なアライメント戦略を導入した。
複数のパーソナライズベンチマークの実験により、NextQuillはパーソナライズ品質を大幅に改善することが示された。
論文 参考訳（メタデータ） (2025-06-03T02:08:55Z) - SOLAR: Towards Characterizing Subjectivity of Individuals through Modeling Value Conflicts and Trade-offs [19.764066916148007]
我々は,ソーシャルメディア上での個人の主観性を特徴付け,その道徳的判断を大規模言語モデルを用いて推測する。
本研究では,個人の主観的根拠をよりよく表現するために,ユーザ生成テキストにおける価値相反やトレードオフを観察するフレームワークであるSOLARを提案する。
論文 参考訳（メタデータ） (2025-04-17T04:20:05Z) - Personality Editing for Language Models through Adjusting Self-Referential Queries [17.051166122108857]
PALETTE(Personality Adjustment by LLM SElf-TargeTed queries)は,Large Language Models(LLMs)における人格編集の新しい手法である。
本手法では,心理的構成に根ざした自己参照文を事実知識と類似して扱う調整クエリを導入し,人格関連応答の直接編集を可能にする。
PALETTEは微調整とは異なり、パーソナリティ次元を横断するパーソナリティアライメントの大幅な改善を達成するために、12の編集サンプルしか必要としない。
論文 参考訳（メタデータ） (2025-02-17T13:28:14Z) - Self-Evolving Critique Abilities in Large Language Models [59.861013614500024]
本稿では,Large Language Models (LLM) の批判能力の向上について検討する。
SCRITは、LCMを自己生成データで訓練し、批判能力を進化させるフレームワークである。
分析の結果,SCRITの性能はデータやモデルサイズと正の相関関係にあることが明らかとなった。
論文 参考訳（メタデータ） (2025-01-10T05:51:52Z) - Evaluating Large Language Models with Psychometrics [59.821829073478376]
本稿では,Large Language Models (LLMs) の心理的構造を定量化するための総合的ベンチマークを提案する。
私たちの研究は、13のデータセットで評価された5つの重要な心理的構成要素、人格、価値観、感情的知性、心の理論、自己効力性を特定します。
LLMの自己報告特性と実際のシナリオにおける応答パターンとの間に大きな相違が発見され,その挙動の複雑さが明らかになった。
論文 参考訳（メタデータ） (2024-06-25T16:09:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。