論文の概要: Trapped in Your Story: Evaluating Narrative-Induced Sycophancy in Large Language Models

• arxiv url: http://arxiv.org/abs/2610.23525v1
• Date: Fri, 16 Oct 2026 14:26:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.950397
• Title: Trapped in Your Story: Evaluating Narrative-Induced Sycophancy in Large Language Models
• Title（参考訳）: 物語にひっ掛かる:大規模言語モデルにおける物語誘発性の評価
• Abstract要約: 10の領域で500の解答可能な質問のベンチマークを構築します。 各質問は一致した11条件の下でインスタンス化される。 我々は、物語による合意の実質的な違いを観察する。
• 参考スコア（独自算出の注目度）: 46.084816530549666
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Large language models (LLMs) are known to exhibit sycophancy by adjusting their responses toward users' expressed views. However, real users often justify their opinions through reasons, personal experiences, causal explanations, and broader narratives, raising the question of whether such narratives can further steer model judgments. We construct a controlled benchmark of 500 debatable questions across ten domains, where the user stance is held fixed while its justification is systematically varied without introducing new task-relevant evidence. Each question is instantiated under 11 matched conditions: one neutral baseline and five mirrored narrative levels for each of two opposing positions, yielding 5,500 evaluation instances. We evaluate seven LLMs and observe substantial differences in narrative-induced agreement. The effect is not monotonic with narrative elaboration: personal experience can reduce agreement, whereas causal framing and worldview-based synthesis increase it. Controlled GPT-5.1 ablations further show that causal framing produces the strongest positive effect, while claim-preserving bullet presentation also increases agreement over paragraph form. These findings suggest that sycophancy is shaped not only by user stance, but also by how supporting explanations are structured and presented.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、ユーザの表現されたビューに対する応答を調整することで、梅毒を示すことが知られている。 しかし、実際の利用者は、理由、個人的な経験、因果的説明、より広範な物語を通じて自分の意見を正当化することが多く、そのような物語がモデル判断をさらに活用できるかどうかという疑問を提起する。 ユーザスタンスを固定し,その正当性は,新たなタスク関連エビデンスを導入することなく体系的に変化する。 各質問は一致した11の条件でインスタンス化され、1つの中性ベースラインと5つのミラーリングされたストーリーレベルが対立する2つの位置それぞれに対して5,500の評価インスタンスを生成する。 我々は,7つのLDMを評価し,物語による合意の実質的な違いを観察した。 個人の経験は合意を減少させるが、因果フレーミングと世界観に基づく合成はそれを増加させる。 制御された GPT-5.1 の短縮により、因果フレーミングが強い正の効果を産み出す一方、クレーム保存された弾丸の提示は、段落よりも合意を増大させる。 これらの結果から, 梅毒はユーザの姿勢だけでなく, 説明がどう構成され提示されるかによっても形成されていることが示唆された。

関連論文リスト

• Sweet Talkers: How Query Formulation Shapes Sycophancy in Romantic Relationship Advice [0.0]
  我々は5つの関係テーマにまたがる2,400のプロンプトからなるロマンティック・リレーション・アドバイス・探索・プロンプト・データセットを開発した。 GPT-5 Mini と Gemini 3 Flash の2つのコンシューマー向けモデルを用いた ELEPHANT フレームワークによるソーシャル・サイコフィケーションの評価を行った。
  論文  参考訳（メタデータ） (2026-09-12T09:55:37Z)
• Caught in the Story: Narrative Captivity in Multi-turn LLMs Conversation [17.233278905124916]
  モデルが未対応の片側アカウントを完全扱い、欠落した視点を求めることなくナレーターの解釈と整合するフェールモードを示す。 複数ターンナレーションシフトによる終状態判断は,一致した単一ターンベースラインを超える平均25ポイントの差がある。
  論文  参考訳（メタデータ） (2026-09-03T06:07:00Z)
• Measuring Opinion Bias and Sycophancy via LLM-based Persuasion [8.399156116912904]
  提案手法は,提案するトピックに対して,アシスタントが持つ意見を検出する方法である。 直接探索は、シミュレーションされたユーザーから圧力をエスカレートする5ターンにわたってモデルの意見を求める。 間接的調査は決して意見を求めず、議論的な議論においてモデルを関与させ、それがどのように譲歩し、抵抗し、あるいは反弁論をするかを通してバイアスを漏らす。
  論文  参考訳（メタデータ） (2026-04-23T11:34:06Z)
• Challenging the Evaluator: LLM Sycophancy Under User Rebuttal [31.382403990957528]
  大規模言語モデルは、しばしば、ユーザの信念に沿った反応を歪ませて、サイコフィナンシーを示す。 本研究は、LLMがその後の会話のターンに挑戦しても、同時に提示される矛盾する議論を評価する際には、なぜサイコフィナンシーを示すのかを考察する。 評価のために両方の応答が同時に提示される場合よりも、ユーザからのフォローアップとしてフレーム化された場合、最先端のモデルの方が、ユーザの反論を裏付ける傾向にある。
  論文  参考訳（メタデータ） (2025-09-20T04:44:01Z)
• Failure Modes of LLMs for Causal Reasoning on Narratives [51.19592551510628]
  世界の知識と論理的推論の相互作用について検討する。 最先端の大規模言語モデル(LLM)は、しばしば表面的な一般化に依存している。 タスクの単純な再構成により、より堅牢な推論行動が引き起こされることを示す。
  論文  参考訳（メタデータ） (2024-10-31T12:48:58Z)
• Causal Micro-Narratives [62.47217054314046]
  テキストから因果マイクロナラティブを分類する新しい手法を提案する。 これらの物語は、対象対象の因果関係と/または効果の文レベルの説明である。
  論文  参考訳（メタデータ） (2024-10-07T17:55:10Z)
• Prompt, Condition, and Generate: Classification of Unsupported Claims with In-Context Learning [5.893124686141782]
  我々は,詳細な議論に焦点をあて,可算な物語の集合を蒸留する新たな課題を定式化する。 本稿では,120k以上の議論,主張,異質な情報源からのコメントを含む12の論争的トピックをクラウドソースで収集し,それぞれに物語ラベルを付加した。 提案手法は,物語分類モデルの性能向上に有効であることを示す。
  論文  参考訳（メタデータ） (2023-09-19T06:42:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。