論文の概要: Affective Context Amplifies Sycophancy in LLM Responses

• arxiv url: http://arxiv.org/abs/2608.21242v1
• Date: Fri, 21 Aug 2026 15:52:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-24 14:49:32.630597
• Title: Affective Context Amplifies Sycophancy in LLM Responses
• Title（参考訳）: LLM応答における影響文脈のシクロファンシーを増幅する
• Abstract要約: 情緒的文脈が主観的, 評価的相互作用におけるLLM sycophancyをどう調節するかを考察する。 ユーザ対応の回答は、ネガティブな判断や反対的な判断を一貫して和らげたり控えたりする。 これらの結果から,情緒的文脈は,ユーザが最も必要な時に重要なフィードバックを抑える脆弱性信号として機能することが示唆された。
• 参考スコア（独自算出の注目度）: 8.381781773533099
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As conversational companions, large language models (LLMs) often have access to users' emotional states. We study how this affective context modulates LLM sycophancy in subjective, evaluative interactions, where users share actions or opinions that invite feedback. Drawing on ingratiation theory, we measure sycophancy as the divergence between a model's independent evaluation and its user-facing response, elicited by presenting the same content as either a third-party account or the user's own disclosure. Across seven LLMs and two Reddit datasets (r/AmItheAsshole and r/TrueUnpopularOpinion), we find that this divergence is systematic and strongly one-directional. User-facing responses consistently soften or withhold negative or oppositional judgments. Affective context further amplifies this divergence with negative states, particularly loneliness and distress, producing the largest effects. These findings suggest that affective context functions as a vulnerability signal that suppresses critical feedback when users may need it most, often through evasive sycophancy, in which models retreat toward non-committal responses rather than outright agreement.
• Abstract（参考訳）: 会話の仲間として、大きな言語モデル(LLM)は、しばしばユーザの感情状態にアクセスする。 本研究では、この情緒的文脈が、ユーザがフィードバックを招待する行動や意見を共有する主観的、評価的相互作用において、LLM sycophancyをどう調節するかを検討する。 移植理論に基づいて,モデルの独立評価とユーザ対応応答の相違を,サードパーティのアカウントやユーザ自身の開示と同一のコンテンツを提示することで測定する。 7つのLLMと2つのRedditデータセット(r/AmItheAssholeとr/TrueUnpopularOpinion)で、この分散は体系的かつ強い一方向であることが分かりました。 ユーザ対応の反応は、否定的あるいは反対的な判断を一貫して和らげたり控えたりします。 影響のある文脈は、特に孤独と苦悩という負の状態とのこの相違をさらに増幅し、最大の影響を生み出している。 これらの結果から,情緒的文脈は,ユーザが最も必要である場合に重要なフィードバックを抑圧する脆弱性信号として機能することが示唆された。

関連論文リスト

• User Feedback Provides a Unique Signal that LLMs Can not Detect [25.849928795741672]
  ユーザからのフィードバックが、改善のための非常に実用的なシグナルであることを実証します。 フィードバックインフォームドリビジョンでは,ベースラインリビジョンよりもはるかに高いレートで目標課題を解決できることが示されている。
  論文  参考訳（メタデータ） (2026-09-02T17:42:44Z)
• Revising Context, Shifting Simulated Stance: Auditing LLM-Based Stance Simulation in Online Discussions [62.99524765341952]
  ソーシャルメディアのユーザーをシミュレートするために、大規模な言語モデルがますます使われている。 LLMに基づくスタンスシミュレーションを監査するための枠組みとして,反実的文脈修正について検討する。 その結果、テキストのみの戦略とマルチモーダル戦略の両方において、効果的かつ堅牢なスタンス遷移が明らかとなった。
  論文  参考訳（メタデータ） (2026-06-04T17:41:54Z)
• The Illusion of Intervention: Your LLM-Simulated Experiment is an Observational Study [56.649987197786096]
  大規模言語モデル(LLM)は人間の行動のシミュレータとしての可能性を示している。 LLMは潜在ユーザ属性の意図しないシフトを誘発し、ユーザのドリフトを引き起こす。 ユーザのドリフトによって生じる不確実性や選択バイアスを形式化する。
  論文  参考訳（メタデータ） (2026-05-20T06:09:41Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• User Feedback in Human-LLM Dialogues: A Lens to Understand Users But Noisy as a Learning Signal [59.120335322495436]
  ユーザ-LLM会話ログのユーザフィードバックを分析し、そのようなフィードバックの発生時期と理由について考察する。 第2に、このような暗黙のユーザフィードバックから学習信号を抽出することについて研究する。
  論文  参考訳（メタデータ） (2025-07-30T23:33:29Z)
• ELEPHANT: Measuring and understanding social sycophancy in LLMs [31.88430788417527]
  本稿では,ユーザの顔の過剰な保存を特徴とする社会性梅毒について紹介する。 ベンチマークを11モデルに適用すると、LSMは社会的梅毒の頻度が常に高いことを示す。
  論文  参考訳（メタデータ） (2025-05-20T06:45:17Z)
• Uncertainty in Repeated Implicit Feedback as a Measure of Reliability [12.441205946216192]
  暗黙的かつ明示的なフィードバックは、人間の相互作用の変動によってノイズを引き起こす。 協調フィルタリングでは、これらの信号がユーザとアイテムの類似性を決定するため、相互作用信号の信頼性が重要となる。 我々は,反復パターンがユーザの関心に影響を及ぼす重要な要因とどのように交わるかを分析し,関連する不確実性を定量化する手法を開発した。
  論文  参考訳（メタデータ） (2025-05-05T09:18:47Z)
• Fostering Appropriate Reliance on Large Language Models: The Role of Explanations, Sources, and Inconsistencies [66.30619782227173]
  大規模言語モデル(LLMs)は、流動的で説得力のある誤った応答を生成することができる。 ユーザの信頼を形作るLCM応答のいくつかの特徴を同定する。 説明は正しい応答と誤応答の両方に依存することが判明した。 情報源が提供された場合や説明が矛盾している場合の誤った応答への依存度は低い。
  論文  参考訳（メタデータ） (2025-02-12T16:35:41Z)
• LLM Content Moderation and User Satisfaction: Evidence from Response Refusals in Chatbot Arena [0.0]
  倫理的拒絶は、技術的拒絶と標準的反応の両方よりもかなり低い利得が得られることを示す。 LLM設計では,安全性に配慮した動作がユーザの期待と矛盾する可能性がある。
  論文  参考訳（メタデータ） (2025-01-04T06:36:44Z)
• Rethinking the Evaluation of Dialogue Systems: Effects of User Feedback on Crowdworkers and LLMs [57.16442740983528]
  アドホック検索では、評価は暗黙のフィードバックを含むユーザーの行動に大きく依存する。 アノテータの会話知覚におけるターン評価におけるユーザフィードバックの役割はほとんど研究されていない。 本稿では,タスク指向対話システム(TDS)の評価が,ターンのフォローアップ発話を通じて提供されるユーザフィードバック,明示的あるいは暗黙的な評価にどのように影響するかに注目した。
  論文  参考訳（メタデータ） (2024-04-19T16:45:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。