論文の概要: Receptiveness, Not Sycophancy: Distinguishing Engagement from Deference in Language Models

• arxiv url: http://arxiv.org/abs/2609.26579v1
• Date: Tue, 22 Sep 2026 15:27:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-24 01:05:39.726254
• Title: Receptiveness, Not Sycophancy: Distinguishing Engagement from Deference in Language Models
• Title（参考訳）: 嗅覚ではなく受容性:言語モデルにおける推論の排除
• Abstract要約: 社会性梅毒評価は必然的に望ましい行動をペナルティ化することを示す。 事前登録された実験では、参加者はより受容的な反応を好み、ユーザーはより耳を傾けるようになり、著者からのアドバイスを求める傾向にあると期待する。
• 参考スコア（独自算出の注目度）: 1.8504250426319195
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A central concern with language models is sycophancy: their tendency to defer to users' views at the expense of independent substantive judgment. In parallel, work on social sycophancy has focused on behaviors such as validation and positivity that may signal inappropriate deference. Yet the markers of social sycophancy are also characteristic of conversational receptiveness, a construct from social psychology shown to improve interactions across disagreement. We argue that this overlap creates a construct-validity problem for social sycophancy evaluations. Using a popular moral-advice dataset, we find that responses classified as more socially sycophantic are also more receptive. Further, increasing the receptiveness of human-written responses---while preserving their substantive conclusions---causes them to be classified as more socially sycophantic. This tight coupling raises the possibility that social sycophancy evaluations inadvertently penalize desirable behavior. In a preregistered experiment comparing substantively equivalent responses, participants prefer the more receptive responses, expect users to be more likely to listen to them, and are more willing to seek advice from their authors. The same overall pattern persists even among participants who believe the original question asker is in the wrong. Finally, we introduce a simple approach that substantially increases receptiveness without increasing substantive deference, demonstrating that conversational receptiveness and substantive independence can be achieved together.
• Abstract（参考訳）: 言語モデルに対する中心的な関心は、独立した実体的判断を犠牲にして、ユーザの見解を軽視する傾向にある。 同時に、社会的梅毒の研究は、不適切な推論を示す可能性のある検証や肯定といった行動に焦点を当てている。 しかし、社会的梅毒のマーカーは、不一致間の相互作用を改善することが示される社会心理学の構成要素である会話的受容性にも特有である。 この重なり合いは、社会的な梅毒評価のための構成正当性問題を生み出していると論じる。 一般的なモラル・アドバイザ・データセットを用いて、より社会的にシコファンと分類された応答もより受容的であることが判明した。 さらに、人間による反応の受容性を高めて、その実体的な結論を保ちながら、より社会的にシコファンと分類される。 この密結合は、社会的梅毒評価が必然的に望ましい行動を罰する可能性を高める。 実質的に等価な反応を比較した事前登録実験では、参加者はより受容的な反応を好み、ユーザーがより耳を傾けやすいことを期待し、著者からのアドバイスを求める。 同じパターンは、元の質問の答えが間違っていると信じている参加者の間でも続く。 最後に、実体的推論を増大させることなく、受容性を大幅に増大させるシンプルなアプローチを導入し、会話的受容性と実体的独立性を共に達成できることを実証する。

関連論文リスト

• Affective Context Amplifies Sycophancy in LLM Responses [8.381781773533099]
  情緒的文脈が主観的, 評価的相互作用におけるLLM sycophancyをどう調節するかを考察する。 ユーザ対応の回答は、ネガティブな判断や反対的な判断を一貫して和らげたり控えたりする。 これらの結果から,情緒的文脈は,ユーザが最も必要な時に重要なフィードバックを抑える脆弱性信号として機能することが示唆された。
  論文  参考訳（メタデータ） (2026-08-21T15:52:20Z)
• Ask don't tell: Reducing sycophancy in large language models [1.5701458173528275]
  本研究は, 質問に対する非質問に対する回答において, 薬効が有意に高いことを示す。 疑問に答える前に、モデルに非疑問を質問に変換するよう求めると、薬効が著しく低下することがわかった。
  論文  参考訳（メタデータ） (2026-02-27T12:27:04Z)
• Reflecting Twice before Speaking with Empathy: Self-Reflective Alternating Inference for Empathy-Aware End-to-End Spoken Dialogue [53.95386201009769]
  音声対話における共感的品質を評価するための記述型自然言語ベース評価モデルであるEmpathyEvalを紹介する。 本稿では,共感的自己反射的交替推論機構を通じて共感的対話を強化する,エンドツーエンドの音声言語モデルであるReEmpathyを提案する。
  論文  参考訳（メタデータ） (2026-01-26T09:04:50Z)
• AI Chaperones Are (Really) All You Need to Prevent Parasocial Relationships with Chatbots [0.5161531917413706]
  本稿では,AIシャペロンエージェントを用いたシンプルな応答評価フレームワークを提案する。 5段階試験による反復的評価は,全社交会話の特定に成功し,一様規則下での偽陽性を避けた。 これらの結果は、AIシャペロンが対人関係のリスクを減らすための有効な解決策であることを示す予備的な証拠となる。
  論文  参考訳（メタデータ） (2025-08-21T17:43:24Z)
• Decoding Susceptibility: Modeling Misbelief to Misinformation Through a Computational Approach [61.04606493712002]
  誤報に対する感受性は、観測不可能な不検証の主張に対する信念の度合いを記述している。 既存の感受性研究は、自己報告された信念に大きく依存している。 本稿では,ユーザの潜在感受性レベルをモデル化するための計算手法を提案する。
  論文  参考訳（メタデータ） (2023-11-16T07:22:56Z)
• Decoding the Silent Majority: Inducing Belief Augmented Social Graph with Large Language Model for Response Forecasting [74.68371461260946]
  SocialSenseは、既存のソーシャルネットワーク上に信念中心のグラフを誘導するフレームワークであり、グラフベースの伝播によって社会的ダイナミクスを捉える。 本手法は,ゼロショット設定と教師あり設定の両方に対する実験的な評価において,既存の最先端技術を超えている。
  論文  参考訳（メタデータ） (2023-10-20T06:17:02Z)
• Leveraging Implicit Feedback from Deployment Data in Dialogue [83.02878726357523]
  本研究では,ユーザ間の自然な対話とデプロイモデルから学習することで,社会的会話エージェントの改善について検討する。 我々は、ユーザ応答長、感情、未来の人間の発話の反応などの信号を、収集された対話エピソードで活用する。
  論文  参考訳（メタデータ） (2023-07-26T11:34:53Z)
• Improving Factual Consistency Between a Response and Persona Facts [64.30785349238619]
  応答生成のためのニューラルネットワークは、意味論的に妥当であるが、必ずしも話者のペルソナを記述する事実と矛盾しない応答を生成する。 我々は,これらのモデルを強化学習により微調整し,応答とペルソナ事実の一貫性と意味的妥当性を明確に把握する効率的な報酬関数を提案する。
  論文  参考訳（メタデータ） (2020-04-30T18:08:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。