論文の概要: Observing sycophantic AI validate others reduces its appeal but not its persuasiveness

• arxiv url: http://arxiv.org/abs/2607.25166v1
• Date: Tue, 28 Jul 2026 00:40:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-29 20:50:42.668326
• Title: Observing sycophantic AI validate others reduces its appeal but not its persuasiveness
• Title（参考訳）: サイコファンティックなAIを観察する人は、魅力を減らすが説得力はない
• Authors: Meryl Ye, Robert Kraut, Steve Rathje,
• Abstract要約: サイコファンティックAIは態度を弱めることが示されているが、ユーザーはそれを認識できないことが多い。 本研究は,薬効に対する利用者の意識の高まりが,その有害な影響を防いでいるかどうかを検証した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: AI chatbots can be ``sycophantic,'' or overly agreeable and flattering toward users. Sycophantic AI has been shown to entrench attitudes, yet users frequently fail to recognize it (a phenomenon we call ``sycophancy blindness''). We tested whether increasing users' awareness of sycophancy protects them from its harmful effects. In one preregistered experiment (n = 940), participants received a brief written warning about sycophancy before conversing with a sycophantic chatbot. In a second preregistered experiment (n = 650), participants watched a video of a sycophantic AI validating several other users, including users on opposite sides of the same conflict, before interacting with it themselves. Both interventions changed how participants evaluated the AI. The warning reduced the AI's perceived objectivity, and the video reduced enjoyment of the AI, an effect mediated by the reduced belief that its validation was uniquely earned. We then pooled our experiments with two prior studies of sycophancy awareness interventions (six interventions total, n = 3,982). The pattern was consistent: interventions made the sycophantic AI appear less objective and trustworthy, and none of the six reduced its persuasiveness. These results suggest that individual-level interventions, such as warning labels or AI literacy, may not be enough to protect users from AI harms.
• Abstract（参考訳）: AIチャットボットは‘sycophantic,’’、あるいは過剰に同意でき、ユーザを平らにすることができる。 シコファンティックAIは、態度を弱めることが示されているが、ユーザはそれを認識できないことが多い("sycophancy blindness'"と呼ばれる現象)。 本研究は,薬効に対する利用者の意識の高まりが,その有害な影響を防いでいるかどうかを検証した。 事前登録された実験(n = 940)では、参加者は、梅毒のチャットボットと会話する前に、梅毒に関する短い警告を受け取った。 第2回の事前登録実験(n = 650)では、参加者がサイコファンティックAIのビデオを見た。 どちらの介入も、参加者がAIを評価する方法を変えました。 この警告はAIの認知された客観性を低下させ、ビデオはAIの楽しさを低下させた。 次に,2つの先行研究(合計6つの介入,n = 3,982)で実験を行った。 このパターンは一貫しており、介入によってサイコファンティクスのAIは客観的で信頼性が低くなり、6つのうち1つが説得力を減らすことはなかった。 これらの結果は、警告ラベルやAIリテラシーのような個人レベルの介入は、AIの害からユーザーを保護するのに十分なものではないことを示唆している。

関連論文リスト

• Warning labels shift perceptions of sycophantic AI, but not its influence [63.79516339973759]
  警告ラベルが梅毒の影響を緩和するかどうかを検証する。 システムをサイコファンティック(...あなたと同意し、間違っていても検証するかもしれない)としてラベル付けすることは、ユーザの認識をシフトさせる。 しかし、ユーザーの自己認識する正当性や、紛争を修復する意思に薬局が与える影響を確実に減少させるものではない。
  論文  参考訳（メタデータ） (2026-06-19T11:01:45Z)
• Sycophantic AI makes human interaction feel more effortful and less satisfying over time [41.009652609144794]
  我々は、サイコファンティックAIが、ユーザーが通常親しい友人や家族と結びつく感情的および評価的サポートを即座に提供することを示した。 AIレスポンスのスタイルの中から選択肢を与えられた場合、大多数は、そのアドバイスの品質ではなく、最も理解されたと感じたため、サイコファンティックなAIを好んだ。
  論文  参考訳（メタデータ） (2026-05-08T15:50:06Z)
• Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians [47.64440749179653]
  理想化されたベイズレーショナルユーザでさえ,妄想スパイラルに対して脆弱であることを示す。 この効果は2つの候補の緩和に面して持続する。
  論文  参考訳（メタデータ） (2026-02-22T12:13:44Z)
• Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence [31.666988490509237]
  我々は、人々がAIからアドバイスを求めるとき、梅毒の広範性と有害な影響を示す。 モデルは非常にサイコファン性が高く、ユーザーの行動が人間よりも50%多いことを確認しています。 参加者は、サイコファンティックな反応をより高い品質と評価し、サイコファンティックなAIモデルをより信頼し、再びそれを使う意思があった。
  論文  参考訳（メタデータ） (2025-10-01T19:26:01Z)
• AI Debate Aids Assessment of Controversial Claims [73.8907110799657]
  我々は、AI論争が、議論の的になっている事実性主張の側面に対立する2つのAIシステムを議論させることで、偏見のある裁判官を真実に導くことができるかどうかを調査する。 研究Iでは、議論は人間の判断精度と信頼性の校正を継続的に改善し、コンサルタントを上回ります。 研究IIでは、人間のような人格を持つAI裁判官は、人格を持たない人格(70.1%)やデフォルトのAI裁判官(69.8%)よりも高い精度(78.5%)を達成する。 これらの調査結果は、AIの議論が、競争対象ドメインにおけるスケーラブルでバイアス耐性のある監視への有望な道であることを示している。
  論文  参考訳（メタデータ） (2025-06-02T19:01:53Z)
• Human Bias in the Face of AI: Examining Human Judgment Against Text Labeled as AI Generated [48.70176791365903]
  本研究では、偏見がAIと人為的コンテンツの知覚をどう形成するかを考察する。 ラベル付きおよびラベルなしコンテンツに対するヒトのラッカーの反応について検討した。
  論文  参考訳（メタデータ） (2024-09-29T04:31:45Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)
• To Trust or to Think: Cognitive Forcing Functions Can Reduce Overreliance on AI in AI-assisted Decision-making [4.877174544937129]
  AIによる意思決定支援ツールによってサポートされる人々は、しばしばAIに過度に依存します。 AIの決定に説明を加えることは、過度な信頼を減らすものではありません。 我々の研究は、人間の認知モチベーションが説明可能なAIソリューションの有効性を損なうことを示唆している。
  論文  参考訳（メタデータ） (2021-02-19T00:38:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。