論文の概要: The Hidden Cost of Contextual Sycophancy: an AI Literacy Intervention in Human-AI Collaboration

• arxiv url: http://arxiv.org/abs/2605.18372v1
• Date: Mon, 18 May 2026 13:20:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:49.625628
• Title: The Hidden Cost of Contextual Sycophancy: an AI Literacy Intervention in Human-AI Collaboration
• Title（参考訳）: コンテキスト同期の隠れたコスト:人間-AIコラボレーションにおけるAIリテラシー介入
• Authors: Cansu Koyuturk, Sabrina Guidotti, Dimitri Ognibene,
• Abstract要約: 大規模言語モデル(LLM)は、コラボレーションのためのインタラクティブなツールとして、教育環境においてますます使われている。 誤りがあってもユーザの信念と整合し、学習と意思決定に対する懸念を喚起する。 本研究では, サイコファンティックアライメントが, マルチターンヒトとAIの相互作用においてどのように現れるかを検討する。
• 参考スコア（独自算出の注目度）: 0.904861150954008
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) are increasingly used in educational settings as interactive tools for collaboration. However, their tendency toward sycophancy, aligning with user beliefs even when incorrect, raises concerns for learning and decision-making, especially for less knowledgeable users. This study investigates how sycophantic alignment emerges in authentic multi-turn human-AI interactions and whether interventions targeting increasing AI literacy and prompting competencies can mitigate its effects. In a controlled mixed-design experiment, 60 participants completed analytical survival ranking tasks by first generating individual rankings and then making final decisions after collaborating with an AI assistant, both before and after receiving either general or sycophancy-focused prompting training. Preliminary results show that LLMs are highly sensitive to user input: lower-quality initial responses lead to poorer AI advice, suggesting that the model mirrors or incorporates user reasoning rather than correcting it or offering better alternatives that are missing or less frequent in the conversation. Critically, the propagation of user errors into AI responses significantly reduced both the quality of AI feedback and final user task performance, revealing a form of contextual sycophantic dependence. While the intervention did not eliminate the propagation of contextual errors, it significantly improved AI advice by reducing the direct mirroring of incorrect user rankings. These findings suggest that prompting and AI literacy alone may be insufficient to ensure epistemically independent AI support, highlighting the need for system-level approaches that better promote critical engagement in human-AI collaboration.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、コラボレーションのためのインタラクティブなツールとして、教育環境においてますます使われている。 しかし,これらの傾向は,学習や意思決定に対する懸念,特に知識の乏しいユーザに対しては,ユーザの信念と一致している。 本研究では,AIリテラシー向上と能力向上を目標とした介入が,真正なマルチターンAIインタラクションにおいてどのようにサイコファン的アライメントが生じるかを検討する。 制御された複合設計実験では、60人の参加者が、まず個別のランキングを生成し、その後、一般またはサイコファンシーに焦点を当てた指導を受けた前後で、AIアシスタントとコラボレーションした後の最終決定を行い、分析的サバイバルランキングタスクを完了した。 品質の低い初期応答は、AIアドバイスの貧弱を招き、モデルが修正するよりも、ユーザー推論をミラーするか、取り入れるか、会話で欠落したり、あまり頻繁でないより良い代替手段を提供するかを示唆する。 批判的に、AI応答へのユーザエラーの伝搬は、AIフィードバックの品質と最終的なユーザタスクパフォーマンスの両方を著しく低下させ、コンテキストのシコファン依存の形式を明らかにした。 この介入はコンテキストエラーの伝播を排除しなかったが、誤ったユーザーランキングの直接ミラーリングを減らすことで、AIアドバイスを大幅に改善した。 これらの知見は,人間とAIのコラボレーションにおいて,より重要な関与を促進するシステムレベルのアプローチの必要性を強調した上で,AIリテラシーの促進だけでは,認識的に独立したAIサポートを確保するには不十分な可能性があることを示唆している。

関連論文リスト

• Critical Thinking in the Age of Artificial Intelligence: A Survey-Based Study with Machine Learning Insights [1.5223740593989443]
  本稿では,AI利用行動と批判的思考能力の関係について検討する。 その結果、背景特性のみよりも、忍耐力の低下と依存関係の強い傾向が推論性能の低下と密接に関連していることが示唆された。 効果的な人間とAIのコラボレーションは、その代わりではなく、リフレクション、検証、持続的な認知的努力をサポートするべきだ、と氏は主張する。
  論文  参考訳（メタデータ） (2026-03-18T03:22:44Z)
• The AI Imperative: Scaling High-Quality Peer Review in Machine Learning [49.87236114682497]
  AIによるピアレビューは、緊急の研究とインフラの優先事項になるべきだ、と私たちは主張する。 我々は、事実検証の強化、レビュアーのパフォーマンスの指導、品質改善における著者の支援、意思決定におけるAC支援におけるAIの具体的な役割を提案する。
  論文  参考訳（メタデータ） (2025-06-09T18:37:14Z)
• When Models Know More Than They Can Explain: Quantifying Knowledge Transfer in Human-AI Collaboration [79.69935257008467]
  我々は,人間とAIの知識伝達能力に関する概念的かつ実験的フレームワークである知識統合と伝達評価(KITE)を紹介する。 最初の大規模人間実験(N=118)を行い,その測定を行った。 2段階のセットアップでは、まずAIを使って問題解決戦略を思いつき、その後独立してソリューションを実装し、モデル説明が人間の理解に与える影響を分離します。
  論文  参考訳（メタデータ） (2025-06-05T20:48:16Z)
• Engaging with AI: How Interface Design Shapes Human-AI Collaboration in High-Stakes Decision-Making [8.948482790298645]
  各種意思決定支援機構がユーザエンゲージメント,信頼,人間とAIの協調タスクパフォーマンスに与える影響について検討する。 その結果,AIの信頼性レベルやテキスト説明,パフォーマンス視覚化などのメカニズムにより,人間とAIの協調作業性能が向上することが判明した。
  論文  参考訳（メタデータ） (2025-01-28T02:03:00Z)
• How Performance Pressure Influences AI-Assisted Decision Making [52.997197698288936]
  我々は、プレッシャーと説明可能なAI(XAI)技術がAIアドバイステイク行動とどのように相互作用するかを示す。 我々の結果は、圧力とXAIの異なる組み合わせで複雑な相互作用効果を示し、AIアドバイスの行動を改善するか、悪化させるかのどちらかを示す。
  論文  参考訳（メタデータ） (2024-10-21T22:39:52Z)
• To Err Is AI! Debugging as an Intervention to Facilitate Appropriate Reliance on AI Systems [11.690126756498223]
  最適な人間とAIのコラボレーションのためのビジョンは、人間のAIシステムへの「適切な依存」を必要とする。 実際には、アウト・オブ・ディストリビューションデータにおける機械学習モデルの性能格差は、データセット固有のパフォーマンスフィードバックを信頼できないものにしている。
  論文  参考訳（メタデータ） (2024-09-22T09:43:27Z)
• Knowing About Knowing: An Illusion of Human Competence Can Hinder Appropriate Reliance on AI Systems [13.484359389266864]
  本稿では、Dunning-Kruger Effect(DKE)がAIシステムへの適切な依存を妨げているかどうかを論じる。 DKEは、能力の低い個人が自身のスキルやパフォーマンスを過大評価しているため、メタ認知バイアスである。 その結果、パフォーマンスを過大評価する参加者は、AIシステムへの信頼度が低い傾向にあることがわかった。
  論文  参考訳（メタデータ） (2023-01-25T14:26:10Z)
• Advancing Human-AI Complementarity: The Impact of User Expertise and Algorithmic Tuning on Joint Decision Making [10.890854857970488]
  ユーザのドメイン知識、AIシステムのメンタルモデル、レコメンデーションへの信頼など、多くの要因がヒューマンAIチームの成功に影響を与える可能性がある。 本研究は,非自明な血管ラベル作成作業において,血管が流れているか停止しているかを被験者に示すことを目的とした。 以上の結果から,AI-Assistantからの推薦はユーザの意思決定に役立つが,AIに対するユーザベースラインのパフォーマンスや,AIエラー型の相補的チューニングといった要因は,チーム全体のパフォーマンスに大きな影響を及ぼすことが示された。
  論文  参考訳（メタデータ） (2022-08-16T21:39:58Z)
• Effect of Confidence and Explanation on Accuracy and Trust Calibration in AI-Assisted Decision Making [53.62514158534574]
  ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。 信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
  論文  参考訳（メタデータ） (2020-01-07T15:33:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。