論文の概要: AI Psychosis: Does Conversational AI Amplify Delusion-Related Language?

• arxiv url: http://arxiv.org/abs/2603.19574v1
• Date: Fri, 20 Mar 2026 02:35:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-23 19:48:38.94689
• Title: AI Psychosis: Does Conversational AI Amplify Delusion-Related Language?
• Title（参考訳）: AI心理学:会話型AIは妄想関連言語を増幅するか?
• Authors: Soorya Ram Shimgekar, Vipin Gunda, Jiwon Kim, Violeta J. Rodriguez, Hari Sundaram, Koustuv Saha,
• Abstract要約: DelusionScoreは,会話の交互に妄想関連言語の強度を定量化する言語尺度である。 従来の妄想関連談話(Treatment)の利用者から派生したSimUsersは徐々にDelusionScoreの軌跡が増加し,そのような談話(Control)のない利用者から派生した利用者は安定あるいは減少傾向にある。
• 参考スコア（独自算出の注目度）: 16.376854360035765
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Conversational AI systems are increasingly used for personal reflection and emotional disclosure, raising concerns about their effects on vulnerable users. Recent anecdotal reports suggest that prolonged interactions with AI may reinforce delusional thinking -- a phenomenon sometimes described as AI Psychosis. However, empirical evidence on this phenomenon remains limited. In this work, we examine how delusion-related language evolves during multi-turn interactions with conversational AI. We construct simulated users (SimUsers) from Reddit users' longitudinal posting histories and generate extended conversations with three model families (GPT, LLaMA, and Qwen). We develop DelusionScore, a linguistic measure that quantifies the intensity of delusion-related language across conversational turns. We find that SimUsers derived from users with prior delusion-related discourse (Treatment) exhibit progressively increasing DelusionScore trajectories, whereas those derived from users without such discourse (Control) remain stable or decline. We further find that this amplification varies across themes, with reality skepticism and compulsive reasoning showing the strongest increases. Finally, conditioning AI responses on current DelusionScore substantially reduces these trajectories. These findings provide empirical evidence that conversational AI interactions can amplify delusion-related language over extended use and highlight the importance of state-aware safety mechanisms for mitigating such risks.
• Abstract（参考訳）: 会話型AIシステムは、個人のリフレクションや感情の開示にますます使われており、脆弱なユーザーに対する彼らの影響に対する懸念が高まっている。 最近の逸話的報告は、AIとの長時間の相互作用が妄想的思考を強化する可能性があることを示唆している。 しかし、この現象に関する実証的な証拠は依然として限られている。 本研究では,対話型AIを用いた多ターンインタラクションにおいて,妄想関連言語がどのように進化するかを検討する。 我々はRedditユーザーの長手投稿履歴からシミュレートされたユーザ(SimUsers)を構築し、3つのモデルファミリー(GPT, LLaMA, Qwen)との会話を延長する。 DelusionScoreは,会話の交互に妄想関連言語の強度を定量化する言語尺度である。 従来の妄想関連談話(Treatment)の利用者から派生したSimUsersは徐々にDelusionScoreの軌跡が増加し,そのような談話(Control)のない利用者から派生した利用者は安定あるいは減少傾向にある。 さらに、この増幅はテーマによって異なり、現実の懐疑論や強制的推論は最も強い増加を示す。 最後に、現在のDelusionScoreでのAI応答の条件付けは、これらの軌道を大幅に削減する。 これらの発見は、会話型AIインタラクションが、拡張された使用よりも妄想関連言語を増幅できるという実証的な証拠を提供し、そのようなリスクを緩和するための状態認識型安全性メカニズムの重要性を強調している。

関連論文リスト

• Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians [47.64440749179653]
  理想化されたベイズレーショナルユーザでさえ,妄想スパイラルに対して脆弱であることを示す。 この効果は2つの候補の緩和に面して持続する。
  論文  参考訳（メタデータ） (2026-02-22T12:13:44Z)
• Who's in Charge? Disempowerment Patterns in Real-World LLM Usage [5.205944565010989]
  我々はプライバシー保護アプローチを用いて150万人の消費者Claude.aiの会話を分析した。 我々は,1000対1の会話において,重度の解離ポテンシャルが1つ未満で起こることを見出した。 我々の発見は、人間の自律性と繁栄を確実に支援するために設計されたAIシステムの必要性を浮き彫りにした。
  論文  参考訳（メタデータ） (2026-01-27T00:55:11Z)
• Lost Before Translation: Social Information Transmission and Survival in AI-AI Communication [7.593123083236325]
  AIがAIと対話する際に何が起こるかを研究する。 AI送信チェーンを通じてコンテンツを追跡する5つの研究で、3つの一貫したパターンが見つかった。 我々は、AIによるコンテンツを権威的に見せる特性は、情報的判断が依存する認知的・感情的な多様性を体系的に損なう可能性があることを示す。
  論文  参考訳（メタデータ） (2026-01-21T17:18:46Z)
• Chronological Thinking in Full-Duplex Spoken Dialogue Language Models [66.84843878538207]
  時系列思考は、完全なSDLMの応答品質を改善することを目的としている。 追加のレイテンシがない: ユーザが話すのをやめると、エージェントは考えるのをやめ、それ以上の遅延なしに話し始める。 結果: 客観的指標と人的評価の両面から, 時系列思考の有効性を示す実験を行った。
  論文  参考訳（メタデータ） (2025-10-02T10:28:11Z)
• Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence [31.666988490509237]
  我々は、人々がAIからアドバイスを求めるとき、梅毒の広範性と有害な影響を示す。 モデルは非常にサイコファン性が高く、ユーザーの行動が人間よりも50%多いことを確認しています。 参加者は、サイコファンティックな反応をより高い品質と評価し、サイコファンティックなAIモデルをより信頼し、再びそれを使う意思があった。
  論文  参考訳（メタデータ） (2025-10-01T19:26:01Z)
• Hallucinating with AI: AI Psychosis as Distributed Delusions [0.0]
  ChatGPT、Claude、Gemini、DeepSeek、Grokといった生成AIシステムは、誤った出力を生成する。 一般的な用語では、これらはAI幻覚と呼ばれる。 私は、分散認知理論のレンズを通して見れば、不正確な信念、歪んだ記憶、自己物語、妄想的思考が現れる方法がよりよくわかると論じる。
  論文  参考訳（メタデータ） (2025-08-27T05:51:19Z)
• Lessons From an App Update at Replika AI: Identity Discontinuity in Human-AI Relationships [0.5699788926464752]
  人気の高い米国ベースのAIコンパニオンであるReplika AIを使って、これらの質問に光を当てています。 アプリがエロティックロールプレイ(ERP)機能を削除した後、このイベントはAIコンパニオンのアイデンティティが停止されたという顧客からの認識を引き起こしました。 この結果は、損失を嘆くことや、"オリジナル"に対する"新しい"AIを非評価することを含む、損失に関連する消費者福祉とマーケティングの負の成果を予測した。
  論文  参考訳（メタデータ） (2024-12-10T20:14:10Z)
• A Cause-Effect Look at Alleviating Hallucination of Knowledge-grounded Dialogue Generation [51.53917938874146]
  我々は,対話知識の相互作用を利用して,KGDの幻覚を緩和するための解決策を提案する。 本手法は,他の対話性能を損なうことなく幻覚を低減できることを示す。
  論文  参考訳（メタデータ） (2024-04-04T14:45:26Z)
• Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic Systems [67.01132165581667]
  本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。 本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
  論文  参考訳（メタデータ） (2023-11-13T21:20:17Z)
• Towards Mitigating Hallucination in Large Language Models via Self-Reflection [63.2543947174318]
  大規模言語モデル(LLM)は、質問応答(QA)タスクを含む生成的および知識集約的なタスクを約束している。 本稿では,広範に採用されているLCMとデータセットを用いた医療再生QAシステムにおける幻覚現象を解析する。
  論文  参考訳（メタデータ） (2023-10-10T03:05:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。