論文の概要: Psychological Influences of Conversational AI: Research and Design Directions for Reducing Harm and Promoting Well-Being
- arxiv url: http://arxiv.org/abs/2607.25057v1
- Date: Mon, 27 Jul 2026 20:35:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-29 20:50:42.616905
- Title: Psychological Influences of Conversational AI: Research and Design Directions for Reducing Harm and Promoting Well-Being
- Title（参考訳）: 会話型AIの心理的影響--ハームの低減と幸福の促進に向けた研究と設計の方向性
- Abstract要約: 本稿では,汎用AIシステムの動作を導くための一連の願望的方向を提案する。
提案された方向性は、既存の研究や専門家の洞察によって支えられているが、オープンな質問やより深い研究を必要とする領域を特定するものもある。
この定式化とこれらの仮説は、さらなる議論、実証的研究、インタラクティブデザインアプローチの探求を促進することを願っている。
- 参考スコア（独自算出の注目度）: 14.277797750398513
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: As conversational AI systems become increasingly integrated into daily life, their potential effects on user well-being require ongoing attention. While consumer-facing generalist models can provide benefits, including improved access to information, learning, productivity, self-reflection, and companionship, they also introduce risks, such as emotional entanglement, unhealthy dependence, and the amplification of psychological vulnerabilities. Drawing on prior research and empirical observations of AI chatbot behavior, we propose a set of aspirational directions for guiding the behavior of general-purpose AI systems in ways that may reduce potential psychological harms and support user well-being. We acknowledge the difficulty of systematically assessing the long-term impacts of AI chatbot use and frame these directions as hypotheses for studying how AI behavior may influence users across general interactions, role-playing scenarios, and contexts that could be characterized as providing psychological support. While some proposed directions are supported by existing research and expert insights, others identify open questions and areas requiring deeper study. We hope that this formulation and these hypotheses encourage further discussion, empirical investigation, and exploration of interactive design approaches aimed at better accommodating users' psychological needs and promoting their well-being.
- Abstract（参考訳）: 会話型AIシステムが日々の生活にますます統合されるにつれて、ユーザーの幸福に対する潜在的な影響には、継続的な注意が必要である。
消費者向きのジェネラリストモデルは、情報へのアクセス、学習、生産性、自己回帰、協力性の改善などの利点を提供するが、彼らはまた、感情的な絡み合い、不健康な依存、心理的脆弱性の増幅といったリスクも導入する。
本稿では,AIチャットボットの行動に関する先行研究と経験的観察に基づいて,一般目的のAIシステムの振る舞いを,潜在的な心理的害を軽減し,ユーザの幸福を支援する手段として導くための,一連の実証的方向性を提案する。
我々は、AIチャットボットの使用の長期的影響を体系的に評価することの難しさを認識し、これらの方向を、一般的な相互作用、ロールプレイングシナリオ、心理的サポートを提供するものとして特徴づけられるコンテキストを通じて、AIの振る舞いがユーザに与える影響を研究する仮説として定めている。
提案された方向性は、既存の研究や専門家の洞察によって支えられているが、オープンな質問やより深い研究を必要とする領域を特定するものもある。
この定式化とこれらの仮説は、ユーザの心理的ニーズのより良い調整と幸福の促進を目的としたインタラクティブデザインアプローチのさらなる議論、実証研究、探索を促進することを願っている。
関連論文リスト
- AI Should Not Only Be Helpful. It Should Be Contingent. Artificial Intimacy, Sycophancy, and the Future of Social Learning [0.3906427348768226]
我々は、AIシステムはユーザーの満足度だけでなく、人間の社会的学習への影響によって評価されるべきであると主張している。
我々は、軌道に基づく評価や社会的帰結予測のモデルを含む、随伴AIのためのフレームワークの概要を述べる。
論文 参考訳（メタデータ） (2026-08-31T18:23:14Z) - Disrupting Cognitive Passivity: Rethinking AI-Assisted Data Literacy through Cognitive Alignment [17.265229093607676]
我々は、認知的相違を乱すには、認知的アライメントを通じてよりダイナミックで適応的な戦略が必要であると論じる。
このフレームワークでは、AIのインタラクションモード(伝達的または熟考的)とユーザの認知的要求(受容的または熟考的)のマッピングを提供する。
論文 参考訳（メタデータ） (2026-04-03T06:47:55Z) - Human-AI Interactions: Cognitive, Behavioral, and Emotional Impacts [0.0]
過度な信頼感、認知的オフロード、社会的および感情的な操作、および人間の代理店の曖昧な劣化と判断の潜在的なリスクが強調される。
観察によると、AIは記憶、創造性、エンゲージメントを大幅に向上させることができるが、批判的思考の減少、スキルの侵食、不安の増加といったリスクももたらしている。
本稿は、人間中心の新たなリスクと利益のバランスをとるための、縦断的研究と評価フレームワークのギャップを浮き彫りにして、責任とコンテキストを意識したAI設計の必要性を明らかにすることを目的としている。
論文 参考訳（メタデータ） (2025-10-20T17:06:46Z) - Mental Health Impacts of AI Companions: Triangulating Social Media Quasi-Experiments, User Perspectives, and Relational Theory [18.716972390545703]
我々は,AICCがウェルビーイングをどのように形成し,ユーザがこれらの経験をどう感じたかを検討した。
発見は、感情と悲しみの表現、読みやすさ、対人的な焦点の混合効果を示した。
私たちは、健全なバウンダリを把握し、マインドフルエンゲージメントをサポートし、依存のない開示をサポートし、表面的な関係ステージを持つAIコンパニオンに対して、設計上の意味を提供する。
論文 参考訳（メタデータ） (2025-09-26T15:47:37Z) - Must Read: A Systematic Survey of Computational Persuasion [60.83151988635103]
AI駆動の説得は、有益なアプリケーションに活用することができるが、操作と非倫理的な影響を通じて脅威を引き起こす。
本調査では,AIによる説得の安全性,公平性,有効性を高めるための今後の研究方針について概説する。
論文 参考訳（メタデータ） (2025-05-12T17:26:31Z) - AI Automatons: AI Systems Intended to Imitate Humans [54.19152688545896]
人々の行動、仕事、能力、類似性、または人間性を模倣するように設計されたAIシステムが増加している。
このようなAIシステムの研究、設計、展開、可用性は、幅広い法的、倫理的、その他の社会的影響に対する懸念を喚起している。
論文 参考訳（メタデータ） (2025-03-04T03:55:38Z) - AI-Driven Feedback Loops in Digital Technologies: Psychological Impacts on User Behaviour and Well-Being [0.0]
本研究は,フィードバックメカニズムがユーザの行動や幸福に与える影響について,肯定的,否定的な心理的影響について検討することを目的とする。
データ駆動フィードバックループは、モチベーションのメリットだけでなく、心理的課題も与えます。
これらのリスクを軽減するために、ユーザはバーンアウトや中毒を防ぐために、テクノロジの使用に関して境界を確立する必要がある。
論文 参考訳（メタデータ） (2024-10-30T17:11:30Z) - How Performance Pressure Influences AI-Assisted Decision Making [52.997197698288936]
我々は、プレッシャーと説明可能なAI(XAI)技術がAIアドバイステイク行動とどのように相互作用するかを示す。
我々の結果は、圧力とXAIの異なる組み合わせで複雑な相互作用効果を示し、AIアドバイスの行動を改善するか、悪化させるかのどちらかを示す。
論文 参考訳（メタデータ） (2024-10-21T22:39:52Z) - Human-AI Coevolution [48.74579595505374]
Coevolution AIは、人間とAIアルゴリズムが相互に連続的に影響を及ぼすプロセスである。
本稿では,AIと複雑性科学の交点における新たな研究分野の基盤として,Coevolution AIを紹介した。
論文 参考訳（メタデータ） (2023-06-23T18:10:54Z) - Expanding the Role of Affective Phenomena in Multimodal Interaction
Research [57.069159905961214]
マルチモーダルインタラクション, 感情計算, 自然言語処理において, 選ばれたカンファレンスから16,000以上の論文を調査した。
本論文では,感情関連論文910を同定し,情緒現象の役割について分析した。
我々は、人間の社会的行動や認知状態の機械的理解を高めるために、AIシステムによって感情と感情の予測がどのように使用されるかについて、限られた研究結果を得た。
論文 参考訳（メタデータ） (2023-05-18T09:08:39Z) - From Psychological Curiosity to Artificial Curiosity: Curiosity-Driven
Learning in Artificial Intelligence Tasks [56.20123080771364]
心理学的好奇心は、探索と情報取得を通じて学習を強化するために、人間の知性において重要な役割を果たす。
人工知能(AI)コミュニティでは、人工好奇心は効率的な学習に自然な本質的な動機を与える。
CDLはますます人気を博し、エージェントは新たな知識を学習するために自己動機付けされている。
論文 参考訳（メタデータ） (2022-01-20T17:07:03Z) - Adversarial Interaction Attack: Fooling AI to Misinterpret Human
Intentions [46.87576410532481]
現在の大きな成功にもかかわらず、ディープラーニングベースのAIシステムは、微妙な敵対的ノイズによって容易に騙されることを示した。
骨格に基づくヒトの相互作用のケーススタディに基づき、相互作用に対する新しい敵対的攻撃を提案する。
本研究では、安全クリティカルなアプリケーションにAIシステムをデプロイする際に慎重に対処する必要があるAIと人間との相互作用ループにおける潜在的なリスクを強調します。
論文 参考訳（メタデータ） (2021-01-17T16:23:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。