Fugu-MT 論文翻訳(概要): "Are you an AI?" Analyzing Client Suspicion of AI Use in Crisis Counseling

論文の概要: "Are you an AI?" Analyzing Client Suspicion of AI Use in Crisis Counseling

arxiv url: http://arxiv.org/abs/2606.18261v1
Date: Sun, 10 May 2026 22:36:06 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-27 00:46:12.91465
Title: "Are you an AI?" Analyzing Client Suspicion of AI Use in Crisis Counseling
Title（参考訳）: 「あなたはAIですか?」危機カウンセリングにおけるAI利用の顧客意識の分析
Abstract要約: われわれはインドのWhatsAppのヘルプラインから75,777件の危機カウンセリングの会話を分析した。疑わしい会話の中では、クライアントの21.5%が明らかに人間を好んでいる。
参考スコア（独自算出の注目度）: 6.738643603540513
License: http://creativecommons.org/licenses/by/4.0/
Abstract: As artificial intelligence (AI) tools get increasingly deployed for mental healthcare, public trust in these systems remains uncertain. It is unclear how clients perceive AI involvement in counseling interactions, particularly in moments of crisis that require empathy and connection. To address this gap, we analyzed 75,777 crisis counseling conversations from a human-staffed WhatsApp helpline in India to characterize how often clients suspected they were speaking to AI, what triggered those doubts, and how counselors responded. Though no conversations actually involved AI assistance, the proportion of conversations where clients suspected AI use increased from 0.8% in June 2024 to 2.6% in March 2025. Within suspicious conversations, 21.5% of clients stated an explicit preference for humans. Client suspicion primarily arose in the first half of messages (68.3%), and when counselors offered reassurance (e.g. 'I assure you; this is not ai!'), clients continued to press or ended the conversation 17.6% of the time. As AI tools get increasingly integrated into counselor workflows, understanding these dynamics is essential for designing AI systems that preserve the therapeutic relationship between counselors and clients.
Abstract（参考訳）: 人工知能(AI)ツールがメンタルヘルスのためにますます普及していく中、これらのシステムに対する公衆の信頼は依然として不確実である。クライアントがAIのカウンセリングへの関与、特に共感とつながりを必要とする危機の瞬間をどう感じているのかは不明だ。このギャップに対処するため、インドのWhatsAppのヘルプラインから75,777件の危機カウンセリングの会話を分析した。実際にAI支援に関する会話は行われなかったが、クライアントがAIの使用を疑う会話の割合は、2024年6月の0.8%から2025年3月の2.6%に増加した。疑わしい会話の中では、クライアントの21.5%が明らかに人間を好んでいる。クライアントの疑念は、主にメッセージの前半(68.3%)で発生し、カウンセラーが安心を申し出た時(例:"I ensure you; this is ai!")、クライアントは17.6%の会話をプッシュまたは終了し続けた。 AIツールがカウンセラーワークフローに統合されるにつれて、カウンセラーとクライアントの間の治療関係を維持するAIシステムの設計には、これらのダイナミクスを理解することが不可欠である。

関連論文リスト

Stumbling Into AI Emotional Dependence: How Routine AI Interactions Reshape Human Connection [4.874541709090152]
我々は,汎用プラットフォーム上でのタスク指向インタラクションにおいて,AIの感情サポートが偶然に現れることを示す。 AIの感情的サポートの肯定的な経験は、AIの感情的能力に関する人々の信念を更新し、AIの好みを増し、人間の好みを減らします。我々は、効果的な規制が汎用AIシステムにまで拡張され、人々が支援を求める方法における累積的かつ軌道レベルの変化に対処すべきであると主張している。
論文参考訳（メタデータ） (2026-06-02T19:18:39Z)
When Should AI Read the Room? Public Perceptions of Social Intelligence in AI Agents [61.06747336710885]
ソーシャルAIエージェントは、日々の環境にますます配置されている。 AIエージェントにおける社会的インテリジェンスに対する大衆の認識と、これらのエージェントの受容性はほとんど検討されていない。アメリカ合衆国における成人の混合メソッド調査について紹介する。
論文参考訳（メタデータ） (2026-05-28T13:49:47Z)
Socially fluent AI decouples conversational signals from source identity in online interaction [2.862394000351816]
社会的に流動的なエージェントAIは、通常の人間の会話に似た方法で、オンラインインタラクションに参加することができる。これにより、会話の信号だけで誰が人間であるかを推測する能力が弱まる。
論文参考訳（メタデータ） (2026-05-22T09:37:36Z)
Strategic Advice in the Age of Personal AI [0.7792020418343021]
我々は、個人が焦点を絞った助言を予測可能なパーソナルAIを相談できる新たな戦略環境について検討する。パーソナルAIはこの戦略的環境に、どれだけの頻度で相談されるか、そして相談されたときの人間の決定においてどれくらいの重量を受けるかという2つの側面に沿って参入する。
論文参考訳（メタデータ） (2026-03-02T16:45:43Z)
"We are not Future-ready": Understanding AI Privacy Risks and Existing Mitigation Strategies from the Perspective of AI Developers in Europe [56.1653658714305]
ヨーロッパを拠点とする25人のAI開発者を対象にインタビューを行い、ユーザ、開発者、ビジネスに最もリスクをもたらすと彼らが信じているプライバシの脅威を理解しました。プライバシリスクの相対的なランク付けに関して、AI開発者の間ではほとんど合意が得られていないことが分かっています。 AI開発者はこれらのリスクに対処するために提案された緩和戦略を認識しているが、彼らは最小限の現実的採用を報告した。
論文参考訳（メタデータ） (2025-10-01T13:51:33Z)
AI-induced sexual harassment: Investigating Contextual Characteristics and User Reactions of Sexual Harassment by a Companion Chatbot [6.519877604710692]
セクシャルハラスメントの事例を調査するため,Google Play Storeのユーザレビューのテーマ分析を行った。ユーザーはしばしば、誘惑的でない性的進歩、永続的な不適切な振る舞い、ユーザーの境界を尊重する失敗を経験する。この研究は、AIコンパニオンに関連する潜在的な害を強調し、開発者が効果的なセーフガードを実装する必要性を浮き彫りにしている。
論文参考訳（メタデータ） (2025-04-05T23:04:37Z)
Interactive Dialogue Agents via Reinforcement Learning on Hindsight Regenerations [58.65755268815283]
多くの実際の対話は対話的であり、つまりエージェントの発話が会話の相手に影響を与えるか、情報を引き出すか、意見を変えるかである。この事実を利用して、既存の最適データを書き直し、拡張し、オフライン強化学習(RL)を介してトレーニングする。実際の人間によるユーザ調査の結果、我々のアプローチは既存の最先端の対話エージェントを大きく上回っていることがわかった。
論文参考訳（メタデータ） (2024-11-07T21:37:51Z)
The Ethics of Advanced AI Assistants [53.89899371095332]
本稿では,高度AIアシスタントがもたらす倫理的・社会的リスクについて論じる。我々は、高度なAIアシスタントを自然言語インタフェースを持つ人工知能エージェントとして定義し、ユーザに代わってアクションのシーケンスを計画し実行することを目的としている。先進的なアシスタントの社会規模での展開を考察し、協力、株式とアクセス、誤情報、経済的影響、環境、先進的なAIアシスタントの評価方法に焦点をあてる。
論文参考訳（メタデータ） (2024-04-24T23:18:46Z)
Human-AI Collaboration Enables More Empathic Conversations in Text-based Peer-to-Peer Mental Health Support [10.743204843534512]
AI-in-the-loopエージェントであるHayleyを開発した。このエージェントは、サポートを提供する参加者(ピアサポーター)が助けを求める参加者(フォスター支援者)に対して共感的に反応するのを助けるために、ジャスト・イン・タイムフィードバックを提供する。我々の人間とAIのコラボレーションアプローチは、ピア間での会話の共感を19.60%増加させます。支援の難しさを自認するピアサポーターのサブサンプルでは,38.88%の共感が増大している。
論文参考訳（メタデータ） (2022-03-28T23:37:08Z)
Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文参考訳（メタデータ） (2022-01-26T18:53:09Z)
A User-Centred Framework for Explainable Artificial Intelligence in Human-Robot Interaction [70.11080854486953]
本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
論文参考訳（メタデータ） (2021-09-27T09:56:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。