論文の概要: Aligning Human-AI-Interaction Trust for Mental Health Support: Survey and Position for Multi-Stakeholders
- arxiv url: http://arxiv.org/abs/2604.20166v1
- Date: Wed, 22 Apr 2026 04:11:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-23 15:36:10.959434
- Title: Aligning Human-AI-Interaction Trust for Mental Health Support: Survey and Position for Multi-Stakeholders
- Title（参考訳）: メンタルヘルス支援のためのヒューマンAI-インタラクション・トラストの調整:マルチテイクホルダーに対する調査と位置づけ
- Authors: Xin Sun, Yue Su, Yifan Mo, Qingyu Meng, Yuxuan Li, Saku Sugawara, Mengyuan Zhang, Charlotte Gerritsen, Sander L. Koole, Koen Hindriks, Jiahuan Pei,
- Abstract要約: メンタルヘルスサポートのための信頼できるAIシステムを構築することは、複数の分野の利害関係者間で共有される優先事項である。
Trustworthy"はいまだに緩やかに定義され、無矛盾に運用されている。
本稿では,人間指向,AI指向,インタラクション指向の3層信頼フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 17.814096373665887
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Building trustworthy AI systems for mental health support is a shared priority across stakeholders from multiple disciplines. However, "trustworthy" remains loosely defined and inconsistently operationalized. AI research often focuses on technical criteria (e.g., robustness, explainability, and safety), while therapeutic practitioners emphasize therapeutic fidelity (e.g., appropriateness, empathy, and long-term user outcomes). To bridge the fragmented landscape, we propose a three-layer trust framework, covering human-oriented, AI-oriented, and interaction-oriented trust, integrating the viewpoints of key stakeholders (e.g., practitioners, researchers, regulators). Using this framework, we systematically review existing AI-driven research in mental health domain and examine evaluation practices for ``trustworthy'' ranging from automatic metrics to clinically validated approaches. We highlight critical gaps between what NLP currently measures and what real-world mental health contexts require, and outline a research agenda for building socio-technically aligned and genuinely trustworthy AI for mental health support.
- Abstract（参考訳）: メンタルヘルスサポートのための信頼できるAIシステムを構築することは、複数の分野の利害関係者間で共有される優先事項である。
しかし、"信頼できる"は緩やかに定義され、一貫して運用されている。
AI研究は、しばしば技術基準(例えば、堅牢性、説明可能性、安全性)に焦点を当てる一方、治療実践者は、治療の忠実さ(例えば、適切性、共感、長期的なユーザー成果)を強調している。
断片化された景観を橋渡しするために,人間指向,AI指向,インタラクション指向の信頼を網羅し,主要な利害関係者(実践者,研究者,規制官など)の視点を統合する三層信頼フレームワークを提案する。
このフレームワークを用いて、メンタルヘルス領域における既存のAI駆動研究を体系的にレビューし、自動測定から臨床的に検証されたアプローチまで「信頼に値する」評価プラクティスを検証した。
NLPが現在測定しているものと、現実世界のメンタルヘルスのコンテキストが必要とするものとの間にある重要なギャップを強調し、メンタルヘルス支援のために社会技術的に整合した真に信頼できるAIを構築するための研究課題を概説する。
関連論文リスト
- Responsible Evaluation of AI for Mental Health [72.85175110624736]
メンタルヘルスケアにおけるAIツールの評価に対する現在のアプローチは、断片化されており、臨床実践、社会的コンテキスト、ファーストハンドのユーザエクスペリエンスと不整合である。
本稿では,臨床の健全性,社会的文脈,公平性を統合した学際的枠組みを導入することにより,責任ある評価を再考する。
論文 参考訳（メタデータ） (2026-01-20T12:55:10Z) - AI Systems in Text-Based Online Counselling: Ethical Considerations Across Three Implementation Approaches [0.0]
テキストベースのオンラインカウンセリングは、地理的およびスティグマ障壁を越えてスケールするが、実践者不足に直面し、非言語的手がかりが欠如し、一貫性のない品質保証に苦しむ。
本稿では、自律型カウンセラーボット、AIトレーニングシミュレータ、カウンセラー対応強化ツールの3つのAI実装手法について分析する。
論文 参考訳（メタデータ） (2026-01-12T12:04:11Z) - Understanding AI Trustworthiness: A Scoping Review of AIES & FAccT Articles [41.419459280691605]
信頼できるAIは、AIESとFAccTという2つの主要なAI倫理カンファレンスの基礎となっている。
このスコーピングレビューは、AIESとFAccTコミュニティがAIの信頼性を概念化し、測定し、検証する方法を検討することを目的としている。
論文 参考訳（メタデータ） (2025-10-24T09:40:38Z) - Towards Privacy-aware Mental Health AI Models: Advances, Challenges, and Opportunities [58.61680631581921]
メンタルヘルス障害は、深い個人的・社会的負担を生じさせるが、従来の診断はリソース集約的でアクセシビリティが制限される。
本稿では、これらの課題を考察し、匿名化、合成データ、プライバシー保護トレーニングを含む解決策を提案する。
臨床的な意思決定をサポートし、メンタルヘルスの結果を改善する、信頼できるプライバシを意識したAIツールを進化させることを目標としている。
論文 参考訳（メタデータ） (2025-02-01T15:10:02Z) - Harnessing Large Language Models for Mental Health: Opportunities, Challenges, and Ethical Considerations [3.0655356440262334]
大規模言語モデル(LLM)は、メンタルヘルスの専門家にリアルタイムサポート、データ統合の改善、ケアを探す行動を促進する能力を促進するAI駆動のツールである。
しかし、その実装には重大な課題と倫理的な懸念が伴う。
本稿では,精神保健におけるLLMの変容の可能性について検討し,関連する技術的・倫理的複雑さを強調し,協調的・多分野的なアプローチを提唱する。
論文 参考訳（メタデータ） (2024-12-13T13:18:51Z) - FUTURE-AI: International consensus guideline for trustworthy and deployable artificial intelligence in healthcare [73.78776682247187]
医療AIに関連する技術的、臨床的、倫理的、法的リスクに関する懸念が高まっている。
この研究は、Future-AIガイドラインを、医療における信頼できるAIツールの開発とデプロイを導くための最初の国際コンセンサスフレームワークとして説明している。
論文 参考訳（メタデータ） (2023-08-11T10:49:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。