論文の概要: Exploring the Ethical Concerns in User Reviews of Mental Health Apps using Topic Modeling and Sentiment Analysis

• arxiv url: http://arxiv.org/abs/2602.18454v1
• Date: Wed, 04 Feb 2026 16:35:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-02 07:21:25.575951
• Title: Exploring the Ethical Concerns in User Reviews of Mental Health Apps using Topic Modeling and Sentiment Analysis
• Title（参考訳）: トピックモデリングと感性分析を用いたメンタルヘルスアプリのユーザレビューにおける倫理的懸念の探索
• Authors: Mohammad Masudur Rahman, Beenish Moalla Chaudhry,
• Abstract要約: AI駆動のメンタルヘルスモバイルアプリの急速な成長は、倫理的配慮とユーザーの信頼を懸念している。 本研究では、ユーザ生成レビューから倫理的側面を評価する自然言語処理(NLP)ベースのフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 5.226908304522686
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rapid growth of AI-driven mental health mobile apps has raised concerns about their ethical considerations and user trust. This study proposed a natural language processing (NLP)-based framework to evaluate ethical aspects from user-generated reviews from the Google Play Store and Apple App Store. After gathering and cleaning the data, topic modeling was applied to identify latent themes in the context of ethics using topic words and then map them to well-recognized existing ethical principles described in different ethical frameworks; in addition to that, a bottom-up approach is applied to find any new and emergent ethics from the reviews using a transformer-based zero-shot classification model. Sentiment analysis was then used to capture how users feel about each ethical aspect. The obtained results reveal that well-known ethical considerations are not enough for the modern AI-based technologies and are missing emerging ethical challenges, showing how these apps either uphold or overlook key moral values. This work contributes to developing an ongoing evaluation system that can enhance the fairness, transparency, and trustworthiness of AI-powered mental health chatbots.
• Abstract（参考訳）: AI駆動型メンタルヘルスモバイルアプリの急速な成長は、倫理的配慮とユーザーの信頼を懸念している。 本研究では,Google Play StoreとApple App Storeのユーザ生成レビューから倫理的側面を評価する自然言語処理(NLP)ベースのフレームワークを提案する。 データを収集, 整理した後, トピック・モデリングを用いて, トピック・ワードを用いた倫理的文脈における潜在テーマを識別し, 異なる倫理的枠組みで記述された既知の既存の倫理的原則にマッピングし, さらに, ボトムアップ・アプローチを適用し, トランスフォーマーに基づくゼロショット分類モデルを用いて, レビューから新規かつ創発的な倫理性を見出す。 感情分析は、ユーザーがそれぞれの倫理的側面に対してどう感じているかを捉えるのに使われた。 その結果、よく知られた倫理的考慮事項は、現代のAIベースの技術では不十分であり、新たな倫理的課題を欠いていることが明らかになった。 この研究は、AIによるメンタルヘルスチャットボットの公正性、透明性、信頼性を高めるための継続的な評価システムの開発に寄与する。

関連論文リスト

• EthicsMH: A Pilot Benchmark for Ethical Reasoning in Mental Health AI [0.2538209532048867]
  このデータセットは、倫理的に課金された状況をAIシステムがどうナビゲートするかを評価するために設計された125のシナリオのパイロットデータセットである。 EthicsMHは、AI倫理とメンタルヘルスの意思決定を橋渡しするタスクフレームワークを確立する。
  論文  参考訳（メタデータ） (2025-09-15T07:35:35Z)
• Ethical Aspects of the Use of Social Robots in Elderly Care -- A Systematic Qualitative Review [0.0]
  高齢者医療における社会ロボティクスの利用は,資源不足による新たなケアニーズを満たす一つの方法として議論されている。 本稿では,高齢者介護における社会ロボットの利用の倫理的側面について,意思決定者の視点から概観する。
  論文  参考訳（メタデータ） (2025-05-14T08:46:24Z)
• A Conceptual Framework for Ethical Evaluation of Machine Learning Systems [12.887834116390358]
  倫理的意味は、機械学習システムの評価を設計する際に現れる。 本稿では,倫理的評価における重要なトレードオフを,潜在的な倫理的害に対する情報ゲインのバランスとして特徴付けるユーティリティ・フレームワークを提案する。 我々の分析は、倫理的な複雑さを意図的に評価し、管理する開発チームにとって重要な必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2024-08-05T01:06:49Z)
• Ethical-Lens: Curbing Malicious Usages of Open-Source Text-to-Image Models [51.69735366140249]
  我々はEthical-Lensというフレームワークを紹介した。 Ethical-Lensは、毒性とバイアス次元をまたいだテキストと画像のモデルにおける価値アライメントを保証する。 実験の結果、Ethical-Lensは商業モデルに匹敵するレベルまでアライメント能力を向上することがわかった。
  論文  参考訳（メタデータ） (2024-04-18T11:38:25Z)
• Eagle: Ethical Dataset Given from Real Interactions [74.7319697510621]
  社会的バイアス、毒性、不道徳な問題を示すChatGPTとユーザ間の実際のインタラクションから抽出されたデータセットを作成します。 我々の実験では、イーグルは、そのような倫理的課題の評価と緩和のために提案された既存のデータセットでカバーされていない相補的な側面を捉えている。
  論文  参考訳（メタデータ） (2024-02-22T03:46:02Z)
• Generative Artificial Intelligence in Healthcare: Ethical Considerations and Assessment Checklist [10.980912140648648]
  我々は医療における創造的人工知能(GenAI)に関する倫理的議論のスコーピングレビューを行う。 我々は,GenAI研究における倫理的議論の包括的評価と透明な文書化のためのチェックリストを開発することにより,ギャップを減らすことを提案する。
  論文  参考訳（メタデータ） (2023-11-02T11:55:07Z)
• Towards A Unified Utilitarian Ethics Framework for Healthcare Artificial Intelligence [0.08192907805418582]
  本研究では、異なる技術レベルでAIの実用性能に影響を与える主要な倫理的原則を特定することを試みる。 正義、プライバシー、偏見、規制の欠如、リスク、解釈可能性は倫理的AIを検討する上で最も重要な原則である。 本稿では,医療領域における倫理的AIを設計するための実用的倫理に基づく理論的枠組みを提案する。
  論文  参考訳（メタデータ） (2023-09-26T02:10:58Z)
• Ethics in conversation: Building an ethics assurance case for autonomous AI-enabled voice agents in healthcare [1.8964739087256175]
  原則に基づく倫理保証議論パターンは、AI倫理のランドスケープにおける1つの提案である。 本稿では,AIベースの遠隔医療システムであるDoraの利用に対して,この倫理保証フレームワークを適用した事例研究の中間的結果を示す。
  論文  参考訳（メタデータ） (2023-05-23T16:04:59Z)
• The Role of AI in Drug Discovery: Challenges, Opportunities, and Strategies [97.5153823429076]
  この分野でのAIのメリット、課題、欠点についてレビューする。 データ拡張、説明可能なAIの使用、従来の実験手法とAIの統合についても論じている。
  論文  参考訳（メタデータ） (2022-12-08T23:23:39Z)
• Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
  ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。 AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。 我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
  論文  参考訳（メタデータ） (2022-04-11T14:36:39Z)
• Case Study: Deontological Ethics in NLP [119.53038547411062]
  我々はNLPの観点から1つの倫理理論、すなわち非オントロジー的倫理について研究する。 特に、インフォームド・コンセントを通じて、一般化原則と自律性への敬意に焦点を当てる。 NLPシステムでこれらの原則をどのように利用できるかを示すための4つのケーススタディを提供する。
  論文  参考訳（メタデータ） (2020-10-09T16:04:51Z)
• Scruples: A Corpus of Community Ethical Judgments on 32,000 Real-Life Anecdotes [72.64975113835018]
  記述倫理に動機づけられた我々は、機械倫理に対する新しいデータ駆動アプローチを調査する。 Scruplesは、625,000の倫理的判断を持つ最初の大規模データセットで、32,000の実生活の逸話について紹介する。 我々のデータセットは最先端のニューラルネットワークモデルに対して大きな課題を示し、改善の余地を残しています。
  論文  参考訳（メタデータ） (2020-08-20T17:34:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。