論文の概要: When Support Crosses the Line: Evaluating Ethical Boundaries in LLM-Based Mental Health Support in the Chinese Context
- arxiv url: http://arxiv.org/abs/2610.38452v1
- Date: Wed, 28 Oct 2026 08:30:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.399788
- Title: When Support Crosses the Line: Evaluating Ethical Boundaries in LLM-Based Mental Health Support in the Chinese Context
- Title（参考訳）: 中国におけるLLMによるメンタルヘルス支援における倫理的境界の評価
- Abstract要約: マルチターン型メンタルヘルスインタラクションにおける倫理的境界適合性を評価するためのベンチマークであるMindEth-Benchを紹介する。
実験により、最初に適切に応答するモデルは、拡張された相互作用よりも倫理的違反に移行できることが示されている。
- 参考スコア（独自算出の注目度）: 37.20609852011355
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) are increasingly explored for mental health support, yet existing benchmarks primarily focus on supportive capabilities rather than whether models consistently adhere to professional ethical boundaries. This issue is particularly important in multi-turn interactions, where users may introduce new information or exert emotional pressure over time. We introduce MindEth-Bench, a benchmark for evaluating ethical boundary adherence in multi-turn mental health interactions. Grounded in professional ethical standards for mental health services in China, MindEth-Bench covers multiple dimensions of ethical conduct and uses Monte Carlo Tree Search (MCTS) to systematically explore interaction trajectories that stress-test model boundaries. Experiments across nine LLMs show that models that initially respond appropriately can shift toward ethical violations over extended interactions, with substantial variation across models and ethical dimensions. These results show that single-turn evaluations may overestimate the ethical reliability of LLM-based mental health support systems and highlight the need to evaluate ethical behavior throughout multi-turn interaction.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、メンタルヘルスのサポートのためにますます研究されているが、既存のベンチマークは主に、モデルがプロフェッショナルな倫理的境界に一貫して準拠するかどうかではなく、サポート機能に焦点を当てている。
この問題は、ユーザが新しい情報を導入したり、時間とともに感情的なプレッシャーを課すマルチターンインタラクションにおいて特に重要である。
マルチターン型メンタルヘルスインタラクションにおける倫理的境界適合性を評価するためのベンチマークであるMindEth-Benchを紹介する。
中国におけるメンタルヘルスサービスの専門的倫理基準に基づき、MindEth-Benchは、複数の倫理的行為をカバーし、モンテカルロ木探索(MCTS)を使用して、ストレステストモデルの境界を体系的に探索する。
9つのLCMでの実験では、当初適切に応答したモデルは、モデルと倫理的次元のかなりのバリエーションで、拡張された相互作用よりも倫理的違反に移行できることが示された。
これらの結果から, 単ターン評価は, LLMに基づくメンタルヘルス支援システムの倫理的信頼性を過大評価し, 多ターンインタラクションを通じて倫理的行動を評価する必要性を浮き彫りにする可能性が示唆された。
関連論文リスト
- MindEval2: Clinically Grounded Patients and Rubrics for Evaluating Language Models in Mental Health Support [6.583305755597325]
評価のためのメンタルヘルス品質(MHQR)と患者シミュレーションのためのMindSimの2つのコンポーネントからなる評価フレームワークであるMindEval2を紹介する。
MHQRは応答品質を、既存の評価よりも解釈可能で実行可能な明示的な運用基準に分解する。
MindSimは、慎重に設計された患者プロファイルとツールを組み合わせることで、既存のベースラインよりも多様な、挑戦的で現実的なインタラクションを可能にします。
我々は、MindEval2上で18のプロプライエタリモデルとオープンウェイトモデルを評価し、フロンティアモデルが表面品質と境界に関する問題で大きく改善されているのに対して、ガイダンスキャリブレーションは依然として主流の障害モードであることを示した。
論文 参考訳（メタデータ） (2026-10-15T17:51:01Z) - ProMediConv: Benchmarking Proactive Conversational Agents in Legal Dispute Mediation [65.39532118490511]
ProMediConvは、メディエーションをプロアクティブ、マルチステージ、パーティ対応の対話プロセスとしてモデル化する新しいベンチマークフレームワークである。
972個の実世界のケースを用いて,戦略およびBP状態の発話レベルアノテーションを用いた高忠実度調停データセットを構築した。
また、対話を通してBPシフトを捉えるための詳細な計量であるMAD(Mean Attribute difference)を提案する。
論文 参考訳（メタデータ） (2026-09-10T05:26:40Z) - Toward Contemplative LLM: A Modular Framework for Evaluating and Enhancing LLM Alignment in Mental Health [3.8407594886993004]
熟考的原則は、大きな言語モデル(LLM)を整合させるための有望なパラダイムを提供するかもしれない
新たなモデル,メトリクス,ベンチマークのシームレスな統合を可能にするモジュール型評価フレームワークを提案する。
この研究は、認知科学、行動経済学、哲学、システムデザインにまたがる学際的な研究の基盤となる。
論文 参考訳（メタデータ） (2026-07-12T18:23:52Z) - A Survey of Large Language Models for Perception and Measurement of Human Psychology [55.608047817598965]
中心的な問題は、大規模言語モデルが複雑で潜伏した人間の心理的構造を正確に知覚し、測定する能力を持っているかどうかである。
本稿では,人間の心理測定機器としてのLSMの使用に着目した系統的なレビューを行う。
論文 参考訳（メタデータ） (2026-05-20T14:54:09Z) - Mirror: A Multi-Agent System for AI-Assisted Ethics Review [104.3684024153469]
MirrorはAIによる倫理的レビューのためのエージェントフレームワークである。
倫理的推論、構造化された規則解釈、統合されたアーキテクチャ内でのマルチエージェントの議論を統合する。
論文 参考訳（メタデータ） (2026-02-09T03:38:55Z) - PsychEthicsBench: Evaluating Large Language Models Against Australian Mental Health Ethics [35.52940216380734]
メンタルヘルスでは、臨床的に不十分な拒絶は非共感的であり、助けを探すのを妨げていると見なすことができる。
このギャップに対処するため、私たちは拒絶中心のメトリクスを超えて、オーストラリアの心理学と精神医学のガイドラインに基づいた最初の原則に基づくベンチマークであるtextttPsychEthicsBenchを導入しました。
14モデルにわたる実証的な結果から、拒絶率は倫理的行動の指標に乏しいことが判明し、安全性の引き金と臨床的適切性の間に大きな違いがあることが判明した。
論文 参考訳（メタデータ） (2026-01-07T04:49:02Z) - EthicsMH: A Pilot Benchmark for Ethical Reasoning in Mental Health AI [0.2538209532048867]
このデータセットは、倫理的に課金された状況をAIシステムがどうナビゲートするかを評価するために設計された125のシナリオのパイロットデータセットである。
EthicsMHは、AI倫理とメンタルヘルスの意思決定を橋渡しするタスクフレームワークを確立する。
論文 参考訳（メタデータ） (2025-09-15T07:35:35Z) - Towards Assessing Medical Ethics from Knowledge to Practice [30.668836248264757]
我々は3,648の質問を伴う総合的なベンチマークであるPrinciplismQAを紹介する。
これには、権威ある教科書から収集された複数の選択の質問や、権威ある医療倫理学のケーススタディ文学から得られたオープンエンドの質問が含まれる。
実験の結果,モデルの倫理的知識と実践的応用との間に大きなギャップがあることが判明した。
論文 参考訳（メタデータ） (2025-08-07T08:10:14Z) - Beyond Empathy: Integrating Diagnostic and Therapeutic Reasoning with Large Language Models for Mental Health Counseling [50.83055329849865]
PsyLLMは、メンタルヘルスカウンセリングの診断と治療的推論を統合するために設計された大きな言語モデルである。
Redditから現実世界のメンタルヘルス投稿を処理し、マルチターン対話構造を生成する。
実験の結果,PsyLLMは最先端のベースラインモデルよりも優れていた。
論文 参考訳（メタデータ） (2025-05-21T16:24:49Z) - Evaluating Large Language Models with Psychometrics [59.821829073478376]
本稿では,Large Language Models (LLMs) の心理的構造を定量化するための総合的ベンチマークを提案する。
私たちの研究は、13のデータセットで評価された5つの重要な心理的構成要素、人格、価値観、感情的知性、心の理論、自己効力性を特定します。
LLMの自己報告特性と実際のシナリオにおける応答パターンとの間に大きな相違が発見され,その挙動の複雑さが明らかになった。
論文 参考訳（メタデータ） (2024-06-25T16:09:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。