論文の概要: Detecting Conversational Mental Manipulation with Intent-Aware Prompting

• arxiv url: http://arxiv.org/abs/2412.08414v1
• Date: Wed, 11 Dec 2024 14:31:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-12 14:02:52.316570
• Title: Detecting Conversational Mental Manipulation with Intent-Aware Prompting
• Title（参考訳）: Intent-Aware Promptingによる会話的メンタルマニピュレーションの検出
• Authors: Jiayuan Ma, Hongbin Na, Zimu Wang, Yining Hua, Yue Liu, Wei Wang, Ling Chen,
• Abstract要約: 精神的な操作は、秘密に、ネガティブに意思決定を歪ませることで、精神的健康を著しく損なう。 Intent-Aware Prompting (IAP) は,大規模言語モデル(LLM)を用いて心的操作を検出する新しい手法である。 メンタルマニップデータセットの実験結果は、他の高度なプロンプト戦略に対してIAPの優れた効果を示す。
• 参考スコア（独自算出の注目度）: 13.816802360228682
• License:
• Abstract: Mental manipulation severely undermines mental wellness by covertly and negatively distorting decision-making. While there is an increasing interest in mental health care within the natural language processing community, progress in tackling manipulation remains limited due to the complexity of detecting subtle, covert tactics in conversations. In this paper, we propose Intent-Aware Prompting (IAP), a novel approach for detecting mental manipulations using large language models (LLMs), providing a deeper understanding of manipulative tactics by capturing the underlying intents of participants. Experimental results on the MentalManip dataset demonstrate superior effectiveness of IAP against other advanced prompting strategies. Notably, our approach substantially reduces false negatives, helping detect more instances of mental manipulation with minimal misjudgment of positive cases. The code of this paper is available at https://github.com/Anton-Jiayuan-MA/Manip-IAP.
• Abstract（参考訳）: 精神的な操作は、秘密に、ネガティブに意思決定を歪ませることで、精神的健康を著しく損なう。 自然言語処理コミュニティでは、メンタルヘルスへの関心が高まっているが、会話における微妙で隠蔽的な戦術を検出する複雑さのため、操作の進行は制限されている。 本稿では,大規模言語モデル(LLM)を用いて心的操作を検出する新しい手法であるIntent-Aware Prompting (IAP)を提案する。 メンタルマニップデータセットの実験結果は、他の高度なプロンプト戦略に対してIAPの優れた効果を示す。 特に、我々のアプローチは偽陰性を大幅に減らし、ポジティブなケースの最小限の誤判定で、より多くのメンタル操作の事例を検出するのに役立ちます。 この記事のコードはhttps://github.com/Anton-Jiayuan-MA/Manip-IAPで公開されている。

関連論文リスト

• Mental-Perceiver: Audio-Textual Multi-Modal Learning for Estimating Mental Disorders [9.222458475626652]
  不安や抑うつといった精神障害は、あらゆる年齢の人々に影響を及ぼす世界的な懸念となっている。 AIベースの検出手法は将来性を示しているが、大規模なデータセットが公開されていないため、進歩は妨げられている。 音声およびテキストデータから精神障害を推定する深層学習モデルであるメンタル・パーシーバーを提案する。
  論文  参考訳（メタデータ） (2024-08-22T02:54:52Z)
• Enhanced Detection of Conversational Mental Manipulation Through Advanced Prompting Techniques [23.710371961866198]
  我々は、二元的心的操作検出タスクにゼロショットとフューショット設定を併用したChain-of-Thoughtプロンプトを実装した。 我々の主な目的は、なぜ特定のプロンプト技術が優れた性能を示すのかを解読することである。
  論文  参考訳（メタデータ） (2024-08-14T17:23:12Z)
• MentalManip: A Dataset For Fine-grained Analysis of Mental Manipulation in Conversations [41.661208833153225]
  心的操作は対人会話において重要な虐待形態である。 本研究は、4000ドルの注釈付き映画対話からなる、$rm M Small entalM Small anip$という新しいデータセットを紹介する。 このデータセットは、精神的な操作の包括的な分析を可能にし、操作に使用されるテクニックと、被害者がターゲットとする脆弱性の両方をピンポイントする。
  論文  参考訳（メタデータ） (2024-05-26T14:27:48Z)
• AI-Enhanced Cognitive Behavioral Therapy: Deep Learning and Large Language Models for Extracting Cognitive Pathways from Social Media Texts [27.240795549935463]
  ソーシャルメディアからデータを収集し,認知経路抽出の課題を確立した。 我々は、精神療法士が重要な情報を素早く把握できるよう、テキスト要約タスクを構築した。 本研究では,ディープラーニングモデルと大規模言語モデルの性能評価を行った。
  論文  参考訳（メタデータ） (2024-04-17T14:55:27Z)
• A New Benchmark and Reverse Validation Method for Passage-level Hallucination Detection [63.56136319976554]
  大きな言語モデル(LLM)は幻覚を発生させ、ミッションクリティカルなタスクにデプロイすると大きなダメージを与える可能性がある。 本稿では,逆検証に基づく自己チェック手法を提案し,ゼロリソース方式で事実誤りを自動的に検出する。 提案手法と既存のゼロリソース検出手法を2つのデータセット上で実証的に評価した。
  論文  参考訳（メタデータ） (2023-10-10T10:14:59Z)
• Adversarial Attacks on the Interpretation of Neuron Activation Maximization [70.5472799454224]
  アクティベーション最大化アプローチは、訓練されたディープラーニングモデルの解釈と解析に使用される。 本研究では,解釈を欺くためにモデルを操作する敵の概念を考察する。
  論文  参考訳（メタデータ） (2023-06-12T19:54:33Z)
• Semantic Similarity Models for Depression Severity Estimation [53.72188878602294]
  本稿では、ソーシャルメディアの文章に基づいて、個人のうつ病の重症度を研究するための効率的なセマンティックパイプラインを提案する。 我々は,抑うつ症状と重度レベルに対応する代表訓練文の指標に対して意味的ランキングを生成するために,テストユーザ文を使用する。 本手法を2つのRedditベースのベンチマークで評価し,うつ病の重症度を指標として,最先端技術よりも30%改善した。
  論文  参考訳（メタデータ） (2022-11-14T18:47:26Z)
• Watch Those Words: Video Falsification Detection Using Word-Conditioned Facial Motion [82.06128362686445]
  本稿では,安価なディープフェイクと視覚的に説得力のあるディープフェイクの両方を扱うためのマルチモーダルな意味法医学的アプローチを提案する。 帰属という概念を利用して、ある話者と他の話者を区別する個人固有の生体パターンを学習する。 既存の個人固有のアプローチとは異なり、この手法は口唇の操作に焦点を当てた攻撃にも有効である。
  論文  参考訳（メタデータ） (2021-12-21T01:57:04Z)
• Offline Contextual Multi-armed Bandits for Mobile Health Interventions: A Case Study on Emotion Regulation [2.8680209551947473]
  本稿では,実世界の歴史的モバイルデジタルデータを用いた感情制御のための治療レコメンデーションシステムの開発について述べる。 実験の結果,提案手法はベースライン手法よりも2倍頑健なオフライン学習アルゴリズムが優れていることがわかった。
  論文  参考訳（メタデータ） (2020-08-21T13:41:24Z)
• Detecting Parkinsonian Tremor from IMU Data Collected In-The-Wild using Deep Multiple-Instance Learning [59.74684475991192]
  パーキンソン病(英: Parkinson's Disease、PD)は、60歳以上の人口の約1%に影響を与える徐々に進化する神経学的疾患である。 PD症状には、震動、剛性、ブレイキネジアがある。 本稿では,スマートフォン端末から受信したIMU信号に基づいて,PDに関連するトレモラスなエピソードを自動的に識別する手法を提案する。
  論文  参考訳（メタデータ） (2020-05-06T09:02:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。