論文の概要: PromptSense: Sentiment-Aware Mental Health Chatbot with Dynamic Prompting
- arxiv url: http://arxiv.org/abs/2610.38044v1
- Date: Tue, 27 Oct 2026 22:57:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-01 01:32:09.926541
- Title: PromptSense: Sentiment-Aware Mental Health Chatbot with Dynamic Prompting
- Title（参考訳）: PromptSense:動的プロンプティングを備えた感性認識型メンタルヘルスチャットボット
- Abstract要約: 本稿では,モデル推論に先立って,感情分析と抑うつ分析を規則に基づくフィルタリング機構に統合する新しい枠組みを提案する。
我々は4つのモデル戦略と、共感、助け合い、明快さ、妥当性、安全性、およびパースペクティブAPIを用いた毒性評価などの定性的な指標にまたがる2つの迅速なエンジニアリングされた変種を評価した。
実験の結果,DSFTとRLAIFをそれぞれ1.8%,RLAIFを1.1%上回った。
- 参考スコア（独自算出の注目度）: 4.657422576001784
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Current Large Language Models (LLMs)-based mental health chatbots often lack sufficient empathy, contextual awareness, and safety mechanisms, potentially leading to ineffective or harmful interactions. This paper proposes a novel framework that integrates sentiment and depression analysis with a rule-based filtering mechanism prior to model inference. By dynamically constructing prompts based on emotional and risk-related insights, the framework aims to significantly improve the contextual relevance, empathy, and risk-aware of model-generated responses. We evaluated four model strategies and two prompt engineered variants across qualitative metrics such as empathy, helpfulness, clarity, relevance, safety, as well as toxicity assessments using the Perspective API. Experimental results indicate that the prompt engineering approaches outperforms DSFT and RLAIF by 1.8\% and 1.1\% respectively.
- Abstract（参考訳）: 現在、LLM(Large Language Models)ベースのメンタルヘルスチャットボットは、十分な共感、文脈認識、安全メカニズムを欠いていることが多く、潜在的に非効率的または有害な相互作用につながる可能性がある。
本稿では,モデル推論に先立って,感情分析と抑うつ分析を規則に基づくフィルタリング機構に統合する新しい枠組みを提案する。
このフレームワークは、感情的およびリスク関連の洞察に基づいてプロンプトを動的に構築することにより、モデル生成応答の文脈的関連性、共感、リスク認識を大幅に改善することを目的としている。
我々は4つのモデル戦略と、共感、助け合い、明快さ、妥当性、安全性、およびパースペクティブAPIを用いた毒性評価などの定性的な指標にまたがる2つの迅速なエンジニアリングされた変種を評価した。
実験結果から, DSFT と RLAIF をそれぞれ 1.1 %, 1.1 % で上回った。
関連論文リスト
- Visual Distraction Undermines Moral Reasoning in Vision-Language Models [12.469839628520257]
我々は、最先端(SOTA)ビジョンランゲージモデル(VLM)における視覚入力が道徳的意思決定を根本的に変えることを示した。
モーラル基礎理論(MFT)に基づくマルチモーダルベンチマークであるモーラルジレンマシミュレーション(MDS)を紹介する。
評価の結果、視覚のモダリティは、テキストのみの文脈で観察されるより意図的で安全な推論パターンをオーバーライドする直観的な経路を活性化することが明らかとなった。
論文 参考訳（メタデータ） (2026-03-17T12:29:09Z) - A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。
応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。
我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
論文 参考訳（メタデータ） (2026-03-11T07:40:53Z) - Do You Understand How I Feel?: Towards Verified Empathy in Therapy Chatbots [2.0452773268886126]
本稿では,自然言語処理と形式検証を統合し,共感型セラピーチャットボットを実現するフレームワークを構想する。
Transformerベースのモデルは対話機能を抽出し、ダイアディック療法セッションのハイブリッドオートマトンモデルに変換する。
共感関連プロパティは、統計モデルチェックを通じて検証することができる。
予備的な結果から, 形式的モデルは良好な忠実度で治療のダイナミクスを捉え, アドホック戦略が共感要求を満たす確率を向上させることが示唆された。
論文 参考訳（メタデータ） (2026-01-13T12:08:58Z) - A Unified Spoken Language Model with Injected Emotional-Attribution Thinking for Human-like Interaction [50.05919688888947]
本稿では,感情的インテリジェンスのための統一言語モデルを提案する。
IEATは、ユーザーの感情状態とその根本原因をモデルの内部推論プロセスに組み込んでおり、明示的な監督として扱われるのではなく、感情を意識した推論を内部化することができる。
HumDial(Human-like Spoken Dialogue Systems Challenge)Emotional Intelligenceベンチマークの実験は、提案手法が感情軌道モデリング、感情的推論、共感的応答生成にまたがるトップランクのパフォーマンスを達成することを示した。
論文 参考訳（メタデータ） (2026-01-08T14:07:30Z) - Interpretable Recognition of Cognitive Distortions in Natural Language Texts [0.12891210250935145]
N-gramのような重み付けされた構造パターンに基づく自然言語テキストの多要素分類手法を提案する。
提案する認識学習アルゴリズムは,この分野における技術の現状を改善する。
この改善は2つの公開データセットでテストされており、タスクの文学的に知られたF1スコアよりも大幅に改善されている。
論文 参考訳（メタデータ） (2025-11-08T11:13:29Z) - Mitigating Harmful Erraticism in LLMs Through Dialectical Behavior Therapy Based De-Escalation Strategies [0.0]
本稿では、人間の心理的原理、特に治療的モダリティに根ざした枠組みが、より堅牢で持続可能なソリューションを提供することができると仮定する。
人間の脳を模倣するAIのシミュレーションニューラルネットワークに類似して、弁証行動療法(DBT)の原則を適用することを提案する。
論文 参考訳（メタデータ） (2025-09-06T11:20:15Z) - ASEM: Enhancing Empathy in Chatbot through Attention-based Sentiment and
Emotion Modeling [0.0]
本稿では,ユーザの発話の感情状態について,専門家の混在,複数エンコーダを用いた新たなソリューションを提案する。
本稿では,オープンドメインチャットボットの感情分析に基づいて感情分析を行うASEMというエンド・ツー・エンドのモデルアーキテクチャを提案する。
論文 参考訳（メタデータ） (2024-02-25T20:36:51Z) - How are Prompts Different in Terms of Sensitivity? [50.67313477651395]
本稿では,関数の感度に基づく包括的即時解析を提案する。
出力に対する入力トークンの関連性に異なるプロンプトがどう影響するかを実証的に示すために、勾配に基づく唾液度スコアを使用する。
本稿では, 感度推定をペナルティ項として組み込んだ感度認識復号法を標準グリーディ復号法で導入する。
論文 参考訳（メタデータ） (2023-11-13T10:52:01Z) - Target Guided Emotion Aware Chat Machine [58.8346820846765]
意味レベルと感情レベルにおける投稿に対する応答の整合性は、人間のような対話を提供する対話システムにとって不可欠である。
この記事では、投稿中のセマンティクスと感情を同時にエンコードできる、未定義のエンドツーエンドニューラルネットワークを提案する。
論文 参考訳（メタデータ） (2020-11-15T01:55:37Z) - Towards Understanding the Adversarial Vulnerability of Skeleton-based
Action Recognition [133.35968094967626]
骨格に基づく行動認識は、動的状況への強い適応性から注目を集めている。
ディープラーニング技術の助けを借りて、かなり進歩し、現在、良識のある環境で約90%の精度を達成している。
異なる対角的環境下での骨格に基づく行動認識の脆弱性に関する研究はいまだ研究されていない。
論文 参考訳（メタデータ） (2020-05-14T17:12:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。