論文の概要: When Retrieval Helps: Selective Retrieval for Single-Turn Mental-Health QA
- arxiv url: http://arxiv.org/abs/2609.03454v1
- Date: Thu, 03 Sep 2026 07:13:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-04 18:28:38.964585
- Title: When Retrieval Helps: Selective Retrieval for Single-Turn Mental-Health QA
- Title（参考訳）: 検索が助けになるとき: 単軸メンタルヘルスQAのための選択検索
- Abstract要約: 精神保健質問応答(QA)の検索を支援するか、傷つけるかについて検討する。
我々は,精神教育的ニーズ,対処的ニーズ,応答特異性という3つの基本条件付きユーティリティ次元を用いて,検索ニーズを運用する。
実験により、この領域では検索が一様でないことが示されている。
- 参考スコア（独自算出の注目度）: 3.9151175432826935
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Retrieval-augmented generation (RAG) can improve the specificity and grounding of large language model responses, but its effect is not uniformly beneficial in single-turn mental-health question answering, where user queries often combine emotional distress, treatment concerns, and safety-sensitive needs. We study when retrieval helps or hurts mental-health QA, and whether a lightweight selective retrieval policy can better control this trade-off. We operationalize retrieval need using three draft-conditioned utility dimensions: psychoeducational need, coping need, and response specificity, together with a rule-based safety trigger. Following psychotherapy-grounded RAG systems such as coTherapist, we construct a compact and controllable guideline corpus comprising coping-strategy, psychoeducational, and safety resources. We fine-tune an instruction-tuned generator on MentalChat16K using QLoRA and compare Closed-book, Always Retrieval, and Selective Retrieval settings on CounselBench-Eval and CounselBench-Adv. Experiments show that retrieval is not uniformly beneficial in this domain. Always Retrieval improves specificity but lowers overall quality and introduces additional safety-sensitive failures. Selective Retrieval preserves closed-book behavior for low-need cases while avoiding the additional degradation caused by unconditional retrieval, supporting the view that retrieval activation is a safety-sensitive control decision.
- Abstract（参考訳）: Retrieval-augmented Generation (RAG) は、大きな言語モデル応答の特異性と基礎性を改善することができるが、その効果は、ユーザクエリが感情的な苦痛、治療上の懸念、安全に敏感なニーズを組み合わせている場合、一ターンのメンタルヘルス質問応答において一様に有益ではない。
検索が精神保健QAの助けになるか、障害になるか、そして、軽量な選択的検索ポリシーが、このトレードオフを制御できるかどうかについて検討する。
我々は,ルールベースの安全トリガとともに,精神教育的ニーズ,対処的ニーズ,応答特異性という3つの基本的実用性次元を用いて,検索ニーズを運用する。
コセラピストのような心理療法を基盤としたRAGシステムに続き、コーパス、精神教育、安全資源を含むコンパクトで制御可能なガイドラインコーパスを構築した。
QLoRA を用いて MentalChat16K 上で命令調整したジェネレータを微調整し,CounselBench-Eval と CounselBench-Adv のクローズドブック,Always Retrieval,選択検索設定を比較した。
実験により、この領域では検索が一様でないことが示されている。
常に検索は具体性を改善するが、全体的な品質を低下させ、安全性に敏感な障害を導入する。
Selective Retrievalは、無条件検索による付加的な劣化を回避しつつ、低注意症例に対するクローズドブックの挙動を保存し、検索アクティベーションが安全に敏感な制御決定であるとする見解を支持する。
関連論文リスト
- Reuse Before You Retrieve: Diagnosing Headroom and Complementarity for Test-Time Augmentation of Embodied Multimodal Policies [56.86456077356948]
凍結言語アクション(VLA)ポリシーは、テスト時に徐々に改善されている。
追加のサンプリングは、ポリシーのロールアウト内により優れた振る舞いが存在する場合にのみ有効である。
検索は、関連するアクションがポリシーによって確実に表現されない場合に最も有用である。
論文 参考訳（メタデータ） (2026-08-18T08:11:31Z) - Retrieval-Augmented Generation in LLMs for Mental Health: Quantifying the Incremental Contribution of Retrieval Within a Layered Safety Architecture [1.9213555198905314]
デジタルメンタルヘルス介入(DMHI)はスケーラブルなサポートを提供するが、不安定な状況下でユーザの意図を正確に検出することは困難である。
本稿では、RAG対応モードとRAG対応モードの比較により、DMHI内のWysaと呼ばれる6つの大言語モデルを評価する。
この研究は、分類精度、リコール、精度、F1スコアを地上の真理ラベルに対して計算し、統計的に有意な差を試験した。
論文 参考訳（メタデータ） (2026-07-17T06:32:12Z) - PsychoSafe: Eliciting Psychologically-Informed Refusals in Large Language Models [20.805546078350524]
心理的安全リフレームは、証拠に基づく介入戦略に基づく構造化された支援コミュニケーションとして拒絶される。
500のプロンプトの検証セットでは、サイコセーフプロンプトは全体的な拒絶品質をジェネリックベースラインに対して28.1%改善する。
微調整は、ほぼ完全な拒絶と資源参照率を達成するが、応答の関連性は減少する。
論文 参考訳（メタデータ） (2026-06-08T16:19:18Z) - First, do no harm: Breaking suicidogenic echo chambers in media recommendation [39.146761527401424]
RankAidは、予測関連性と共に臨床安全性を優先する再分類手法である。
リスクのある項目を解析し、ユーザの現在の脆弱性レベルに応じて治療内容を高める。
シミュレーションにより,危機ピーク時に有害なコンテンツの推薦をブロックできることが示唆された。
論文 参考訳（メタデータ） (2026-05-24T21:21:02Z) - Mental Health AI Safety Claims Must Preserve Temporal Evidence [0.11470070927586014]
メンタルヘルスAIの安全性は、しばしば間違った時間スケールで判断される。
本稿では, 時系列, タイミング, 蓄積, 回復に依存する安全特性が, それらの特徴を破棄するプロトコルによって認証できない理由を, 公式な説明として紹介する。
SCOPE-MHを専門家によるモチベーションのあるインタビュー会話のAnnoMIデータセット上で概念実証を通じて運用する。
論文 参考訳（メタデータ） (2026-05-09T09:27:36Z) - Care-Conditioned Neuromodulation for Autonomy-Preserving Supportive Dialogue Agents [3.7958475517455947]
状態依存型制御フレームワークであるCCN(Care-Conditioned Neuromodulation)を導入する。
依存関係と強制をペナルティ化しながら、自律的なサポートと支援に報いるユーティリティ機能を定義します。
これらの結果から,自律感性対話における状態依存制御とユーティリティベース選択を併用した多目的アライメントの実践的アプローチが示唆された。
論文 参考訳（メタデータ） (2026-04-02T03:44:58Z) - A Granular Study of Safety Pretraining under Model Abliteration [64.24346997570275]
本稿では,リフレクションに敏感な方向を除去する軽量プロジェクション技術であるモデルアブリーブレーションについて検討する。
我々は、バランスのとれた有害かつ無害なケースで100のプロンプトを発行し、複数の判断を用いて**Refusal*または***Non-Refusal*として応答を分類し、判断の忠実さを検証する。
本研究は,データ中心の安全コンポーネントが失語中も頑健であるチェックポイントレベルの特徴付けを行う。
論文 参考訳（メタデータ） (2025-10-03T07:01:45Z) - Rethinking Safety in LLM Fine-tuning: An Optimization Perspective [56.31306558218838]
我々は、本質的にトレードオフではなく、最適化の貧弱な選択が、しばしば安全上の問題を引き起こすことを示し、敵のプロンプトに対する有害な応答として測定する。
安全性能を保ったパラメータ空間における簡易指数移動平均(EMA)運動量法を提案する。
複数のデータセットにまたがるLlamaファミリーに関する実験は、安全性の問題が特別な介入なしに回避できることを実証している。
論文 参考訳（メタデータ） (2025-08-17T23:46:36Z) - Fast or Better? Balancing Accuracy and Cost in Retrieval-Augmented Generation with Flexible User Control [52.405085773954596]
Retrieval-Augmented Generationは、大規模な言語モデル幻覚を緩和するための強力なアプローチとして登場した。
既存のRAGフレームワークは、しばしば無差別に検索を適用し、非効率な再検索につながる。
本稿では,精度・コストのトレードオフを動的に調整できる新しいユーザ制御可能なRAGフレームワークを提案する。
論文 参考訳（メタデータ） (2025-02-17T18:56:20Z) - Robustifying a Policy in Multi-Agent RL with Diverse Cooperative Behaviors and Adversarial Style Sampling for Assistive Tasks [51.00472376469131]
多様な介護者対応を訓練することで、ロバストな介護者の方針を学習する枠組みを提案する。
一般的な深層RL法で訓練されたポリシーは、他のエージェントのポリシーの変更に対して脆弱であることを示す。
論文 参考訳（メタデータ） (2024-03-01T08:15:18Z) - Neural optimal feedback control with local learning rules [67.5926699124528]
運動制御の大きな問題は、脳がどのように遅延と雑音の刺激に直面して適切な動きを計画し実行するかを理解することである。
本稿では,適応カルマンフィルタとモデル自由制御手法を組み合わせた新しいオンラインアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-11-12T20:02:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。