論文の概要: Listen to the Patient: Enhancing Medical Dialogue Generation with Patient Hallucination Detection and Mitigation
- arxiv url: http://arxiv.org/abs/2410.06094v1
- Date: Tue, 8 Oct 2024 14:49:41 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-01 11:10:50.659494
- Title: Listen to the Patient: Enhancing Medical Dialogue Generation with Patient Hallucination Detection and Mitigation
- Title(参考訳): 患者に聞く:患者の幻覚検出と緩和による医療対話生成の促進
- Authors: Lang Qin, Yao Zhang, Hongru Liang, Adam Jatowt, Zhenglu Yang,
- Abstract要約: 本研究は,医療相談中の患者の表情と,患者の幻覚として定義される実際の健康状態の相違について検討した。
我々は,幻覚の発見と対処を目的とした患者幻覚の問題を緩和するための医療対話生成手法であるMedPHを提案する。
- 参考スコア(独自算出の注目度): 31.466180762584635
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Medical dialogue systems aim to provide medical services through patient-agent conversations. Previous methods typically regard patients as ideal users, focusing mainly on common challenges in dialogue systems, while neglecting the potential biases or misconceptions that might be introduced by real patients, who are typically non-experts. This study investigates the discrepancy between patients' expressions during medical consultations and their actual health conditions, defined as patient hallucination. Such phenomena often arise from patients' lack of knowledge and comprehension, concerns, and anxieties, resulting in the transmission of inaccurate or wrong information during consultations. To address this issue, we propose MedPH, a Medical dialogue generation method for mitigating the problem of Patient Hallucinations designed to detect and cope with hallucinations. MedPH incorporates a detection method that utilizes one-dimensional structural entropy over a temporal dialogue entity graph, and a mitigation strategy based on hallucination-related information to guide patients in expressing their actual conditions. Experimental results indicate the high effectiveness of MedPH when compared to existing approaches in both medical entity prediction and response generation tasks, while also demonstrating its effectiveness in mitigating hallucinations within interactive scenarios.
- Abstract(参考訳): 医療対話システムは患者とエージェントの会話を通じて医療サービスを提供することを目的としている。
従来の方法では、患者を理想的なユーザとみなし、主に対話システムにおける共通の課題に焦点を合わせ、実際の患者が導入する潜在的なバイアスや誤解を無視する。
本研究は,医療相談中の患者の表情と,患者の幻覚として定義される実際の健康状態の相違について検討した。
このような現象は、患者の知識、理解、関心、不安の欠如から生じることが多く、相談中に不正確な情報や誤った情報が伝達される。
この問題を解決するために,幻覚の検出・対処を目的とした患者幻覚の緩和のための医療対話生成手法であるMedPHを提案する。
MedPHは、時間的対話エンティティグラフ上の一次元構造エントロピーを利用する検出方法と、幻覚関連情報に基づく緩和戦略を取り入れて、患者が実際の状態を表現できるようにする。
実験結果から,メディカルエンティティ予測と応答生成の両タスクにおける既存のアプローチと比較して,MedPHの有効性が高いとともに,対話的なシナリオにおける幻覚の緩和にも有効であることが示唆された。
関連論文リスト
- The doctor will polygraph you now: ethical concerns with AI for fact-checking patients [0.23248585800296404]
社会行動予測のための人工知能(AI)手法が提案されている。
これにより、患者のデータに対する敬意、プライバシ、コントロールに関する新たな倫理的懸念が生まれます。
論文 参考訳(メタデータ) (2024-08-15T02:55:30Z) - MedInsight: A Multi-Source Context Augmentation Framework for Generating
Patient-Centric Medical Responses using Large Language Models [3.0874677990361246]
大きな言語モデル(LLM)は、人間のような応答を生成する素晴らしい能力を示している。
我々は,LLM入力を関連背景情報で拡張する新しい検索フレームワークMedInsightを提案する。
MTSamplesデータセットの実験は、文脈的に適切な医療応答を生成するMedInsightの有効性を検証する。
論文 参考訳(メタデータ) (2024-03-13T15:20:30Z) - Are Generative AI systems Capable of Supporting Information Needs of
Patients? [4.485098382568721]
本研究は, 画像診断における患者情報への責任を負うことなく, 生成的視覚質問応答システムの有効性について検討する。
胸部CT検査を施行し, 胸部CT検査を施行し, 胸部CT検査を施行し, 胸部CT検査を施行した。
参加者と医療専門家の会話のテーマ分析を用いて,対話を通して一般的に発生するテーマを特定した。
我々は,放射線技師の反応に対して,最先端の2つの生成的視覚言語モデルを評価する。
論文 参考訳(メタデータ) (2024-01-31T23:24:37Z) - Yes, this is what I was looking for! Towards Multi-modal Medical
Consultation Concern Summary Generation [46.42604861624895]
マルチモーダル・メディカル・コンシューム・サマリ・ジェネレーションの新しい課題を提案する。
患者のジェスチャーや表情などの非言語的手がかりは、患者の懸念を正確に識別するのに役立つ。
マルチモーダル・メディカル・コンシューム・サマリー・ジェネレーション・コーパスを構築。
論文 参考訳(メタデータ) (2024-01-10T12:56:47Z) - MedNgage: A Dataset for Understanding Engagement in Patient-Nurse
Conversations [4.847266237348932]
症状を効果的に管理する患者は、医療従事者との会話や介入において、より高いレベルのエンゲージメントを示すことが多い。
AIシステムは、患者と実践者との自然な会話におけるエンゲージメントを理解して、患者のケアにもっと貢献することが不可欠である。
本稿では,がん症状管理に関する患者と看護者の会話をまとめた新しいデータセット(MedNgage)を提案する。
論文 参考訳(メタデータ) (2023-05-31T16:06:07Z) - Generating medically-accurate summaries of patient-provider dialogue: A
multi-stage approach using large language models [6.252236971703546]
効果的な要約は、対話におけるすべての医学的関連情報を一貫性と精度良く捉えることが要求される。
本稿では, 医療会話の要約問題に, タスクを, より小さな対話に基づくタスクに分解することで対処する。
論文 参考訳(メタデータ) (2023-05-10T08:48:53Z) - A Benchmark for Automatic Medical Consultation System: Frameworks, Tasks
and Datasets [70.32630628211803]
本稿では,医師と患者との対話理解とタスク指向インタラクションという,医療相談の自動化を支援する2つの枠組みを提案する。
マルチレベルな微粒なアノテーションを付加した新しい大規模医療対話データセットが導入された。
本稿では,各タスクに対するベンチマーク結果のセットを報告し,データセットのユーザビリティを示し,今後の研究のベースラインを設定する。
論文 参考訳(メタデータ) (2022-04-19T16:43:21Z) - MIMO: Mutual Integration of Patient Journey and Medical Ontology for
Healthcare Representation Learning [49.57261599776167]
本稿では、医療表現学習と予測分析のための、エンドツーエンドの堅牢なトランスフォーマーベースのソリューション、患者旅行の相互統合、医療オントロジー(MIMO)を提案する。
論文 参考訳(メタデータ) (2021-07-20T07:04:52Z) - Semi-Supervised Variational Reasoning for Medical Dialogue Generation [70.838542865384]
医療対話生成には,患者の状態と医師の行動の2つの重要な特徴がある。
医療対話生成のためのエンドツーエンドの変分推論手法を提案する。
行動分類器と2つの推論検出器から構成される医師政策ネットワークは、拡張推論能力のために提案される。
論文 参考訳(メタデータ) (2021-05-13T04:14:35Z) - MedDG: An Entity-Centric Medical Consultation Dataset for Entity-Aware
Medical Dialogue Generation [86.38736781043109]
MedDGという12種類の消化器疾患に関連する大規模医用対話データセットを構築し,公開する。
MedDGデータセットに基づく2種類の医療対話タスクを提案する。1つは次のエンティティ予測であり、もう1つは医師の反応生成である。
実験結果から,プレトレイン言語モデルと他のベースラインは,両方のタスクに苦戦し,データセットの性能が劣ることがわかった。
論文 参考訳(メタデータ) (2020-10-15T03:34:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。