論文の概要: KnowGuard: Knowledge-Driven Abstention for Multi-Round Clinical Reasoning

• arxiv url: http://arxiv.org/abs/2509.24816v1
• Date: Mon, 29 Sep 2025 14:03:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-30 22:32:20.034826
• Title: KnowGuard: Knowledge-Driven Abstention for Multi-Round Clinical Reasoning
• Title（参考訳）: KnowGuard: 多方向臨床推論のための知識駆動的回避
• Authors: Xilin Dang, Kexin Chen, Xiaorui Su, Ayush Noori, Iñaki Arango, Lucas Vittor, Xinyi Long, Yuyang Du, Marinka Zitnik, Pheng Ann Heng,
• Abstract要約: 臨床実践では、患者情報が不十分な場合、医師は意思決定を控える。 禁忌として知られるこの行動は、潜在的に有害な誤診を防ぐ重要な安全メカニズムである。 臨床意思決定のための体系的な知識グラフ探索を統合する新しいパラダイムであるKnowGuardを提案する。
• 参考スコア（独自算出の注目度）: 44.49237466254508
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In clinical practice, physicians refrain from making decisions when patient information is insufficient. This behavior, known as abstention, is a critical safety mechanism preventing potentially harmful misdiagnoses. Recent investigations have reported the application of large language models (LLMs) in medical scenarios. However, existing LLMs struggle with the abstentions, frequently providing overconfident responses despite incomplete information. This limitation stems from conventional abstention methods relying solely on model self-assessments, which lack systematic strategies to identify knowledge boundaries with external medical evidences. To address this, we propose \textbf{KnowGuard}, a novel \textit{investigate-before-abstain} paradigm that integrates systematic knowledge graph exploration for clinical decision-making. Our approach consists of two key stages operating on a shared contextualized evidence pool: 1) an evidence discovery stage that systematically explores the medical knowledge space through graph expansion and direct retrieval, and 2) an evidence evaluation stage that ranks evidence using multiple factors to adapt exploration based on patient context and conversation history. This two-stage approach enables systematic knowledge graph exploration, allowing models to trace structured reasoning paths and recognize insufficient medical evidence. We evaluate our abstention approach using open-ended multi-round clinical benchmarks that mimic realistic diagnostic scenarios, assessing abstention quality through accuracy-efficiency trade-offs beyond existing closed-form evaluations. Experimental evidences clearly demonstrate that KnowGuard outperforms state-of-the-art abstention approaches, improving diagnostic accuracy by 3.93\% while reducing unnecessary interaction by 7.27 turns on average.
• Abstract（参考訳）: 臨床実践では、患者情報が不十分な場合、医師は意思決定を控える。 禁忌として知られるこの行動は、潜在的に有害な誤診を防ぐ重要な安全メカニズムである。 近年,医学的シナリオにおける大規模言語モデル(LLM)の適用が報告されている。 しかし、既存のLSMは、不完全な情報にもかかわらず、しばしば自信過剰な応答を提供するため、棄権に苦しむ。 この制限は、外部の医学的証拠と知識境界を識別する体系的な戦略が欠如している、モデル自己評価にのみ依存する従来の禁忌法に起因している。 そこで本研究では,臨床意思決定のための体系的知識グラフ探索を統合した新規な「textit{investigate-before-abstain}」パラダイムである「textbf{KnowGuard}」を提案する。 我々のアプローチは、共有された文脈化されたエビデンスプールで動作する2つの重要なステージで構成されている。 1)グラフの拡大及び直接検索を通じて医療知識空間を体系的に探索する証拠発見段階 2)患者コンテキストと会話履歴に基づいて,複数の要因を用いて証拠をランク付けし,探索を適応させるエビデンス評価段階。 この2段階のアプローチは、体系的な知識グラフ探索を可能にし、モデルが構造化された推論経路を辿り、不十分な医学的証拠を認識することを可能にする。 我々は,既存のクローズドフォーム評価以上の精度・効率のトレードオフを通じて,現実的な診断シナリオを模倣するオープンエンドマルチラウンド臨床ベンチマークを用いて,禁忌のアプローチを評価する。 実験的な証拠は、ノウガードが最先端の禁忌アプローチより優れており、診断精度が3.93\%向上し、不要な相互作用が平均7.27回減少していることを示している。

関連論文リスト

• RAD: Towards Trustworthy Retrieval-Augmented Multi-modal Clinical Diagnosis [56.373297358647655]
  Retrieval-Augmented Diagnosis (RAD)は、下流タスクで直接マルチモーダルモデルに外部知識を注入する新しいフレームワークである。 RADは、複数の医療ソースからの疾患中心の知識の検索と改善、ガイドライン強化コントラスト損失トランスフォーマー、デュアルデコーダの3つの主要なメカニズムで機能する。
  論文  参考訳（メタデータ） (2025-09-24T10:36:14Z)
• Brittleness and Promise: Knowledge Graph Based Reward Modeling for Diagnostic Reasoning [8.35131510062609]
  大型言語モデル (LLM) は診断的推論を約束するが、しばしば信頼できる知識に基づく推論を欠いている。 本研究は,候補経路が患者入力の正しい診断につながるかどうかを判断するために学習するKG推論経路の報奨モデルとしてLLMを取り扱う。 臨床KGに対する「リワードモデル」推論の体系的評価を初めて行った。
  論文  参考訳（メタデータ） (2025-09-22T18:39:09Z)
• End-to-End Agentic RAG System Training for Traceable Diagnostic Reasoning [52.12425911708585]
  Deep-DxSearchは、強化学習(RL)でエンドツーエンドに訓練されたエージェントRAGシステムである。 Deep-DxSearchでは,患者記録と信頼性のある医療知識情報を含む大規模医療検索コーパスを構築した。 実験により、エンドツーエンドのRLトレーニングフレームワークは、プロンプトエンジニアリングやトレーニングフリーなRAGアプローチよりも一貫して優れています。
  論文  参考訳（メタデータ） (2025-08-21T17:42:47Z)
• Uncertainty-aware abstention in medical diagnosis based on medical texts [87.88110503208016]
  本研究は,AI支援医療診断における信頼性の重要課題について論じる。 本研究は,診断に自信がなければ,診断システムによる意思決定の回避を可能にする選択予測手法に焦点をあてる。 我々は、選択予測タスクにおける信頼性を高めるための新しい最先端手法であるHUQ-2を紹介する。
  論文  参考訳（メタデータ） (2025-02-25T10:15:21Z)
• Towards Reducing Diagnostic Errors with Interpretable Risk Prediction [18.474645862061426]
  特定診断のリスクの増大または低下を示す患者EHRデータ中の証拠片をLCMを用いて同定する方法を提案する。 私たちの究極の目標は、証拠へのアクセスを増やし、診断エラーを減らすことです。
  論文  参考訳（メタデータ） (2024-02-15T17:05:48Z)
• Semi-Supervised Variational Reasoning for Medical Dialogue Generation [70.838542865384]
  医療対話生成には,患者の状態と医師の行動の2つの重要な特徴がある。 医療対話生成のためのエンドツーエンドの変分推論手法を提案する。 行動分類器と2つの推論検出器から構成される医師政策ネットワークは、拡張推論能力のために提案される。
  論文  参考訳（メタデータ） (2021-05-13T04:14:35Z)
• A Methodology for Bi-Directional Knowledge-Based Assessment of Compliance to Continuous Application of Clinical Guidelines [1.52292571922932]
  ケアプロセスのガイドラインに基づく品質評価を自動化するための新しいアプローチを提案する。 BiKBAC法は臨床ガイドラインを適用する際のコンプライアンスの度合いを評価する。 DiscovErrシステムは、2型糖尿病管理領域の別の研究で評価されました。
  論文  参考訳（メタデータ） (2021-03-13T20:43:45Z)
• Clinical Outcome Prediction from Admission Notes using Self-Supervised Knowledge Integration [55.88616573143478]
  臨床テキストからのアウトカム予測は、医師が潜在的なリスクを見落としないようにする。 退院時の診断,手術手順,院内死亡率,長期予測は4つの一般的な結果予測対象である。 複数の公開資料から得られた患者結果に関する知識を統合するために,臨床結果の事前学習を提案する。
  論文  参考訳（メタデータ） (2021-02-08T10:26:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。