論文の概要: DrugBench: Evaluating AI Control Protocols for Medication Harm Mitigation
- arxiv url: http://arxiv.org/abs/2606.20663v1
- Date: Wed, 10 Jun 2026 01:16:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:20:00.916847
- Title: DrugBench: Evaluating AI Control Protocols for Medication Harm Mitigation
- Title（参考訳）: DrugBench: 薬害軽減のためのAIコントロールプロトコルの評価
- Abstract要約: 我々は、薬物関連の害を軽減するために、AI制御プロトコルを評価するパイプラインを提案する。
医療分野に触発されて、安全は安全でないアウトプットの深刻さを考慮すべきである、と論じる。
- 参考スコア（独自算出の注目度）: 1.2362187555287152
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Large Language Models have the potential to expand and improve the access to clinical information by enabling new ways of interacting with medical knowledge in natural language. However, their deployment in medical question-answering settings is safety-critical, since misaligned outputs can lead to severe patient harm. AI control is an emerging approach that introduces external safeguards to mitigate unsafe behaviours in misaligned systems and has been shown to be effective in domains such as code generation. However, its applicability and effectiveness in medical settings have not been systematically studied. In this work, we present a pipeline for evaluating AI control protocols to mitigate medication-related harm. To this end, we introduce DrugBench, an AI control evaluation benchmark which combines 3,671 multi-turn medical conversations from HealthBench with drug information from official FDA labels, covering four categories of medication-related harm: drug interactions, contraindications, dosing constraints, and patient action restrictions. Furthermore, inspired by the medical domain, we argue that safety should account for the severity of unsafe outputs, not just their probability. Under this revised definition, we show that existing control protocols can be subverted and propose severity-based monitoring to address this limitation.
- Abstract（参考訳）: 大きな言語モデルは、自然言語で医療知識と対話する新しい方法を可能にすることによって、臨床情報へのアクセスを拡大し、改善する可能性がある。
しかし, 医療質問応答環境への展開は, 不正なアウトプットが重篤な患者に害を与える可能性があるため, 安全上重要である。
AIコントロールは、不整合システムにおける安全でない振る舞いを軽減するために、外部のセーフガードを導入する新しいアプローチであり、コード生成のようなドメインで有効であることが示されている。
しかし, 医療環境における適用性や有効性については, 体系的に研究されていない。
そこで本研究では,医薬品関連害を軽減するためのAI制御プロトコルの評価パイプラインを提案する。
この目的のために我々は、HealthBenchの3,671件の医療会話とFDAの公式ラベルの薬物情報を組み合わせたAI制御評価ベンチマークであるD薬ベンチを紹介し、薬物相互作用、禁忌、服薬制限、患者行動制限の4つのカテゴリをカバーする。
さらに、医療分野に触発されて、安全は安全でないアウトプットの重大さだけでなく、その可能性も考慮すべきである、と論じる。
この再定義に基づき、既存の制御プロトコルを変換し、この制限に対処するための重度監視を提案する。
関連論文リスト
- Trust but Verify: Mitigating Medical Hallucinations via Post-Hoc Adversarial Auditing and Multi-Agent Feedback Loops [0.07249400282852114]
大規模言語モデル(LLM)は、医療現場にますます導入されているが、臨床上の決定が関与すると、幻覚を引き起こす傾向が生じる。
本研究は, LLMが最近, 臨床的疑問に答える際に, 薬剤の投与を推奨するか, 中止を推奨するかを検討するものである。
LLMバックボーンを用いた5エージェント"Trust but verify"システムを開発した。
論文 参考訳（メタデータ） (2026-06-12T06:21:19Z) - SafeRx-Agent: A Knowledge-Grounded Multi-Agent Framework for Safe and Explainable Medication Recommendation [12.70587762578296]
患者コンテキスト,外部臨床知識,安全性検証を用いて,追跡可能な薬剤セットを推奨する知識基盤型マルチエージェントフレームワークであるSafeRx-Agentを提案する。
MIMIC-IIIおよびMIMIC-IVデータセットによる実験結果から、SafeRx-Agentは薬物相互作用、禁忌、医薬品セットサイズを制御しながら、きめ細かい薬物の予測精度を向上させることが示された。
論文 参考訳（メタデータ） (2026-05-27T22:15:48Z) - When AI Gets it Wrong: Reliability and Risk in AI-Assisted Medication Decision Systems [0.0]
薬物管理などのリスクの高い領域では、単一の誤った勧告でさえ、重度の患者を傷つける可能性がある。
本稿では,システム障害とその臨床効果に着目し,AI支援医療システムの信頼性について検討する。
論文 参考訳（メタデータ） (2026-04-01T22:53:17Z) - Medical Malice: A Dataset for Context-Aware Safety in Healthcare LLMs [0.0]
この研究は、普遍的な安全性からコンテキスト認識の安全性へのシフトを提唱している。
高度な医療環境に固有の、曖昧で体系的な脅威に対して、AIを免疫するために必要なリソースを提供する。
論文 参考訳（メタデータ） (2025-11-24T11:55:22Z) - Learning to Describe for Predicting Zero-shot Drug-Drug Interactions [54.172575323610175]
薬物と薬物の相互作用は同時投与の有効性を損なう可能性がある。
従来のDDI予測の計算手法では、知識不足のため、新しい薬物の相互作用を捉えることができない可能性がある。
言語モデルに基づくDDI予測器と強化学習(RL)に基づく情報セレクタを用いたテキストDDIを提案する。
論文 参考訳（メタデータ） (2024-03-13T09:42:46Z) - ChatFDA: Medical Records Risk Assessment [0.0]
本研究は,医療ノートから生じる潜在的なリスクを解消する上で,介護者を支援することで,この課題に対処するための先駆的アプリケーションについて検討する。
このアプリケーションは、オープンソースFDAのデータを活用して、処方薬に関するリアルタイムで実用的な洞察を提供する。
MIMIC-III citemimic datasetで行った予備的な分析は、医療ミスの低減と患者の安全性の増幅を強調した概念の証明を裏付けるものである。
論文 参考訳（メタデータ） (2023-12-20T03:40:45Z) - Decision Support System for Chronic Diseases Based on Drug-Drug
Interactions [67.9840225237587]
本稿では,医師の意思決定を支援するための薬物と薬物の相互作用に基づくDSSDDIと呼ばれる意思決定支援システムを提案する。
DDIモジュールは、薬物と薬物の相互作用からより安全で効果的な薬物表現を学習する。
MDモジュールは、患者と薬物の表現を文脈として、DDIと患者の類似性を治療として、薬物の使用を結果として考える。
論文 参考訳（メタデータ） (2023-03-04T12:44:38Z) - Knowledge-Driven New Drug Recommendation [88.35607943144261]
既存の薬物と新薬のギャップを埋めるために, 薬物依存型マルチフェノタイプ数発学習機を開発した。
EDGEは外部薬効知識ベースを用いて偽陰性監視信号を除去する。
その結果, EDGEは, ROC-AUCスコアよりも7.3%向上していることがわかった。
論文 参考訳（メタデータ） (2022-10-11T16:07:52Z) - Principal-Agent Hypothesis Testing [54.154244569974864]
我々は、規制当局(プリンシパル)と医薬品会社のような実験者(エージェント)との関係を考察する。
医薬品の有効性は規制当局に知られていないため、医薬品会社は規制当局に有効性を証明するために費用がかかる裁判を行わなければならない。
エージェントの戦略行動に頑健なプロトコルを設計する方法を示し、戦略参加者の存在下で最適なプロトコルを導出する。
論文 参考訳（メタデータ） (2022-05-13T17:59:23Z) - SafeDrug: Dual Molecular Graph Encoders for Safe Drug Recommendations [59.590084937600764]
医薬品の分子構造とDDIのモデルを明確に活用するために、SafeDrugというDDI制御可能な薬物推奨モデルを提案する。
ベンチマークデータセットでは、SafeDrugはDDIを19.43%削減し、Jaccardの推奨薬物と実際に処方された薬物の組み合わせの2.88%を改善します。
論文 参考訳（メタデータ） (2021-05-05T00:20:48Z) - COVI White Paper [67.04578448931741]
接触追跡は、新型コロナウイルスのパンデミックの進行を変える上で不可欠なツールだ。
カナダで開発されたCovid-19の公衆ピアツーピア接触追跡とリスク認識モバイルアプリケーションであるCOVIの理論的、設計、倫理的考察、プライバシ戦略について概説する。
論文 参考訳（メタデータ） (2020-05-18T07:40:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。