論文の概要: Adversarial Attacks on Reinforcement Learning-based Medical Questionnaire Systems: Input-level Perturbation Strategies and Medical Constraint Validation

• arxiv url: http://arxiv.org/abs/2508.05677v1
• Date: Tue, 05 Aug 2025 11:10:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-11 20:39:05.923846
• Title: Adversarial Attacks on Reinforcement Learning-based Medical Questionnaire Systems: Input-level Perturbation Strategies and Medical Constraint Validation
• Title（参考訳）: 強化学習に基づく医療アンケートシステムに対する敵対的攻撃:入力レベルの摂動方略と医療制約検証
• Authors: Peizhuo Liu,
• Abstract要約: RLベースの医療アンケートシステムは、医療シナリオにおいて大きな可能性を示している。 本研究は,潜在的な脆弱性を同定・解析するための敵攻撃手法に関する総合的な評価を行う。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: RL-based medical questionnaire systems have shown great potential in medical scenarios. However, their safety and robustness remain unresolved. This study performs a comprehensive evaluation on adversarial attack methods to identify and analyze their potential vulnerabilities. We formulate the diagnosis process as a Markov Decision Process (MDP), where the state is the patient responses and unasked questions, and the action is either to ask a question or to make a diagnosis. We implemented six prevailing major attack methods, including the Fast Gradient Signed Method (FGSM), Projected Gradient Descent (PGD), Carlini & Wagner Attack (C&W) attack, Basic Iterative Method (BIM), DeepFool, and AutoAttack, with seven epsilon values each. To ensure the generated adversarial examples remain clinically plausible, we developed a comprehensive medical validation framework consisting of 247 medical constraints, including physiological bounds, symptom correlations, and conditional medical constraints. We achieved a 97.6% success rate in generating clinically plausible adversarial samples. We performed our experiment on the National Health Interview Survey (NHIS) dataset (https://www.cdc.gov/nchs/nhis/), which consists of 182,630 samples, to predict the participant's 4-year mortality rate. We evaluated our attacks on the AdaptiveFS framework proposed in arXiv:2004.00994. Our results show that adversarial attacks could significantly impact the diagnostic accuracy, with attack success rates ranging from 33.08% (FGSM) to 64.70% (AutoAttack). Our work has demonstrated that even under strict medical constraints on the input, such RL-based medical questionnaire systems still show significant vulnerabilities.
• Abstract（参考訳）: RLベースの医療アンケートシステムは、医療シナリオにおいて大きな可能性を示している。 しかし、その安全性と堅牢性は未解決のままである。 本研究は,潜在的な脆弱性を同定・解析するための敵攻撃手法に関する総合的な評価を行う。 診断過程をMDP (Markov Decision Process) として定式化し, その状態が患者の反応であり, 不明な質問であり, 質問を行うか, 診断を行うかのどちらかである。 我々はFGSM(Fast Gradient Signed Method)、PGD(Projected Gradient Descent)、Carini & Wagner attack(C&W)、Basic Iterative Method(BIM)、DeepFool(DeepFool)、AutoAttack(AutoAttack)の6つの主要な攻撃手法を実装した。 本研究は, 臨床診断の妥当性を確保するために, 生理的制約, 症状相関, 条件付き医学的制約を含む247の医学的制約からなる総合的医学的検証フレームワークを開発した。 臨床的に妥当な逆行性サンプルを作製し,97.6%の成功率を得た。 全国健康調査(NHIS)データセット(https://www.cdc.gov/nchs/nhis/)を用いて,被験者の4年間の死亡率を予測する実験を行った。 我々は、arXiv:2004.00994で提案されたAdaptiveFSフレームワークに対する攻撃を評価した。 その結果, 対人攻撃は診断精度に大きな影響を与え, 攻撃成功率は33.08% (FGSM) から64.70% (AutoAttack) まで様々であった。 我々の研究は、入力に厳しい医学的制約があっても、そのようなRLベースの医療アンケートシステムには重大な脆弱性があることを示した。

関連論文リスト

• An Agentic System for Rare Disease Diagnosis with Traceable Reasoning [58.78045864541539]
  大型言語モデル(LLM)を用いた最初のまれな疾患診断エージェントシステムであるDeepRareを紹介する。 DeepRareは、まれな疾患の診断仮説を分類し、それぞれに透明な推論の連鎖が伴う。 このシステムは2,919の疾患に対して異常な診断性能を示し、1013の疾患に対して100%の精度を達成している。
  論文  参考訳（メタデータ） (2025-06-25T13:42:26Z)
• Structured Outputs Enable General-Purpose LLMs to be Medical Experts [50.02627258858336]
  大規模言語モデル(LLM)は、しばしばオープンエンドの医学的問題に苦しむ。 本稿では,構造化医療推論を利用した新しいアプローチを提案する。 我々の手法は85.8のファクチュアリティスコアを達成し、微調整されたモデルを上回る。
  論文  参考訳（メタデータ） (2025-03-05T05:24:55Z)
• Survey on Adversarial Attack and Defense for Medical Image Analysis: Methods and Challenges [64.63744409431001]
  医療画像解析における敵攻撃・防衛の進歩に関する総合的な調査を報告する。 公正な比較のために、逆向きに堅牢な診断モデルのための新しいベンチマークを構築した。
  論文  参考訳（メタデータ） (2023-03-24T16:38:58Z)
• Clinical Outcome Prediction from Admission Notes using Self-Supervised Knowledge Integration [55.88616573143478]
  臨床テキストからのアウトカム予測は、医師が潜在的なリスクを見落としないようにする。 退院時の診断,手術手順,院内死亡率,長期予測は4つの一般的な結果予測対象である。 複数の公開資料から得られた患者結果に関する知識を統合するために,臨床結果の事前学習を提案する。
  論文  参考訳（メタデータ） (2021-02-08T10:26:44Z)
• Detecting Parkinsonian Tremor from IMU Data Collected In-The-Wild using Deep Multiple-Instance Learning [59.74684475991192]
  パーキンソン病(英: Parkinson's Disease、PD)は、60歳以上の人口の約1%に影響を与える徐々に進化する神経学的疾患である。 PD症状には、震動、剛性、ブレイキネジアがある。 本稿では,スマートフォン端末から受信したIMU信号に基づいて,PDに関連するトレモラスなエピソードを自動的に識別する手法を提案する。
  論文  参考訳（メタデータ） (2020-05-06T09:02:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。