論文の概要: CoRPA: Adversarial Image Generation for Chest X-rays Using Concept Vector Perturbations and Generative Models
- arxiv url: http://arxiv.org/abs/2502.05214v1
- Date: Tue, 04 Feb 2025 17:14:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-11 14:33:48.433824
- Title: CoRPA: Adversarial Image Generation for Chest X-rays Using Concept Vector Perturbations and Generative Models
- Title(参考訳): CoRPA:概念ベクトル摂動と生成モデルを用いた胸部X線に対する逆画像生成
- Authors: Amy Rafferty, Rishi Ramaesh, Ajitha Rajan,
- Abstract要約: 医用画像分類タスクのためのディープラーニングモデルは、AI支援診断ツールで広く実装されている。
敵の攻撃に対する脆弱性は、患者の安全に重大なリスクをもたらす。
臨床に焦点を当てたブラックボックス攻撃フレームワークであるConcept-based Report Perturbation Attack (CoRPA)を提案する。
- 参考スコア(独自算出の注目度): 2.380494879018844
- License:
- Abstract: Deep learning models for medical image classification tasks are becoming widely implemented in AI-assisted diagnostic tools, aiming to enhance diagnostic accuracy, reduce clinician workloads, and improve patient outcomes. However, their vulnerability to adversarial attacks poses significant risks to patient safety. Current attack methodologies use general techniques such as model querying or pixel value perturbations to generate adversarial examples designed to fool a model. These approaches may not adequately address the unique characteristics of clinical errors stemming from missed or incorrectly identified clinical features. We propose the Concept-based Report Perturbation Attack (CoRPA), a clinically-focused black-box adversarial attack framework tailored to the medical imaging domain. CoRPA leverages clinical concepts to generate adversarial radiological reports and images that closely mirror realistic clinical misdiagnosis scenarios. We demonstrate the utility of CoRPA using the MIMIC-CXR-JPG dataset of chest X-rays and radiological reports. Our evaluation reveals that deep learning models exhibiting strong resilience to conventional adversarial attacks are significantly less robust when subjected to CoRPA's clinically-focused perturbations. This underscores the importance of addressing domain-specific vulnerabilities in medical AI systems. By introducing a specialized adversarial attack framework, this study provides a foundation for developing robust, real-world-ready AI models in healthcare, ensuring their safe and reliable deployment in high-stakes clinical environments.
- Abstract(参考訳): 医用画像分類タスクのディープラーニングモデルは、診断精度の向上、臨床ワークロードの削減、患者の成果の向上を目的として、AI支援診断ツールで広く実装されている。
しかし、敵の攻撃に対する脆弱性は患者の安全に重大なリスクをもたらす。
現在の攻撃手法では、モデルクエリやピクセル値の摂動といった一般的な手法を用いて、モデルを騙すように設計された敵の例を生成する。
これらのアプローチは、欠落または誤って特定された臨床特徴から生じる臨床エラーの特異な特徴に適切に対処することができない。
本稿では,医療画像領域に合わせて,臨床に焦点を当てたブラックボックス対逆攻撃フレームワークであるConcept-based Report Perturbation Attack (CoRPA)を提案する。
CoRPAは臨床概念を活用して、現実的な臨床誤診のシナリオを忠実に反映した、対向的な放射線学的報告や画像を生成する。
胸部X線のMIMIC-CXR-JPGデータセットと放射線学的報告を用いたCoRPAの有用性を実証した。
以上の結果から,CoRPAが臨床に焦点を絞った摂動を受けると,従来の逆行攻撃に対して強い回復力を示す深層学習モデルが著しく脆弱であることが示唆された。
これは、医療AIシステムにおけるドメイン固有の脆弱性に対処することの重要性を浮き彫りにする。
この研究は、特殊な敵対的攻撃フレームワークを導入することで、医療における堅牢で現実的なAIモデルの開発の基礎を提供し、高リスクな臨床環境における安全で信頼性の高いデプロイメントを保証する。
関連論文リスト
- Hybrid Interpretable Deep Learning Framework for Skin Cancer Diagnosis: Integrating Radial Basis Function Networks with Explainable AI [1.1049608786515839]
皮膚がんは世界中で最も流行し、致命的な疾患の1つである。
本稿では,畳み込みニューラルネットワーク(CNN)とラジアル基底関数(RBF)ネットワークを統合するハイブリッドディープラーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2025-01-24T19:19:02Z) - SurvAttack: Black-Box Attack On Survival Models through Ontology-Informed EHR Perturbation [9.500873129276531]
生存分析モデルのための新しいブラックボックス攻撃フレームワークであるSurvAttackを紹介する。
本研究は,患者の医療史を通じて,様々な相手行動を伴う医療コードを操作するアルゴリズムを特に開発する。
提案アルゴリズムは,サバイバルモデルを攻撃するための効率的なSA特異的戦略として用いられる。
論文 参考訳(メタデータ) (2024-12-24T23:35:42Z) - Analyzing the Effect of $k$-Space Features in MRI Classification Models [0.0]
医用イメージングに適した説明可能なAI手法を開発した。
我々は、画像領域と周波数領域の両方にわたるMRIスキャンを分析する畳み込みニューラルネットワーク(CNN)を採用している。
このアプローチは、初期のトレーニング効率を高めるだけでなく、追加機能がモデル予測にどのように影響するかの理解を深めます。
論文 参考訳(メタデータ) (2024-09-20T15:43:26Z) - Adversarial-Robust Transfer Learning for Medical Imaging via Domain
Assimilation [17.46080957271494]
医用画像が公開されていないため、現代のアルゴリズムは、大量の自然画像に基づいて事前訓練されたモデルに依存するようになった。
自然画像と医療画像の間に重要なエムドメインの相違があり、AIモデルは敵の攻撃に対するエムの脆弱性を高める。
本稿では,テクスチャと色適応を伝達学習に導入する Em ドメイン同化手法を提案する。
論文 参考訳(メタデータ) (2024-02-25T06:39:15Z) - Radiology Report Generation Using Transformers Conditioned with
Non-imaging Data [55.17268696112258]
本稿では,胸部X線画像と関連する患者の人口統計情報を統合したマルチモーダルトランスフォーマーネットワークを提案する。
提案ネットワークは、畳み込みニューラルネットワークを用いて、CXRから視覚的特徴を抽出し、その視覚的特徴と患者の人口統計情報のセマンティックテキスト埋め込みを組み合わせたトランスフォーマーベースのエンコーダデコーダネットワークである。
論文 参考訳(メタデータ) (2023-11-18T14:52:26Z) - Safe AI for health and beyond -- Monitoring to transform a health
service [51.8524501805308]
機械学習アルゴリズムの出力を監視するために必要なインフラストラクチャを評価する。
モデルのモニタリングと更新の例を示す2つのシナリオを提示します。
論文 参考訳(メタデータ) (2023-03-02T17:27:45Z) - Toward Robust Diagnosis: A Contour Attention Preserving Adversarial
Defense for COVID-19 Detection [10.953610196636784]
本稿では,肺腔エッジ抽出に基づく Contour Attention Preserving (CAP) 法を提案する。
実験結果から, 本手法は, 複数の対角防御および一般化タスクにおいて, 最先端の性能を実現することが示唆された。
論文 参考訳(メタデータ) (2022-11-30T08:01:23Z) - Generative Residual Attention Network for Disease Detection [51.60842580044539]
本稿では, 条件付き生成逆学習を用いたX線疾患発生のための新しいアプローチを提案する。
我々は,患者の身元を保存しながら,対象領域に対応する放射線画像を生成する。
次に、ターゲット領域で生成されたX線画像を用いてトレーニングを増強し、検出性能を向上させる。
論文 参考訳(メタデータ) (2021-10-25T14:15:57Z) - In-Line Image Transformations for Imbalanced, Multiclass Computer Vision
Classification of Lung Chest X-Rays [91.3755431537592]
本研究は、COVID-19 LCXRデータ不足のバランスをとるために画像変換を適用するために、文献の体系を活用することを目的としている。
convolutional neural networks(cnns)のようなディープラーニング技術は、健康状態と疾患状態を区別する特徴を選択することができる。
本研究は,CNNアーキテクチャを用いて高速多クラスLCXR分類を94%精度で行う。
論文 参考訳(メタデータ) (2021-04-06T02:01:43Z) - Privacy-preserving medical image analysis [53.4844489668116]
医用画像におけるプライバシ保護機械学習(PPML)のためのソフトウェアフレームワークであるPriMIAを提案する。
集合型学習モデルの分類性能は,未発見データセットの人間専門家と比較して有意に良好である。
グラデーションベースのモデル反転攻撃に対するフレームワークのセキュリティを実証的に評価する。
論文 参考訳(メタデータ) (2020-12-10T13:56:00Z) - Explaining Clinical Decision Support Systems in Medical Imaging using
Cycle-Consistent Activation Maximization [112.2628296775395]
ディープニューラルネットワークを用いた臨床意思決定支援は、着実に関心が高まりつつあるトピックとなっている。
臨床医は、その根底にある意思決定プロセスが不透明で理解しにくいため、この技術の採用をためらうことが多い。
そこで我々は,より小さなデータセットであっても,分類器決定の高品質な可視化を生成するCycleGANアクティベーションに基づく,新たな意思決定手法を提案する。
論文 参考訳(メタデータ) (2020-10-09T14:39:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。