論文の概要: Backdoor Attack on Unpaired Medical Image-Text Foundation Models: A Pilot Study on MedCLIP

• arxiv url: http://arxiv.org/abs/2401.01911v1
• Date: Mon, 1 Jan 2024 18:42:19 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-05 16:28:41.450068
• Title: Backdoor Attack on Unpaired Medical Image-Text Foundation Models: A Pilot Study on MedCLIP
• Title（参考訳）: unpaired medical image-text foundation modelに対するバックドア攻撃: medclipに関するパイロット研究
• Authors: Ruinan Jin, Chun-Yin Huang, Chenyu You, Xiaoxiao Li
• Abstract要約: MedCLIPは、画像テキストトレーニングを欠くことなく、視覚言語によるコントラスト学習に基づく医療用FMである。 本研究では,このラベルの不一致をバックドア攻撃問題とみなす。 我々は、BadDistが支援するBadMatchを通じて、MedCLIPの対照的な学習を妨害する。
• 参考スコア（独自算出の注目度）: 36.704422037508714
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In recent years, foundation models (FMs) have solidified their role as cornerstone advancements in the deep learning domain. By extracting intricate patterns from vast datasets, these models consistently achieve state-of-the-art results across a spectrum of downstream tasks, all without necessitating extensive computational resources. Notably, MedCLIP, a vision-language contrastive learning-based medical FM, has been designed using unpaired image-text training. While the medical domain has often adopted unpaired training to amplify data, the exploration of potential security concerns linked to this approach hasn't kept pace with its practical usage. Notably, the augmentation capabilities inherent in unpaired training also indicate that minor label discrepancies can result in significant model deviations. In this study, we frame this label discrepancy as a backdoor attack problem. We further analyze its impact on medical FMs throughout the FM supply chain. Our evaluation primarily revolves around MedCLIP, emblematic of medical FM employing the unpaired strategy. We begin with an exploration of vulnerabilities in MedCLIP stemming from unpaired image-text matching, termed BadMatch. BadMatch is achieved using a modest set of wrongly labeled data. Subsequently, we disrupt MedCLIP's contrastive learning through BadDist-assisted BadMatch by introducing a Bad-Distance between the embeddings of clean and poisoned data. Additionally, combined with BadMatch and BadDist, the attacking pipeline consistently fends off backdoor assaults across diverse model designs, datasets, and triggers. Also, our findings reveal that current defense strategies are insufficient in detecting these latent threats in medical FMs' supply chains.
• Abstract（参考訳）: 近年,基礎モデル (FM) は深層学習領域における基礎的な進歩としての役割を固めている。 膨大なデータセットから複雑なパターンを抽出することにより、これらのモデルは、広範囲の計算資源を必要とせずに、下流タスクのスペクトルにわたる最先端の結果を一貫して達成する。 特に、視覚言語によるコントラスト学習ベースの医療fmである medclip は、非ペア画像テキストトレーニングを用いて設計されている。 医療領域では、データを増幅するための未経験のトレーニングが頻繁に実施されているが、このアプローチに関連する潜在的なセキュリティ上の懸念の探索は、その実践的使用に追随していない。 特に、未経験訓練に固有の増強能力は、マイナーなラベルの相違が重要なモデル偏差をもたらすことを示唆している。 本研究では,このラベルの不一致をバックドア攻撃問題とみなす。 FMサプライチェーン全体の医療用FMへの影響をさらに分析する。 医療用FMのエンブレマであるMedCLIPを中心に,未熟な戦略を用いて評価を行った。 我々は、未ペア画像テキストマッチング(BadMatch)によるMedCLIPの脆弱性の探索から始める。 BadMatchは、不正ラベル付きデータの控えめなセットを使用して実現される。 その後,BadDist支援BadMatchによるMedCLIPのコントラスト学習を妨害し,クリーンデータと有毒データの埋め込みにBad-Distanceを導入する。 さらに、BadMatchやBadDistと組み合わせることで、攻撃パイプラインはさまざまなモデル設計、データセット、トリガーにわたるバックドアアタックを一貫して回避する。 また,医療用FMのサプライチェーンに潜伏する脅威を検出するには,現在の防衛戦略が不十分であることが明らかとなった。

関連論文リスト

• BAPLe: Backdoor Attacks on Medical Foundational Models using Prompt Learning [71.60858267608306]
  医療基盤モデルはバックドア攻撃の影響を受けやすい。 本研究は,素早い学習期間中に医療基盤モデルにバックドアを埋め込む方法を紹介する。 我々の手法であるBAPLeは、ノイズトリガを調整するために最小限のデータサブセットしか必要とせず、テキストは下流のタスクにプロンプトする。
  論文  参考訳（メタデータ） (2024-08-14T10:18:42Z)
• Medical Unlearnable Examples: Securing Medical Data from Unauthorized Training via Sparsity-Aware Local Masking [24.850260039814774]
  商用AIモデルのトレーニングのような、認可されていない使用の恐れは、研究者が貴重なデータセットを共有するのを妨げる。 本研究では,画像全体ではなく重要な画素領域を選択的に摂動するSALM法を提案する。 実験により,SALMは,異なるモデルの不正なトレーニングを効果的に防止し,従来のSoTAデータ保護手法より優れていることが示された。
  論文  参考訳（メタデータ） (2024-03-15T02:35:36Z)
• FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
  フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
  論文  参考訳（メタデータ） (2023-12-07T16:56:24Z)
• Improving Multiple Sclerosis Lesion Segmentation Across Clinical Sites: A Federated Learning Approach with Noise-Resilient Training [75.40980802817349]
  深層学習モデルは、自動的にMS病変を分節する約束を示しているが、正確な注釈付きデータの不足は、この分野の進歩を妨げている。 我々は,MS病変の不均衡分布とファジィ境界を考慮したDecoupled Hard Label Correction(DHLC)戦略を導入する。 また,集約型中央モデルを利用したCELC(Centrally Enhanced Label Correction)戦略も導入した。
  論文  参考訳（メタデータ） (2023-08-31T00:36:10Z)
• Unsupervised Cross-domain Pulmonary Nodule Detection without Source Data [36.61757663123084]
  クロスドメイン肺結節検出は、ソースとターゲットドメイン間のデータ分布の大きなシフトにより、性能劣化に悩まされる。 本稿では,肺結節検出のためのソースフリーなUntuningクロスドメイン手法であるインスタンスレベルコントラストインストラクションファインメンテーションフレームワーク(ICI)を提案する。 肺結節検出のために,トレーニング済みのソースモデルを3つの一般的なデータセットに適応させることで,ベンチマークを確立する。
  論文  参考訳（メタデータ） (2023-04-03T15:42:27Z)
• Backdoor Attack and Defense in Federated Generative Adversarial Network-based Medical Image Synthesis [15.41200827860072]
  フェデレートラーニング(FL)は、分散データを使用して、生データをローカルに保持しながら、中央モデルをトレーニングする方法を提供する。 バックドア攻撃には弱いが、訓練データに毒を盛ることによる敵の攻撃である。 ほとんどのバックドア攻撃戦略は、分類モデルと集中型ドメインに焦点を当てている。 本稿では,FL設定におけるバックドア攻撃を効果的かつ効果的に防御するFedDetectを提案する。
  論文  参考訳（メタデータ） (2022-10-19T21:03:34Z)
• FedMed-GAN: Federated Domain Translation on Unsupervised Cross-Modality Brain Image Synthesis [55.939957482776194]
  我々は、教師なし脳画像合成におけるフェデレートドメイン翻訳のための新しいベンチマーク(FedMed-GAN)を提案する。 FedMed-GANは発電機の性能を犠牲にすることなくモード崩壊を緩和する。 FedMed-GANと他の集中型手法を比較するための総合的な評価を提供する。
  論文  参考訳（メタデータ） (2022-01-22T02:50:29Z)
• Get your Foes Fooled: Proximal Gradient Split Learning for Defense against Model Inversion Attacks on IoMT data [5.582293277542012]
  本研究では,モデル反転攻撃に対する防御のための近勾配分割学習(PSGL)手法を提案する。 本稿では,勾配マップの復元に近似勾配法を用い,認識性能を向上させるための決定レベル融合戦略を提案する。
  論文  参考訳（メタデータ） (2022-01-12T17:01:19Z)
• Federated Semi-supervised Medical Image Classification via Inter-client Relation Matching [58.26619456972598]
  フェデレートラーニング(FL)は、ディープ・ネットワークのトレーニングのために、分散医療機関とのコラボレーションで人気が高まっている。 本報告では,実践的かつ困難なFL問題であるtextitFederated Semi-supervised Learning (FSSL)について検討する。 本稿では, 従来の整合性正規化機構を改良し, クライアント間関係マッチング方式を提案する。
  論文  参考訳（メタデータ） (2021-06-16T07:58:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。