論文の概要: MIGA: Mutual Information-Guided Attack on Denoising Models for Semantic Manipulation

• arxiv url: http://arxiv.org/abs/2503.06966v2
• Date: Tue, 11 Mar 2025 06:01:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-12 12:20:18.946306
• Title: MIGA: Mutual Information-Guided Attack on Denoising Models for Semantic Manipulation
• Title（参考訳）: MIGA:セマンティックマニピュレーションのためのデノイングモデルに対する相互情報誘導攻撃
• Authors: Guanghao Li, Mingzhi Chen, Hao Yu, Shuting Dong, Wenhao Jiang, Ming Tang, Chun Yuan,
• Abstract要約: 深層認知モデルを直接攻撃するためのMIGA(Mutual Information-Guided Attack)を提案する。 MIGAは、敵対的摂動を通じて意味的コンテンツを保存するモデルの能力を戦略的に破壊する。 以上の結果から,デノベーションモデルは必ずしも堅牢ではなく,現実のアプリケーションにセキュリティリスクをもたらす可能性が示唆された。
• 参考スコア（独自算出の注目度）: 39.12448251986432
• License:
• Abstract: Deep learning-based denoising models have been widely employed in vision tasks, functioning as filters to eliminate noise while retaining crucial semantic information. Additionally, they play a vital role in defending against adversarial perturbations that threaten downstream tasks. However, these models can be intrinsically susceptible to adversarial attacks due to their dependence on specific noise assumptions. Existing attacks on denoising models mainly aim at deteriorating visual clarity while neglecting semantic manipulation, rendering them either easily detectable or limited in effectiveness. In this paper, we propose Mutual Information-Guided Attack (MIGA), the first method designed to directly attack deep denoising models by strategically disrupting their ability to preserve semantic content via adversarial perturbations. By minimizing the mutual information between the original and denoised images, a measure of semantic similarity. MIGA forces the denoiser to produce perceptually clean yet semantically altered outputs. While these images appear visually plausible, they encode systematically distorted semantics, revealing a fundamental vulnerability in denoising models. These distortions persist in denoised outputs and can be quantitatively assessed through downstream task performance. We propose new evaluation metrics and systematically assess MIGA on four denoising models across five datasets, demonstrating its consistent effectiveness in disrupting semantic fidelity. Our findings suggest that denoising models are not always robust and can introduce security risks in real-world applications.
• Abstract（参考訳）: 深層学習に基づく認知モデルは視覚タスクに広く使われており、重要な意味情報を保持しながらノイズを除去するフィルタとして機能している。 さらに、下流のタスクを脅かす敵の摂動から守る上で、彼らは重要な役割を担っている。 しかし、これらのモデルは特定の雑音の仮定に依存するため、本質的に敵対的攻撃を受けやすい。 既存のデノナイズモデルに対する攻撃は主に、セマンティックな操作を無視しながら視覚的明瞭さを損なうことを目的としており、それらは容易に検出可能か、有効性に制限される。 本稿では,相互情報誘導攻撃(MIGA)を提案する。これは,敵対的摂動による意味的コンテンツの保存能力を戦略的に破壊することにより,深い認知モデルを直接攻撃する最初の方法である。 原画像と復号画像の相互情報を最小化することにより、意味的類似度を測定する。 MIGAはデノイザーに知覚的にクリーンでセマンティックに変化した出力を生成するよう強制する。 これらの画像は視覚的に可視に見えるが、体系的に歪んだセマンティクスを符号化し、モデルを認知する根本的な脆弱性を明らかにしている。 これらの歪みは復号化出力に持続し、下流タスクのパフォーマンスを通じて定量的に評価できる。 提案手法は,5つのデータセットにまたがる4つの認知モデル上でMIGAを体系的に評価し,意味的忠実性を損なうための一貫した有効性を示す。 以上の結果から,デノベーションモデルは必ずしも堅牢ではなく,現実のアプリケーションにセキュリティリスクをもたらす可能性が示唆された。

関連論文リスト

• Anti-Reference: Universal and Immediate Defense Against Reference-Based Generation [24.381813317728195]
  反参照は、参照ベースの生成技術によって引き起こされる脅威から画像を保護する新しい方法である。 本研究では,微調整に基づくカスタマイズ手法に対する共同攻撃を可能にする一元的損失関数を提案する。 提案手法は特定の転送攻撃能力を示し,グレーボックスモデルといくつかの商用APIの両方に効果的に挑戦する。
  論文  参考訳（メタデータ） (2024-12-08T16:04:45Z)
• Transferable Adversarial Attacks on SAM and Its Downstream Models [87.23908485521439]
  本稿では,セグメント・アプライス・モデル(SAM)から微調整した様々な下流モデルに対する敵攻撃の可能性について検討する。 未知のデータセットを微調整したモデルに対する敵攻撃の有効性を高めるために,ユニバーサルメタ初期化(UMI)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-26T15:04:04Z)
• Rethinking and Defending Protective Perturbation in Personalized Diffusion Models [21.30373461975769]
  パーソナライズされた拡散モデル(PDM)の微調整過程について,ショートカット学習のレンズを用いて検討した。 PDMは小さな逆境の摂動に影響を受けやすいため、破損したデータセットを微調整すると著しく劣化する。 本稿では,データ浄化と対照的なデカップリング学習を含むシステム防衛フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-27T07:14:14Z)
• Low-Trace Adaptation of Zero-shot Self-supervised Blind Image Denoising [23.758547513866766]
  自己教師型学習と教師型学習のギャップを埋めるために,トレース制約損失関数と低トレース適応型ノイズ2ノイズ(LoTA-N2N)モデルを提案する。 本手法は,ゼロショット自己監督型画像復調手法の領域内での最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-03-19T02:47:33Z)
• Stable Unlearnable Example: Enhancing the Robustness of Unlearnable Examples via Stable Error-Minimizing Noise [31.586389548657205]
  データにある種の知覚不能ノイズを加えることにより、モデルの一般化性能を著しく低下させる非学習不可能な例を提案する。 本稿では,時間を要する対向的摂動ではなく,ランダムな摂動に対する防御音を訓練する安定型誤り最小化ノイズ(SEM)を導入する。 SEMは、CIFAR-10、CIFAR-100、ImageNet Subset上で、最先端の新たなパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2023-11-22T01:43:57Z)
• Evaluating Similitude and Robustness of Deep Image Denoising Models via Adversarial Attack [60.40356882897116]
  ディープニューラルネットワーク(DNN)は、従来の画像復調アルゴリズムよりも優れたパフォーマンスを示している。 本稿では,現在のディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディナイジング・PGD(Denoising-PGD)と名づけられた敵攻撃手法を提案する。
  論文  参考訳（メタデータ） (2023-06-28T09:30:59Z)
• Beyond Pretrained Features: Noisy Image Modeling Provides Adversarial Defense [52.66971714830943]
  マスク付き画像モデリング(MIM)は、自己教師付き視覚表現学習のフレームワークとして普及している。 本稿では,この強力な自己教師型学習パラダイムが,下流の分類器に対して対角的ロバスト性を提供する方法について検討する。 本稿では,デノナイジングのためのデコーダを用いて,デノナイジングのための対角防御手法を提案する。
  論文  参考訳（メタデータ） (2023-02-02T12:37:24Z)
• Guided Diffusion Model for Adversarial Purification [103.4596751105955]
  敵攻撃は、様々なアルゴリズムやフレームワークでディープニューラルネットワーク(DNN)を妨害する。 本稿では,GDMP ( Guided diffusion model for purification) と呼ばれる新しい精製法を提案する。 様々なデータセットにわたる包括的実験において,提案したGDMPは,敵対的攻撃によって引き起こされた摂動を浅い範囲に減少させることを示した。
  論文  参考訳（メタデータ） (2022-05-30T10:11:15Z)
• Towards Adversarially Robust Deep Image Denoising [199.2458715635285]
  本研究は,ディープ・イメージ・デノイザ(DID)の対角的ロバスト性について系統的に検討する。 本稿では,観測に基づくゼロ平均アタック(sc ObsAtk)という新たな敵攻撃を提案する。 DIDを頑健化するために,DIDと非対向雑音データとを併用したハイブリッド対向訓練(sc HAT)を提案する。
  論文  参考訳（メタデータ） (2022-01-12T10:23:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。