論文の概要: Adversarial Attacks to Multi-Modal Models

• arxiv url: http://arxiv.org/abs/2409.06793v1
• Date: Tue, 10 Sep 2024 18:02:51 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-12 17:07:53.285420
• Title: Adversarial Attacks to Multi-Modal Models
• Title（参考訳）: マルチモーダルモデルに対する敵対的攻撃
• Authors: Zhihao Dou, Xin Hu, Haibo Yang, Zhuqing Liu, Minghong Fang,
• Abstract要約: マルチモーダルモデルを攻撃する革新的なアプローチであるCrossFireを紹介します。 CrossFireはダウンストリームタスクを著しく操作でき、既存のアタックを超えます。
• 参考スコア（独自算出の注目度）: 9.269454413988312
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multi-modal models have gained significant attention due to their powerful capabilities. These models effectively align embeddings across diverse data modalities, showcasing superior performance in downstream tasks compared to their unimodal counterparts. Recent study showed that the attacker can manipulate an image or audio file by altering it in such a way that its embedding matches that of an attacker-chosen targeted input, thereby deceiving downstream models. However, this method often underperforms due to inherent disparities in data from different modalities. In this paper, we introduce CrossFire, an innovative approach to attack multi-modal models. CrossFire begins by transforming the targeted input chosen by the attacker into a format that matches the modality of the original image or audio file. We then formulate our attack as an optimization problem, aiming to minimize the angular deviation between the embeddings of the transformed input and the modified image or audio file. Solving this problem determines the perturbations to be added to the original media. Our extensive experiments on six real-world benchmark datasets reveal that CrossFire can significantly manipulate downstream tasks, surpassing existing attacks. Additionally, we evaluate six defensive strategies against CrossFire, finding that current defenses are insufficient to counteract our CrossFire.
• Abstract（参考訳）: マルチモーダルモデルは、その強力な能力のために大きな注目を集めている。 これらのモデルは、多種多様なデータモダリティにまたがる埋め込みを効果的に整合させ、下流タスクにおけるパフォーマンスを、その非モードのモデルと比較する。 最近の研究では、攻撃者が画像やオーディオファイルを、その埋め込みが攻撃対象の入力と一致するように変更することで操作できることが示され、それによって下流モデルが無視される。 しかし、この手法は、異なるモダリティのデータに固有の相違があるため、しばしば性能が劣る。 本稿では,マルチモーダルモデルに対する革新的なアプローチであるCrossFireを紹介する。 CrossFireは、攻撃者が選択したターゲット入力を、元のイメージやオーディオファイルのモダリティにマッチするフォーマットに変換することから始まる。 次に、変換された入力の埋め込みと修正された画像やオーディオファイルとの角偏差を最小限に抑えるため、最適化問題として攻撃を定式化する。 この問題の解決は、元のメディアに追加される摂動を決定する。 6つの実世界のベンチマークデータセットに関する大規模な実験では、CrossFireがダウンストリームタスクを著しく操作でき、既存の攻撃を上回ることが判明しました。 さらに、CrossFireに対する6つの防衛戦略を評価し、現在の防衛策が私たちのCrossFireに対抗するには不十分であることを確認した。

関連論文リスト

• Mutual-modality Adversarial Attack with Semantic Perturbation [81.66172089175346]
  本稿では,相互モダリティ最適化スキームにおける敵攻撃を生成する新しい手法を提案する。 我々の手法は最先端の攻撃方法より優れており、プラグイン・アンド・プレイ・ソリューションとして容易にデプロイできる。
  論文  参考訳（メタデータ） (2023-12-20T05:06:01Z)
• Defense Against Adversarial Attacks using Convolutional Auto-Encoders [0.0]
  敵攻撃は入力データを知覚不能な摂動で操作し、モデルがデータを誤分類したり、誤出力を発生させたりする。 この研究は、敵攻撃に対する標的モデルの堅牢性を高めることに基づいている。
  論文  参考訳（メタデータ） (2023-12-06T14:29:16Z)
• Scoring Black-Box Models for Adversarial Robustness [4.416484585765028]
  敵の攻撃に対する モデルの堅牢性が分析されました 逆入力に対する頑健性を示すブラックボックスモデルの簡易スコアリング法を提案する。
  論文  参考訳（メタデータ） (2022-10-31T08:41:44Z)
• Frequency Domain Model Augmentation for Adversarial Attack [91.36850162147678]
  ブラックボックス攻撃の場合、代用モデルと被害者モデルの間のギャップは通常大きい。 そこで本研究では,通常の訓練モデルと防衛モデルの両方に対して,より伝達可能な対角線モデルを構築するための新しいスペクトルシミュレーション攻撃を提案する。
  論文  参考訳（メタデータ） (2022-07-12T08:26:21Z)
• Defending Variational Autoencoders from Adversarial Attacks with MCMC [74.36233246536459]
  変分オートエンコーダ(VAE)は、様々な領域で使用される深部生成モデルである。 以前の研究が示すように、視覚的にわずかに修正された入力に対する予期せぬ潜在表現と再構成を生成するために、VAEを簡単に騙すことができる。 本稿では, 敵攻撃構築のための目的関数について検討し, モデルのロバスト性を評価する指標を提案し, 解決策を提案する。
  論文  参考訳（メタデータ） (2022-03-18T13:25:18Z)
• Multi-granularity Textual Adversarial Attack with Behavior Cloning [4.727534308759158]
  我々は,被害者モデルに対するクエリが少なく,高品質な対数サンプルを生成するためのマルチグラムYアタックモデルMAYAを提案する。 2つの異なるブラックボックス攻撃設定と3つのベンチマークデータセットでBiLSTM,BERT,RoBERTaを攻撃し、攻撃モデルを評価するための総合的な実験を行った。
  論文  参考訳（メタデータ） (2021-09-09T15:46:45Z)
• Delving into Data: Effectively Substitute Training for Black-box Attack [84.85798059317963]
  本稿では,知識盗むプロセスで使用されるデータの分散設計に焦点をあてた,新しい視点代替トレーニングを提案する。 これら2つのモジュールの組み合わせにより、代替モデルとターゲットモデルの一貫性がさらに向上し、敵攻撃の有効性が大幅に向上する。
  論文  参考訳（メタデータ） (2021-04-26T07:26:29Z)
• Learning to Attack: Towards Textual Adversarial Attacking in Real-world Situations [81.82518920087175]
  敵攻撃は、敵の例でディープニューラルネットワークを騙すことを目的としている。 本稿では、攻撃履歴から学習し、より効率的に攻撃を開始することができる強化学習に基づく攻撃モデルを提案する。
  論文  参考訳（メタデータ） (2020-09-19T09:12:24Z)
• Decision-based Universal Adversarial Attack [55.76371274622313]
  ブラックボックス設定では、現在の普遍的敵攻撃法は代用モデルを用いて摂動を生成する。 効率的な決定に基づくユニバーサルアタック(DUAttack)を提案する。 DUAttackの有効性は、他の最先端攻撃との比較によって検証される。
  論文  参考訳（メタデータ） (2020-09-15T12:49:03Z)
• OGAN: Disrupting Deepfakes with an Adversarial Attack that Survives Training [0.0]
  我々は,対面型オートエンコーダを妨害する敵攻撃のクラスを導入する。 我々は,Oscillating GAN(OGAN)攻撃を提案する。 これらの結果は、広範囲のドメインに適用可能な、訓練耐性の敵攻撃の存在を示すものである。
  論文  参考訳（メタデータ） (2020-06-17T17:18:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。