論文の概要: TrojFlow: Flow Models are Natural Targets for Trojan Attacks

• arxiv url: http://arxiv.org/abs/2412.16512v1
• Date: Sat, 21 Dec 2024 07:21:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-24 16:00:31.159096
• Title: TrojFlow: Flow Models are Natural Targets for Trojan Attacks
• Title（参考訳）: TrojFlow: フローモデルはトロイア攻撃の自然なターゲット
• Authors: Zhengyang Qi, Xiaohua Xu,
• Abstract要約: データにノイズをマッピングする方法として,フローベース生成モデル (FM) が急速に進歩している。 これまでの研究では、DMはトロイの木馬/バックドア攻撃に弱いことが示されている。 我々は、トロイの木馬攻撃によるFMの脆弱性を探索するTrojFlowを提案する。
• 参考スコア（独自算出の注目度）: 0.8721298363642859
• License:
• Abstract: Flow-based generative models (FMs) have rapidly advanced as a method for mapping noise to data, its efficient training and sampling process makes it widely applicable in various fields. FMs can be viewed as a variant of diffusion models (DMs). At the same time, previous studies have shown that DMs are vulnerable to Trojan/Backdoor attacks, a type of output manipulation attack triggered by a maliciously embedded pattern at model input. We found that Trojan attacks on generative models are essentially equivalent to image transfer tasks from the backdoor distribution to the target distribution, the unique ability of FMs to fit any two arbitrary distributions significantly simplifies the training and sampling setups for attacking FMs, making them inherently natural targets for backdoor attacks. In this paper, we propose TrojFlow, exploring the vulnerabilities of FMs through Trojan attacks. In particular, we consider various attack settings and their combinations and thoroughly explore whether existing defense methods for DMs can effectively defend against our proposed attack scenarios. We evaluate TrojFlow on CIFAR-10 and CelebA datasets, our experiments show that our method can compromise FMs with high utility and specificity, and can easily break through existing defense mechanisms.
• Abstract（参考訳）: 音をデータにマッピングする手法として,フローベース生成モデル (FM) が急速に進歩している。 FMは拡散モデル(DM)の変種と見なすことができる。 それと同時に、過去の研究では、DMはモデル入力における悪意ある埋め込みパターンによって引き起こされる出力操作攻撃であるTrojan/Backdoor攻撃に弱いことが示されている。 生成モデルに対するトロイの木馬攻撃は、本質的には、バックドア分布からターゲット分布への画像伝達タスクと等価であり、任意の2つの分布に適合するFMのユニークな能力は、FMを攻撃するためのトレーニングとサンプリングのセットアップを著しく単純化し、本質的にバックドア攻撃の自然なターゲットとなる。 本稿では,トロイの木馬攻撃によるFMの脆弱性を探索するTrojFlowを提案する。 特に、様々な攻撃設定とその組み合わせを検討し、提案した攻撃シナリオに対して、既存のDMの防御方法が効果的に防御できるかどうかを徹底的に検討する。 我々は,CIFAR-10およびCelebAデータセット上でTrojFlowを評価し,提案手法がFMを高い実用性と特異性で妥協し,既存の防御機構を突破し易いことを示す。

関連論文リスト

• TrojFM: Resource-efficient Backdoor Attacks against Very Large Foundation Models [69.37990698561299]
  TrojFMは、非常に大きな基礎モデルに適した、新しいバックドア攻撃である。 提案手法では,モデルパラメータのごく一部のみを微調整することでバックドアを注入する。 広範に使われている大規模GPTモデルに対して,TrojFMが効果的なバックドアアタックを起動できることを実証する。
  論文  参考訳（メタデータ） (2024-05-27T03:10:57Z)
• FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
  フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
  論文  参考訳（メタデータ） (2023-12-07T16:56:24Z)
• Attention-Enhancing Backdoor Attacks Against BERT-based Models [54.070555070629105]
  バックドア攻撃の戦略を調べることは、モデルの脆弱性を理解するのに役立つだろう。 本稿では,注意パターンを直接操作することでトロイの木馬行動を向上させる新しいトロイの木馬注意損失(TAL)を提案する。
  論文  参考訳（メタデータ） (2023-10-23T01:24:56Z)
• VillanDiffusion: A Unified Backdoor Attack Framework for Diffusion Models [69.20464255450788]
  拡散モデル(英: Diffusion Models, DM)は、可逆的ノイズ付加から可逆的腐敗過程を学習し、雑音を除去する手法である。 最近の研究では、基本的な無条件DMがバックドア注入に弱いことが示されている。 本稿では,DMのバックドア分析の現在の範囲を広げるために,統合されたバックドア攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-06-12T05:14:13Z)
• Instance-Level Trojan Attacks on Visual Question Answering via Adversarial Learning in Neuron Activation Space [11.93979764176335]
  トロイの木馬攻撃は入力データに埋め込まれ、ニューラルネットワークモデルに悪意のある振る舞いをもたらす。 本稿では,VQAに対するインスタンスレベルのマルチモーダルトロイの木馬攻撃を提案する。 提案した攻撃はトロイの木馬のサンプルを数枚注入することで、異なる微調整モデルに効率的に適応できることを実証した。
  論文  参考訳（メタデータ） (2023-04-02T03:03:21Z)
• TrojDiff: Trojan Attacks on Diffusion Models with Diverse Targets [74.12197473591128]
  拡散モデルに対する効果的なトロイ・アタック(TrojDiff)を提案する。 特に, トロイの木馬拡散過程における新たな遷移を設計し, 対立対象をバイアス付きガウス分布に拡散させる。 そこで,TrojDiffは,異なる種類のトリガを用いて,異なる攻撃対象下で常に高い攻撃性能を達成することを示す。
  論文  参考訳（メタデータ） (2023-03-10T08:01:23Z)
• Trojan Horse Training for Breaking Defenses against Backdoor Attacks in Deep Learning [7.3007220721129364]
  バックドアを含むMLモデルは、トロイの木馬モデルと呼ばれる。 現在のシングルターゲットバックドア攻撃では、ターゲットクラス毎に1つのトリガーが必要である。 我々は、単一のトリガが複数のターゲットクラスに誤分類をもたらすような、より一般的な新しい攻撃を導入する。
  論文  参考訳（メタデータ） (2022-03-25T02:54:27Z)
• Odyssey: Creation, Analysis and Detection of Trojan Models [91.13959405645959]
  トロイの木馬攻撃は、一部のトレーニングサンプルにトリガーを挿入してトレーニングパイプラインを妨害し、トリガーを含むサンプルに対してのみ悪意ある動作をするようにモデルを訓練する。 既存のトロイの木馬検出器はトリガーの種類や攻撃について強い仮定をしている。 そこで本研究では,トロヤニング過程の影響を受け,本質的特性の分析に基づく検出器を提案する。
  論文  参考訳（メタデータ） (2020-07-16T06:55:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。