Fugu-MT 論文翻訳(概要): GhostEncoder: Stealthy Backdoor Attacks with Dynamic Triggers to Pre-trained Encoders in Self-supervised Learning

論文の概要: GhostEncoder: Stealthy Backdoor Attacks with Dynamic Triggers to Pre-trained Encoders in Self-supervised Learning

arxiv url: http://arxiv.org/abs/2310.00626v1
Date: Sun, 1 Oct 2023 09:39:27 GMT
ステータス: 処理完了
システム内更新日: 2023-10-05 02:57:06.833197
Title: GhostEncoder: Stealthy Backdoor Attacks with Dynamic Triggers to Pre-trained Encoders in Self-supervised Learning
Title（参考訳）: GhostEncoder: 自己教師型学習におけるトレーニング済みエンコーダに対する動的トリガー付きステルスバックドアアタック
Authors: Qiannan Wang, Changchun Yin, Zhe Liu, Liming Fang, Run Wang, Chenhao Lin
Abstract要約: 自己教師付き学習 (SSL) は、大量の未ラベル画像を利用した事前訓練された画像エンコーダの訓練に関係している。 GhostEncoderはSSLに対する最初のダイナミックなバックドア攻撃である。
参考スコア（独自算出の注目度）: 15.314217530697928
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Within the realm of computer vision, self-supervised learning (SSL) pertains to training pre-trained image encoders utilizing a substantial quantity of unlabeled images. Pre-trained image encoders can serve as feature extractors, facilitating the construction of downstream classifiers for various tasks. However, the use of SSL has led to an increase in security research related to various backdoor attacks. Currently, the trigger patterns used in backdoor attacks on SSL are mostly visible or static (sample-agnostic), making backdoors less covert and significantly affecting the attack performance. In this work, we propose GhostEncoder, the first dynamic invisible backdoor attack on SSL. Unlike existing backdoor attacks on SSL, which use visible or static trigger patterns, GhostEncoder utilizes image steganography techniques to encode hidden information into benign images and generate backdoor samples. We then fine-tune the pre-trained image encoder on a manipulation dataset to inject the backdoor, enabling downstream classifiers built upon the backdoored encoder to inherit the backdoor behavior for target downstream tasks. We evaluate GhostEncoder on three downstream tasks and results demonstrate that GhostEncoder provides practical stealthiness on images and deceives the victim model with a high attack success rate without compromising its utility. Furthermore, GhostEncoder withstands state-of-the-art defenses, including STRIP, STRIP-Cl, and SSL-Cleanse.
Abstract（参考訳）: コンピュータビジョンの領域では、自己教師付き学習(ssl)は、大量のラベルなし画像を利用して事前学習された画像エンコーダを訓練することに関連する。事前訓練された画像エンコーダは特徴抽出器として機能し、様々なタスクのための下流分類器の構築を容易にする。しかし、SSLの使用は、様々なバックドア攻撃に関連するセキュリティ研究の増加につながっている。現在、sslのバックドアアタックで使用されるトリガーパターンは、主に可視または静的(サンプル非依存)であり、バックドアを隠ぺいなくし、攻撃性能に著しく影響を及ぼす。本研究では,SSLに対する初のダイナミックなバックドア攻撃であるGhostEncoderを提案する。 SSLの既存のバックドア攻撃とは異なり、GhostEncoderは画像ステガノグラフィー技術を使用して、隠された情報を良質な画像にエンコードし、バックドアサンプルを生成する。次に、操作データセット上にトレーニング済みの画像エンコーダを微調整してバックドアを注入し、バックドアエンコーダ上に構築された下流分類器がターゲット下流タスクのバックドア動作を継承できるようにする。我々は,3つの下流タスクにおいてghostencoderを評価し,ghostencoderが画像に対して実用的なステルス性を提供し,その有用性を損なうことなく,高い攻撃成功率で被害者モデルを欺くことを実証する。さらに、GhostEncoderはSTRIP、STRIP-Cl、SSL-Cleanseといった最先端の防御に耐える。

関連論文リスト

DeDe: Detecting Backdoor Samples for SSL Encoders via Decoders [6.698677477097004]
自己教師付き学習(SSL)は、大量のラベルのないデータで高品質な上流エンコーダのトレーニングに広く利用されている。バックドア攻撃はトレーニングデータのごく一部を汚染するだけ本稿では,被害者エンコーダの共起によるバックドアマッピングの活性化を検知し,入力をトリガーする新しい検出機構であるDeDeを提案する。
論文参考訳（メタデータ） (2024-11-25T07:26:22Z)
Pre-trained Encoder Inference: Revealing Upstream Encoders In Downstream Machine Learning Services [10.367966878807714]
トレーニング済みのエンコーダはオンラインで簡単にアクセスでき、ダウンストリーム機械学習(ML)サービスを迅速に構築できる。この攻撃は、下流のMLサービスの後ろに隠されたエンコーダに対してプライバシー上の脅威を投稿する。
論文参考訳（メタデータ） (2024-08-05T20:27:54Z)
EmInspector: Combating Backdoor Attacks in Federated Self-Supervised Learning Through Embedding Inspection [53.25863925815954]
フェデレートされた自己教師付き学習(FSSL)は、クライアントの膨大な量の未ラベルデータの利用を可能にする、有望なパラダイムとして登場した。 FSSLはアドバンテージを提供するが、バックドア攻撃に対する感受性は調査されていない。ローカルモデルの埋め込み空間を検査し,悪意のあるクライアントを検知する埋め込み検査器(EmInspector)を提案する。
論文参考訳（メタデータ） (2024-05-21T06:14:49Z)
Erasing Self-Supervised Learning Backdoor by Cluster Activation Masking [65.44477004525231]
研究者は最近、自己監視学習(SSL)がバックドア攻撃に脆弱であることを発見した。本稿では,クラスタアクティベーションマスキングによるSSLバックドアの消去を提案し,新しいPoisonCAM法を提案する。 ImageNet-100の最先端手法の3%と比較して,バックドアトリガ検出の精度は96%であった。
論文参考訳（メタデータ） (2023-12-13T08:01:15Z)
Downstream-agnostic Adversarial Examples [66.8606539786026]
AdvEncoderは、事前訓練されたエンコーダに基づいて、ダウンストリームに依存しない普遍的敵の例を生成するための最初のフレームワークである。従来の逆数例とは異なり、事前訓練されたエンコーダは分類ラベルではなく特徴ベクトルを出力するのみである。その結果、攻撃者はトレーニング済みのデータセットやダウンストリームのデータセットを知らずに、ダウンストリームのタスクを攻撃できることがわかった。
論文参考訳（メタデータ） (2023-07-23T10:16:47Z)
Untargeted Backdoor Attack against Object Detection [69.63097724439886]
我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
論文参考訳（メタデータ） (2022-11-02T17:05:45Z)
BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
論文参考訳（メタデータ） (2022-11-02T16:03:43Z)
Can't Steal? Cont-Steal! Contrastive Stealing Attacks Against Image Encoders [23.2869445054295]
自己教師付き表現学習技術は、下流のタスクに不利なリッチな特徴に画像をエンコードする。専用モデル設計と大量のリソースの要求は、潜在的なモデル盗難攻撃のリスクに画像エンコーダを露出させる。本研究では,コントラスト学習に基づく攻撃であるCont-Stealを提案する。
論文参考訳（メタデータ） (2022-01-19T10:27:28Z)
StolenEncoder: Stealing Pre-trained Encoders [62.02156378126672]
我々は、事前訓練された画像エンコーダを盗むStolenEncoderと呼ばれる最初の攻撃を提案する。以上の結果から,StolenEncoderが盗んだエンコーダは,ターゲットエンコーダと同じような機能を持つことがわかった。
論文参考訳（メタデータ） (2022-01-15T17:04:38Z)
BadEncoder: Backdoor Attacks to Pre-trained Encoders in Self-Supervised Learning [29.113263683850015]
コンピュータビジョンにおける自己教師型学習は、大量のラベルのない画像または(画像、テキスト)ペアを使用して、画像エンコーダを事前訓練することを目的としている。我々は,自己教師型学習の最初のバックドア攻撃であるBadEncoderを提案する。
論文参考訳（メタデータ） (2021-08-01T02:22:31Z)
BAAAN: Backdoor Attacks Against Autoencoder and GAN-Based Machine Learning Models [21.06679566096713]
我々は、マシンラーニングモデル、すなわちバックドア攻撃に対する最も深刻な攻撃の1つを、オートエンコーダとGANの両方に対して探索する。バックドアアタック(英語: backdoor attack)とは、敵が秘密のトリガーによってのみ起動できるターゲットモデルに隠れたバックドアを実装する訓練時間アタックである。バックドア攻撃の適用性をオートエンコーダやGANベースのモデルに拡張する。
論文参考訳（メタデータ） (2020-10-06T20:26:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。