論文の概要: TrojanDec: Data-free Detection of Trojan Inputs in Self-supervised Learning

• arxiv url: http://arxiv.org/abs/2501.04108v2
• Date: Tue, 04 Feb 2025 15:23:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-05 14:55:06.705822
• Title: TrojanDec: Data-free Detection of Trojan Inputs in Self-supervised Learning
• Title（参考訳）: TrojanDec: 自己教師型学習におけるトロイの木馬入力の無データ検出
• Authors: Yupei Liu, Yanting Wang, Jinyuan Jia,
• Abstract要約: TrojanDecは、トリガに埋め込まれたテスト入力を識別し、復元する最初のデータフリーメソッドである。 評価の結果,TrojanDecは与えられたテスト入力からトロイの木馬を効果的に識別し,最先端のトロイの木馬攻撃で回収できることがわかった。
• 参考スコア（独自算出の注目度）: 34.62283824723201
• License:
• Abstract: An image encoder pre-trained by self-supervised learning can be used as a general-purpose feature extractor to build downstream classifiers for various downstream tasks. However, many studies showed that an attacker can embed a trojan into an encoder such that multiple downstream classifiers built based on the trojaned encoder simultaneously inherit the trojan behavior. In this work, we propose TrojanDec, the first data-free method to identify and recover a test input embedded with a trigger. Given a (trojaned or clean) encoder and a test input, TrojanDec first predicts whether the test input is trojaned. If not, the test input is processed in a normal way to maintain the utility. Otherwise, the test input will be further restored to remove the trigger. Our extensive evaluation shows that TrojanDec can effectively identify the trojan (if any) from a given test input and recover it under state-of-the-art trojan attacks. We further demonstrate by experiments that our TrojanDec outperforms the state-of-the-art defenses.
• Abstract（参考訳）: 自己教師付き学習によって事前訓練された画像エンコーダは、様々な下流タスクのための下流分類器を構築するための汎用的特徴抽出器として使用できる。 しかし、多くの研究では、攻撃者がトロイの木馬をエンコーダに埋め込むことができ、トロイの木馬エンコーダをベースとした複数の下流分類器が同時にトロイの木馬の挙動を継承することを示した。 本研究では,トリガに埋め込まれたテスト入力を識別し,復元する最初のデータフリー手法であるTrojanDecを提案する。 トロイジャンまたはクリーンな)エンコーダとテストインプットが与えられたとき、TrojanDecは最初にテストインプットがトロイジャンであるかどうかを予測する。 そうでなければ、テスト入力は通常の方法で処理され、ユーティリティが維持されます。 そうでなければ、テスト入力はトリガーを削除するためにさらに復元される。 我々の広範な評価は、TrojanDecが与えられたテスト入力からトロイの木馬を効果的に識別し、最先端のトロイの木馬攻撃で回収できることを示している。 さらに実験によって、我々のTrojanDecは最先端の防衛よりも優れています。

関連論文リスト

• An Adaptive Black-box Defense against Trojan Attacks (TrojDef) [5.880596125802611]
  トロイジャンバックドア(Trojan backdoor)は、ニューラルネットワーク(NN)分類器に対する中毒攻撃である。 我々は,NNの前方通過のみが可能な,より実用的なブラックボックスディフェンスTrojDefを提案する。 TrojDefは最先端の防御を著しく上回り、異なる設定で非常に安定している。
  論文  参考訳（メタデータ） (2022-09-05T01:54:44Z)
• Game of Trojans: A Submodular Byzantine Approach [9.512062990461212]
  本稿では,敵の能力と敵と検出機構の戦略的相互作用の分析的特徴について述べる。 サブモジュラートロイの木馬アルゴリズムを用いて,トロイの木馬のトリガを注入するサンプルを最小限に決定する。 対戦相手が確率1でゲームに勝つことを示し、検出をバイパスする。
  論文  参考訳（メタデータ） (2022-07-13T03:12:26Z)
• Quarantine: Sparsity Can Uncover the Trojan Attack Trigger for Free [126.15842954405929]
  トロイの木馬攻撃はディープニューラルネットワーク(DNN)を脅かし、ほとんどのサンプルで正常に動作させるが、トリガーを付けた入力に対して操作された結果を生成する。 そこで我々は,まず,クリーンな入力において,ほぼ完全なトロイの木馬の情報のみを保存し,かつ,すでに孤立しているサブネットワークに埋め込まれたトリガを復元する,新しいトロイの木馬ネットワーク検出方式を提案する。
  論文  参考訳（メタデータ） (2022-05-24T06:33:31Z)
• Towards Effective and Robust Neural Trojan Defenses via Input Filtering [67.01177442955522]
  ディープ・ニューラルネットワークに対するトロイの木馬の攻撃は危険で残酷だ。 過去数年間、Trojan攻撃は単純なトリガーのみを使用し、1つのクラスのみをターゲットとすることから、多くの高度なトリガーを使い、複数のクラスをターゲットにしている。 ほとんどの防衛手法は依然としてトロイの木馬の引き金や標的クラスについて正確な仮定をしているため、現代のトロイの木馬攻撃によって容易に回避できる。
  論文  参考訳（メタデータ） (2022-02-24T15:41:37Z)
• A Synergetic Attack against Neural Network Classifiers combining Backdoor and Adversarial Examples [11.534521802321976]
  AdvTrojanと呼ばれる新たなステルス攻撃を実際に開始するために、敵の摂動と毒殺の脆弱性を共同で活用する方法を示します。 AdvTrojan は、(1) 慎重に製作された逆方向の摂動を推論中に入力例に注入し、2) モデルの訓練過程中にトロイの木戸を埋め込んだ場合にのみ起動できるため、ステルス性が高い。
  論文  参考訳（メタデータ） (2021-09-03T02:18:57Z)
• CLEANN: Accelerated Trojan Shield for Embedded Neural Networks [32.99727805086791]
  組込みディープニューラルネットワーク(DNN)アプリケーションに対するトロイの木馬のオンライン緩和を可能にする,最初のエンドツーエンドフレームワークであるCLEANNを提案する。 トロイの木馬攻撃は、訓練中にDNNにバックドアを注入することで動作し、推論中は特定のバックドアトリガーによってトロイの木馬が活性化される。 辞書学習とスパース近似を利用して、良性データの統計的挙動を特徴づけ、トロイの木馬のトリガーを同定する。
  論文  参考訳（メタデータ） (2020-09-04T05:29:38Z)
• Practical Detection of Trojan Neural Networks: Data-Limited and Data-Free Cases [87.69818690239627]
  本稿では,データスカース方式におけるトロイの木馬ネットワーク(トロイの木馬網)検出の問題点について検討する。 本稿では,データ限定型TrojanNet検出器(TND)を提案する。 さらに,データサンプルにアクセスせずにTrojanNetを検出できるデータフリーTNDを提案する。
  論文  参考訳（メタデータ） (2020-07-31T02:00:38Z)
• Odyssey: Creation, Analysis and Detection of Trojan Models [91.13959405645959]
  トロイの木馬攻撃は、一部のトレーニングサンプルにトリガーを挿入してトレーニングパイプラインを妨害し、トリガーを含むサンプルに対してのみ悪意ある動作をするようにモデルを訓練する。 既存のトロイの木馬検出器はトリガーの種類や攻撃について強い仮定をしている。 そこで本研究では,トロヤニング過程の影響を受け,本質的特性の分析に基づく検出器を提案する。
  論文  参考訳（メタデータ） (2020-07-16T06:55:00Z)
• An Embarrassingly Simple Approach for Trojan Attack in Deep Neural Networks [59.42357806777537]
  トロイの木馬攻撃は、ハッカーが挿入した隠れトリガーパターンに依存する、デプロイされたディープニューラルネットワーク(DNN)を攻撃することを目的としている。 そこで本研究では,有毒データセットの再学習モデルによりトロイの木馬の挙動を注入する,従来と異なる学習自由攻撃手法を提案する。 提案したTrojanNetには,(1)小さなトリガパターンによって起動し,他の信号に対してサイレントを維持する,(2)モデルに依存しない,ほとんどのDNNに注入可能な,(3)攻撃シナリオを劇的に拡張する,(3)訓練不要のメカニズムは従来のトロイの木馬攻撃方法と比較して大規模なトレーニング作業の削減など,いくつかの優れた特性がある。
  論文  参考訳（メタデータ） (2020-06-15T04:58:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。