論文の概要: Trigger Hunting with a Topological Prior for Trojan Detection

• arxiv url: http://arxiv.org/abs/2110.08335v1
• Date: Fri, 15 Oct 2021 19:47:00 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-19 18:19:01.617173
• Title: Trigger Hunting with a Topological Prior for Trojan Detection
• Title（参考訳）: トロイの木馬検出のためのトポロジカル前駆体を用いたトリガーハンティング
• Authors: Xiaoling Hu, Xiao Lin, Michael Cogswell, Yi Yao, Susmit Jha, Chao Chen
• Abstract要約: 本稿では、トロイの木馬検出の問題、すなわちトロイの木馬モデルを特定することに取り組む。 一般的なアプローチの1つはリバースエンジニアリングであり、モデルの予測を操作することによってクリーンなイメージ上のトリガを復元する。 リバースエンジニアリングアプローチの大きな課題の1つは、トリガーの巨大な検索スペースである。 多様性やトポロジカル・シンプルさといった革新的な先例を提案し、適切なトリガを見つける可能性を高めるだけでなく、見出されたトリガの品質を向上させる。
• 参考スコア（独自算出の注目度）: 16.376009231934884
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Despite their success and popularity, deep neural networks (DNNs) are vulnerable when facing backdoor attacks. This impedes their wider adoption, especially in mission critical applications. This paper tackles the problem of Trojan detection, namely, identifying Trojaned models -- models trained with poisoned data. One popular approach is reverse engineering, i.e., recovering the triggers on a clean image by manipulating the model's prediction. One major challenge of reverse engineering approach is the enormous search space of triggers. To this end, we propose innovative priors such as diversity and topological simplicity to not only increase the chances of finding the appropriate triggers but also improve the quality of the found triggers. Moreover, by encouraging a diverse set of trigger candidates, our method can perform effectively in cases with unknown target labels. We demonstrate that these priors can significantly improve the quality of the recovered triggers, resulting in substantially improved Trojan detection accuracy as validated on both synthetic and publicly available TrojAI benchmarks.
• Abstract（参考訳）: 成功と人気にもかかわらず、ディープニューラルネットワーク(DNN)はバックドア攻撃に直面すると脆弱である。 これは、特にミッションクリティカルな応用において、広く採用されることを妨げる。 本稿では,トロイの木馬検出の問題,すなわちトロイの木馬モデルの同定について述べる。 一般的なアプローチのひとつにリバースエンジニアリング(リバースエンジニアリング)がある。すなわち,モデルの予測を操作することで,クリーンイメージ上のトリガを回復する。 リバースエンジニアリングアプローチの大きな課題のひとつは、トリガーの巨大な検索スペースである。 この目的のために, 多様性や位相的単純さといった革新的な先行手法を提案し, 適切なトリガーを見つける可能性を高めるだけでなく, トリガーの品質を向上させる。 さらに,様々なトリガー候補を奨励することにより,未知のターゲットラベルの場合に効果的に動作させることができる。 得られたトリガの品質が向上し,TrojAIベンチマークとTrojAIベンチマークの両方で検証されるように,検出精度が大幅に向上することが実証された。

関連論文リスト

• SEEP: Training Dynamics Grounds Latent Representation Search for Mitigating Backdoor Poisoning Attacks [53.28390057407576]
  現代のNLPモデルは、様々なソースから引き出された公開データセットでしばしば訓練される。 データ中毒攻撃は、攻撃者が設計した方法でモデルの振る舞いを操作できる。 バックドア攻撃に伴うリスクを軽減するために、いくつかの戦略が提案されている。
  論文  参考訳（メタデータ） (2024-05-19T14:50:09Z)
• DisDet: Exploring Detectability of Backdoor Attack on Diffusion Models [23.502100653704446]
  いくつかの先駆的な研究は、バックドア攻撃に対する拡散モデルの脆弱性を示している。 本稿では,バックドア拡散モデルに対する有毒音入力の検出可能性について検討する。 有害な入力ノイズを効果的に識別できる低コストトリガー検出機構を提案する。 次に、攻撃側から同じ問題を研究するためにさらに一歩踏み出し、無意味なトリガーを学習できるバックドア攻撃戦略を提案します。
  論文  参考訳（メタデータ） (2024-02-05T05:46:31Z)
• Is It Possible to Backdoor Face Forgery Detection with Natural Triggers? [20.54640502001717]
  顔偽造検出モデルに対する新たな分析・合成バックドアアタックを提案する。 本手法は高い攻撃成功率(99%以上)を達成し,低毒性率(3%未満)のモデル精度低下(0.2%以下)を生じさせる。
  論文  参考訳（メタデータ） (2023-12-31T07:16:10Z)
• Attention-Enhancing Backdoor Attacks Against BERT-based Models [54.070555070629105]
  バックドア攻撃の戦略を調べることは、モデルの脆弱性を理解するのに役立つだろう。 本稿では,注意パターンを直接操作することでトロイの木馬行動を向上させる新しいトロイの木馬注意損失(TAL)を提案する。
  論文  参考訳（メタデータ） (2023-10-23T01:24:56Z)
• FreeEagle: Detecting Complex Neural Trojans in Data-Free Cases [50.065022493142116]
  バックドア攻撃とも呼ばれるディープニューラルネットワークに対するトロイの木馬攻撃は、人工知能に対する典型的な脅威である。 FreeEagleは、複雑なバックドア攻撃を効果的に検出できる最初のデータフリーバックドア検出方法である。
  論文  参考訳（メタデータ） (2023-02-28T11:31:29Z)
• An Adaptive Black-box Backdoor Detection Method for Deep Neural Networks [25.593824693347113]
  ディープニューラルネットワーク(DNN)は、医療診断や自律運転など、さまざまな分野において前例のないパフォーマンスを示している。 それらは、ステルスシートリガーによって制御され、活性化されるニューラルトロイの木馬攻撃(NT)に対して脆弱である。 本稿では,事前訓練したトロイの木馬が展開前にトロイの木馬に検出されたかどうかを検査するロバストで適応的なトロイの木馬検出手法を提案する。
  論文  参考訳（メタデータ） (2022-04-08T23:41:19Z)
• TAD: Trigger Approximation based Black-box Trojan Detection for AI [16.741385045881113]
  ディープニューラルネットワーク(DNN)は、医療診断や自律運転など、さまざまな分野において前例のないパフォーマンスを示している。 トリガーによって制御され、活性化されるトロイの木馬攻撃(NT)に対して脆弱である。 我々は、事前訓練されたAIモデルがトロイの木馬に配備される前に検査されたかどうかを検査するロバストなトロイの木馬検出手法を提案する。
  論文  参考訳（メタデータ） (2021-02-03T00:49:50Z)
• Detecting Trojaned DNNs Using Counterfactual Attributions [15.988574580713328]
  このようなモデルは通常、典型的な入力で振る舞うが、トロイの木馬のトリガーで入力の特定の誤った予測を生成する。 我々のアプローチは、トリガーの動作がトリガーパターンで活性化される少数のゴーストニューロンに依存するという新しい観察に基づいている。 我々はこの情報をディープセットエンコーダを用いてトロイの木馬検出に利用する。
  論文  参考訳（メタデータ） (2020-12-03T21:21:33Z)
• Cassandra: Detecting Trojaned Networks from Adversarial Perturbations [92.43879594465422]
  多くの場合、事前トレーニングされたモデルは、トロイの木馬の振る舞いをモデルに挿入するためにトレーニングパイプラインを中断したかもしれないベンダーから派生している。 本稿では,事前学習したモデルがトロイの木馬か良馬かを検証する手法を提案する。 本手法は,ニューラルネットワークの指紋を,ネットワーク勾配から学習した逆方向の摂動の形でキャプチャする。
  論文  参考訳（メタデータ） (2020-07-28T19:00:40Z)
• Odyssey: Creation, Analysis and Detection of Trojan Models [91.13959405645959]
  トロイの木馬攻撃は、一部のトレーニングサンプルにトリガーを挿入してトレーニングパイプラインを妨害し、トリガーを含むサンプルに対してのみ悪意ある動作をするようにモデルを訓練する。 既存のトロイの木馬検出器はトリガーの種類や攻撃について強い仮定をしている。 そこで本研究では,トロヤニング過程の影響を受け,本質的特性の分析に基づく検出器を提案する。
  論文  参考訳（メタデータ） (2020-07-16T06:55:00Z)
• Scalable Backdoor Detection in Neural Networks [61.39635364047679]
  ディープラーニングモデルは、トロイの木馬攻撃に対して脆弱で、攻撃者はトレーニング中にバックドアをインストールして、結果のモデルが小さなトリガーパッチで汚染されたサンプルを誤識別させる。 本稿では,ラベル数と計算複雑性が一致しない新たなトリガリバースエンジニアリング手法を提案する。 実験では,提案手法が純モデルからトロイの木馬モデルを分離する際の完全なスコアを達成できることが観察された。
  論文  参考訳（メタデータ） (2020-06-10T04:12:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。