Fugu-MT 論文翻訳(概要): On Evaluating Neural Network Backdoor Defenses

論文の概要: On Evaluating Neural Network Backdoor Defenses

arxiv url: http://arxiv.org/abs/2010.12186v1
Date: Fri, 23 Oct 2020 06:31:17 GMT
ステータス: 処理完了
システム内更新日: 2022-10-03 23:36:36.516239
Title: On Evaluating Neural Network Backdoor Defenses
Title（参考訳）: ニューラルネットワークバックドアディフェンスの評価について
Authors: Akshaj Veldanda, Siddharth Garg
Abstract要約: ディープニューラルネットワーク(DNN)は、精査やセキュリティなど、さまざまな分野で優れたパフォーマンスを示している。最近の研究では、DNNはバックドア攻撃に弱いことが示されている。
参考スコア（独自算出の注目度）: 6.102130712169916
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Deep neural networks (DNNs) demonstrate superior performance in various fields, including scrutiny and security. However, recent studies have shown that DNNs are vulnerable to backdoor attacks. Several defenses were proposed in the past to defend DNNs against such backdoor attacks. In this work, we conduct a critical analysis and identify common pitfalls in these existing defenses, prepare a comprehensive database of backdoor attacks, conduct a side-by-side evaluation of existing defenses against this database. Finally, we layout some general guidelines to help researchers develop more robust defenses in the future and avoid common mistakes from the past.
Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、精査やセキュリティなど、さまざまな分野で優れたパフォーマンスを示している。しかし、最近の研究では、DNNはバックドア攻撃に弱いことが示されている。過去に、DNNをバックドア攻撃から守るためにいくつかの防衛策が提案された。本研究は,既存の防御における共通の落とし穴を批判的分析し,バックドア攻撃の包括的なデータベースを作成し,このデータベースに対する既存防御を並べて評価する。最後に、研究者が将来より堅牢な防御を開発し、過去の一般的な間違いを避けるために、いくつかの一般的なガイドラインを配置する。

関連論文リスト

Flashy Backdoor: Real-world Environment Backdoor Attack on SNNs with DVS Cameras [11.658496836117907]
スパイキングニューラルネットワーク(SNN)を用いた実環境におけるバックドアアタックの初評価について述べる。本稿では,SNNに新たな3つのバックドア攻撃手法,すなわちFramed,Strobing,F Flashy Backdoorを提案する。本研究は, バックドア攻撃に対するSNNベースのシステムのセキュリティと, 現実のシナリオにおける安全性を確保するために, さらなる研究が必要であることを示すものである。
論文参考訳（メタデータ） (2024-11-05T11:44:54Z)
Tabdoor: Backdoor Vulnerabilities in Transformer-based Neural Networks for Tabular Data [14.415796842972563]
本稿では,Deep Neural Networks (DNN) を用いた表型データに対するバックドア攻撃の包括的解析について述べる。本稿では,ステルス性を維持しつつ攻撃性能に優れるインバウンド攻撃(in-bounds attack)を提案する。以上の結果から,100%の攻撃成功率を達成できる可能性が示唆された。
論文参考訳（メタデータ） (2023-11-13T18:39:44Z)
Rethinking Backdoor Attacks [122.1008188058615]
バックドア攻撃では、悪意ある構築されたバックドアの例をトレーニングセットに挿入し、結果のモデルを操作に脆弱にする。このような攻撃に対する防御は、典型的には、これらの挿入された例をトレーニングセットの外れ値として見ることと、堅牢な統計からのテクニックを使用してそれらを検出し、削除することである。トレーニングデータ分布に関する構造情報がなければ,バックドア攻撃は自然に発生するデータの特徴と区別できないことを示す。
論文参考訳（メタデータ） (2023-07-19T17:44:54Z)
Backdoor Defense via Adaptively Splitting Poisoned Dataset [57.70673801469096]
バックドアの防御は、ディープニューラルネットワーク(DNN)がバックドアを攻撃され、悪意ある変更を受けていることの脅威を軽減するために研究されている。トレーニング時間防衛の核心は, 有毒な試料を選別し, 適切な処理を行うことである。本フレームワークでは,適応的分割型データセットベースディフェンス(ASD)を提案する。
論文参考訳（メタデータ） (2023-03-23T02:16:38Z)
Confidence Matters: Inspecting Backdoors in Deep Neural Networks via Distribution Transfer [27.631616436623588]
本稿では,新しい観測結果を基にしたバックドアディフェンスDTInspectorを提案する。 DTInspectorは、ほとんどの高信頼データの予測を変える可能性のあるパッチを学び、それからバックドアの存在を決定する。
論文参考訳（メタデータ） (2022-08-13T08:16:28Z)
Test-Time Detection of Backdoor Triggers for Poisoned Deep Neural Networks [24.532269628999025]
深層ニューラルネットワーク(DNN)に対するバックドア(トロイの木馬)攻撃が出現本稿では,画像分類に対するバックドア攻撃に対する「飛行中」防御法を提案する。
論文参考訳（メタデータ） (2021-12-06T20:52:00Z)
Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
論文参考訳（メタデータ） (2021-03-24T12:06:40Z)
Backdoor Learning: A Survey [75.59571756777342]
バックドア攻撃はディープニューラルネットワーク(DNN)に隠れたバックドアを埋め込むバックドア学習は、急速に成長する研究分野である。本稿では,この領域を包括的に調査する。
論文参考訳（メタデータ） (2020-07-17T04:09:20Z)
Adversarial Attacks and Defenses on Graphs: A Review, A Tool and Empirical Studies [73.39668293190019]
敵攻撃は入力に対する小さな摂動によって容易に騙される。グラフニューラルネットワーク(GNN)がこの脆弱性を継承することを実証している。本調査では,既存の攻撃と防御を分類し,対応する最先端の手法を概観する。
論文参考訳（メタデータ） (2020-03-02T04:32:38Z)
Defending against Backdoor Attack on Deep Neural Networks [98.45955746226106]
トレーニングデータの一部にバックドアトリガーを注入する、いわゆるテキストバックドア攻撃について検討する。実験の結果,本手法は攻撃成功率を効果的に低減し,クリーン画像の分類精度も高いことがわかった。
論文参考訳（メタデータ） (2020-02-26T02:03:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。