Fugu-MT 論文翻訳(概要): XGBD: Explanation-Guided Graph Backdoor Detection

論文の概要: XGBD: Explanation-Guided Graph Backdoor Detection

arxiv url: http://arxiv.org/abs/2308.04406v1
Date: Tue, 8 Aug 2023 17:10:23 GMT
ステータス: 処理完了
システム内更新日: 2023-08-09 11:57:24.791750
Title: XGBD: Explanation-Guided Graph Backdoor Detection
Title（参考訳）: XGBD:説明誘導グラフバックドア検出
Authors: Zihan Guan, Mengnan Du, Ninghao Liu
Abstract要約: バックドア攻撃は、グラフ学習モデルに重大なセキュリティリスクをもたらす。トポロジ情報を活用するために,説明誘導型バックドア検出手法を提案する。
参考スコア（独自算出の注目度）: 21.918945251903523
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Backdoor attacks pose a significant security risk to graph learning models. Backdoors can be embedded into the target model by inserting backdoor triggers into the training dataset, causing the model to make incorrect predictions when the trigger is present. To counter backdoor attacks, backdoor detection has been proposed. An emerging detection strategy in the vision and NLP domains is based on an intriguing phenomenon: when training models on a mixture of backdoor and clean samples, the loss on backdoor samples drops significantly faster than on clean samples, allowing backdoor samples to be easily detected by selecting samples with the lowest loss values. However, the ignorance of topological feature information on graph data limits its detection effectiveness when applied directly to the graph domain. To this end, we propose an explanation-guided backdoor detection method to take advantage of the topological information. Specifically, we train a helper model on the graph dataset, feed graph samples into the model, and then adopt explanation methods to attribute model prediction to an important subgraph. We observe that backdoor samples have distinct attribution distribution than clean samples, so the explanatory subgraph could serve as more discriminative features for detecting backdoor samples. Comprehensive experiments on multiple popular datasets and attack methods demonstrate the effectiveness and explainability of our method. Our code is available: https://github.com/GuanZihan/GNN_backdoor_detection.
Abstract（参考訳）: バックドア攻撃は、グラフ学習モデルに重大なセキュリティリスクをもたらす。トレーニングデータセットにバックドアトリガーを挿入することで、ターゲットモデルにバックドアを組み込むことができる。バックドア攻撃に対抗するためにバックドア検出が提案されている。バックドアとクリーンサンプルの混合でモデルのトレーニングを行うと、バックドアサンプルの損失はクリーンサンプルよりも大幅に減少し、最低損失値のサンプルを選択することでバックドアサンプルを容易に検出できる。しかし、グラフデータ上のトポロジ的特徴情報の無知は、グラフ領域に直接適用した場合、検出の有効性を制限する。そこで本稿では,トポロジ情報を活用するために,説明誘導型バックドア検出手法を提案する。具体的には、グラフデータセット上でヘルパモデルをトレーニングし、モデルにグラフサンプルをフィードし、モデル予測を重要なサブグラフに属性付けるために説明手法を採用する。バックドア試料はクリーンサンプルと異なる属性分布を有するので,説明文はバックドア試料を検出するための識別的特徴として有用である。複数のポピュラーデータセットと攻撃手法に関する包括的実験により,本手法の有効性と説明可能性を示す。私たちのコードは、https://github.com/GuanZihan/GNN_backdoor_detectionで利用可能です。

関連論文リスト

Backdoor Defense through Self-Supervised and Generative Learning [0.0]
このようなデータのトレーニングは、選択されたテストサンプルに悪意のある推論を引き起こすバックドアを注入する。本稿では,自己教師付き表現空間におけるクラスごとの分布生成モデルに基づくアプローチを提案する。どちらの場合も、クラスごとの生成モデルにより、有毒なデータを検出し、データセットをクリーン化することができます。
論文参考訳（メタデータ） (2024-09-02T11:40:01Z)
PSBD: Prediction Shift Uncertainty Unlocks Backdoor Detection [57.571451139201855]
予測シフトバックドア検出(英: Prediction Shift Backdoor Detection、PSBD)は、ディープニューラルネットワークにおけるバックドアサンプルを識別する新しい手法である。 PSBDは興味深い予測シフト(PS)現象によって動機付けられており、クリーンなデータに対する有害なモデルの予測は、しばしば真のラベルから別のラベルへとシフトする。 PSBDは、モデル推論中にドロップアウト層をオン/オフする際の確率値のばらつきである予測シフト不確実性(PSU)を計算することで、バックドアトレーニングサンプルを特定する。
論文参考訳（メタデータ） (2024-06-09T15:31:00Z)
Model Pairing Using Embedding Translation for Backdoor Attack Detection on Open-Set Classification Tasks [63.269788236474234]
バックドア検出のためのオープンセット分類タスクにモデルペアを用いることを提案する。このスコアは、異なるアーキテクチャのモデルがあるにもかかわらず、バックドアの存在を示す指標であることを示している。この技術は、オープンセット分類タスク用に設計されたモデル上のバックドアの検出を可能にするが、文献ではほとんど研究されていない。
論文参考訳（メタデータ） (2024-02-28T21:29:16Z)
OCGEC: One-class Graph Embedding Classification for DNN Backdoor Detection [18.11795712499763]
本研究では,一クラスグラフ埋め込み分類(OCGEC)と呼ばれる新しい一クラス分類フレームワークを提案する。 OCGECは、少量のクリーンデータだけでモデルレベルのバックドア検出にGNNを使用する。他のベースラインと比較して、AUCのスコアは、多くのタスクで98%以上である。
論文参考訳（メタデータ） (2023-12-04T02:48:40Z)
Backdoor Learning on Sequence to Sequence Models [94.23904400441957]
本稿では,シークエンス・ツー・シークエンス(seq2seq)モデルがバックドア攻撃に対して脆弱かどうかを検討する。具体的には、データセットの0.2%のサンプルを注入するだけで、Seq2seqモデルに指定されたキーワードと文全体を生成することができる。機械翻訳とテキスト要約に関する大規模な実験を行い、提案手法が複数のデータセットやモデルに対して90%以上の攻撃成功率を達成することを示した。
論文参考訳（メタデータ） (2023-05-03T20:31:13Z)
Backdoor Defense via Deconfounded Representation Learning [17.28760299048368]
我々は、信頼性の高い分類のための非定型表現を学ぶために、因果性に着想を得たバックドアディフェンス(CBD)を提案する。 CBDは、良性サンプルの予測において高い精度を維持しながら、バックドアの脅威を減らすのに有効である。
論文参考訳（メタデータ） (2023-03-13T02:25:59Z)
Untargeted Backdoor Attack against Object Detection [69.63097724439886]
我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
論文参考訳（メタデータ） (2022-11-02T17:05:45Z)
Training set cleansing of backdoor poisoning by self-supervised representation learning [0.0]
バックドアまたはトロイの木馬攻撃は、ディープニューラルネットワーク(DNN)に対するデータ中毒攻撃の重要なタイプである教師付きトレーニングは, バックドアパターンと関連するターゲットクラスとの間に, 通常の特徴と真の起源のクラスとの間により強い関連性を持つことが示唆された。そこで本研究では,教師なし表現学習を用いて,バックドアポゾンによるトレーニングサンプルの強調を回避し,同じクラスのサンプルに類似した特徴埋め込みを学習することを提案する。
論文参考訳（メタデータ） (2022-10-19T03:29:58Z)
Invisible Backdoor Attacks Using Data Poisoning in the Frequency Domain [8.64369418938889]
周波数領域に基づく一般化されたバックドア攻撃手法を提案する。トレーニングプロセスのミスラベルやアクセスをすることなく、バックドアのインプラントを実装できる。我々は,3つのデータセットに対して,ラベルなし,クリーンラベルのケースにおけるアプローチを評価した。
論文参考訳（メタデータ） (2022-07-09T07:05:53Z)
Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
論文参考訳（メタデータ） (2021-03-24T12:06:40Z)
Scalable Backdoor Detection in Neural Networks [61.39635364047679]
ディープラーニングモデルは、トロイの木馬攻撃に対して脆弱で、攻撃者はトレーニング中にバックドアをインストールして、結果のモデルが小さなトリガーパッチで汚染されたサンプルを誤識別させる。本稿では,ラベル数と計算複雑性が一致しない新たなトリガリバースエンジニアリング手法を提案する。実験では,提案手法が純モデルからトロイの木馬モデルを分離する際の完全なスコアを達成できることが観察された。
論文参考訳（メタデータ） (2020-06-10T04:12:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。