Fugu-MT 論文翻訳(概要): Krait: A Backdoor Attack Against Graph Prompt Tuning

論文の概要: Krait: A Backdoor Attack Against Graph Prompt Tuning

arxiv url: http://arxiv.org/abs/2407.13068v1
Date: Thu, 18 Jul 2024 00:25:49 GMT
ステータス: 処理完了
システム内更新日: 2024-07-19 19:13:43.371573
Title: Krait: A Backdoor Attack Against Graph Prompt Tuning
Title（参考訳）: Krait:グラフプロンプトチューニングに対するバックドア攻撃
Authors: Ying Song, Rita Singh, Balaji Palanisamy,
Abstract要約: グラフプロンプトチューニングは、事前訓練されたモデルから下流タスクへグラフの知識を効果的に伝達する、有望なパラダイムとして登場した。このような脆弱性を調査するための最初の研究を行い、バックドアが良性グラフのプロンプトを偽装し、検出を回避できることを示した。本稿では,新しいグラフプロンプトであるKraitについて紹介する。具体的には,選択候補に準同型であるラベル非一様性という,単純で効果的なモデルに依存しない指標を提案する。
参考スコア（独自算出の注目度）: 11.541661336266703
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Graph prompt tuning has emerged as a promising paradigm to effectively transfer general graph knowledge from pre-trained models to various downstream tasks, particularly in few-shot contexts. However, its susceptibility to backdoor attacks, where adversaries insert triggers to manipulate outcomes, raises a critical concern. We conduct the first study to investigate such vulnerability, revealing that backdoors can disguise benign graph prompts, thus evading detection. We introduce Krait, a novel graph prompt backdoor. Specifically, we propose a simple yet effective model-agnostic metric called label non-uniformity homophily to select poisoned candidates, significantly reducing computational complexity. To accommodate diverse attack scenarios and advanced attack types, we design three customizable trigger generation methods to craft prompts as triggers. We propose a novel centroid similarity-based loss function to optimize prompt tuning for attack effectiveness and stealthiness. Experiments on four real-world graphs demonstrate that Krait can efficiently embed triggers to merely 0.15% to 2% of training nodes, achieving high attack success rates without sacrificing clean accuracy. Notably, in one-to-one and all-to-one attacks, Krait can achieve 100% attack success rates by poisoning as few as 2 and 22 nodes, respectively. Our experiments further show that Krait remains potent across different transfer cases, attack types, and graph neural network backbones. Additionally, Krait can be successfully extended to the black-box setting, posing more severe threats. Finally, we analyze why Krait can evade both classical and state-of-the-art defenses, and provide practical insights for detecting and mitigating this class of attacks.
Abstract（参考訳）: グラフプロンプトチューニングは、訓練済みのモデルから様々なダウンストリームタスク、特に数ショットのコンテキストに、グラフの知識を効果的に伝達する、有望なパラダイムとして登場した。しかし、敵が結果を操作するトリガーを挿入するバックドア攻撃に対する感受性は、重大な懸念を引き起こす。このような脆弱性を調査するための最初の研究を行い、バックドアが良性グラフのプロンプトを偽装し、検出を回避できることを示した。私たちは、新しいグラフプロンプトバックドアであるKraitを紹介します。具体的には, 有毒な候補を選択するために, ラベル非一様性という, 単純で効果的なモデル認識尺度を提案する。多様な攻撃シナリオと高度な攻撃タイプに対応するため、我々はトリガーとしてプロンプトを作成するために3つのカスタマイズ可能なトリガー生成方法を設計した。本稿では,攻撃効率とステルスネスを最適化するために,セントロイド類似度に基づく新たな損失関数を提案する。 4つの実世界のグラフの実験では、Kraitはトレーニングノードの0.0%から2%に効率的にトリガーを埋め込むことができ、クリーンな精度を犠牲にすることなく高い攻撃成功率を達成することができる。特に、一対一攻撃と一対一攻撃では、Kraitは、それぞれ2ノードと22ノードを毒殺することで、100%の攻撃成功率を達成することができる。我々の実験は、さまざまな転送ケース、アタックタイプ、グラフニューラルネットワークのバックボーンで、Kraitが強力であることをさらに示している。さらに、Kraitはブラックボックス設定にまで拡張することができ、より深刻な脅威を生じさせる。最後に、クライトが古典的かつ最先端の防御を回避できる理由を分析し、この種の攻撃を検出し緩和するための実践的な洞察を提供する。

関連論文リスト

Distributed Backdoor Attacks on Federated Graph Learning and Certified Defenses [50.53476890313741]
我々は,FedGLに対する効果的な,ステルス的で永続的なバックドア攻撃を提案する。我々は,任意の位置において任意の形状のトリガに対して,バックドアのFedGLモデルに対する認証された防御を開発する。我々の攻撃結果は、ほぼ全てのデータセットで90%以上のバックドア精度が得られることを示している。
論文参考訳（メタデータ） (2024-07-12T02:43:44Z)
Robustness-Inspired Defense Against Backdoor Attacks on Graph Neural Networks [30.82433380830665]
グラフニューラルネットワーク(GNN)は,ノード分類やグラフ分類といったタスクにおいて,有望な結果を達成している。最近の研究で、GNNはバックドア攻撃に弱いことが判明し、実際の採用に重大な脅威をもたらしている。本研究では,裏口検出にランダムなエッジドロップを用いることにより,汚染ノードとクリーンノードを効率的に識別できることを理論的に示す。
論文参考訳（メタデータ） (2024-06-14T08:46:26Z)
SEEP: Training Dynamics Grounds Latent Representation Search for Mitigating Backdoor Poisoning Attacks [53.28390057407576]
現代のNLPモデルは、様々なソースから引き出された公開データセットでしばしば訓練される。データ中毒攻撃は、攻撃者が設計した方法でモデルの振る舞いを操作できる。バックドア攻撃に伴うリスクを軽減するために、いくつかの戦略が提案されている。
論文参考訳（メタデータ） (2024-05-19T14:50:09Z)
Does Few-shot Learning Suffer from Backdoor Attacks? [63.9864247424967]
数発の学習がバックドアアタックに対して脆弱であることは明らかです。本手法は,FSLタスクにおける攻撃成功率(ASR)を,異なる数発の学習パラダイムで示す。この研究は、数発の学習がまだバックドア攻撃に悩まされており、そのセキュリティに注意を払う必要があることを明らかにしている。
論文参考訳（メタデータ） (2023-12-31T06:43:36Z)
Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。バックドアアタックは、訓練段階の脅威を脅かしている。軽度で目に見えないバックドアアタック(SIBA)を提案する。
論文参考訳（メタデータ） (2023-05-11T10:05:57Z)
Unnoticeable Backdoor Attacks on Graph Neural Networks [29.941951380348435]
特に、バックドアアタックは、トレーニンググラフ内の一連のノードにトリガーとターゲットクラスラベルをアタッチすることで、グラフを毒する。本稿では,攻撃予算が制限されたグラフバックドア攻撃の新たな問題について検討する。
論文参考訳（メタデータ） (2023-02-11T01:50:58Z)
GUAP: Graph Universal Attack Through Adversarial Patching [12.484396767037925]
グラフニューラルネットワーク(GNN)は、ノード分類タスクのための効果的なディープラーニングモデルのクラスである。本研究では,新たなノードとエッジでグラフを逆パッチすることで,より容易な攻撃を見極める。我々はGUAPと呼ばれるアルゴリズムを開発し、高い攻撃成功率を達成できるが、予測精度は維持できる。
論文参考訳（メタデータ） (2023-01-04T18:02:29Z)
Defending Against Backdoor Attack on Graph Nerual Network by Explainability [7.147386524788604]
GNNにおける最初のバックドア検出・防御手法を提案する。グラフデータでは、現在のバックドアアタックは、トリガーを注入するためにグラフ構造を操作することに焦点を当てている。その結果,いくつかの説明的評価指標では,良性サンプルと悪質サンプルとの間に明らかな違いがあることが判明した。
論文参考訳（メタデータ） (2022-09-07T03:19:29Z)
Query-based Adversarial Attacks on Graph with Fake Nodes [32.67989796394633]
そこで本研究では,元のグラフに偽ノードの集合を導入することで,新たな敵攻撃を提案する。具体的には、各被害者ノードに対して、最も敵対的な特徴を取得するよう、被害者モデルに問い合わせる。私たちの攻撃は実用的で目立たない方法で行われます。
論文参考訳（メタデータ） (2021-09-27T14:19:17Z)
Poisoned classifiers are not only backdoored, they are fundamentally broken [84.67778403778442]
一般的に研究されている、分類モデルに対するバックドア中毒攻撃の下で、攻撃者はトレーニングデータのサブセットに小さなトリガーを追加する。毒を盛った分類器は、引き金を持つ敵のみに弱いと推定されることが多い。本稿では,このバックドア型分類器の考え方が誤りであることを実証的に示す。
論文参考訳（メタデータ） (2020-10-18T19:42:44Z)
Backdoor Attacks to Graph Neural Networks [73.56867080030091]
グラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃を提案する。我々のバックドア攻撃では、GNNは、事前に定義されたサブグラフがテストグラフに注入されると、テストグラフに対するアタッカー・チョーセンターゲットラベルを予測する。実験の結果,我々のバックドア攻撃はクリーンなテストグラフに対するGNNの予測精度に小さな影響を与えていることがわかった。
論文参考訳（メタデータ） (2020-06-19T14:51:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。