論文の概要: Provable Robustness of (Graph) Neural Networks Against Data Poisoning and Backdoor Attacks

• arxiv url: http://arxiv.org/abs/2407.10867v1
• Date: Mon, 15 Jul 2024 16:12:51 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-16 14:20:24.736873
• Title: Provable Robustness of (Graph) Neural Networks Against Data Poisoning and Backdoor Attacks
• Title（参考訳）: データポジショニングとバックドアアタックに対する(グラフ)ニューラルネットワークのロバスト性
• Authors: Lukas Gosch, Mahalakshmi Sabanayagam, Debarghya Ghoshdastidar, Stephan Günnemann,
• Abstract要約: グラフニューラルネットワーク(GNN)は、特定のグラフのノード特徴をターゲットとした中毒やバックドア攻撃に対して認証する。 コンボリューションベースのGNNとPageRankベースのGNNの最悪の動作におけるグラフ構造の役割とその接続性に関する基本的な知見を提供する。
• 参考スコア（独自算出の注目度）: 50.87615167799367
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generalization of machine learning models can be severely compromised by data poisoning, where adversarial changes are applied to the training data, as well as backdoor attacks that additionally manipulate the test data. These vulnerabilities have led to interest in certifying (i.e., proving) that such changes up to a certain magnitude do not affect test predictions. We, for the first time, certify Graph Neural Networks (GNNs) against poisoning and backdoor attacks targeting the node features of a given graph. Our certificates are white-box and based upon $(i)$ the neural tangent kernel, which characterizes the training dynamics of sufficiently wide networks; and $(ii)$ a novel reformulation of the bilevel optimization problem describing poisoning as a mixed-integer linear program. Consequently, we leverage our framework to provide fundamental insights into the role of graph structure and its connectivity on the worst-case robustness behavior of convolution-based and PageRank-based GNNs. We note that our framework is more general and constitutes the first approach to derive white-box poisoning certificates for NNs, which can be of independent interest beyond graph-related tasks.
• Abstract（参考訳）: マシンラーニングモデルの一般化は、トレーニングデータに敵対的な変更を適用するデータ中毒や、テストデータを操作するバックドアアタックによって、深刻な妥協を受けることができる。 これらの脆弱性は、そのような変化がテスト予測に影響を与えないことの証明(すなわち、証明)に関心を向けている。 我々は、グラフニューラルネットワーク(GNN)を、特定のグラフのノード特徴をターゲットとした中毒やバックドア攻撃に対して初めて認定する。 私たちの証明書はホワイトボックスで$をベースとしています (i)十分に広いネットワークのトレーニングダイナミクスを特徴付けるニューラルタンジェントカーネル$ (II)混合整数線形プログラムとして有毒を記述した二段階最適化問題の新たな再検討。 その結果,コンボリューションベースのGNNとPageRankベースのGNNの最悪のロバスト性行動におけるグラフ構造の役割とその接続性に関する基本的な知見を提供するために,我々のフレームワークを活用している。 我々のフレームワークはより一般的であり、グラフ関連のタスク以外にも独立した関心を持つことができるNNのホワイトボックス中毒証明書を導出する最初のアプローチとなっていることに留意する。

関連論文リスト

• DFA-GNN: Forward Learning of Graph Neural Networks by Direct Feedback Alignment [57.62885438406724]
  グラフニューラルネットワークは、様々なアプリケーションにまたがる強力なパフォーマンスで認識されている。 BPには、その生物学的妥当性に挑戦する制限があり、グラフベースのタスクのためのトレーニングニューラルネットワークの効率、スケーラビリティ、並列性に影響を与える。 半教師付き学習のケーススタディを用いて,GNNに適した新しい前方学習フレームワークであるDFA-GNNを提案する。
  論文  参考訳（メタデータ） (2024-06-04T07:24:51Z)
• Resisting Graph Adversarial Attack via Cooperative Homophilous Augmentation [60.50994154879244]
  最近の研究では、グラフニューラルネットワークは弱く、小さな摂動によって簡単に騙されることが示されている。 本研究では,グラフインジェクションアタック(Graph Injection Attack)という,新興だが重要な攻撃に焦点を当てる。 本稿では,グラフデータとモデルの協調的同好性増強によるGIAに対する汎用防衛フレームワークCHAGNNを提案する。
  論文  参考訳（メタデータ） (2022-11-15T11:44:31Z)
• Black-box Node Injection Attack for Graph Neural Networks [29.88729779937473]
  被害者のGNNモデルを回避するためにノードを注入する可能性について検討する。 具体的には,グラフ強化学習フレームワークGA2Cを提案する。 本稿では,既存の最先端手法よりもGA2Cの方が優れた性能を示す。
  論文  参考訳（メタデータ） (2022-02-18T19:17:43Z)
• CAP: Co-Adversarial Perturbation on Weights and Features for Improving Generalization of Graph Neural Networks [59.692017490560275]
  敵の訓練は、敵の攻撃に対するモデルの堅牢性を改善するために広く実証されてきた。 グラフ解析問題におけるGNNの一般化能力をどのように改善するかは、まだ不明である。 我々は、重みと特徴量の観点から共振器摂動(CAP)最適化問題を構築し、重みと特徴の損失を交互に平らにする交互対振器摂動アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2021-10-28T02:28:13Z)
• Unveiling the potential of Graph Neural Networks for robust Intrusion Detection [2.21481607673149]
  本稿では,グラフとして構造化された攻撃の流れパターンを学習するための新しいグラフニューラルネットワーク(GNN)モデルを提案する。 我々のモデルは従来の実験と同等の精度を維持することができる一方、最先端のML技術は敵攻撃下で50%の精度(F1スコア)を低下させる。
  論文  参考訳（メタデータ） (2021-07-30T16:56:39Z)
• Uncertainty-Matching Graph Neural Networks to Defend Against Poisoning Attacks [43.60973654460398]
  グラフニューラルネットワーク(GNN)は、ニューラルネットワークからグラフ構造化データへの一般化である。 GNNは敵の攻撃に弱い、すなわち、構造に対する小さな摂動は、非自明な性能劣化を引き起こす可能性がある。 本稿では,GNNモデルの堅牢性向上を目的とした不確実性マッチングGNN(UM-GNN)を提案する。
  論文  参考訳（メタデータ） (2020-09-30T05:29:42Z)
• Information Obfuscation of Graph Neural Networks [96.8421624921384]
  本稿では,グラフ構造化データを用いた学習において,情報難読化による機密属性保護の問題について検討する。 本稿では,全変動量とワッサーシュタイン距離を交互に学習することで,事前決定された機密属性を局所的にフィルタリングするフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-09-28T17:55:04Z)
• Graph Backdoor [53.70971502299977]
  GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。 GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。 トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
  論文  参考訳（メタデータ） (2020-06-21T19:45:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。