論文の概要: Query-free Black-box Adversarial Attacks on Graphs

• arxiv url: http://arxiv.org/abs/2012.06757v1
• Date: Sat, 12 Dec 2020 08:52:56 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-10 05:26:46.717741
• Title: Query-free Black-box Adversarial Attacks on Graphs
• Title（参考訳）: グラフ上のクエリフリーなブラックボックス攻撃
• Authors: Jiarong Xu, Yizhou Sun, Xin Jiang, Yanhao Wang, Yang Yang, Chunping Wang, Jiangang Lu
• Abstract要約: そこで,攻撃者は対象モデルについて知識がなく,クエリーアクセスも行わないグラフに対して,クエリフリーなブラックボックス攻撃を提案する。 対象モデルに対するフリップリンクの影響をスペクトル変化によって定量化できることを証明し,固有値摂動理論を用いて近似する。 その単純さとスケーラビリティのため、提案モデルは様々なグラフベースモデルで一般的なだけでなく、異なる知識レベルがアクセス可能であれば容易に拡張できる。
• 参考スコア（独自算出の注目度）: 37.88689315688314
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Many graph-based machine learning models are known to be vulnerable to adversarial attacks, where even limited perturbations on input data can result in dramatic performance deterioration. Most existing works focus on moderate settings in which the attacker is either aware of the model structure and parameters (white-box), or able to send queries to fetch model information. In this paper, we propose a query-free black-box adversarial attack on graphs, in which the attacker has no knowledge of the target model and no query access to the model. With the mere observation of the graph topology, the proposed attack strategy flips a limited number of links to mislead the graph models. We prove that the impact of the flipped links on the target model can be quantified by spectral changes, and thus be approximated using the eigenvalue perturbation theory. Accordingly, we model the proposed attack strategy as an optimization problem, and adopt a greedy algorithm to select the links to be flipped. Due to its simplicity and scalability, the proposed model is not only generic in various graph-based models, but can be easily extended when different knowledge levels are accessible as well. Extensive experiments demonstrate the effectiveness and efficiency of the proposed model on various downstream tasks, as well as several different graph-based learning models.
• Abstract（参考訳）: 多くのグラフベースの機械学習モデルは、入力データに対する限られた摂動でさえ、劇的なパフォーマンス劣化を引き起こすような敵攻撃に弱いことが知られている。 既存の作品の多くは、攻撃者がモデル構造とパラメータ(ホワイトボックス)を認識するか、モデル情報を取得するためにクエリを送信できる中程度の設定に焦点を当てている。 本稿では,攻撃者が対象モデルについて知識を持っておらず,クエリアクセスができないグラフに対して,クエリフリーなブラックボックス攻撃を提案する。 グラフトポロジーの単なる観察により、提案された攻撃戦略は、グラフモデルを誤解させるための限られた数のリンクをひっくり返す。 対象モデルに対するフリップリンクの影響をスペクトル変化によって定量化できることを証明し,固有値摂動理論を用いて近似する。 そこで,提案する攻撃戦略を最適化問題としてモデル化し,反転するリンクを選択するための欲望アルゴリズムを採用する。 その単純さとスケーラビリティのため、提案モデルは様々なグラフベースモデルで一般的なだけでなく、異なる知識レベルがアクセス可能であれば容易に拡張できる。 様々な下流タスクにおける提案モデルの有効性と効率を示す広範な実験と、いくつかの異なるグラフベースの学習モデルが示されている。

関連論文リスト

• Data-Agnostic Model Poisoning against Federated Learning: A Graph Autoencoder Approach [65.2993866461477]
  本稿では,フェデレートラーニング(FL)に対するデータに依存しないモデル中毒攻撃を提案する。 この攻撃はFLトレーニングデータの知識を必要とせず、有効性と検出不能の両方を達成する。 実験により、FLの精度は提案した攻撃の下で徐々に低下し、既存の防御機構では検出できないことが示された。
  論文  参考訳（メタデータ） (2023-11-30T12:19:10Z)
• Minimizing Maximum Model Discrepancy for Transferable Black-box Targeted Attacks [30.863450425927613]
  モデル差分の観点から,ブラックボックスの標的攻撃問題について検討する。 我々は,ブラックボックス攻撃に対する一般化誤差を提示し,攻撃の成功を保証するための厳密な理論的解析を行う。 我々は理論解析に基づいてブラックボックス攻撃のための新しいアルゴリズムを導出する。
  論文  参考訳（メタデータ） (2022-12-18T08:19:08Z)
• Model Inversion Attacks against Graph Neural Networks [65.35955643325038]
  グラフニューラルネットワーク(GNN)に対するモデル反転攻撃について検討する。 本稿では,プライベートトレーニンググラフデータを推測するためにGraphMIを提案する。 実験の結果,このような防御効果は十分ではないことが示され,プライバシー攻撃に対するより高度な防御が求められている。
  論文  参考訳（メタデータ） (2022-09-16T09:13:43Z)
• Adversarial Attacks on Graph Classification via Bayesian Optimisation [25.781404695921122]
  本稿では,グラフ分類モデルに対する新たな最適化に基づく攻撃手法を提案する。 提案手法は, 摂動に関して, ブラックボックスであり, クエリ効率が高く, 相似である。 提案手法の有効性と柔軟性を幅広いグラフ分類タスクで実証的に検証する。
  論文  参考訳（メタデータ） (2021-11-04T13:01:20Z)
• Adversarial Attack Framework on Graph Embedding Models with Limited Knowledge [126.32842151537217]
  現存する作品は通常、ホワイトボックス方式で攻撃を行う。 ブラックボックス駆動で様々なグラフ埋め込みモデルに対処する必要がある。 GF-Attackはグラフ埋め込みモデルの層数を知ることなく効果的な攻撃を行うことができることを示す。
  論文  参考訳（メタデータ） (2021-05-26T09:18:58Z)
• Explain2Attack: Text Adversarial Attacks via Cross-Domain Interpretability [18.92690624514601]
  研究によると、下流のモデルは、トレーニングデータのような敵対的な入力で簡単に騙されるが、わずかに混乱している。 本稿では,テキスト分類タスクに対するブラックボックス攻撃であるExplain2Attackを提案する。 我々のフレームワークは、最先端モデルのアタックレートを達成または上回る一方、クエリコストの低減と効率の向上を図っている。
  論文  参考訳（メタデータ） (2020-10-14T04:56:41Z)
• Reinforcement Learning-based Black-Box Evasion Attacks to Link Prediction in Dynamic Graphs [87.5882042724041]
  動的グラフ(LPDG)におけるリンク予測は、多様な応用を持つ重要な研究課題である。 我々は,LPDG法の脆弱性を調査し,最初の実用的なブラックボックス回避攻撃を提案する。
  論文  参考訳（メタデータ） (2020-09-01T01:04:49Z)
• Orthogonal Deep Models As Defense Against Black-Box Attacks [71.23669614195195]
  攻撃者が標的モデルに類似したモデルを用いて攻撃を発生させるブラックボックス設定における深層モデル固有の弱点について検討する。 本稿では,深部モデルの内部表現を他のモデルに直交させる新しい勾配正規化手法を提案する。 様々な大規模モデルにおいて,本手法の有効性を検証する。
  論文  参考訳（メタデータ） (2020-06-26T08:29:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。