論文の概要: Explainability-Aware One Point Attack for Point Cloud Neural Networks

• arxiv url: http://arxiv.org/abs/2110.04158v1
• Date: Fri, 8 Oct 2021 14:29:02 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-11 15:04:27.980953
• Title: Explainability-Aware One Point Attack for Point Cloud Neural Networks
• Title（参考訳）: ポイントクラウドニューラルネットワークにおける説明可能性を考慮した一点攻撃
• Authors: Hanxiao Tan and Helena Kotthaus
• Abstract要約: 本研究は2つの新たな攻撃手法である opa と cta を提案する。 入力インスタンスから1ポイントだけをシフトすることで、人気の高いクラウドネットワークを100%の成功率で騙すことができることを示す。 また,異なる点帰属分布が点クラウドネットワークの対角的ロバスト性に与える影響についても考察した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With the proposition of neural networks for point clouds, deep learning has started to shine in the field of 3D object recognition while researchers have shown an increased interest to investigate the reliability of point cloud networks by fooling them with perturbed instances. However, most studies focus on the imperceptibility or surface consistency, with humans perceiving no perturbations on the adversarial examples. This work proposes two new attack methods: opa and cta, which go in the opposite direction: we restrict the perturbation dimensions to a human cognizable range with the help of explainability methods, which enables the working principle or decision boundary of the models to be comprehensible through the observable perturbation magnitude. Our results show that the popular point cloud networks can be deceived with almost 100% success rate by shifting only one point from the input instance. In addition, we attempt to provide a more persuasive viewpoint of comparing the robustness of point cloud models against adversarial attacks. We also show the interesting impact of different point attribution distributions on the adversarial robustness of point cloud networks. Finally, we discuss how our approaches facilitate the explainability study for point cloud networks. To the best of our knowledge, this is the first point-cloud-based adversarial approach concerning explainability. Our code is available at https://github.com/Explain3D/Exp-One-Point-Atk-PC.
• Abstract（参考訳）: 点雲のためのニューラルネットワークの提案により、深層学習は3Dオブジェクト認識の分野で輝き始め、研究者たちは、点雲ネットワークの信頼性を摂動インスタンスで騙すことで調査する関心が高まっている。 しかしながら、ほとんどの研究は、人間は敵の例に摂動を認識せず、知覚できないか表面の一貫性に焦点をあてている。 本研究は2つの新しい攻撃手法を提案する: Opa と cta は逆方向を向いている:我々は、可視的摂動の大きさによってモデルの動作原理や決定境界を理解できるようにする説明可能性法を用いて、摂動次元を人間の認識可能な範囲に制限する。 この結果から,入力インスタンスから1点だけをシフトすることで,一般的なクラウドネットワークを100%の成功率で騙すことができることがわかった。 さらに,敵攻撃に対するポイントクラウドモデルのロバスト性を比較することで,より説得力のある視点を提供する。 また,異なる点帰属分布が点クラウドネットワークの対角的ロバスト性に与える影響についても考察した。 最後に、我々のアプローチがポイントクラウドネットワークにおける説明可能性研究をどのように促進するかについて論じる。 私たちの知る限りでは、説明可能性に関する最初のポイントクラウドベースの敵対的アプローチです。 私たちのコードはhttps://github.com/Explain3D/Exp-One-Point-Atk-PCで利用可能です。

関連論文リスト

• Edge-Only Universal Adversarial Attacks in Distributed Learning [49.546479320670464]
  本研究では,攻撃者がモデルのエッジ部分のみにアクセスした場合に,ユニバーサルな敵攻撃を発生させる可能性について検討する。 提案手法は, エッジ側の重要な特徴を活用することで, 未知のクラウド部分において, 効果的な誤予測を誘導できることを示唆する。 ImageNetの結果は、未知のクラウド部分に対する強力な攻撃伝達性を示している。
  論文  参考訳（メタデータ） (2024-11-15T11:06:24Z)
• Point2Vec for Self-Supervised Representation Learning on Point Clouds [66.53955515020053]
  Data2vecをポイントクラウド領域に拡張し、いくつかのダウンストリームタスクで推奨される結果を報告します。 我々は、ポイントクラウド上でData2vecライクな事前トレーニングの可能性を解放するpoint2vecを提案する。
  論文  参考訳（メタデータ） (2023-03-29T10:08:29Z)
• PointCA: Evaluating the Robustness of 3D Point Cloud Completion Models Against Adversarial Examples [63.84378007819262]
  本稿では,3次元クラウド完了モデルに対する最初の逆攻撃であるPointCAを提案する。 ポイントCAは、元のものと高い類似性を維持する逆点雲を生成することができる。 その結果,PointCAは77.9%から16.7%に低下し,その構造は0.01以下であることがわかった。
  論文  参考訳（メタデータ） (2022-11-22T14:15:41Z)
• Self-Supervised Arbitrary-Scale Point Clouds Upsampling via Implicit Neural Representation [79.60988242843437]
  そこで本研究では,自己監督型および倍率フレキシブルな点雲を同時にアップサンプリングする手法を提案する。 実験結果から, 自己教師あり学習に基づく手法は, 教師あり学習に基づく手法よりも, 競争力や性能が向上することが示された。
  論文  参考訳（メタデータ） (2022-04-18T07:18:25Z)
• Visualizing Global Explanations of Point Cloud DNNs [0.0]
  そこで本研究では,局所的な代理モデルに基づくクラウド適用可能な説明可能性アプローチを提案し,どのコンポーネントが分類に寄与しているかを示す。 我々の新しい説明可能性アプローチは、ポイントクラウド分類タスクに対して、かなり正確で、よりセマンティックに一貫性があり、広く適用可能な説明を提供する。
  論文  参考訳（メタデータ） (2022-03-17T17:53:11Z)
• Shape-invariant 3D Adversarial Point Clouds [111.72163188681807]
  逆境と不可視性は、逆境の摂動の2つの基本的だが矛盾する性格である。 3Dポイントのクラウド認識に対する以前の敵対的攻撃は、しばしば目立ったポイントアウトリーチによって批判された。 本稿では,点摂動の効率性と非受容性を両立させる新しい点-クラウド感度マップを提案する。
  論文  参考訳（メタデータ） (2022-03-08T12:21:35Z)
• Unsupervised Point Cloud Representation Learning with Deep Neural Networks: A Survey [104.71816962689296]
  大規模クラウドラベリングの制約により,教師なしのポイントクラウド表現学習が注目されている。 本稿では、ディープニューラルネットワークを用いた教師なしポイントクラウド表現学習の総合的なレビューを提供する。
  論文  参考訳（メタデータ） (2022-02-28T07:46:05Z)
• Surrogate Model-Based Explainability Methods for Point Cloud NNs [0.0]
  我々は、ポイントクラウドディープニューラルネットワークのための新しい説明可能性アプローチを提案する。 私たちのアプローチは、ポイントクラウド分類タスクに対して、かなり正確で、直感的で、広く適用可能な説明を提供します。
  論文  参考訳（メタデータ） (2021-07-28T16:13:20Z)
• Minimal Adversarial Examples for Deep Learning on 3D Point Clouds [25.569519066857705]
  本研究では、ポイントクラウドベースのニューラルネットワークに対する敵攻撃について検討する。 本稿では2つの異なる攻撃戦略を一般化できる対向点雲生成のための統一的な定式化を提案する。 提案手法は, 合成データと実世界のデータに対して, 89%以上の攻撃成功率と90%の攻撃成功率で, 最先端の性能を実現する。
  論文  参考訳（メタデータ） (2020-08-27T11:50:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。