論文の概要: Towards Verifying the Geometric Robustness of Large-scale Neural Networks

• arxiv url: http://arxiv.org/abs/2301.12456v2
• Date: Thu, 30 Mar 2023 21:20:35 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-03 16:51:45.083506
• Title: Towards Verifying the Geometric Robustness of Large-scale Neural Networks
• Title（参考訳）: 大規模ニューラルネットワークの幾何ロバスト性検証に向けて
• Authors: Fu Wang, Peipei Xu, Wenjie Ruan, Xiaowei Huang
• Abstract要約: ディープニューラルネットワーク(DNN)は、敵対的な幾何学的変換に弱いことが知られている。 本稿では,複数の幾何変換と証明可能な保証の組み合わせに対して,大規模DNNのロバスト性を検証することを目的とする。 我々は、変換の最悪の組み合わせを見つけるために、ブラックボックス最適化分析装置GeoRobustを開発した。
• 参考スコア（独自算出の注目度）: 8.60992681271439
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks (DNNs) are known to be vulnerable to adversarial geometric transformation. This paper aims to verify the robustness of large-scale DNNs against the combination of multiple geometric transformations with a provable guarantee. Given a set of transformations (e.g., rotation, scaling, etc.), we develop GeoRobust, a black-box robustness analyser built upon a novel global optimisation strategy, for locating the worst-case combination of transformations that affect and even alter a network's output. GeoRobust can provide provable guarantees on finding the worst-case combination based on recent advances in Lipschitzian theory. Due to its black-box nature, GeoRobust can be deployed on large-scale DNNs regardless of their architectures, activation functions, and the number of neurons. In practice, GeoRobust can locate the worst-case geometric transformation with high precision for the ResNet50 model on ImageNet in a few seconds on average. We examined 18 ImageNet classifiers, including the ResNet family and vision transformers, and found a positive correlation between the geometric robustness of the networks and the parameter numbers. We also observe that increasing the depth of DNN is more beneficial than increasing its width in terms of improving its geometric robustness. Our tool GeoRobust is available at https://github.com/TrustAI/GeoRobust.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、敵対的な幾何学的変換に弱いことが知られている。 本稿では,複数の幾何変換と証明可能な保証の組み合わせに対して,大規模DNNのロバスト性を検証することを目的とする。 一連の変換(回転、スケーリングなど)が与えられた場合、ネットワークの出力に影響を与え、変更する変換の最悪の組み合わせを見つけるために、新しいグローバル最適化戦略に基づいて構築されたブラックボックスロバスト分析器であるGeoRobustを開発する。 GeoRobustは、リプシッツ理論の最近の進歩に基づく最悪の組み合わせを見つけるための証明可能な保証を提供することができる。 ブラックボックスの性質のため、GeoRobustはアーキテクチャ、アクティベーション機能、ニューロンの数に関わらず、大規模DNNにデプロイすることができる。 実際にGeoRobustは、ImageNet上のResNet50モデルの精度の高い最悪の幾何学変換を、平均数秒で見つけることができる。 我々は,ResNetファミリやビジョントランスフォーマーを含む18のイメージネット分類器を調査し,ネットワークの幾何学的ロバスト性とパラメータ数との正の相関を見出した。 また,DNNの深さの増大は,その幾何学的堅牢性の向上の観点から,その幅の増大よりも有益であることを示す。 GeoRobustはhttps://github.com/TrustAI/GeoRobust.comで利用可能です。

関連論文リスト

• Deep Learning as Ricci Flow [38.27936710747996]
  ディープニューラルネットワーク(DNN)は、複雑なデータの分布を近似する強力なツールである。 分類タスク中のDNNによる変換は、ハミルトンのリッチ流下で期待されるものと類似していることを示す。 本研究の成果は, 微分幾何学や離散幾何学から, 深層学習における説明可能性の問題まで, ツールの利用を動機づけるものである。
  論文  参考訳（メタデータ） (2024-04-22T15:12:47Z)
• Convolutional Neural Networks on Manifolds: From Graphs and Back [122.06927400759021]
  本稿では,多様体畳み込みフィルタと点次非線形性からなる多様体ニューラルネットワーク(MNN)を提案する。 要約すると、我々は大きなグラフの極限として多様体モデルに焦点を合わせ、MNNを構築するが、それでもMNNの離散化によってグラフニューラルネットワークを復活させることができる。
  論文  参考訳（メタデータ） (2022-10-01T21:17:39Z)
• SVNet: Where SO(3) Equivariance Meets Binarization on Point Cloud Representation [65.4396959244269]
  本論文は,3次元学習アーキテクチャを構築するための一般的なフレームワークを設計することによる課題に対処する。 提案手法はPointNetやDGCNNといった一般的なバックボーンに適用できる。 ModelNet40、ShapeNet、および実世界のデータセットであるScanObjectNNの実験では、この手法が効率、回転、精度の間の大きなトレードオフを達成することを示した。
  論文  参考訳（メタデータ） (2022-09-13T12:12:19Z)
• Provable Defense Against Geometric Transformations [4.281091463408283]
  決定論的証明された幾何的堅牢性に対する最初の証明可能な防御法を提案する。 我々のフレームワークは、常に最先端の決定論的証明された幾何的堅牢性とクリーンな精度を実現していることを示す。 われわれは初めて、自律運転の挑戦的で現実的な設定のためのニューラルネットワークの幾何学的堅牢性を検証する。
  論文  参考訳（メタデータ） (2022-07-22T16:40:03Z)
• B-cos Networks: Alignment is All We Need for Interpretability [136.27303006772294]
  本稿では,深層ニューラルネットワーク(DNN)の学習における重み付けの促進による解釈可能性の向上に向けた新たな方向性を提案する。 B-コス変換は、完全なモデル計算を忠実に要約する単一の線形変換を誘導する。 VGGs、ResNets、InceptionNets、DenseNetsといった一般的なモデルに簡単に統合できることを示します。
  論文  参考訳（メタデータ） (2022-05-20T16:03:29Z)
• MGNN: Graph Neural Networks Inspired by Distance Geometry Problem [28.789684784093048]
  グラフニューラルネットワーク(GNN)は、機械学習分野における顕著な研究トピックとして現れている。 本稿では,GNNの分類段階における分類器の親近性に着想を得たGNNモデルを提案する。 合成および実世界の両方のデータセットを用いて実験を行い,本モデルの有効性を広範囲に評価した。
  論文  参考訳（メタデータ） (2022-01-31T04:15:42Z)
• Revisiting Transformation Invariant Geometric Deep Learning: Are Initial Representations All You Need? [80.86819657126041]
  変換不変および距離保存初期表現は変換不変性を達成するのに十分であることを示す。 具体的には、多次元スケーリングを変更することで、変換不変かつ距離保存された初期点表現を実現する。 我々は、TinvNNが変換不変性を厳密に保証し、既存のニューラルネットワークと組み合わせられるほど汎用的で柔軟なことを証明した。
  論文  参考訳（メタデータ） (2021-12-23T03:52:33Z)
• GCNDepth: Self-supervised Monocular Depth Estimation based on Graph Convolutional Network [11.332580333969302]
  この研究は、深度マップの量的および質的な理解を高めるために、一連の改善を伴う新しいソリューションをもたらす。 グラフ畳み込みネットワーク(GCN)は、非ユークリッドデータ上の畳み込みを処理でき、位相構造内の不規則な画像領域に適用することができる。 提案手法は,公的なKITTIおよびMake3Dデータセットに対して,高い予測精度で89%の精度で同等かつ有望な結果を与える。
  論文  参考訳（メタデータ） (2021-12-13T16:46:25Z)
• Fusing the Old with the New: Learning Relative Camera Pose with Geometry-Guided Uncertainty [91.0564497403256]
  本稿では,ネットワークトレーニング中の2つの予測系間の確率的融合を含む新しい枠組みを提案する。 本ネットワークは,異なる対応間の強い相互作用を強制することにより学習を駆動する自己追跡グラフニューラルネットワークを特徴とする。 学習に適したモーションパーマリゼーションを提案し、難易度の高いDeMoNおよびScanNetデータセットで最新のパフォーマンスを達成できることを示します。
  論文  参考訳（メタデータ） (2021-04-16T17:59:06Z)
• EdgeNets:Edge Varying Graph Neural Networks [179.99395949679547]
  本稿では、EdgeNetの概念を通じて、最先端グラフニューラルネットワーク(GNN)を統一する一般的なフレームワークを提案する。 EdgeNetはGNNアーキテクチャであり、異なるノードが異なるパラメータを使って異なる隣人の情報を測定することができる。 これは、ノードが実行でき、既存のグラフ畳み込みニューラルネットワーク(GCNN)とグラフアテンションネットワーク(GAT)の1つの定式化の下で包含できる一般的な線形で局所的な操作である。
  論文  参考訳（メタデータ） (2020-01-21T15:51:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。