論文の概要: Identifying Untrustworthy Predictions in Neural Networks by Geometric Gradient Analysis

• arxiv url: http://arxiv.org/abs/2102.12196v1
• Date: Wed, 24 Feb 2021 10:49:02 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-25 13:41:22.700310
• Title: Identifying Untrustworthy Predictions in Neural Networks by Geometric Gradient Analysis
• Title（参考訳）: 幾何勾配解析によるニューラルネットワークの信頼できない予測の同定
• Authors: Leo Schwinn and An Nguyen and Ren\'e Raab and Leon Bungert and Daniel Tenbrinck and Dario Zanca and Martin Burger and Bjoern Eskofier
• Abstract要約: 本稿では,モデルの再学習を伴わない信頼できない予測の同定を改善するため,幾何勾配解析(GGA)を提案する。 提案手法は, OODデータ検出や敵対的攻撃において, 先行アプローチを上回っていることを実証した。
• 参考スコア（独自算出の注目度）: 4.148327474831389
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The susceptibility of deep neural networks to untrustworthy predictions, including out-of-distribution (OOD) data and adversarial examples, still prevent their widespread use in safety-critical applications. Most existing methods either require a re-training of a given model to achieve robust identification of adversarial attacks or are limited to out-of-distribution sample detection only. In this work, we propose a geometric gradient analysis (GGA) to improve the identification of untrustworthy predictions without retraining of a given model. GGA analyzes the geometry of the loss landscape of neural networks based on the saliency maps of their respective input. To motivate the proposed approach, we provide theoretical connections between gradients' geometrical properties and local minima of the loss function. Furthermore, we demonstrate that the proposed method outperforms prior approaches in detecting OOD data and adversarial attacks, including state-of-the-art and adaptive attacks.
• Abstract（参考訳）: アウト・オブ・ディストリビューション(OOD)データや逆の例など、信頼できない予測に対するディープニューラルネットワークの感受性は、安全クリティカルなアプリケーションでの使用を未だに防止している。 ほとんどの既存の方法は、敵の攻撃の堅牢な識別を達成するために与えられたモデルの再訓練を必要とするか、または配布外サンプル検出のみに限定されます。 本研究では,与えられたモデルを再学習することなく,信頼できない予測の同定を改善するため,幾何勾配解析(GGA)を提案する。 GGAは、それぞれの入力の精度マップに基づいて、ニューラルネットワークの損失ランドスケープの幾何学を解析する。 提案手法を動機付けるために,勾配の幾何学的性質と損失関数の局所的最小値との理論的関係を提供する。 さらに,提案手法は,最先端のアダプティブアタックを含むOODデータと敵対アタックの検出における先行アプローチを上回っていることを実証した。

関連論文リスト

• Detecting Adversarial Attacks in Semantic Segmentation via Uncertainty Estimation: A Deep Analysis [12.133306321357999]
  セグメンテーションのためのニューラルネットワークに対する敵攻撃を検出する不確実性に基づく手法を提案する。 我々は,不確実性に基づく敵攻撃の検出と様々な最先端ニューラルネットワークの詳細な解析を行う。 提案手法の有効性を示す数値実験を行った。
  論文  参考訳（メタデータ） (2024-08-19T14:13:30Z)
• Efficient Network Representation for GNN-based Intrusion Detection [2.321323878201932]
  過去数十年間、深刻な経済とプライバシーの被害を受けたサイバー攻撃の数が増加している。 本稿では,侵入検知タスクのトポロジ情報の提供を目的とした,フローのグラフとしての新しいネットワーク表現を提案する。 提案するグラフ構造を利用したグラフニューラルネットワーク(GNN)に基づくフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-09-11T16:10:12Z)
• GIT: Detecting Uncertainty, Out-Of-Distribution and Adversarial Samples using Gradients and Invariance Transformations [77.34726150561087]
  本稿では,ディープニューラルネットワークにおける一般化誤差検出のための総合的アプローチを提案する。 GITは勾配情報と不変変換の利用を組み合わせる。 本実験は,各種ネットワークアーキテクチャの最先端技術と比較して,GITの優れた性能を示すものである。
  論文  参考訳（メタデータ） (2023-07-05T22:04:38Z)
• Reachability Analysis of Neural Networks with Uncertain Parameters [0.0]
  本稿では,ニューラルネットワークの到達可能性解析に新たな2つのアプローチを導入する。 本稿では,重みと偏りの不確かさに対処する場合に,その状況が大きく逆転することを示す。
  論文  参考訳（メタデータ） (2023-03-14T14:00:32Z)
• Stability and Generalization Analysis of Gradient Methods for Shallow Neural Networks [59.142826407441106]
  本稿では,アルゴリズム安定性の概念を活用して,浅層ニューラルネットワーク(SNN)の一般化挙動について検討する。 我々は、SNNを訓練するために勾配降下(GD)と勾配降下(SGD)を考慮する。
  論文  参考訳（メタデータ） (2022-09-19T18:48:00Z)
• Robust lEarned Shrinkage-Thresholding (REST): Robust unrolling for sparse recover [87.28082715343896]
  我々は、モデルミス特定を前進させるのに堅牢な逆問題を解決するためのディープニューラルネットワークについて検討する。 我々は,アルゴリズムの展開手法を根底にある回復問題のロバストバージョンに適用することにより,新しい堅牢なディープニューラルネットワークアーキテクチャを設計する。 提案したRESTネットワークは,圧縮センシングとレーダイメージングの両問題において,最先端のモデルベースおよびデータ駆動アルゴリズムを上回る性能を示す。
  論文  参考訳（メタデータ） (2021-10-20T06:15:45Z)
• Residual Error: a New Performance Measure for Adversarial Robustness [85.0371352689919]
  ディープラーニングの広く普及を制限する大きな課題は、敵の攻撃に対する脆弱さである。 本研究は,ディープニューラルネットワークの対角強靭性を評価するための新しい性能尺度である残留誤差の概念を提示する。 画像分類を用いた実験結果から,提案手法の有効性と有効性を示した。
  論文  参考訳（メタデータ） (2021-06-18T16:34:23Z)
• Calibration and Uncertainty Quantification of Bayesian Convolutional Neural Networks for Geophysical Applications [0.0]
  このような地下モデルによる予測の不確実性は、キャリブレーションされた確率と関連する不確かさを予測に組み込むのが一般的である。 一般的なディープラーニングベースのモデルは、しばしば誤解され、決定論的性質のため、予測の不確実性を解釈する手段がないことが示されている。 ベイズ形式論における畳み込みニューラルネットワークに基づく確率モデルを得るための3つの異なるアプローチを比較した。
  論文  参考訳（メタデータ） (2021-05-25T17:54:23Z)
• Increasing the Confidence of Deep Neural Networks by Coverage Analysis [71.57324258813674]
  本稿では、異なる安全でない入力に対してモデルを強化するために、カバレッジパラダイムに基づく軽量な監視アーキテクチャを提案する。 実験結果から,提案手法は強力な対向例とアウト・オブ・ディストリビューション・インプットの両方を検出するのに有効であることが示唆された。
  論文  参考訳（メタデータ） (2021-01-28T16:38:26Z)
• Towards Trustworthy Predictions from Deep Neural Networks with Fast Adversarial Calibration [2.8935588665357077]
  本稿では,ドメインシフト後に得られたサンプルに対して,信頼度の高い信頼度を得るための効率的かつ汎用的なモデリング手法を提案する。 本稿では,エントロピー増大損失項と逆キャリブレーション損失項を組み合わせた新しいトレーニング戦略を導入し,この結果が適切に調整され,技術的に信頼できる予測となることを示す。
  論文  参考訳（メタデータ） (2020-12-20T13:39:29Z)
• Graph Backdoor [53.70971502299977]
  GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。 GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。 トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
  論文  参考訳（メタデータ） (2020-06-21T19:45:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。