論文の概要: Provable Repair of Deep Neural Networks

• arxiv url: http://arxiv.org/abs/2104.04413v1
• Date: Fri, 9 Apr 2021 15:03:53 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-12 13:59:21.751004
• Title: Provable Repair of Deep Neural Networks
• Title（参考訳）: 深部ニューラルネットワークの確率的修復
• Authors: Matthew Sotoudeh and Aditya V. Thakur
• Abstract要約: ディープニューラルネットワーク(Deep Neural Networks, DNN)は、過去10年間で人気を博し、航空機の衝突回避などの安全上重要な領域で使われている。 本稿では,安全でない動作が見つかるとDNNの修正に対処する。 与えられた仕様を満たす新しいネットワークN'を構築するためにネットワークNを修復する問題である実証可能な修復問題を紹介します。
• 参考スコア（独自算出の注目度）: 8.55884254206878
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep Neural Networks (DNNs) have grown in popularity over the past decade and are now being used in safety-critical domains such as aircraft collision avoidance. This has motivated a large number of techniques for finding unsafe behavior in DNNs. In contrast, this paper tackles the problem of correcting a DNN once unsafe behavior is found. We introduce the provable repair problem, which is the problem of repairing a network N to construct a new network N' that satisfies a given specification. If the safety specification is over a finite set of points, our Provable Point Repair algorithm can find a provably minimal repair satisfying the specification, regardless of the activation functions used. For safety specifications addressing convex polytopes containing infinitely many points, our Provable Polytope Repair algorithm can find a provably minimal repair satisfying the specification for DNNs using piecewise-linear activation functions. The key insight behind both of these algorithms is the introduction of a Decoupled DNN architecture, which allows us to reduce provable repair to a linear programming problem. Our experimental results demonstrate the efficiency and effectiveness of our Provable Repair algorithms on a variety of challenging tasks.
• Abstract（参考訳）: ディープニューラルネットワーク(Deep Neural Networks, DNN)は、過去10年間で人気が高まり、航空機の衝突回避などの安全上重要な領域で使われている。 これは、DNNで安全でない振る舞いを見つけるための多くのテクニックを動機付けている。 一方,本稿では,安全でない動作が見つかるとDNNの修正に対処する。 本稿では,ネットワークNを修復して,所定の仕様を満たす新しいネットワークN'を構築することの課題である,証明可能な修復問題を紹介する。 安全仕様が有限個の点を超える場合、我々の証明可能な点修復アルゴリズムは、使用するアクティベーション関数に関係なく、仕様を満足する最小限の修正を見つけることができる。 無限に多くの点を含む凸ポリトープに対処する安全仕様について,提案アルゴリズムは,DNNの仕様を満たす最小限の修復を,片方向線形活性化関数を用いて行うことができる。 これら2つのアルゴリズムの背後にある重要な洞察は、線形プログラミング問題に対する証明可能な修復を削減できるデカップリングDNNアーキテクチャの導入である。 実験の結果,様々な課題に対して,Provable repairアルゴリズムの有効性と有効性を示した。

関連論文リスト

• Scaling #DNN-Verification Tools with Efficient Bound Propagation and Parallel Computing [57.49021927832259]
  ディープニューラルネットワーク(DNN)は多くのシナリオで異常な結果を示した強力なツールです。 しかし、それらの複雑な設計と透明性の欠如は、現実世界のアプリケーションに適用する際の安全性上の懸念を提起する。 DNNの形式的検証(FV)は、安全面の証明可能な保証を提供する貴重なソリューションとして登場した。
  論文  参考訳（メタデータ） (2023-12-10T13:51:25Z)
• Enumerating Safe Regions in Deep Neural Networks with Provable Probabilistic Guarantees [86.1362094580439]
  安全プロパティとDNNが与えられた場合、安全であるプロパティ入力領域のすべての領域の集合を列挙する。 この問題の #P-hardness のため,epsilon-ProVe と呼ばれる効率的な近似法を提案する。 提案手法は, 許容限界の統計的予測により得られた出力可到達集合の制御可能な過小評価を利用する。
  論文  参考訳（メタデータ） (2023-08-18T22:30:35Z)
• Architecture-Preserving Provable Repair of Deep Neural Networks [2.4687962186994663]
  ディープニューラルネットワーク(DNN)は、ソフトウェアにおいてますます重要になってきており、多くの問題に対する最先端のソリューションと考えられている。 本稿では,DNNの修復が可能なアーキテクチャ保存型V-ポリトープの問題に対処する。
  論文  参考訳（メタデータ） (2023-04-07T06:36:41Z)
• Incremental Satisfiability Modulo Theory for Verification of Deep Neural Networks [22.015676101940077]
  本稿ではReluplexフレームワークに基づく漸進的満足度変調理論(SMT)を提案する。 我々は,DeepIncと呼ばれる漸進的な解法としてアルゴリズムを実装し,実験結果から,ほとんどの場合,DeepIncの方が効率的であることが示された。
  論文  参考訳（メタデータ） (2023-02-10T04:31:28Z)
• The #DNN-Verification Problem: Counting Unsafe Inputs for Deep Neural Networks [94.63547069706459]
  #DNN-Verification問題は、DNNの入力構成の数を数えることによって安全性に反する結果となる。 違反の正確な数を返す新しい手法を提案する。 安全クリティカルなベンチマークのセットに関する実験結果を示す。
  論文  参考訳（メタデータ） (2023-01-17T18:32:01Z)
• Backward Reachability Analysis of Neural Feedback Loops: Techniques for Linear and Nonlinear Systems [59.57462129637796]
  本稿では,ニューラルネットワークを用いた閉ループシステムの安全性検証のための後方到達性アプローチを提案する。 フィードバックループにおけるNNの存在は、その活性化関数の非線形性や、NNモデルは一般に可逆的ではないため、ユニークな問題セットを示す。 フィードフォワードNNで表される制御ポリシを持つ線形系と非線形系のBP過近似を計算するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-09-28T13:17:28Z)
• Automated Repair of Neural Networks [0.26651200086513094]
  安全でないNNの安全仕様を修復するためのフレームワークを提案する。 提案手法では,重み値のいくつかを修正して,新しい安全なNN表現を探索することができる。 我々は,提案するフレームワークが安全なNNを実現する能力を示す広範な実験を行った。
  論文  参考訳（メタデータ） (2022-07-17T12:42:24Z)
• Online Limited Memory Neural-Linear Bandits with Likelihood Matching [53.18698496031658]
  本研究では,探索学習と表現学習の両方が重要な役割を果たす課題を解決するために,ニューラルネットワークの帯域について検討する。 破滅的な忘れ込みに対して耐性があり、完全にオンラインである可能性の高いマッチングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-02-07T14:19:07Z)
• GraN: An Efficient Gradient-Norm Based Detector for Adversarial and Misclassified Examples [77.99182201815763]
  ディープニューラルネットワーク(DNN)は、敵対的な例やその他のデータ摂動に対して脆弱である。 GraNは、どのDNNにも容易に適応できる時間およびパラメータ効率の手法である。 GraNは多くの問題セットで最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2020-04-20T10:09:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。