論文の概要: DeepOpt: Scalable Specification-based Falsification of Neural Networks using Black-Box Optimization

• arxiv url: http://arxiv.org/abs/2106.01917v1
• Date: Thu, 3 Jun 2021 15:09:43 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-04 18:43:46.055937
• Title: DeepOpt: Scalable Specification-based Falsification of Neural Networks using Black-Box Optimization
• Title（参考訳）: deepopt:ブラックボックス最適化によるニューラルネットワークのスケーラブルな仕様ベース改ざん
• Authors: Fabian Bauer-Marquart, Stefan Leue, Christian Schilling
• Abstract要約: 我々は,ディープニューラルネットワーク(DNN)の仕様に基づくファルシフィケーションを,デバッグと修復をサポートするために検討する。 ブラックボックス最適化に基づくファルシフィケーション手法であるDeepOptを提案する。 DeepOptは入力出力仕様を解析できるので、堅牢性仕様のみをサポートするファルシフィケーションアプローチよりも一般的です。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Decisions made by deep neural networks (DNNs) have a tremendous impact on the dependability of the systems that they are embedded into, which is of particular concern in the realm of safety-critical systems. In this paper we consider specification-based falsification of DNNs with the aim to support debugging and repair. We propose DeepOpt, a falsification technique based on black-box optimization, which generates counterexamples from a DNN in a refinement loop. DeepOpt can analyze input-output specifications, which makes it more general than falsification approaches that only support robustness specifications. The key idea is to algebraically combine the DNN with the input and output constraints derived from the specification. We have implemented DeepOpt and evaluated it on DNNs of varying sizes and architectures. Experimental comparisons demonstrate DeepOpt's precision and scalability; in particular, DeepOpt requires very few queries to the DNN.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)による決定は、それらが組み込まれているシステムの信頼性に大きな影響を与える。 本稿では,デバッグと修復を支援するため,DNNの仕様に基づくファルシフィケーションについて検討する。 本稿では,ブラックボックス最適化に基づく改ざん手法であるdeepoptを提案する。 DeepOptは入力出力仕様を解析できるので、堅牢性仕様のみをサポートするファルシフィケーションアプローチよりも一般的です。 鍵となる考え方は、DNNと仕様から派生した入出力制約を代数的に組み合わせることである。 我々は、DeepOptを実装し、様々なサイズとアーキテクチャのDNNで評価した。 実験的な比較では、DeepOptの精度とスケーラビリティが示されている。

関連論文リスト

• An Automata-Theoretic Approach to Synthesizing Binarized Neural Networks [13.271286153792058]
  量子ニューラルネットワーク(QNN)が開発され、二項化ニューラルネットワーク(BNN)は特殊なケースとしてバイナリ値に制限されている。 本稿では,指定された特性を満たすBNNの自動合成手法を提案する。
  論文  参考訳（メタデータ） (2023-07-29T06:27:28Z)
• OccRob: Efficient SMT-Based Occlusion Robustness Verification of Deep Neural Networks [7.797299214812479]
  Occlusionは、ディープニューラルネットワーク(DNN)に対する一般的かつ容易に実現可能なセマンティック摂動である DNNを騙していくつかのセグメントを隠蔽することで入力画像を誤分類し、おそらく深刻なエラーを引き起こす可能性がある。 DNNの既存のロバスト性検証アプローチは、非意味的な摂動に重点を置いている。
  論文  参考訳（メタデータ） (2023-01-27T18:54:00Z)
• The #DNN-Verification Problem: Counting Unsafe Inputs for Deep Neural Networks [94.63547069706459]
  #DNN-Verification問題は、DNNの入力構成の数を数えることによって安全性に反する結果となる。 違反の正確な数を返す新しい手法を提案する。 安全クリティカルなベンチマークのセットに関する実験結果を示す。
  論文  参考訳（メタデータ） (2023-01-17T18:32:01Z)
• Efficiently Finding Adversarial Examples with DNN Preprocessing [1.0775419935941009]
  ディープニューラルネットワーク(Deep Neural Networks, DNN)は至る所にあり、しばしばかなり複雑なタスクを実行します。 本稿では,DNNを前処理して収集した情報を用いて最適化問題を大幅に単純化する手法を提案する。
  論文  参考訳（メタデータ） (2022-11-16T06:41:03Z)
• Early-exit deep neural networks for distorted images: providing an efficient edge offloading [69.43216268165402]
  ディープニューラルネットワーク(DNN)のエッジオフロードは、入力の複雑さに適応することができる。 画像歪みに対する対策として,特定の歪みタイプを訓練した専門的側枝を導入する。 このアプローチはエッジ上の推定精度を高め、オフロードの決定を改善する。
  論文  参考訳（メタデータ） (2021-08-20T19:52:55Z)
• Chance-Constrained Control with Lexicographic Deep Reinforcement Learning [77.34726150561087]
  本稿では,レキシックなDeep Reinforcement Learning(DeepRL)に基づく確率制約マルコフ決定プロセスを提案する。 有名なDeepRLアルゴリズムDQNの辞書版も提案され、シミュレーションによって検証されている。
  論文  参考訳（メタデータ） (2020-10-19T13:09:14Z)
• Boosting Deep Neural Networks with Geometrical Prior Knowledge: A Survey [77.99182201815763]
  ディープニューラルネットワーク(DNN)は多くの異なる問題設定において最先端の結果を達成する。 DNNはしばしばブラックボックスシステムとして扱われ、評価と検証が複雑になる。 コンピュータビジョンタスクにおける畳み込みニューラルネットワーク(CNN)の成功に触発された、有望な分野のひとつは、対称幾何学的変換に関する知識を取り入れることである。
  論文  参考訳（メタデータ） (2020-06-30T14:56:05Z)
• CodNN -- Robust Neural Networks From Coded Classification [27.38642191854458]
  ディープニューラルネットワーク(Deep Neural Networks、DNN)は、現在進行中の情報革命における革命的な力である。 DNNは、敵対的であろうとランダムであろうと、ノイズに非常に敏感である。 これは、DNNのハードウェア実装と、自律運転のような重要なアプリケーションへの展開において、根本的な課題となる。 提案手法により,DNNのデータ層あるいは内部層は誤り訂正符号で符号化され,ノイズ下での計算が成功することが保証される。
  論文  参考訳（メタデータ） (2020-04-22T17:07:15Z)
• GraN: An Efficient Gradient-Norm Based Detector for Adversarial and Misclassified Examples [77.99182201815763]
  ディープニューラルネットワーク(DNN)は、敵対的な例やその他のデータ摂動に対して脆弱である。 GraNは、どのDNNにも容易に適応できる時間およびパラメータ効率の手法である。 GraNは多くの問題セットで最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2020-04-20T10:09:27Z)
• DeepHammer: Depleting the Intelligence of Deep Neural Networks through Targeted Chain of Bit Flips [29.34622626909906]
  量子化ディープニューラルネットワーク(DNN)に対するハードウェアベースの最初の攻撃を実演する。 DeepHammerは、数分で実行時にDNNの推論動作を修正することができる。 私たちの研究は、将来のディープラーニングシステムにセキュリティメカニズムを組み込む必要性を強調しています。
  論文  参考訳（メタデータ） (2020-03-30T18:51:59Z)
• PatDNN: Achieving Real-Time DNN Execution on Mobile Devices with Pattern-based Weight Pruning [57.20262984116752]
  粗粒構造の内部に新しい次元、きめ細かなプルーニングパターンを導入し、これまで知られていなかった設計空間の点を明らかにした。 きめ細かいプルーニングパターンによって高い精度が実現されているため、コンパイラを使ってハードウェア効率を向上し、保証することがユニークな洞察である。
  論文  参考訳（メタデータ） (2020-01-01T04:52:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。