論文の概要: Enhancing Deep Learning with Scenario-Based Override Rules: a Case Study

• arxiv url: http://arxiv.org/abs/2301.08114v1
• Date: Thu, 19 Jan 2023 15:06:32 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-20 14:48:25.250593
• Title: Enhancing Deep Learning with Scenario-Based Override Rules: a Case Study
• Title（参考訳）: シナリオに基づくオーバーライドルールによるディープラーニングの強化:ケーススタディ
• Authors: Adiel Ashrov and Guy Katz
• Abstract要約: ディープニューラルネットワーク(DNN)は、ソフトウェア開発ツールキットにおいて重要な手段となっている。 DNNは非常に不透明で、不慣れな入力に遭遇すると予期せぬ振る舞いをする。 1つの有望なアプローチは、手作りのオーバーライドルールでDNNベースのシステムを拡張することである。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Deep neural networks (DNNs) have become a crucial instrument in the software development toolkit, due to their ability to efficiently solve complex problems. Nevertheless, DNNs are highly opaque, and can behave in an unexpected manner when they encounter unfamiliar input. One promising approach for addressing this challenge is by extending DNN-based systems with hand-crafted override rules, which override the DNN's output when certain conditions are met. Here, we advocate crafting such override rules using the well-studied scenario-based modeling paradigm, which produces rules that are simple, extensible, and powerful enough to ensure the safety of the DNN, while also rendering the system more translucent. We report on two extensive case studies, which demonstrate the feasibility of the approach; and through them, propose an extension to scenario-based modeling, which facilitates its integration with DNN components. We regard this work as a step towards creating safer and more reliable DNN-based systems and models.
• Abstract（参考訳）: 深層ニューラルネットワーク(dnn)は、複雑な問題を解決する能力があるため、ソフトウェア開発ツールキットにおいて重要な手段となっている。 それでも、DNNは非常に不透明であり、不慣れな入力に遭遇すると予期せぬ振る舞いをする。 この課題に対処するための有望なアプローチの1つは、DNNベースのシステムを手作りのオーバーライドルールで拡張することである。 本稿では,DNNの安全性を確保するのに十分な,シンプルで拡張性があり,パワフルなルールを生成するとともに,システムをより透明にするシナリオベースモデリングパラダイムを用いて,このようなオーバーライドルールの構築を提唱する。 本稿では,アプローチの実現可能性を示す2つのケーススタディについて報告し,それを通じてシナリオベースモデリングの拡張を提案し,DNNコンポーネントとの統合を容易にする。 この作業は、より安全で信頼性の高いDNNベースのシステムとモデルを作成するためのステップであると考えています。

関連論文リスト

• Make Me a BNN: A Simple Strategy for Estimating Bayesian Uncertainty from Pre-trained Models [40.38541033389344]
  ディープニューラルネットワーク(Deep Neural Networks, DNN)は、様々なコンピュータビジョンタスクのための強力なツールであるが、信頼性の高い不確実性定量化に苦慮することが多い。 本稿では、DNNをBNNにシームレスに変換するシンプルでスケーラブルな戦略であるAdaptable Bayesian Neural Network (ABNN)を紹介する。 画像分類とセマンティックセグメンテーションタスクのための複数のデータセットにわたる広範囲な実験を行い、ABNNが最先端の性能を達成することを示す。
  論文  参考訳（メタデータ） (2023-12-23T16:39:24Z)
• VNN: Verification-Friendly Neural Networks with Hard Robustness Guarantees [3.208888890455612]
  VNN(Verification-Friendly Neural Networks)を生成するための新しいフレームワークを提案する。 本稿では,予測性能と検証親和性とのバランスをとるための学習後最適化フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-15T12:39:27Z)
• Scaling #DNN-Verification Tools with Efficient Bound Propagation and Parallel Computing [57.49021927832259]
  ディープニューラルネットワーク(DNN)は多くのシナリオで異常な結果を示した強力なツールです。 しかし、それらの複雑な設計と透明性の欠如は、現実世界のアプリケーションに適用する際の安全性上の懸念を提起する。 DNNの形式的検証(FV)は、安全面の証明可能な保証を提供する貴重なソリューションとして登場した。
  論文  参考訳（メタデータ） (2023-12-10T13:51:25Z)
• Assumption Generation for the Verification of Learning-Enabled Autonomous Systems [7.580719272198119]
  本稿では,システムレベルの安全性特性の形式的検証のための前提保証型構成手法を提案する。 本稿では,自律飛行領域から得られたケーススタディについて述べる。
  論文  参考訳（メタデータ） (2023-05-27T23:30:27Z)
• Verifying Generalization in Deep Learning [3.4948705785954917]
  ディープニューラルネットワーク(Deep Neural Network, DNN)は、ディープラーニングのワークホースである。 DNNは、一般化の貧弱さ、すなわち訓練中に遭遇しない入力が不十分であることを示すことが知られている。 本稿では,新しい入力領域によく適応するDNNに基づく決定ルールを識別するための,検証駆動型手法を提案する。
  論文  参考訳（メタデータ） (2023-02-11T17:08:15Z)
• The #DNN-Verification Problem: Counting Unsafe Inputs for Deep Neural Networks [94.63547069706459]
  #DNN-Verification問題は、DNNの入力構成の数を数えることによって安全性に反する結果となる。 違反の正確な数を返す新しい手法を提案する。 安全クリティカルなベンチマークのセットに関する実験結果を示す。
  論文  参考訳（メタデータ） (2023-01-17T18:32:01Z)
• Comparative Analysis of Interval Reachability for Robust Implicit and Feedforward Neural Networks [64.23331120621118]
  我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。 INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。 提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
  論文  参考訳（メタデータ） (2022-04-01T03:31:27Z)
• On the benefits of robust models in modulation recognition [53.391095789289736]
  畳み込み層を用いたディープニューラルネットワーク(DNN)は、通信における多くのタスクにおいて最先端である。 画像分類のような他の領域では、DNNは敵の摂動に弱いことが示されている。 最新モデルの堅牢性をテストするための新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-03-27T19:58:06Z)
• Progressive Tandem Learning for Pattern Recognition with Deep Spiking Neural Networks [80.15411508088522]
  スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。 高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-02T15:38:44Z)
• Boosting Deep Neural Networks with Geometrical Prior Knowledge: A Survey [77.99182201815763]
  ディープニューラルネットワーク(DNN)は多くの異なる問題設定において最先端の結果を達成する。 DNNはしばしばブラックボックスシステムとして扱われ、評価と検証が複雑になる。 コンピュータビジョンタスクにおける畳み込みニューラルネットワーク(CNN)の成功に触発された、有望な分野のひとつは、対称幾何学的変換に関する知識を取り入れることである。
  論文  参考訳（メタデータ） (2020-06-30T14:56:05Z)
• CodNN -- Robust Neural Networks From Coded Classification [27.38642191854458]
  ディープニューラルネットワーク(Deep Neural Networks、DNN)は、現在進行中の情報革命における革命的な力である。 DNNは、敵対的であろうとランダムであろうと、ノイズに非常に敏感である。 これは、DNNのハードウェア実装と、自律運転のような重要なアプリケーションへの展開において、根本的な課題となる。 提案手法により,DNNのデータ層あるいは内部層は誤り訂正符号で符号化され,ノイズ下での計算が成功することが保証される。
  論文  参考訳（メタデータ） (2020-04-22T17:07:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。