論文の概要: Simulator-based explanation and debugging of hazard-triggering events in
DNN-based safety-critical systems
- arxiv url: http://arxiv.org/abs/2204.00480v1
- Date: Fri, 1 Apr 2022 14:35:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-04 15:18:50.766897
- Title: Simulator-based explanation and debugging of hazard-triggering events in
DNN-based safety-critical systems
- Title（参考訳）: DNNを用いた安全クリティカルシステムにおけるハザードトリガー現象のシミュレータによる説明とデバッグ
- Authors: Hazem Fahmy, Fabrizio Pastore, Lionel Briand
- Abstract要約: ディープニューラルネットワーク(Deep Neural Networks, DNN)は、安全クリティカルなシステムで使用される。
エンジニアは、すべてのエラー誘発画像を視覚的に検査し、それらの共通特性を決定する。
このような特徴は、安全分析に必須の入力であるハザードトリガリングイベントに対応している。
本稿では,誤りを誘発する実世界の画像において,共通性のための読みやすい記述を生成する手法SEDEを提案する。
- 参考スコア（独自算出の注目度）: 1.1240669509034296
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: When Deep Neural Networks (DNNs) are used in safety-critical systems,
engineers should determine the safety risks associated with DNN errors observed
during testing. For DNNs processing images, engineers visually inspect all
error-inducing images to determine common characteristics among them. Such
characteristics correspond to hazard-triggering events (e.g., low illumination)
that are essential inputs for safety analysis. Though informative, such
activity is expensive and error-prone.
To support such safety analysis practices, we propose SEDE, a technique that
generates readable descriptions for commonalities in error-inducing, real-world
images and improves the DNN through effective retraining. SEDE leverages the
availability of simulators, which are commonly used for cyber-physical systems.
SEDE relies on genetic algorithms to drive simulators towards the generation of
images that are similar to error-inducing, real-world images in the test set;
it then leverages rule learning algorithms to derive expressions that capture
commonalities in terms of simulator parameter values. The derived expressions
are then used to generate additional images to retrain and improve the DNN.
With DNNs performing in-car sensing tasks, SEDE successfully characterized
hazard-triggering events leading to a DNN accuracy drop. Also, SEDE enabled
retraining to achieve significant improvements in DNN accuracy, up to 18
percentage points.
- Abstract（参考訳）: 安全クリティカルなシステムでDeep Neural Networks(DNN)を使用する場合、エンジニアはテスト中に観察されたDNNエラーに関連する安全性リスクを決定する必要がある。
画像を処理するDNNでは、エンジニアがすべてのエラー誘発画像を視覚的に検査し、それらの共通特性を決定する。
このような特徴は、安全分析に必須の入力であるハザードトリガリングイベント(例えば、低照度)に対応する。
情報的ではあるが、そのような活動は高価でエラーを起こしやすい。
このような安全分析の実践を支援するため,実世界の誤り生成における共通点の読みやすい記述を生成する手法であるSEDEを提案し,効果的なリトレーニングによってDNNを改善する。
SEDEは、サイバー物理システムで一般的に使用されるシミュレータの可用性を活用している。
sedeは、テストセット内のエラーを誘発する実世界画像と類似した画像を生成するために、遺伝的アルゴリズムに依存しており、ルール学習アルゴリズムを使用して、シミュレータパラメータの値で共通性をキャプチャする表現を導出する。
派生した式は、DNNを再トレーニングし改善するために追加のイメージを生成するために使用される。
DNNが車内検知タスクを実行することで、SEDEはDNNの精度低下につながるハザードトリガリングイベントをうまく特徴付けることができた。
また、SEDEはDNNの精度を最大18ポイント向上するために再トレーニングを可能にした。
関連論文リスト
- Search-based DNN Testing and Retraining with GAN-enhanced Simulations [2.362412515574206]
安全クリティカルなシステムでは、ディープニューラルネットワーク(DNN)がコンピュータビジョンタスクの重要なコンポーネントになりつつある。
本稿では,シミュレータを用いて入力空間を探索するメタヒューリスティック検索と,シミュレータが生成したデータをリアルな入力画像に変換するGAN(Generative Adversarial Networks)を組み合わせることを提案する。
論文 参考訳（メタデータ） (2024-06-19T09:05:16Z) - Scaling #DNN-Verification Tools with Efficient Bound Propagation and
Parallel Computing [57.49021927832259]
ディープニューラルネットワーク(DNN)は多くのシナリオで異常な結果を示した強力なツールです。
しかし、それらの複雑な設計と透明性の欠如は、現実世界のアプリケーションに適用する際の安全性上の懸念を提起する。
DNNの形式的検証(FV)は、安全面の証明可能な保証を提供する貴重なソリューションとして登場した。
論文 参考訳（メタデータ） (2023-12-10T13:51:25Z) - Special Session: Approximation and Fault Resiliency of DNN Accelerators [0.9126382223122612]
本稿では,Deep Neural Networkアクセラレータの近似とフォールトレジリエンスについて検討する。
本稿では,DNNに障害注入を行わずにハードウェアのエラーをエミュレートするために近似(AxC)演算回路を提案する。
また,ネットワーク上での断層伝播とマスキングによる耐故障性の微粒化解析も提案する。
論文 参考訳（メタデータ） (2023-05-31T19:27:45Z) - The #DNN-Verification Problem: Counting Unsafe Inputs for Deep Neural
Networks [94.63547069706459]
#DNN-Verification問題は、DNNの入力構成の数を数えることによって安全性に反する結果となる。
違反の正確な数を返す新しい手法を提案する。
安全クリティカルなベンチマークのセットに関する実験結果を示す。
論文 参考訳（メタデータ） (2023-01-17T18:32:01Z) - Black-box Safety Analysis and Retraining of DNNs based on Feature
Extraction and Clustering [0.9590956574213348]
DNNエラーの根本原因を自動的に識別するブラックボックスアプローチであるSAFEを提案する。
これは、ImageNetで事前訓練された転送学習モデルを使用して、エラー誘発画像から特徴を抽出する。
次に、密度に基づくクラスタリングアルゴリズムを適用し、誤りのもっともらしい原因をモデル化した画像の任意の形状のクラスタを検出する。
論文 参考訳（メタデータ） (2022-01-13T17:02:57Z) - FitAct: Error Resilient Deep Neural Networks via Fine-Grained
Post-Trainable Activation Functions [0.05249805590164901]
ディープニューラルネットワーク(DNN)は、パーソナルヘルスケアデバイスや自動運転車などの安全クリティカルなシステムにますます導入されている。
本稿では,DNNの微粒化後のアクティベーション機能を実装することで,DNNのエラーレジリエンスを高めるための低コストなアプローチであるFitActを提案する。
論文 参考訳（メタデータ） (2021-12-27T07:07:50Z) - FAT: Training Neural Networks for Reliable Inference Under Hardware
Faults [3.191587417198382]
本稿では、ニューラルネットワーク(NN)トレーニング中のエラーモデリングを含む、フォールト・アウェア・トレーニング(FAT)と呼ばれる新しい手法を提案し、デバイス上の特定のフォールトモデルに耐性を持たせる。
FATはCIFAR10、GTSRB、SVHN、ImageNetなど多くの分類タスクに対して検証されている。
論文 参考訳（メタデータ） (2020-11-11T16:09:39Z) - Background Adaptive Faster R-CNN for Semi-Supervised Convolutional
Object Detection of Threats in X-Ray Images [64.39996451133268]
我々は、バックグラウンド適応型高速R-CNNと呼ばれる脅威認識のための半教師付きアプローチを提案する。
本手法は,ディープラーニング分野からのドメイン適応手法を用いた2段階物体検出器の訓練手法である。
2つのドメイン識別器(1つはオブジェクト提案を識別し、もう1つは画像特徴を識別する)は、ドメイン固有の情報を符号化するのを防ぐために敵対的に訓練される。
これにより、手作業の背景から抽出した特徴の統計と実世界のデータとを一致させることで、脅威検出の誤報率を低減することができる。
論文 参考訳（メタデータ） (2020-10-02T21:05:13Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳（メタデータ） (2020-07-02T15:38:44Z) - Boosting Deep Neural Networks with Geometrical Prior Knowledge: A Survey [77.99182201815763]
ディープニューラルネットワーク(DNN)は多くの異なる問題設定において最先端の結果を達成する。
DNNはしばしばブラックボックスシステムとして扱われ、評価と検証が複雑になる。
コンピュータビジョンタスクにおける畳み込みニューラルネットワーク(CNN)の成功に触発された、有望な分野のひとつは、対称幾何学的変換に関する知識を取り入れることである。
論文 参考訳（メタデータ） (2020-06-30T14:56:05Z) - GraN: An Efficient Gradient-Norm Based Detector for Adversarial and
Misclassified Examples [77.99182201815763]
ディープニューラルネットワーク(DNN)は、敵対的な例やその他のデータ摂動に対して脆弱である。
GraNは、どのDNNにも容易に適応できる時間およびパラメータ効率の手法である。
GraNは多くの問題セットで最先端のパフォーマンスを達成する。
論文 参考訳（メタデータ） (2020-04-20T10:09:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。