論文の概要: Model-based Exploration of the Frontier of Behaviours for Deep Learning System Testing

• arxiv url: http://arxiv.org/abs/2007.02787v1
• Date: Mon, 6 Jul 2020 14:42:11 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-13 01:59:44.765285
• Title: Model-based Exploration of the Frontier of Behaviours for Deep Learning System Testing
• Title（参考訳）: ディープラーニングシステムテストのためのモデルに基づく行動のフロンティア探索
• Authors: Vincenzo Riccio and Paolo Tonella
• Abstract要約: 深層学習(DL)システムは、テスト対象システムの妥当性領域内の有無にかかわらず、入力として提供される任意の数値ベクトルに対して出力を生成する。 本稿では,行動のフロンティア,すなわちDLシステムが誤動作し始める入力について紹介する。 We developed DeepJanus, a search-based tool that generate frontier inputs for DL systems。
• 参考スコア（独自算出の注目度）: 4.632232395989182
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: With the increasing adoption of Deep Learning (DL) for critical tasks, such as autonomous driving, the evaluation of the quality of systems that rely on DL has become crucial. Once trained, DL systems produce an output for any arbitrary numeric vector provided as input, regardless of whether it is within or outside the validity domain of the system under test. Hence, the quality of such systems is determined by the intersection between their validity domain and the regions where their outputs exhibit a misbehaviour. In this paper, we introduce the notion of frontier of behaviours, i.e., the inputs at which the DL system starts to misbehave. If the frontier of misbehaviours is outside the validity domain of the system, the quality check is passed. Otherwise, the inputs at the intersection represent quality deficiencies of the system. We developed DeepJanus, a search-based tool that generates frontier inputs for DL systems. The experimental results obtained for the lane keeping component of a self-driving car show that the frontier of a well trained system contains almost exclusively unrealistic roads that violate the best practices of civil engineering, while the frontier of a poorly trained one includes many valid inputs that point to serious deficiencies of the system.
• Abstract（参考訳）: 自律運転などの重要なタスクにおけるディープラーニング(DL)の採用の増加に伴い、DLに依存するシステムの品質評価が重要になっている。 訓練が完了すると、dlシステムは入力として提供される任意の数値ベクトルに対して、テスト対象のシステムの有効領域内外に関わらず出力を生成する。 したがって、これらのシステムの品質は、その妥当性ドメインと出力が誤った振る舞いを示す領域との交点によって決定される。 本稿では,行動のフロンティアの概念,すなわちdlシステムが誤解し始める入力について述べる。 誤動作のフロンティアがシステムの妥当性ドメインの外にある場合、品質チェックがパスされる。 そうでなければ、交点の入力はシステムの質の欠陥を表す。 dlシステムのフロンティア入力を生成する検索ベースのツールであるdeepjanusを開発した。 自動走行車の車線維持部品について得られた実験結果から、十分に訓練されたシステムのフロンティアは、土木工学のベストプラクティスに違反したほぼ独占的に非現実的な道路を含み、未訓練のフロンティアは、システムの重大な欠陥を示す多くの有効な入力を含むことが示された。

関連論文リスト

• Deep Learning System Boundary Testing through Latent Space Style Mixing [3.4561220135252277]
  テスト中の深層学習システムのためのフロンティア入力を生成する新しいブラックボックスシステム非依存テストジェネレータMIMICRYを紹介する。 MIMICRYは、アンタングルされた特徴を持つ入力の表現を学ぶために訓練されたスタイルベースの生成敵ネットワークを使用する。 一般的な4つのDL画像分類システムにおける境界入力生成におけるMIMICRY構成の有効性を評価した。
  論文  参考訳（メタデータ） (2024-08-12T16:14:55Z)
• Analyzing Adversarial Inputs in Deep Reinforcement Learning [53.3760591018817]
  本稿では, 正当性検証のレンズを用いて, 逆入力の特性を包括的に解析する。 このような摂動に対する感受性に基づいてモデルを分類するために、新しい計量である逆数率(Adversarial Rate)を導入する。 本分析は, 直交入力が所定のDRLシステムの安全性にどのように影響するかを実証的に示す。
  論文  参考訳（メタデータ） (2024-02-07T21:58:40Z)
• GARL: Genetic Algorithm-Augmented Reinforcement Learning to Detect Violations in Marker-Based Autonomous Landing Systems [0.7461036096470347]
  従来のオフラインテスト手法では、人間や動物のような動的なオブジェクトによる違反事例を見逃します。 オンラインテストの方法は、限られた予算で実行できない広範囲なトレーニング時間を必要とする。 本稿では遺伝的アルゴリズム(GA)と強化学習(RL)を組み合わせたフレームワークであるGARLを紹介する。
  論文  参考訳（メタデータ） (2023-10-11T10:54:01Z)
• DARTH: Holistic Test-time Adaptation for Multiple Object Tracking [87.72019733473562]
  複数物体追跡(MOT)は、自律運転における知覚システムの基本的構成要素である。 運転システムの安全性の追求にもかかわらず、テスト時間条件における領域シフトに対するMOT適応問題に対する解決策は提案されていない。 我々はMOTの総合的なテスト時間適応フレームワークであるDARTHを紹介する。
  論文  参考訳（メタデータ） (2023-10-03T10:10:42Z)
• Detecting and Mitigating System-Level Anomalies of Vision-Based Controllers [7.095058159492494]
  ビジョンベースのコントローラは、新規またはアウト・オブ・ディストリビューションの入力に直面したとき、誤った予測を行うことができる。 本研究では,そのような閉ループ,システムレベルの障害を検知・緩和する実行時異常モニタを提案する。 本提案手法は, 視覚に基づくタクシー制御システムを用いた自律型航空機タクシーシステムにおいて, 提案手法の有効性を検証したものである。
  論文  参考訳（メタデータ） (2023-09-23T20:33:38Z)
• Unsupervised Self-Driving Attention Prediction via Uncertainty Mining and Knowledge Embedding [51.8579160500354]
  本研究では、不確実性モデリングと知識統合の駆動による自動運転の注意を予測できる教師なし手法を提案する。 結果は、完全に教師された最先端のアプローチと比較して、同等またはさらに印象的なパフォーマンスを示している。
  論文  参考訳（メタデータ） (2023-03-17T00:28:33Z)
• Multimodal Detection of Unknown Objects on Roads for Autonomous Driving [4.3310896118860445]
  未知の物体を検出する新しいパイプラインを提案する。 我々は,最先端の美術品検出モデルを逐次的に組み合わせることで,ライダーとカメラのデータを利用する。
  論文  参考訳（メタデータ） (2022-05-03T10:58:41Z)
• Differentiable Control Barrier Functions for Vision-based End-to-End Autonomous Driving [100.57791628642624]
  本稿では,視覚に基づくエンドツーエンド自動運転のための安全保証学習フレームワークを提案する。 我々は、勾配降下によりエンドツーエンドに訓練された微分制御バリア関数(dCBF)を備えた学習システムを設計する。
  論文  参考訳（メタデータ） (2022-03-04T16:14:33Z)
• Efficient and Robust LiDAR-Based End-to-End Navigation [132.52661670308606]
  我々は,LiDARをベースとした効率的なエンドツーエンドナビゲーションフレームワークを提案する。 本稿では,スパース畳み込みカーネル最適化とハードウェア対応モデル設計に基づくFast-LiDARNetを提案する。 次に,単一の前方通過のみから予測の不確かさを直接推定するハイブリッド・エビデンシャル・フュージョンを提案する。
  論文  参考訳（メタデータ） (2021-05-20T17:52:37Z)
• Out-of-Distribution Detection for Automotive Perception [58.34808836642603]
  ニューラルネットワーク(NN)は、自律運転におけるオブジェクト分類に広く使われている。 NNは、アウト・オブ・ディストリビューション(OOD)データとして知られるトレーニングデータセットで適切に表現されていない入力データでフェールすることができる。 本稿では,OODデータを必要としない入力がOODであるか否かを判定し,推論の計算コストを増大させる方法を提案する。
  論文  参考訳（メタデータ） (2020-11-03T01:46:35Z)
• Importance-Driven Deep Learning System Testing [12.483260526189449]
  ディープラーニング(DL)システムは、エンジニアリングインテリジェントなアプリケーションにとって重要な実現方法である。 安全およびセキュリティクリティカルなアプリケーションでDLシステムを使用するには、信頼性の高い運用に関するテストエビデンスを提供する必要がある。 DeepImportanceは、Importance-Driven Test Adequacy criterion(IDC)を伴う、体系的なテスト方法論である。
  論文  参考訳（メタデータ） (2020-02-09T19:20:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。