論文の概要: Metamorphic Runtime Monitoring of Autonomous Driving Systems
- arxiv url: http://arxiv.org/abs/2310.07414v1
- Date: Wed, 11 Oct 2023 11:59:55 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-23 03:13:06.206834
- Title: Metamorphic Runtime Monitoring of Autonomous Driving Systems
- Title(参考訳): 自律走行システムの変成時モニタリング
- Authors: Jon Ayerdi, Asier Iriarte, Pablo Valle, Ibai Roman, Miren
Illarramendi, Aitor Arrieta
- Abstract要約: メタモーフィックリレーショナル(MR)に基づく自律運転システム(ADS)のオンラインモニタリング手法であるMarMotを提案する。
MarMotは実行時のADSの不確実性を推定し、ADSの異常な動作を引き起こす可能性のある異常な状況の特定を可能にする。
その結果、MarMotは外部異常の35%から65%、内部異常の77%から100%を識別でき、SelfOracleとEnsembleベースのADSモニタリングのアプローチよりも優れていることがわかった。
- 参考スコア(独自算出の注目度): 6.349697926319577
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autonomous Driving Systems (ADSs) are complex Cyber-Physical Systems (CPSs)
that must ensure safety even in uncertain conditions. Modern ADSs often employ
Deep Neural Networks (DNNs), which may not produce correct results in every
possible driving scenario. Thus, an approach to estimate the confidence of an
ADS at runtime is necessary to prevent potentially dangerous situations. In
this paper we propose MarMot, an online monitoring approach for ADSs based on
Metamorphic Relations (MRs), which are properties of a system that hold among
multiple inputs and the corresponding outputs. Using domain-specific MRs,
MarMot estimates the uncertainty of the ADS at runtime, allowing the
identification of anomalous situations that are likely to cause a faulty
behavior of the ADS, such as driving off the road.
We perform an empirical assessment of MarMot with five different MRs, using a
small-scale ADS, two different circuits for training, and two additional
circuits for evaluation. Our evaluation encompasses the identification of both
external anomalies, e.g., fog, as well as internal anomalies, e.g., faulty DNNs
due to mislabeled training data. Our results show that MarMot can identify 35\%
to 65\% of the external anomalies and 77\% to 100\% of the internal anomalies,
outperforming both SelfOracle and Ensemble-based ADS monitoring approaches.
- Abstract(参考訳): 自律運転システム (Autonomous Driving Systems, ADS) は、不確実な状況下でも安全を確保しなければならない複雑なサイバー物理システム (CPS) である。
現代のADSはディープニューラルネットワーク(Deep Neural Networks, DNN)を用いることが多い。
したがって、潜在的に危険な状況を避けるためには、実行時にADSの信頼性を見積もるアプローチが必要である。
本稿では,複数の入力と対応する出力の間で保持されるシステムの特性である,メタモルフィックリレーション(mrs)に基づく広告のオンライン監視手法であるmarmotを提案する。
ドメイン固有のMRを用いて、MarMotは実行時のADSの不確実性を推定し、道路を運転するなど、ADSの異常な振る舞いを引き起こす可能性のある異常な状況を特定する。
小型のADSと2種類のトレーニング用回路,さらに2つの追加回路を用いて,5種類のMRを用いたMarMotの実証評価を行った。
本評価は,外部の異常,例えば霧,および内部異常,例えば誤ったラベル付きトレーニングデータによる欠陥dnnの同定を包含する。
その結果、MarMotは外部異常の35-65-%、内部異常の77-100-%を識別でき、SelfOracleおよびEnsembleベースのADSモニタリング手法よりも優れていることがわかった。
関連論文リスト
- Anomaly Detection for Incident Response at Scale [1.284857579394658]
我々は、Walmartのビジネスとシステムの状態をリアルタイムで監視する、機械学習ベースの異常検出製品を提案する。
3ヶ月にわたる検証の間、製品は3000以上のモデルから25以上のアプリケーション、プラットフォーム、運用チームへの予測を提供した。
AIDRは、検出にかかる時間が少なく、従来の方法よりも偽陽性が少ない、さまざまな社内チームで成功している。
論文 参考訳(メタデータ) (2024-04-24T00:46:19Z) - Characterization and Mitigation of Insufficiencies in Automated Driving Systems [0.5842419815638352]
自動運転(AD)システムは安全性、快適性、エネルギー効率を高める可能性がある。
ADSの商業展開と広く採用は、部分的には乗客の安全を損なうシステム機能不全(FI)が道路の危険状況を引き起こしているため、穏健である。
本研究の目的は、FI緩和を改善し、ADSの商業展開を高速化するために、汎用的なアーキテクチャ設計パターンを定式化することである。
論文 参考訳(メタデータ) (2024-04-15T08:19:13Z) - Run-time Introspection of 2D Object Detection in Automated Driving
Systems Using Learning Representations [13.529124221397822]
ディープニューラルネットワーク(DNN)に基づく2次元物体検出のための新しいイントロスペクションソリューションを提案する。
KITTIとBDDのデータセットで評価された1段階および2段階のオブジェクト検出器を用いて,2次元オブジェクト検出におけるエラー検出のためのSOTAイントロスペクション機構を実装した。
性能評価の結果,提案手法はSOTA法より優れており,BDDデータセットのエラー率を9%から17%まで絶対的に削減できることがわかった。
論文 参考訳(メタデータ) (2024-03-02T10:56:14Z) - DARTH: Holistic Test-time Adaptation for Multiple Object Tracking [87.72019733473562]
複数物体追跡(MOT)は、自律運転における知覚システムの基本的構成要素である。
運転システムの安全性の追求にもかかわらず、テスト時間条件における領域シフトに対するMOT適応問題に対する解決策は提案されていない。
我々はMOTの総合的なテスト時間適応フレームワークであるDARTHを紹介する。
論文 参考訳(メタデータ) (2023-10-03T10:10:42Z) - Boundary State Generation for Testing and Improvement of Autonomous
Driving Systems [4.378411442784295]
我々は、自律運転システム(ADS)テストのための新しいテストジェネレータであるGenBoを紹介する。
GenBoは、障害のない環境インスタンスで収集されたエゴ車の運転条件を変更し、挑戦的な運転条件を効率的に生成する。
このような境界条件を用いて、初期トレーニングデータセットを拡張し、テスト中のDNNモデルを再訓練する。
論文 参考訳(メタデータ) (2023-07-20T05:07:51Z) - DeepGuard: A Framework for Safeguarding Autonomous Driving Systems from
Inconsistent Behavior [0.1529342790344802]
ディープニューラルネットワーク(DNN)ベースの自律運転システム(ADS)は、道路事故を減らし、交通領域の安全性を向上させることが期待されている。
DNNベースのADSは、事故を引き起こす可能性のある予期せぬ運転条件のために、誤動作や予期せぬ動作を示すことがある。
本研究では,自動エンコーダと時系列解析に基づく異常検出システムを提案する。
論文 参考訳(メタデータ) (2021-11-18T06:00:54Z) - DAE : Discriminatory Auto-Encoder for multivariate time-series anomaly
detection in air transportation [68.8204255655161]
識別オートエンコーダ(DAE)と呼ばれる新しい異常検出モデルを提案する。
通常のLSTMベースのオートエンコーダのベースラインを使用するが、いくつかのデコーダがあり、それぞれ特定の飛行フェーズのデータを取得する。
その結果,DAEは精度と検出速度の両方で良好な結果が得られることがわかった。
論文 参考訳(メタデータ) (2021-09-08T14:07:55Z) - Invisible for both Camera and LiDAR: Security of Multi-Sensor Fusion
based Perception in Autonomous Driving Under Physical-World Attacks [62.923992740383966]
本稿では,MDFに基づくADシステムにおけるセキュリティ問題の最初の研究について述べる。
物理的に実現可能な逆3Dプリントオブジェクトを生成し、ADシステムが検出に失敗してクラッシュする。
以上の結果から,攻撃は様々なオブジェクトタイプおよびMSFに対して90%以上の成功率を達成した。
論文 参考訳(メタデータ) (2021-06-17T05:11:07Z) - Unsupervised Domain Adaptation for Speech Recognition via Uncertainty
Driven Self-Training [55.824641135682725]
WSJ をソースドメインとし,TED-Lium 3 とSWITCHBOARD を併用したドメイン適応実験を行った。
論文 参考訳(メタデータ) (2020-11-26T18:51:26Z) - Towards robust sensing for Autonomous Vehicles: An adversarial
perspective [82.83630604517249]
結果として得られる決定が摂動に対して堅牢であることは、最も重要なことです。
敵対的摂動は、意図的に環境や感覚測定の修正を施したものである。
より安全なシステムの構築とデプロイには,センサーシステムの脆弱性を慎重に評価する必要がある。
論文 参考訳(メタデータ) (2020-07-14T05:25:15Z) - Adaptive Anomaly Detection for IoT Data in Hierarchical Edge Computing [71.86955275376604]
本稿では,階層型エッジコンピューティング(HEC)システムに対する適応型異常検出手法を提案する。
本研究では,入力データから抽出した文脈情報に基づいてモデルを選択する適応的手法を設計し,異常検出を行う。
提案手法を実際のIoTデータセットを用いて評価し,検出タスクをクラウドにオフロードするのとほぼ同じ精度を維持しながら,検出遅延を84%削減できることを実証した。
論文 参考訳(メタデータ) (2020-01-10T05:29:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。