論文の概要: Hardware faults that matter: Understanding and Estimating the safety impact of hardware faults on object detection DNNs

• arxiv url: http://arxiv.org/abs/2209.03225v1
• Date: Wed, 7 Sep 2022 15:27:09 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-08 12:14:08.461044
• Title: Hardware faults that matter: Understanding and Estimating the safety impact of hardware faults on object detection DNNs
• Title（参考訳）: 重要なハードウェア欠陥:オブジェクト検出DNNにおけるハードウェア障害の安全性への影響の理解と推定
• Authors: Syed Qutub, Florian Geissler, Yang Peng, Ralf Grafe, Michael Paulitsch, Gereon Hinz, Alois Knoll
• Abstract要約: オブジェクト検出ニューラルネットワークモデルは、自動化運転やロボット工学のような、非常にダイナミックで安全に重要な環境で確実に機能する必要がある。 平均精度に基づく標準メトリクスは、画像レベルでではなく、オブジェクトレベルでモデルの脆弱性を推定する。 本稿では,不正確な画像検出に基づいて脆弱性を定量化するための新しい指標IVMODを提案する。
• 参考スコア（独自算出の注目度）: 3.906089726778615
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Object detection neural network models need to perform reliably in highly dynamic and safety-critical environments like automated driving or robotics. Therefore, it is paramount to verify the robustness of the detection under unexpected hardware faults like soft errors that can impact a systems perception module. Standard metrics based on average precision produce model vulnerability estimates at the object level rather than at an image level. As we show in this paper, this does not provide an intuitive or representative indicator of the safety-related impact of silent data corruption caused by bit flips in the underlying memory but can lead to an over- or underestimation of typical fault-induced hazards. With an eye towards safety-related real-time applications, we propose a new metric IVMOD (Image-wise Vulnerability Metric for Object Detection) to quantify vulnerability based on an incorrect image-wise object detection due to false positive (FPs) or false negative (FNs) objects, combined with a severity analysis. The evaluation of several representative object detection models shows that even a single bit flip can lead to a severe silent data corruption event with potentially critical safety implications, with e.g., up to (much greater than) 100 FPs generated, or up to approx. 90% of true positives (TPs) are lost in an image. Furthermore, with a single stuck-at-1 fault, an entire sequence of images can be affected, causing temporally persistent ghost detections that can be mistaken for actual objects (covering up to approx. 83% of the image). Furthermore, actual objects in the scene are continuously missed (up to approx. 64% of TPs are lost). Our work establishes a detailed understanding of the safety-related vulnerability of such critical workloads against hardware faults.
• Abstract（参考訳）: オブジェクト検出ニューラルネットワークモデルは、自動運転やロボティクスのような高度に動的かつ安全性に重要な環境で確実に実行する必要がある。 したがって、システム知覚モジュールに影響を及ぼすソフトエラーのような予期せぬハードウェア障害の下で検出のロバスト性を検証するのが最重要である。 平均精度に基づく標準メトリクスは、画像レベルではなく、オブジェクトレベルでモデルの脆弱性を推定する。 本稿では,本論文で示すように,基礎記憶におけるビットフリップによるサイレントデータの破損による安全性への影響を直感的あるいは代表的に示すものではないが,典型的な障害による危険の過度あるいは過小評価につながる可能性がある。 安全性関連リアルタイムアプリケーションに向けて,偽陽性 (fps) や偽陰性 (fns) オブジェクトによる不正確な画像検出に基づく脆弱性を定量化する新しい指標 ivmod (image-wise vulnerability metric for object detection) を提案する。 いくつかの代表的なオブジェクト検出モデルの評価は、単一のビットフリップでさえ、潜在的に重大な安全性に影響を及ぼす可能性のある、深刻なサイレントデータ破損イベントにつながる可能性があることを示している。 画像中の真陽性(TP)の90%が失われる。 さらに、単一のt-at-1フォールトでは、画像全体のシーケンスが影響を受け、時間的に永続的なゴースト検出が発生し、実際のオブジェクト(画像の約83%)と誤認される。 さらに、シーン内の実際のオブジェクトは、連続的に見逃される(TPの約64%が失われる)。 私たちの研究は、ハードウェア障害に対する重要なワークロードの安全性に関する脆弱性の詳細な理解を確立します。

関連論文リスト

• Uncertainty Estimation for 3D Object Detection via Evidential Learning [63.61283174146648]
  本稿では,3次元検出器における鳥の視線表示における明らかな学習損失を利用して,3次元物体検出の不確かさを定量化するためのフレームワークを提案する。 本研究では,これらの不確実性評価の有効性と重要性を,分布外シーンの特定,局所化の不十分な物体の発見,および(偽陰性)検出の欠如について示す。
  論文  参考訳（メタデータ） (2024-10-31T13:13:32Z)
• Understanding Impacts of Electromagnetic Signal Injection Attacks on Object Detection [33.819549876354515]
  本稿では,サイバー物理攻撃が物体検出モデルに与える影響を定量化し,解析する。 イメージセンサーが捉えた画像は、サイバー物理攻撃など、実際の応用におけるさまざまな要因に影響される可能性がある。
  論文  参考訳（メタデータ） (2024-07-23T09:22:06Z)
• Integrity Monitoring of 3D Object Detection in Automated Driving Systems using Raw Activation Patterns and Spatial Filtering [12.384452095533396]
  ディープニューラルネットワーク(DNN)モデルは、自動運転システム(ADS)における物体検出に広く利用されている。 しかし、そのようなモデルは、重大な安全性に影響を及ぼす可能性のあるエラーを起こしやすい。 このようなエラーを検知することを目的とした検査・自己評価モデルは、ADSの安全な配置において最重要となる。
  論文  参考訳（メタデータ） (2024-05-13T10:03:03Z)
• Visual Context-Aware Person Fall Detection [52.49277799455569]
  画像中の個人とオブジェクトを半自動分離するセグメンテーションパイプラインを提案する。 ベッド、椅子、車椅子などの背景オブジェクトは、転倒検知システムに挑戦し、誤ったポジティブアラームを引き起こす。 トレーニング中のオブジェクト固有のコンテキスト変換が、この課題を効果的に軽減することを示す。
  論文  参考訳（メタデータ） (2024-04-11T19:06:36Z)
• Robo3D: Towards Robust and Reliable 3D Perception against Corruptions [58.306694836881235]
  我々は,3次元検出器とセグメンタのロバスト性を,アウト・オブ・ディストリビューションのシナリオで検証するための,最初の総合的なベンチマークであるRobo3Dを紹介する。 気象条件の悪化,外乱,センサの故障などに起因する8種類の汚職について検討した。 本稿では,モデルレジリエンスを高めるための簡易なフレキシブルなボキセル化戦略とともに,密度に敏感なトレーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-03-30T17:59:17Z)
• Adversarially-Aware Robust Object Detector [85.10894272034135]
  本稿では,ロバスト検出器 (RobustDet) を提案する。 本モデルは, クリーン画像の検出能力を維持しながら, 傾きを効果的に解き, 検出堅牢性を著しく向上させる。
  論文  参考訳（メタデータ） (2022-07-13T13:59:59Z)
• On the Robustness of Quality Measures for GANs [136.18799984346248]
  本研究は、インセプションスコア(IS)やFr'echet Inception Distance(FID)のような生成モデルの品質測定の堅牢性を評価する。 このような測度は、加算画素摂動によっても操作可能であることを示す。
  論文  参考訳（メタデータ） (2022-01-31T06:43:09Z)
• Towards a Safety Case for Hardware Fault Tolerance in Convolutional Neural Networks Using Activation Range Supervision [1.7968112116887602]
  畳み込みニューラルネットワーク(CNN)は多くの安全クリティカルなコンピュータビジョンアプリケーションの一部として確立されている。 我々は,高度に信頼性の高い故障検知器として範囲監視が重要であることを示すことによって,CNNのプロトタイプ型安全ケースを構築した。 本研究では,無声データ破損の確率と訂正不能な誤りを効果的に抑制する,新しい非一様範囲制限法について検討する。
  論文  参考訳（メタデータ） (2021-08-16T11:13:55Z)
• Exploring Adversarial Robustness of Multi-Sensor Perception Systems in Self Driving [87.3492357041748]
  本稿では,敵物体をホスト車両の上に配置することで,マルチセンサ検出の実用的感受性を示す。 実験の結果, 攻撃が成功した原因は主に画像の特徴が損なわれやすいことが判明した。 よりロバストなマルチモーダル知覚システムに向けて,特徴分断を伴う敵対的訓練が,このような攻撃に対するロバスト性を大幅に高めることを示す。
  論文  参考訳（メタデータ） (2021-01-17T21:15:34Z)
• Online Monitoring of Object Detection Performance During Deployment [6.166295570030645]
  入力フレームのスライディングウィンドウ上での平均平均精度(mAP)を予測し,対象検出器の性能を監視するカスケードニューラルネットワークを提案する。 我々は、自律走行データセットと物体検出装置の異なる組み合わせを用いて、提案手法の評価を行った。
  論文  参考訳（メタデータ） (2020-11-16T07:01:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。