論文の概要: Risk-Driven Design of Perception Systems
- arxiv url: http://arxiv.org/abs/2205.10677v1
- Date: Sat, 21 May 2022 21:14:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-24 19:21:10.327480
- Title: Risk-Driven Design of Perception Systems
- Title(参考訳): 認知システムのリスク駆動設計
- Authors: Anthony L. Corso, Sydney M. Katz, Craig Innes, Xin Du, Subramanian
Ramamoorthy, Mykel J. Kochenderfer
- Abstract要約: システム全体の安全性を低下させるエラーを最小限に抑えるために,認識システムを設計することが重要である。
完全積分閉ループシステムの性能に及ぼす知覚誤差の影響を考慮に入れた認識システム設計のためのリスク駆動型アプローチを開発する。
本研究では,現実的な視界に基づく航空機による応用・回避技術の評価を行い,リスク駆動設計がベースラインシステム上での衝突リスクを37%低減することを示す。
- 参考スコア(独自算出の注目度): 47.787943101699966
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Modern autonomous systems rely on perception modules to process complex
sensor measurements into state estimates. These estimates are then passed to a
controller, which uses them to make safety-critical decisions. It is therefore
important that we design perception systems to minimize errors that reduce the
overall safety of the system. We develop a risk-driven approach to designing
perception systems that accounts for the effect of perceptual errors on the
performance of the fully-integrated, closed-loop system. We formulate a risk
function to quantify the effect of a given perceptual error on overall safety,
and show how we can use it to design safer perception systems by including a
risk-dependent term in the loss function and generating training data in
risk-sensitive regions. We evaluate our techniques on a realistic vision-based
aircraft detect and avoid application and show that risk-driven design reduces
collision risk by 37% over a baseline system.
- Abstract(参考訳): 現代の自律システムは、複雑なセンサー計測を状態推定に処理するために知覚モジュールに依存している。
これらの見積もりはコントローラに渡され、安全クリティカルな意思決定に使用される。
したがって、システム全体の安全性を低下させる誤差を最小限に抑えるために知覚システムを設計することが重要である。
完全積分閉ループシステムの性能に及ぼす知覚誤差の影響を考慮に入れた認識システム設計のためのリスク駆動型アプローチを開発する。
与えられた知覚誤差が全体の安全性に与える影響を定量化するためのリスク関数を定式化し、リスク依存項を損失関数に含み、リスクに敏感な領域でトレーニングデータを生成することにより、より安全な知覚システムを設計する方法を示す。
我々は,現実の視覚に基づく航空機に適用を検知・回避する手法を評価し,リスク駆動設計によりベースラインシステムよりも衝突リスクを37%低減できることを示す。
関連論文リスト
- KnowSafe: Combined Knowledge and Data Driven Hazard Mitigation in
Artificial Pancreas Systems [3.146076597280736]
KnowSafeは、安全を害する悪意のある攻撃や、CPSコントローラを標的とした偶発的な障害による安全性の危険を予測し軽減する。
安全制約のドメイン固有の知識とコンテキスト固有の緩和行動と機械学習(ML)技術を統合する。
KnowSafeは、システム状態の軌跡や潜在的な危険を予測する上で、より高い精度を達成することで、最先端技術よりも優れています。
論文 参考訳(メタデータ) (2023-11-13T16:43:34Z) - A Counterfactual Safety Margin Perspective on the Scoring of Autonomous
Vehicles' Riskiness [52.27309191283943]
本稿では,異なるAVの行動のリスクを評価するためのデータ駆動型フレームワークを提案する。
本稿では,衝突を引き起こす可能性のある名目行動から最小限の偏差を示す,対実的安全マージンの概念を提案する。
論文 参考訳(メタデータ) (2023-08-02T09:48:08Z) - Leveraging Traceability to Integrate Safety Analysis Artifacts into the
Software Development Process [51.42800587382228]
安全保証ケース(SAC)は、システムの進化中に維持することが困難である。
本稿では,ソフトウェアトレーサビリティを活用して,関連するシステムアーチファクトを安全解析モデルに接続する手法を提案する。
安全ステークホルダーがシステム変更が安全性に与える影響を分析するのに役立つように、システム変更の合理性を設計する。
論文 参考訳(メタデータ) (2023-07-14T16:03:27Z) - Symbolic Perception Risk in Autonomous Driving [4.371383574272895]
交通標識分類タスクにおける誤認識のリスクを評価するための新しい枠組みを開発する。
視覚的入力品質が徐々に向上する自律運転環境での問題を考える。
条件付き値-at-risk(CVaR)の誤認識のクローズドな表現を示す。
論文 参考訳(メタデータ) (2023-03-16T15:49:24Z) - Foveate, Attribute, and Rationalize: Towards Physically Safe and
Trustworthy AI [76.28956947107372]
包括的不安全テキストは、日常的なシナリオから生じる可能性のある特定の関心領域であり、有害なテキストを検出するのが困難である。
安全の文脈において、信頼に値する合理的な生成のために外部知識を活用する新しいフレームワークであるFARMを提案する。
実験の結果,FARMはSafeTextデータセットの最先端結果を得ることができ,安全性の分類精度が5.9%向上したことがわかった。
論文 参考訳(メタデータ) (2022-12-19T17:51:47Z) - Learning Disturbances Online for Risk-Aware Control: Risk-Aware Flight
with Less Than One Minute of Data [33.7789991023177]
安全クリティカルなリスク認識制御の最近の進歩は、システムが直面する可能性のある障害に関するアプリオリの知識に基づいている。
本稿では,リスク認識型オンラインコンテキストにおいて,これらの障害を効果的に学習する手法を提案する。
論文 参考訳(メタデータ) (2022-12-12T21:40:23Z) - SOTIF Entropy: Online SOTIF Risk Quantification and Mitigation for
Autonomous Driving [16.78084912175149]
本稿では,SOTIFリスクを最小化するための体系的アプローチとして,自己監視・自己適応システムを提案する。
このシステムのコアは、自動運転車内で実装された人工知能アルゴリズムのリスクモニタリングである。
固有認識アルゴリズムのリスクと外部衝突のリスクは、SOTIFエントロピーを介して共同で定量化される。
論文 参考訳(メタデータ) (2022-11-08T05:02:12Z) - The Risks of Machine Learning Systems [11.105884571838818]
システム全体のリスクは、その直接的および間接的な影響に影響される。
MLのリスク/インパクト評価のための既存のフレームワークは、しばしばリスクの抽象的な概念に対処する。
1次リスクはMLシステムの側面に起因するが、2次リスクは1次リスクの結果に起因する。
論文 参考訳(メタデータ) (2022-04-21T02:42:10Z) - Overcoming Failures of Imagination in AI Infused System Development and
Deployment [71.9309995623067]
NeurIPS 2020は研究論文に「潜在的な悪用と失敗の結果」に関するインパクトステートメントを含むよう要求した。
我々は、害の枠組みは文脈に適応し、潜在的な利害関係者、システム余裕、および最も広い意味での害を評価するための実行可能なプロキシを考える必要があると論じている。
論文 参考訳(メタデータ) (2020-11-26T18:09:52Z) - Towards robust sensing for Autonomous Vehicles: An adversarial
perspective [82.83630604517249]
結果として得られる決定が摂動に対して堅牢であることは、最も重要なことです。
敵対的摂動は、意図的に環境や感覚測定の修正を施したものである。
より安全なシステムの構築とデプロイには,センサーシステムの脆弱性を慎重に評価する必要がある。
論文 参考訳(メタデータ) (2020-07-14T05:25:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。