論文の概要: Risk-Driven Design of Perception Systems

• arxiv url: http://arxiv.org/abs/2205.10677v1
• Date: Sat, 21 May 2022 21:14:56 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-24 19:21:10.327480
• Title: Risk-Driven Design of Perception Systems
• Title（参考訳）: 認知システムのリスク駆動設計
• Authors: Anthony L. Corso, Sydney M. Katz, Craig Innes, Xin Du, Subramanian Ramamoorthy, Mykel J. Kochenderfer
• Abstract要約: システム全体の安全性を低下させるエラーを最小限に抑えるために,認識システムを設計することが重要である。 完全積分閉ループシステムの性能に及ぼす知覚誤差の影響を考慮に入れた認識システム設計のためのリスク駆動型アプローチを開発する。 本研究では,現実的な視界に基づく航空機による応用・回避技術の評価を行い,リスク駆動設計がベースラインシステム上での衝突リスクを37%低減することを示す。
• 参考スコア（独自算出の注目度）: 47.787943101699966
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modern autonomous systems rely on perception modules to process complex sensor measurements into state estimates. These estimates are then passed to a controller, which uses them to make safety-critical decisions. It is therefore important that we design perception systems to minimize errors that reduce the overall safety of the system. We develop a risk-driven approach to designing perception systems that accounts for the effect of perceptual errors on the performance of the fully-integrated, closed-loop system. We formulate a risk function to quantify the effect of a given perceptual error on overall safety, and show how we can use it to design safer perception systems by including a risk-dependent term in the loss function and generating training data in risk-sensitive regions. We evaluate our techniques on a realistic vision-based aircraft detect and avoid application and show that risk-driven design reduces collision risk by 37% over a baseline system.
• Abstract（参考訳）: 現代の自律システムは、複雑なセンサー計測を状態推定に処理するために知覚モジュールに依存している。 これらの見積もりはコントローラに渡され、安全クリティカルな意思決定に使用される。 したがって、システム全体の安全性を低下させる誤差を最小限に抑えるために知覚システムを設計することが重要である。 完全積分閉ループシステムの性能に及ぼす知覚誤差の影響を考慮に入れた認識システム設計のためのリスク駆動型アプローチを開発する。 与えられた知覚誤差が全体の安全性に与える影響を定量化するためのリスク関数を定式化し、リスク依存項を損失関数に含み、リスクに敏感な領域でトレーニングデータを生成することにより、より安全な知覚システムを設計する方法を示す。 我々は,現実の視覚に基づく航空機に適用を検知・回避する手法を評価し,リスク駆動設計によりベースラインシステムよりも衝突リスクを37%低減できることを示す。

関連論文リスト

• Incorporating System-level Safety Requirements in Perception Models via Reinforcement Learning [7.833541053347799]
  本稿では,システムレベルの安全目標を理解することにより,知覚要素を増強する訓練パラダイムを提案する。 このアプローチで訓練されたモデルは,システムレベルの安全性の観点から,ベースライン知覚モデルよりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-12-04T01:40:54Z)
• ABCD: Trust enhanced Attention based Convolutional Autoencoder for Risk Assessment [0.0]
  産業システムにおける異常検出は、機器故障の防止、リスク識別の確保、システム全体の効率の維持に不可欠である。 従来の監視方法は、固定されたしきい値と経験則に依存しており、システムの健康状態の微妙な変化を検出し、差し迫った失敗を予測するのに十分な敏感ではない。 本稿では,リスク検出のためのアテンションベース畳み込みオートエンコーダ(ABCD)を提案する。 ABCDは、実世界の産業用冷却システムの歴史的データから導電率の正常な挙動を学習し、入力データを再構成し、期待されるパターンから逸脱する異常を識別する。
  論文  参考訳（メタデータ） (2024-04-24T20:15:57Z)
• Leveraging Traceability to Integrate Safety Analysis Artifacts into the Software Development Process [51.42800587382228]
  安全保証ケース(SAC)は、システムの進化中に維持することが困難である。 本稿では,ソフトウェアトレーサビリティを活用して,関連するシステムアーチファクトを安全解析モデルに接続する手法を提案する。 安全ステークホルダーがシステム変更が安全性に与える影響を分析するのに役立つように、システム変更の合理性を設計する。
  論文  参考訳（メタデータ） (2023-07-14T16:03:27Z)
• Symbolic Perception Risk in Autonomous Driving [4.371383574272895]
  交通標識分類タスクにおける誤認識のリスクを評価するための新しい枠組みを開発する。 視覚的入力品質が徐々に向上する自律運転環境での問題を考える。 条件付き値-at-risk(CVaR)の誤認識のクローズドな表現を示す。
  論文  参考訳（メタデータ） (2023-03-16T15:49:24Z)
• Foveate, Attribute, and Rationalize: Towards Physically Safe and Trustworthy AI [76.28956947107372]
  包括的不安全テキストは、日常的なシナリオから生じる可能性のある特定の関心領域であり、有害なテキストを検出するのが困難である。 安全の文脈において、信頼に値する合理的な生成のために外部知識を活用する新しいフレームワークであるFARMを提案する。 実験の結果,FARMはSafeTextデータセットの最先端結果を得ることができ,安全性の分類精度が5.9%向上したことがわかった。
  論文  参考訳（メタデータ） (2022-12-19T17:51:47Z)
• Learning Disturbances Online for Risk-Aware Control: Risk-Aware Flight with Less Than One Minute of Data [33.7789991023177]
  安全クリティカルなリスク認識制御の最近の進歩は、システムが直面する可能性のある障害に関するアプリオリの知識に基づいている。 本稿では,リスク認識型オンラインコンテキストにおいて,これらの障害を効果的に学習する手法を提案する。
  論文  参考訳（メタデータ） (2022-12-12T21:40:23Z)
• SOTIF Entropy: Online SOTIF Risk Quantification and Mitigation for Autonomous Driving [16.78084912175149]
  本稿では,SOTIFリスクを最小化するための体系的アプローチとして,自己監視・自己適応システムを提案する。 このシステムのコアは、自動運転車内で実装された人工知能アルゴリズムのリスクモニタリングである。 固有認識アルゴリズムのリスクと外部衝突のリスクは、SOTIFエントロピーを介して共同で定量化される。
  論文  参考訳（メタデータ） (2022-11-08T05:02:12Z)
• Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
  CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。 次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。 これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
  論文  参考訳（メタデータ） (2022-08-23T05:02:09Z)
• Overcoming Failures of Imagination in AI Infused System Development and Deployment [71.9309995623067]
  NeurIPS 2020は研究論文に「潜在的な悪用と失敗の結果」に関するインパクトステートメントを含むよう要求した。 我々は、害の枠組みは文脈に適応し、潜在的な利害関係者、システム余裕、および最も広い意味での害を評価するための実行可能なプロキシを考える必要があると論じている。
  論文  参考訳（メタデータ） (2020-11-26T18:09:52Z)
• Towards robust sensing for Autonomous Vehicles: An adversarial perspective [82.83630604517249]
  結果として得られる決定が摂動に対して堅牢であることは、最も重要なことです。 敵対的摂動は、意図的に環境や感覚測定の修正を施したものである。 より安全なシステムの構築とデプロイには,センサーシステムの脆弱性を慎重に評価する必要がある。
  論文  参考訳（メタデータ） (2020-07-14T05:25:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。