論文の概要: Towards a Systematic Risk Assessment of Deep Neural Network Limitations in Autonomous Driving Perception

• arxiv url: http://arxiv.org/abs/2604.20895v1
• Date: Tue, 21 Apr 2026 09:35:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-24 14:40:06.072357
• Title: Towards a Systematic Risk Assessment of Deep Neural Network Limitations in Autonomous Driving Perception
• Title（参考訳）: 自律走行知覚における深部ニューラルネットワーク限界のシステム的リスク評価に向けて
• Abstract要約: 安全と安全は、自動運転車の受け入れと受け入れに不可欠である。 ディープニューラルネットワーク(DNN)は、自律運転スタックの知覚とさらなるコンポーネントに広く利用されている。 DNNには、一般化の欠如、効率性、説明可能性、妥当性、堅牢性など、いくつかの制限がある。
• 参考スコア（独自算出の注目度）: 11.778810504629526
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Safety and security are essential for the admission and acceptance of automated and autonomous vehicles. Deep neural networks (DNNs) are widely used for perception and further components of the autonomous driving (AD) stack. However, they possess several limitations, including lack of generalization, efficiency, explainability, plausibility, and robustness. These insufficiencies can pose significant risks to autonomous driving systems. However, hazards, threats, and risks associated with DNN limitations in this domain have not been systematically studied so far. In this work, we propose a joint workflow for risk assessment combining the hazard analysis and risk assessment (HARA) following ISO 26262 and threat analysis and risk assessment (TARA) following the ISO/SAE 21434 to identify and analyze risks arising from inherent DNN limitations in AD perception.
• Abstract（参考訳）: 安全と安全は、自動運転車の受け入れと受け入れに不可欠である。 ディープニューラルネットワーク(DNN)は、自律運転(AD)スタックの認識とさらなるコンポーネントに広く使用されている。 しかし、一般化の欠如、効率性、説明可能性、妥当性、堅牢性など、いくつかの制限がある。 これらの不足は、自動運転システムに重大なリスクをもたらす可能性がある。 しかし、この領域のDNN制限に関連する危険、脅威、リスクは、今のところ体系的に研究されていない。 そこで本研究では,ISO 26262 のハザード分析とリスクアセスメント(hara)と,ISO/SAE 21434 の脅威分析とリスクアセスメント(TARA)を併用したリスクアセスメントのための共同ワークフローを提案する。

関連論文リスト

• Emergent Strategic Reasoning Risks in AI: A Taxonomy-Driven Evaluation Framework [63.74295981594549]
  大規模言語モデル(LLM)は、自身の目的を達成する行動に関与している。 これには、詐欺(故意に誤解を招くユーザや評価者)、評価ゲーム(安全テスト中のパフォーマンスを戦略的に操作する)、報酬ハッキングなどが含まれる。 自動行動リスク評価のための分類駆動型エージェントフレームワークであるESRRSimを紹介する。
  論文  参考訳（メタデータ） (2026-04-23T23:44:01Z)
• ForesightSafety Bench: A Frontier Risk Evaluation and Governance Framework towards Safe AI [38.70363180741332]
  ForesightSafety Bench"は、最先端AIモデルの安全性評価フレームワークである。 このベンチマークでは、数万の構造化されたリスクデータポイントと評価結果が蓄積されている。 このベンチマークに基づいて,20以上の主流大規模モデルの系統的評価と詳細な解析を行う。
  論文  参考訳（メタデータ） (2026-02-15T13:12:44Z)
• The Role of Risk Modeling in Advanced AI Risk Management [33.357295564462284]
  急速に進歩する人工知能(AI)システムは、新しい、不確実で、潜在的に破滅的なリスクをもたらす。 これらのリスクを管理するには、厳格なリスクモデリングの基盤となる成熟したリスク管理インフラストラクチャが必要です。 先進的なAIガバナンスは、同様の二重アプローチを採用するべきであり、検証可能な、確実に安全なAIアーキテクチャが緊急に必要である、と私たちは主張する。
  論文  参考訳（メタデータ） (2025-12-09T15:37:33Z)
• RADAR: A Risk-Aware Dynamic Multi-Agent Framework for LLM Safety Evaluation via Role-Specialized Collaboration [81.38705556267917]
  大規模言語モデル(LLM)の既存の安全性評価手法は、固有の制約に悩まされている。 リスク概念空間を再構築する理論的枠組みを導入する。 マルチエージェント協調評価フレームワークRADARを提案する。
  論文  参考訳（メタデータ） (2025-09-28T09:35:32Z)
• Frontier AI Risk Management Framework in Practice: A Risk Analysis Technical Report [51.17413460785022]
  本報告では,フロンティアリスクの包括的評価について述べる。 サイバー犯罪、生物学的および化学的リスク、説得と操作、制御不能な自律型AIR&D、戦略的騙しと計画、自己複製、共謀の7つの分野における重要なリスクを特定します。
  論文  参考訳（メタデータ） (2025-07-22T12:44:38Z)
• Fully Autonomous AI Agents Should Not be Developed [50.61667544399082]
  本稿では,完全自律型AIエージェントを開発すべきではないと主張している。 この立場を支持するために、我々は、従来の科学文献と現在の製品マーケティングから、異なるAIエージェントレベルを規定するために構築する。 分析の結果,システムの自律性によって人へのリスクが増大することが明らかとなった。
  論文  参考訳（メタデータ） (2025-02-04T19:00:06Z)
• EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
  EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。 高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。 しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。 本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
  論文  参考訳（メタデータ） (2024-08-08T13:19:37Z)
• LADRI: LeArning-based Dynamic Risk Indicator in Automated Driving System [0.38073142980732994]
  本稿では,自動運転システム(ADS)におけるリアルタイム動的リスクアセスメントのためのフレームワークを提案する。 提案手法はこれらの制限を超越し、ニューラルネットワーク(ANN)を用いてリスク次元を慎重に分析し分類する。
  論文  参考訳（メタデータ） (2024-01-04T11:09:15Z)
• A Counterfactual Safety Margin Perspective on the Scoring of Autonomous Vehicles' Riskiness [52.27309191283943]
  本稿では,異なるAVの行動のリスクを評価するためのデータ駆動型フレームワークを提案する。 本稿では,衝突を引き起こす可能性のある名目行動から最小限の偏差を示す,対実的安全マージンの概念を提案する。
  論文  参考訳（メタデータ） (2023-08-02T09:48:08Z)
• Model evaluation for extreme risks [46.53170857607407]
  AI開発のさらなる進歩は、攻撃的なサイバー能力や強力な操作スキルのような極端なリスクを引き起こす能力につながる可能性がある。 モデル評価が極端なリスクに対処するために重要である理由を説明します。
  論文  参考訳（メタデータ） (2023-05-24T16:38:43Z)
• SOTIF Entropy: Online SOTIF Risk Quantification and Mitigation for Autonomous Driving [16.78084912175149]
  本稿では,SOTIFリスクを最小化するための体系的アプローチとして,自己監視・自己適応システムを提案する。 このシステムのコアは、自動運転車内で実装された人工知能アルゴリズムのリスクモニタリングである。 固有認識アルゴリズムのリスクと外部衝突のリスクは、SOTIFエントロピーを介して共同で定量化される。
  論文  参考訳（メタデータ） (2022-11-08T05:02:12Z)
• Quantitative AI Risk Assessments: Opportunities and Challenges [7.35411010153049]
  リスクを減らす最善の方法は、包括的なAIライフサイクルガバナンスを実装することです。 リスクは技術コミュニティのメトリクスを使って定量化できます。 本稿では,このようなアプローチの機会,課題,潜在的影響に焦点をあてて,これらの課題について考察する。
  論文  参考訳（メタデータ） (2022-09-13T21:47:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。