論文の概要: Coverage-Driven Verification for Safety-by-Design in AI-Based Collision Avoidance Systems

• arxiv url: http://arxiv.org/abs/2608.20864v1
• Date: Fri, 21 Aug 2026 08:32:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-24 14:49:32.476369
• Title: Coverage-Driven Verification for Safety-by-Design in AI-Based Collision Avoidance Systems
• Title（参考訳）: AIによる衝突回避システムにおける安全設計のためのカバレッジ駆動検証
• Abstract要約: 本稿では,AI/ML構成型ODDの航空安全保証の文脈における代表性評価手法を提案する。 定量的尺度として, カイ二乗適合性試験を検証し, この設定で発生する大規模データセットには適さないことがわかった。 この手法は,AIによる空中衝突回避の例を用いて実証した。
• 参考スコア（独自算出の注目度）: 0.7285647284266376
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Artificial Intelligence (AI) offers significant potential for future aviation systems; however, its integration into safety-critical applications requires compliance with the aviation sector's stringent safety standards. For AI and Machine Learning (ML)-based systems, the European Union Aviation Safety Agency (EASA) emphasizes the need to demonstrate the representativeness and completeness of the Operational Design Domain (ODD) and the associated data distributions used during development and verification. Despite this requirement, a structured engineering process for defining target distributions and evaluating representativeness within ODDs remains largely unexplored. This work presents a method for representativeness assessment of AI/ML constituent ODDs in the context of aviation safety assurance. Starting from the methodical identification of suitable target distributions, a process flow is proposed that guides developers from ODD definition and parameter distribution modeling to the quantitative assessment and interpretation of coverage results with respect to EASA's learning assurance objectives. As quantitative measures, the chi-squared goodness-of-fit test is examined and found unsuitable for the large data sets arising in this setting, leading to the adoption of the Kullback--Leibler divergence and Cramér's $V$ for the representativeness assessment. The method is demonstrated using the example of AI-based airborne collision avoidance, employing experimental data from previous Horizontal Collision Avoidance System (HCAS) and Vertical Collision Avoidance System (VCAS) simulations. The results illustrate how statistical distribution comparison methods can support the assessment of representativeness for safety-critical AI applications and contribute toward a systematic Safety-by-Design AI engineering process aligned with emerging EASA guidance.
• Abstract（参考訳）: 人工知能(AI)は将来の航空システムにとって大きな可能性を秘めているが、安全上重要なアプリケーションに統合するには航空部門の厳格な安全基準に従う必要がある。 AIと機械学習(ML)ベースのシステムでは、欧州連合航空安全機関(EASA)は、オペレーショナルデザインドメイン(ODD)と、開発と検証で使用される関連するデータ分布の代表性と完全性を示す必要性を強調している。 この要求にもかかわらず、ターゲット分布を定義し、ODD内の代表性を評価するための構造化されたエンジニアリングプロセスは、ほとんど未解明のままである。 本稿では,AI/ML構成型ODDの航空安全保証の文脈における代表性評価手法を提案する。 適切な対象分布の方法論的同定から,ODDの定義とパラメータ分布のモデリングから,EASAの学習保証目標に対するカバレッジ結果の定量的評価と解釈までを導くプロセスフローが提案されている。 定量的尺度として, カイ二乗適合性試験を検証し, この設定で発生する大規模データセットには適さないことが明らかとなり, Kullback-Leibler 分岐と Cramér の $V$ が代表性評価に採用された。 本手法は,従来の水平衝突回避システム(HCAS)と垂直衝突回避システム(VCAS)のシミュレーションから得られた実験データを用いて,AIによる空中衝突回避の例を用いて実証した。 その結果、統計分布比較手法は、安全クリティカルなAIアプリケーションに対する代表性の評価をサポートし、新たなEASAガイダンスと整合した系統的安全設計AIエンジニアリングプロセスに寄与することを示す。

関連論文リスト

• AI Slop and Hallucinations in Vulnerability Assessment: A Survey on Reasoning Failures and Trustworthy Mitigation [48.55515767840701]
  AIスロープ(AI slop)は、アーティファクト、幻覚的脆弱性、可視だが正しくないパッチ、セマンティックに再パッケージされたバグレポートである。 本稿では,実証的証拠を調査し,統一メカニズムを特定し,信頼に値するトリアージへの道筋をたどる。
  論文  参考訳（メタデータ） (2026-08-26T11:48:38Z)
• Generative Responsible AI Data Evaluation Schema (GRAIDES) for AI Assurance in Local Government [0.0]
  GRAIDES(Generative Responsible Data Evaluation)は、AI観測可能性の集中化を目的とした軽量なオープンソースデータモデルである。 コード、アーキテクチャ、統計的評価の実践的青写真は、生成系保証へのアプローチに関するガイダンスとして共有されている。
  論文  参考訳（メタデータ） (2026-06-18T22:00:25Z)
• Evaluating Explainability in Safety-Critical ATR Systems: Limitations of Post-Hoc Methods and Paths Toward Robust XAI [2.3099144596725574]
  本稿では,安全クリティカルなATRシステムにおける説明可能性手法の構造化評価について述べる。 我々は、サリエンシベース、注意ベース、サロゲート・アプ・パッチを含む主要なXAIパラダイムを特定した。 我々は、急激な説明、摂動下での不安定性、視覚的に干渉する出力によって引き起こされる過度な信頼など、致命的な障害モードを導出する。
  論文  参考訳（メタデータ） (2026-05-07T06:42:08Z)
• From High-Dimensional Spaces to Verifiable ODD Coverage for Safety-Critical AI-based Systems [0.7285647284266376]
  現在のEASAガイドラインは、AI/MLコンポーネントのオペレーショナルデザインドメイン(ODD)の完全なカバレッジを規定している。 抽象的なODD定義と検証可能な証拠のギャップを埋めるために標準化されたエンジニアリング手法は存在しない。 本稿では,パラメータの離散化,制約に基づくフィルタリング,臨界に基づく次元削減を構造化された多段階ORDカバレッジ検証プロセスに統合する手法を提案する。
  論文  参考訳（メタデータ） (2026-04-02T15:52:35Z)
• Detecting Cybersecurity Threats by Integrating Explainable AI with SHAP Interpretability and Strategic Data Sampling [0.0]
  このフレームワークは、脅威検出のためにAIをデプロイする際の3つの根本的な課題に対処する。 本手法は,計算オーバーヘッドを低減しつつ検出効率を維持する。 セキュリティ運用センターに信頼できるAIシステムをデプロイするための堅牢な基盤を提供する。
  論文  参考訳（メタデータ） (2026-02-22T08:01:14Z)
• ANNIE: Be Careful of Your Robots [48.89876809734855]
  エンボディドAIシステムに対する敵の安全攻撃に関する最初の体系的研究について述べる。 すべての安全カテゴリーで攻撃の成功率は50%を超えている。 結果は、実証済みのAIシステムにおいて、これまで未調査だったが、非常に連続的な攻撃面を露呈する。
  論文  参考訳（メタデータ） (2025-09-03T15:00:28Z)
• Systematic Hazard Analysis for Frontier AI using STPA [0.0]
  現在、フロンティアAI企業は、ハザードを特定し分析するための構造化アプローチの詳細を記述していない。 システム理論プロセス分析(Systems-Theoretic Process Analysis)は、複雑なシステムがいかに危険に晒されるかを特定するための体系的な方法論である。 我々は、フロンティアAIシステムにおいて、スコープを広げ、トレーサビリティを向上し、安全性保証の堅牢性を強化する能力を評価する。
  論文  参考訳（メタデータ） (2025-06-02T15:28:34Z)
• Advancing Embodied Agent Security: From Safety Benchmarks to Input Moderation [52.83870601473094]
  エンボディード・エージェントは、複数のドメインにまたがって大きな潜在能力を示す。 既存の研究は主に、一般的な大言語モデルのセキュリティに重点を置いている。 本稿では, エンボディエージェントの保護を目的とした新しい入力モデレーションフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-04-22T08:34:35Z)
• Computational Safety for Generative AI: A Signal Processing Perspective [65.268245109828]
  計算安全性は、GenAIにおける安全性の定量的評価、定式化、研究を可能にする数学的枠組みである。 ジェイルブレイクによる悪意のあるプロンプトを検出するために, 感度解析と損失景観解析がいかに有効かを示す。 我々は、AIの安全性における信号処理の鍵となる研究課題、機会、そして重要な役割について論じる。
  論文  参考訳（メタデータ） (2025-02-18T02:26:50Z)
• EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
  EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。 高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。 しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。 本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
  論文  参考訳（メタデータ） (2024-08-08T13:19:37Z)
• Evaluating the Safety of Deep Reinforcement Learning Models using Semi-Formal Verification [81.32981236437395]
  本稿では,区間分析に基づく半形式的意思決定手法を提案する。 本手法は, 標準ベンチマークに比較して, 形式検証に対して比較結果を得る。 提案手法は, 意思決定モデルにおける安全性特性を効果的に評価することを可能にする。
  論文  参考訳（メタデータ） (2020-10-19T11:18:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。