論文の概要: Connected Dependability Cage: Run-Time Function and Anomaly Monitoring for the Development and Operation of Safe Automated Vehicles
- arxiv url: http://arxiv.org/abs/2604.27728v1
- Date: Thu, 30 Apr 2026 11:20:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-01 16:31:54.06337
- Title: Connected Dependability Cage: Run-Time Function and Anomaly Monitoring for the Development and Operation of Safe Automated Vehicles
- Title（参考訳）: 接続型依存性ケージ:安全自動車両の開発・運用における実行時機能と異常モニタリング
- Authors: Iqra Aslam, Nour Habib, Abhishek Buragohain, Meng Zhang, Andreas Rausch, Vaibhav Tiwari, Mohamed Benchat,
- Abstract要約: Connected Dependability Cageは、AI対応の知覚システムにおける階層的なフェールオペレーショナル動作を可能にする。
システムは優雅な劣化をサポートし、究極的には最小リスクの操作戦略への移行を可能にする。
- 参考スコア（独自算出の注目度）: 4.255452662944005
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The advancement of automated vehicles introduces complex safety challenges, particularly in dynamic and unpredictable environments where AI-enabled perception systems must operate reliably. Ensuring compliance with safety standards such as ISO 26262 and ISO/PAS 21448 (SOTIF) is essential for addressing system malfunctions and mitigating unsafe behavior in unknown scenarios. However, as automation levels increase, vehicles must go beyond conventional functional safety by incorporating fail-operational capabilities that enable continued safe operation during system or component failures and the handling of unfamiliar or degraded operational conditions. To address these safety concerns, we propose the Connected Dependability Cage, an architectural framework designed to enable hierarchical fail-operational behavior in AI-enabled perception systems. This framework integrates two complementary monitoring mechanisms: a Function Monitor that oversees multiple heterogeneous AI-based perception pipelines and detects inconsistencies through a voting mechanism, and an Anomaly Monitor that evaluates the reliability of AI perception by detecting unknown or novel objects in scenes that may be excluded from the training dataset. In the presence of critical discrepancies, the system supports graceful degradation, ultimately enabling a transition to a minimal-risk maneuver strategy. Furthermore, whenever either monitor raises a safety flag, an automated data recording process is initiated to facilitate iterative system development and continuous improvement. Both monitors have been implemented and validated through extensive vehicle testing, demonstrating their practical effectiveness in real-world applications.
- Abstract（参考訳）: 自動走行車の進歩は、特にAI対応の知覚システムが確実に動作しなければならない動的で予測不可能な環境では、複雑な安全上の課題をもたらす。
ISO 26262 や ISO/PAS 21448 (SOTIF) などの安全基準の遵守は、システム障害に対処し、未知のシナリオにおける安全でない振る舞いを緩和するために不可欠である。
しかし、自動化レベルが向上するにつれて、車両はシステムやコンポーネントの故障時に安全な運転を継続できるフェール・オペレーショナルな機能と、不慣れまたは劣化した運転条件の処理を組み込むことで、従来の機能的安全を超えなければならない。
これらの安全性問題に対処するために,AI対応認識システムにおける階層的フェール操作動作を可能にするアーキテクチャフレームワークであるConnected Dependability Cageを提案する。
このフレームワークは、複数の異種AIベースの知覚パイプラインを監視し、投票機構を介して不整合を検出するFunction Monitorと、トレーニングデータセットから除外される可能性のあるシーンにおいて未知または新規なオブジェクトを検出して、AI知覚の信頼性を評価するAnomaly Monitorの2つの補完的な監視メカニズムを統合する。
致命的な不一致の存在下では、システムは優雅な劣化をサポートし、最終的には最小リスクの操作戦略への移行を可能にする。
さらに、いずれのモニタも安全フラグを掲げるたびに、反復的なシステム開発と継続的改善を容易にする自動データ記録プロセスを開始する。
両モニターは広範囲な車両試験を通じて実装され、実世界の応用においてその実用性を実証している。
関連論文リスト
- On transferring safety certificates across dynamical systems [2.034258001065168]
制御障壁関数(CBF)は、制御系における安全制約を強制するための強力なツールである。
しかし、複雑な高次元力学への直接的な応用は、しばしば困難である。
本稿では,不整合な力学系間の安全保証を伝達する問題に対処する。
論文 参考訳（メタデータ） (2026-02-03T20:20:08Z) - A Survey of Agentic AI and Cybersecurity: Challenges, Opportunities and Use-case Prototypes [7.02443431688472]
Agentic AIは、単一ステップ生成モデルから、長期的タスクに対する推論、計画、行動、適応が可能なシステムへの重要な転換点である。
本調査は,サイバーセキュリティにおけるエージェントAIの影響について検討する。
論文 参考訳（メタデータ） (2026-01-08T02:46:06Z) - Perspectives on a Reliability Monitoring Framework for Agentic AI Systems [5.539407031861404]
エージェントAIシステムの動作時の信頼性の課題は,その特性に基づいて導出する。
本稿ではエージェントAIシステムのための2層信頼性監視フレームワークを提案する。
論文 参考訳（メタデータ） (2025-11-12T10:19:17Z) - OS-Sentinel: Towards Safety-Enhanced Mobile GUI Agents via Hybrid Validation in Realistic Workflows [77.95511352806261]
VLM(Vision-Language Models)を利用したコンピュータ利用エージェントは、モバイルプラットフォームのようなデジタル環境を操作する上で、人間のような能力を実証している。
我々は,明示的なシステムレベルの違反を検出するための形式検証器と,文脈的リスクとエージェント行動を評価するコンテキスト判断器を組み合わせた,新しいハイブリッド安全検出フレームワークOS-Sentinelを提案する。
論文 参考訳（メタデータ） (2025-10-28T13:22:39Z) - Towards provable probabilistic safety for scalable embodied AI systems [79.31011047593492]
エンボディードAIシステムは、様々なアプリケーションでますます普及している。
複雑な運用環境での安全性確保は依然として大きな課題である。
このパースペクティブは、安全で大規模に実施されたAIシステムを安全クリティカルなアプリケーションに採用するための道筋を提供する。
論文 参考訳（メタデータ） (2025-06-05T15:46:25Z) - Designing Control Barrier Function via Probabilistic Enumeration for Safe Reinforcement Learning Navigation [55.02966123945644]
本稿では,ニューラルネットワーク検証技術を利用して制御障壁関数(CBF)とポリシー修正機構の設計を行う階層型制御フレームワークを提案する。
提案手法は,安全なCBFベースの制御層を構築するために使用される,安全でない操作領域を特定するための確率的列挙に依存する。
これらの実験は、効率的なナビゲーション動作を維持しながら、安全でない動作を補正する提案手法の能力を実証するものである。
論文 参考訳（メタデータ） (2025-04-30T13:47:25Z) - Synergistic Redundancy: Towards Verifiable Safety for Autonomous
Vehicles [10.277825331268179]
我々は、自律走行車(AV)のような複雑なサイバー物理システムのための安全アーキテクチャとして、シナジスティック冗長性(SR)を提案する。
SRは、システムのミッションと安全タスクを分離することで、特定の障害に対する検証可能な安全保証を提供する。
ミッション層との密接な調整により、システム内の安全クリティカルな障害を容易かつ早期に検出することができる。
論文 参考訳（メタデータ） (2022-09-04T23:52:03Z) - Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。
次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。
これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
論文 参考訳（メタデータ） (2022-08-23T05:02:09Z) - Safe Perception -- A Hierarchical Monitor Approach [0.0]
本稿では,AIに基づく認識システムのための新しい階層的モニタリング手法を提案する。
検出ミスを確実に検出でき、同時に誤報率も極めて低い。
論文 参考訳（メタデータ） (2022-08-01T13:09:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。