論文の概要: Autonomous Systems Dependability in the era of AI: Design Challenges in Safety, Security, Reliability and Certification
- arxiv url: http://arxiv.org/abs/2604.27807v2
- Date: Fri, 01 May 2026 12:54:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-04 13:37:10.937201
- Title: Autonomous Systems Dependability in the era of AI: Design Challenges in Safety, Security, Reliability and Certification
- Title（参考訳）: AI時代の自律システム依存 - 安全性、セキュリティ、信頼性、認定における設計上の課題
- Authors: Behnaz Ranjbar, Kirankumar Raveendiran, Sudeep Pasricha, Samarjit Chakraborty, Cecilia Carbonelli, Akash Kumar,
- Abstract要約: 組込み安全クリティカルシステムの設計は、システムの複雑さをエスカレートすることでますます困難になってきている。
従来の信頼性、安全性、セキュリティ管理の方法は、人工知能(AI)と機械学習(ML)によって導入された動的で不確実な振る舞いに対処するのに不足することが多い。
AIとMLは、システムの信頼性を高める強力な予測、適応、自己最適化機能を提供しますが、その固有の非決定性、データ依存性、正式な保証の欠如は、検証、検証、認定のための新たな課題をもたらします。
本稿では,AI時代の信頼性の高い自律型・組み込み型システムを設計するための新しい方法論,アーキテクチャ,フレームワークについて考察する。
- 参考スコア（独自算出の注目度）: 4.358009861529629
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The design of embedded safety-critical systems such as those used in next-generation automotive and autonomous platforms, is increasingly challenged by escalating system complexity, hardware-software heterogeneity, and the integration of intelligent, data-driven components. Ensuring dependability in such systems requires a holistic approach that spans multiple abstraction layers and encompasses both design- and run-time assurance. Traditional methods for reliability, safety, and security management often fall short in addressing the dynamic and uncertain behaviors introduced by Artificial Intelligence (AI) and Machine Learning (ML) components, especially under stringent real-time, power, and safety constraints. While AI and ML offer powerful predictive, adaptive, and self-optimizing capabilities that can enhance system dependability, their inherent non-determinism, data-dependence, and lack of formal guarantees introduce new challenges for verification, validation, and certification. This paper explores emerging methodologies, architectures, and frameworks for designing dependable autonomous and embedded systems in the era of AI. It highlight advances in reliability modeling, secure system design, and certification approaches that account for imperfect, learning-enabled components, aiming to bridge the gap between AI innovation and certifiable system-level dependability.
- Abstract（参考訳）: 次世代の自動車や自律プラットフォームで使用されるような組込み安全クリティカルシステムの設計は、システムの複雑さのエスカレーション、ハードウェア・ソフトウェアの不均一性、インテリジェントでデータ駆動型コンポーネントの統合によってますます困難になっている。
このようなシステムにおける信頼性を保証するには、複数の抽象化層にまたがる全体的なアプローチが必要であり、設計と実行時の保証の両方を包含する。
従来の信頼性、安全性、セキュリティ管理の方法は、人工知能(AI)と機械学習(ML)コンポーネントによって導入された動的で不確実な振る舞い、特に厳格なリアルタイム、パワー、安全性の制約に対処するのに不足することが多い。
AIとMLは、システムの信頼性を高める強力な予測、適応、自己最適化機能を提供しますが、その固有の非決定性、データ依存性、正式な保証の欠如は、検証、検証、認定のための新たな課題をもたらします。
本稿では,AI時代の信頼性の高い自律型および組み込み型システムを設計するための新しい方法論,アーキテクチャ,フレームワークについて検討する。
信頼性モデリング、セキュアなシステム設計、不完全で学習可能なコンポーネントを考慮に入れた認証アプローチの進歩を強調し、AIイノベーションと認定システムレベルの信頼性のギャップを埋めることを目指している。
関連論文リスト
- Physically Unclonable Functions for Secure IoT Authentication and Hardware-Anchored AI Model Integrity [1.9795169518658187]
この調査は、AI対応IoTシステムのハードウェアルート信頼メカニズムに関する既存の文献をレビューし、合成する。
TPM、PUF、コンテナ対応のハードウェアルーツの信頼、ソフトウェアのみのセキュリティアプローチなど、代表的な信頼アンカーメカニズムを調べて比較する。
PUFベースのハイブリッド信頼アンカーは、大規模でAI対応のIoTシステムに対して、有望なバランスを提供することを示している。
論文 参考訳（メタデータ） (2026-04-23T01:06:42Z) - TAIBOM: Bringing Trustworthiness to AI-Enabled Systems [0.23332469289621785]
透明性とトレーサビリティを高めるために、SBOM(Software Bills of Materials)が重要になっている。
現在のフレームワークは、AIシステムのユニークな特徴を捉えていない。
我々は、SBOMの原則をAIドメインに拡張する新しいフレームワークであるTAIBOM(Trusted AI Bill of Materials)を紹介する。
論文 参考訳（メタデータ） (2025-10-02T16:17:07Z) - Towards provable probabilistic safety for scalable embodied AI systems [79.31011047593492]
エンボディードAIシステムは、様々なアプリケーションでますます普及している。
複雑な運用環境での安全性確保は依然として大きな課題である。
このパースペクティブは、安全で大規模に実施されたAIシステムを安全クリティカルなアプリケーションに採用するための道筋を提供する。
論文 参考訳（メタデータ） (2025-06-05T15:46:25Z) - Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
我々は、AI安全性に対する一連のアプローチを紹介し、定義する。
これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。
これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
論文 参考訳（メタデータ） (2024-05-10T17:38:32Z) - AI Maintenance: A Robustness Perspective [91.28724422822003]
我々は、AIライフサイクルにおけるロバストネスの課題を強調し、自動車のメンテナンスに類似させることで、AIのメンテナンスを動機付ける。
本稿では,ロバストネスリスクの検出と軽減を目的としたAIモデル検査フレームワークを提案する。
我々のAIメンテナンスの提案は、AIライフサイクル全体を通して堅牢性評価、状態追跡、リスクスキャン、モデル硬化、規制を促進する。
論文 参考訳（メタデータ） (2023-01-08T15:02:38Z) - Proceedings of the Robust Artificial Intelligence System Assurance
(RAISA) Workshop 2022 [0.0]
RAISAワークショップは、堅牢な人工知能(AI)と機械学習(ML)システムの研究、開発、応用に焦点を当てる。
特定のMLアルゴリズムに関してロバストネスを研究するのではなく、システムアーキテクチャのレベルでロバストネスの保証を検討することを目的としています。
論文 参考訳（メタデータ） (2022-02-10T01:15:50Z) - Systems Challenges for Trustworthy Embodied Systems [0.0]
エンボディシステムと呼ばれる、ますます自律的かつ自律的な新世代のシステムの開発が進んでいる。
実施されたシステムの振る舞いを有益な方法で調整し、人間中心の社会的価値との整合性を確保し、安全で信頼性の高い人間と機械の相互作用を設計することが不可欠である。
我々は、急進的なシステム工学が組み込みシステムからエンボディドシステムへの気候に到達し、状況を認識し、意図的に駆動され、爆発的に進化し、ほとんど予測不可能で、ますます自律的なエンボディドシステムのダイナミックフェデレーションの信頼性を保証していると論じている。
論文 参考訳（メタデータ） (2022-01-10T15:52:17Z) - Statistical Perspectives on Reliability of Artificial Intelligence
Systems [6.284088451820049]
AIシステムの信頼性に関する統計的視点を提供する。
本稿では,AI信頼性研究のためのSMART統計フレームワークを提案する。
我々は、AI信頼性のモデリングと分析における最近の発展について論じる。
論文 参考訳（メタデータ） (2021-11-09T20:00:14Z) - Towards an Interface Description Template for AI-enabled Systems [77.34726150561087]
再利用(Reuse)は、システムアーキテクチャを既存のコンポーネントでインスタンス化しようとする、一般的なシステムアーキテクチャのアプローチである。
現在、コンポーネントが当初目的としていたものと異なるシステムで運用する可搬性を評価するために必要な情報の選択をガイドするフレームワークは存在しない。
我々は、AI対応コンポーネントの主情報をキャプチャするインターフェイス記述テンプレートの確立に向けて、現在進行中の作業について述べる。
論文 参考訳（メタデータ） (2020-07-13T20:30:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。