論文の概要: Future Vision of Dynamic Certification Schemes for Autonomous Systems
- arxiv url: http://arxiv.org/abs/2308.10340v1
- Date: Sun, 20 Aug 2023 19:06:57 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-23 13:16:07.506435
- Title: Future Vision of Dynamic Certification Schemes for Autonomous Systems
- Title（参考訳）: 自律システムのための動的認証方式の将来展望
- Authors: Dasa Kusnirakova and Barbora Buhnova
- Abstract要約: 私たちは、重大な安全リスクをもたらす可能性のある、現在の認定戦略に関するいくつかの問題を特定します。
我々は、絶えず進化するシステムにおけるソフトウェア変更の不適切な反映と、システムの協力に対するサポートの欠如を強調します。
その他の欠点としては、認定の焦点が狭く、自律的なソフトウェアシステムの倫理的振る舞いを無視することが挙げられる。
- 参考スコア（独自算出の注目度）: 3.151005833357807
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: As software becomes increasingly pervasive in critical domains like
autonomous driving, new challenges arise, necessitating rethinking of system
engineering approaches. The gradual takeover of all critical driving functions
by autonomous driving adds to the complexity of certifying these systems.
Namely, certification procedures do not fully keep pace with the dynamism and
unpredictability of future autonomous systems, and they may not fully guarantee
compliance with the requirements imposed on these systems.
In this paper, we have identified several issues with the current
certification strategies that could pose serious safety risks. As an example,
we highlight the inadequate reflection of software changes in constantly
evolving systems and the lack of support for systems' cooperation necessary for
managing coordinated movements. Other shortcomings include the narrow focus of
awarded certification, neglecting aspects such as the ethical behavior of
autonomous software systems. The contribution of this paper is threefold.
First, we analyze the existing international standards used in certification
processes in relation to the requirements derived from dynamic software
ecosystems and autonomous systems themselves, and identify their shortcomings.
Second, we outline six suggestions for rethinking certification to foster
comprehensive solutions to the identified problems. Third, a conceptual
Multi-Layer Trust Governance Framework is introduced to establish a robust
governance structure for autonomous ecosystems and associated processes,
including envisioned future certification schemes. The framework comprises
three layers, which together support safe and ethical operation of autonomous
systems.
- Abstract（参考訳）: ソフトウェアが自動運転のような重要な領域に普及するにつれて、新たな課題が発生し、システムエンジニアリングアプローチの再検討が必要になる。
自律運転による全ての重要な運転機能の段階的な乗っ取りは、これらのシステムの認証の複雑さを増す。
すなわち、認定手続きは将来の自律システムのダイナミズムと予測不能に完全には対応せず、これらのシステムに課される要件の遵守を完全に保証するものではない。
本稿では,安全性の重大なリスクをもたらす可能性のある,現在の認定戦略に関するいくつかの問題点を指摘した。
例えば、絶えず進化するシステムにおけるソフトウェア変更の不十分な反映と、協調動作を管理するために必要なシステムの協調サポートの欠如を強調する。
その他の欠点としては、認定の焦点が狭く、自律的なソフトウェアシステムの倫理的振る舞いを無視することが挙げられる。
この論文の貢献は3倍である。
まず、認証プロセスで使用される既存の国際標準を、動的ソフトウェアエコシステムや自律システム自体の要件と関連づけて分析し、それらの欠点を特定する。
第2に,特定問題に対する包括的解決策を育むための認証の再検討に関する6つの提案について概説する。
第3に、自律的なエコシステムと関連するプロセスのための堅牢なガバナンス構造を確立するために、将来の認証スキームを含む概念的多層信頼ガバナンスフレームワークが導入された。
このフレームワークは、自律システムの安全かつ倫理的な運用をサポートする3つのレイヤで構成されている。
関連論文リスト
- Securing Legacy Communication Networks via Authenticated Cyclic Redundancy Integrity Check [98.34702864029796]
認証サイクル冗長性チェック(ACRIC)を提案する。
ACRICは、追加のハードウェアを必要とせずに後方互換性を保持し、プロトコルに依存しない。
ACRICは最小送信オーバーヘッド(1ms)で堅牢なセキュリティを提供する。
論文 参考訳（メタデータ） (2024-11-21T18:26:05Z) - Open Challenges in the Formal Verification of Autonomous Driving [0.0]
本稿では,自律走行システムの実例について述べる。
開発と統合に関連する重要なオープンな課題を特定します。
システム信頼性と安全性を確保するために,形式的検証手法がこれらの課題にどのように対処できるかを検討する。
論文 参考訳（メタデータ） (2024-11-21T18:09:35Z) - Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
我々は、AI安全性に対する一連のアプローチを紹介し、定義する。
これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。
これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
論文 参考訳（メタデータ） (2024-05-10T17:38:32Z) - A Roadmap for Simulation-Based Testing of Autonomous Cyber-Physical Systems: Challenges and Future Direction [5.742965094549775]
本稿では,自律システムのシミュレーションに基づくテストの戦略的ロードマップを開拓する。
本稿では,テスト自動化と品質保証に着目し,ACPSの課題と障害について論じる。
論文 参考訳（メタデータ） (2024-05-02T07:42:33Z) - Security Challenges in Autonomous Systems Design [1.864621482724548]
人間のコントロールから独立すると、このようなシステムのサイバーセキュリティはさらに重要になる。
人間のコントロールから独立すると、このようなシステムのサイバーセキュリティはさらに重要になる。
本稿では,技術の現状を徹底的に議論し,新たなセキュリティ課題を特定し,研究の方向性を提案する。
論文 参考訳（メタデータ） (2023-11-05T09:17:39Z) - Leveraging Traceability to Integrate Safety Analysis Artifacts into the
Software Development Process [51.42800587382228]
安全保証ケース(SAC)は、システムの進化中に維持することが困難である。
本稿では,ソフトウェアトレーサビリティを活用して,関連するシステムアーチファクトを安全解析モデルに接続する手法を提案する。
安全ステークホルダーがシステム変更が安全性に与える影響を分析するのに役立つように、システム変更の合理性を設計する。
論文 参考訳（メタデータ） (2023-07-14T16:03:27Z) - When Authentication Is Not Enough: On the Security of Behavioral-Based Driver Authentication Systems [53.2306792009435]
我々はランダムフォレストとリカレントニューラルネットワークアーキテクチャに基づく2つの軽量ドライバ認証システムを開発した。
我々は,SMARTCANとGANCANという2つの新しいエスケープアタックを開発することで,これらのシステムに対する攻撃を最初に提案する。
コントリビューションを通じて、これらのシステムを安全に採用する実践者を支援し、車の盗難を軽減し、ドライバーのセキュリティを高める。
論文 参考訳（メタデータ） (2023-06-09T14:33:26Z) - Rethinking Certification for Higher Trust and Ethical Safeguarding of
Autonomous Systems [6.24907186790431]
自律運転システムの現在の認定プロセスを変更する必要性について論じる。
提案した認証戦略に関するいくつかの問題を特定し,システムに大きな影響を与える可能性がある。
論文 参考訳（メタデータ） (2023-03-16T15:19:25Z) - AI Maintenance: A Robustness Perspective [91.28724422822003]
我々は、AIライフサイクルにおけるロバストネスの課題を強調し、自動車のメンテナンスに類似させることで、AIのメンテナンスを動機付ける。
本稿では,ロバストネスリスクの検出と軽減を目的としたAIモデル検査フレームワークを提案する。
我々のAIメンテナンスの提案は、AIライフサイクル全体を通して堅牢性評価、状態追跡、リスクスキャン、モデル硬化、規制を促進する。
論文 参考訳（メタデータ） (2023-01-08T15:02:38Z) - Systems Challenges for Trustworthy Embodied Systems [0.0]
エンボディシステムと呼ばれる、ますます自律的かつ自律的な新世代のシステムの開発が進んでいる。
実施されたシステムの振る舞いを有益な方法で調整し、人間中心の社会的価値との整合性を確保し、安全で信頼性の高い人間と機械の相互作用を設計することが不可欠である。
我々は、急進的なシステム工学が組み込みシステムからエンボディドシステムへの気候に到達し、状況を認識し、意図的に駆動され、爆発的に進化し、ほとんど予測不可能で、ますます自律的なエンボディドシステムのダイナミックフェデレーションの信頼性を保証していると論じている。
論文 参考訳（メタデータ） (2022-01-10T15:52:17Z) - Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable
Claims [59.64274607533249]
AI開発者は、責任を負うことのできる検証可能な主張をする必要がある。
このレポートは、さまざまな利害関係者がAIシステムに関するクレームの妥当性を改善するための様々なステップを示唆している。
我々は、この目的のための10のメカニズム、すなわち、組織、ソフトウェア、ハードウェアを分析し、それらのメカニズムの実装、探索、改善を目的とした推奨を行う。
論文 参考訳（メタデータ） (2020-04-15T17:15:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。