論文の概要: Future Vision of Dynamic Certification Schemes for Autonomous Systems
- arxiv url: http://arxiv.org/abs/2308.10340v1
- Date: Sun, 20 Aug 2023 19:06:57 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-23 13:16:07.506435
- Title: Future Vision of Dynamic Certification Schemes for Autonomous Systems
- Title(参考訳): 自律システムのための動的認証方式の将来展望
- Authors: Dasa Kusnirakova and Barbora Buhnova
- Abstract要約: 私たちは、重大な安全リスクをもたらす可能性のある、現在の認定戦略に関するいくつかの問題を特定します。
我々は、絶えず進化するシステムにおけるソフトウェア変更の不適切な反映と、システムの協力に対するサポートの欠如を強調します。
その他の欠点としては、認定の焦点が狭く、自律的なソフトウェアシステムの倫理的振る舞いを無視することが挙げられる。
- 参考スコア(独自算出の注目度): 3.151005833357807
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: As software becomes increasingly pervasive in critical domains like
autonomous driving, new challenges arise, necessitating rethinking of system
engineering approaches. The gradual takeover of all critical driving functions
by autonomous driving adds to the complexity of certifying these systems.
Namely, certification procedures do not fully keep pace with the dynamism and
unpredictability of future autonomous systems, and they may not fully guarantee
compliance with the requirements imposed on these systems.
In this paper, we have identified several issues with the current
certification strategies that could pose serious safety risks. As an example,
we highlight the inadequate reflection of software changes in constantly
evolving systems and the lack of support for systems' cooperation necessary for
managing coordinated movements. Other shortcomings include the narrow focus of
awarded certification, neglecting aspects such as the ethical behavior of
autonomous software systems. The contribution of this paper is threefold.
First, we analyze the existing international standards used in certification
processes in relation to the requirements derived from dynamic software
ecosystems and autonomous systems themselves, and identify their shortcomings.
Second, we outline six suggestions for rethinking certification to foster
comprehensive solutions to the identified problems. Third, a conceptual
Multi-Layer Trust Governance Framework is introduced to establish a robust
governance structure for autonomous ecosystems and associated processes,
including envisioned future certification schemes. The framework comprises
three layers, which together support safe and ethical operation of autonomous
systems.
- Abstract(参考訳): ソフトウェアが自動運転のような重要な領域に普及するにつれて、新たな課題が発生し、システムエンジニアリングアプローチの再検討が必要になる。
自律運転による全ての重要な運転機能の段階的な乗っ取りは、これらのシステムの認証の複雑さを増す。
すなわち、認定手続きは将来の自律システムのダイナミズムと予測不能に完全には対応せず、これらのシステムに課される要件の遵守を完全に保証するものではない。
本稿では,安全性の重大なリスクをもたらす可能性のある,現在の認定戦略に関するいくつかの問題点を指摘した。
例えば、絶えず進化するシステムにおけるソフトウェア変更の不十分な反映と、協調動作を管理するために必要なシステムの協調サポートの欠如を強調する。
その他の欠点としては、認定の焦点が狭く、自律的なソフトウェアシステムの倫理的振る舞いを無視することが挙げられる。
この論文の貢献は3倍である。
まず、認証プロセスで使用される既存の国際標準を、動的ソフトウェアエコシステムや自律システム自体の要件と関連づけて分析し、それらの欠点を特定する。
第2に,特定問題に対する包括的解決策を育むための認証の再検討に関する6つの提案について概説する。
第3に、自律的なエコシステムと関連するプロセスのための堅牢なガバナンス構造を確立するために、将来の認証スキームを含む概念的多層信頼ガバナンスフレームワークが導入された。
このフレームワークは、自律システムの安全かつ倫理的な運用をサポートする3つのレイヤで構成されている。
関連論文リスト
- No Trust without regulation! [0.0]
機械学習(ML)の性能の爆発と、その応用の可能性は、産業システムにおけるその利用を考慮し続けています。
安全と、その基準、規制、標準の問題については、いまだに片側に過度に残っています。
欧州委員会は、安全で信頼性があり、ヨーロッパの倫理的価値を尊重するAIベースのアプリケーションを統合するための、前進と強固なアプローチを構築するための基盤を築き上げた。
論文 参考訳(メタデータ) (2023-09-27T09:08:41Z) - A General Verification Framework for Dynamical and Control Models via
Certificate Synthesis [60.03938402120854]
システム仕様を符号化し、対応する証明書を定義するためのフレームワークを提供する。
コントローラと証明書を形式的に合成する自動化手法を提案する。
我々のアプローチは、ニューラルネットワークの柔軟性を利用して、制御のための安全な学習の幅広い分野に寄与する。
論文 参考訳(メタデータ) (2023-09-12T09:37:26Z) - Leveraging Traceability to Integrate Safety Analysis Artifacts into the
Software Development Process [51.42800587382228]
安全保証ケース(SAC)は、システムの進化中に維持することが困難である。
本稿では,ソフトウェアトレーサビリティを活用して,関連するシステムアーチファクトを安全解析モデルに接続する手法を提案する。
安全ステークホルダーがシステム変更が安全性に与える影響を分析するのに役立つように、システム変更の合理性を設計する。
論文 参考訳(メタデータ) (2023-07-14T16:03:27Z) - Rethinking Certification for Higher Trust and Ethical Safeguarding of
Autonomous Systems [6.24907186790431]
自律運転システムの現在の認定プロセスを変更する必要性について論じる。
提案した認証戦略に関するいくつかの問題を特定し,システムに大きな影響を与える可能性がある。
論文 参考訳(メタデータ) (2023-03-16T15:19:25Z) - AI Maintenance: A Robustness Perspective [91.28724422822003]
我々は、AIライフサイクルにおけるロバストネスの課題を強調し、自動車のメンテナンスに類似させることで、AIのメンテナンスを動機付ける。
本稿では,ロバストネスリスクの検出と軽減を目的としたAIモデル検査フレームワークを提案する。
我々のAIメンテナンスの提案は、AIライフサイクル全体を通して堅牢性評価、状態追跡、リスクスキャン、モデル硬化、規制を促進する。
論文 参考訳(メタデータ) (2023-01-08T15:02:38Z) - Systems Challenges for Trustworthy Embodied Systems [0.0]
エンボディシステムと呼ばれる、ますます自律的かつ自律的な新世代のシステムの開発が進んでいる。
実施されたシステムの振る舞いを有益な方法で調整し、人間中心の社会的価値との整合性を確保し、安全で信頼性の高い人間と機械の相互作用を設計することが不可欠である。
我々は、急進的なシステム工学が組み込みシステムからエンボディドシステムへの気候に到達し、状況を認識し、意図的に駆動され、爆発的に進化し、ほとんど予測不可能で、ますます自律的なエンボディドシステムのダイナミックフェデレーションの信頼性を保証していると論じている。
論文 参考訳(メタデータ) (2022-01-10T15:52:17Z) - Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。
我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。
我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
論文 参考訳(メタデータ) (2020-10-19T13:09:31Z) - Towards an Interface Description Template for AI-enabled Systems [77.34726150561087]
再利用(Reuse)は、システムアーキテクチャを既存のコンポーネントでインスタンス化しようとする、一般的なシステムアーキテクチャのアプローチである。
現在、コンポーネントが当初目的としていたものと異なるシステムで運用する可搬性を評価するために必要な情報の選択をガイドするフレームワークは存在しない。
我々は、AI対応コンポーネントの主情報をキャプチャするインターフェイス記述テンプレートの確立に向けて、現在進行中の作業について述べる。
論文 参考訳(メタデータ) (2020-07-13T20:30:26Z) - Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable
Claims [59.64274607533249]
AI開発者は、責任を負うことのできる検証可能な主張をする必要がある。
このレポートは、さまざまな利害関係者がAIシステムに関するクレームの妥当性を改善するための様々なステップを示唆している。
我々は、この目的のための10のメカニズム、すなわち、組織、ソフトウェア、ハードウェアを分析し、それらのメカニズムの実装、探索、改善を目的とした推奨を行う。
論文 参考訳(メタデータ) (2020-04-15T17:15:35Z) - A Structured Approach to Trustworthy Autonomous/Cognitive Systems [4.56877715768796]
信頼を確保するための一般的なアプローチはない。
本稿では,このギャップを正確に埋める枠組みを提案する。
現在の安全基準に基づく構造的アプローチとして,参照ライフサイクルを提案する。
論文 参考訳(メタデータ) (2020-02-19T14:36:27Z) - Towards a Framework for Certification of Reliable Autonomous Systems [3.3861948721202233]
計算システムは、人間の監督や制御なしに独自の決定を下したり、独自の行動を取ることができる場合、自律的である。
例えば、無人航空システムを民間空域で自律的に使用するために、どうやって認定できるのか?
ここでは、自律システムの信頼性の高い動作を提供するために、何が必要なのかを分析する。
我々は、研究者、技術者、規制当局への挑戦を含む規制ガイドラインの策定に向けたロードマップを提案する。
論文 参考訳(メタデータ) (2020-01-24T18:18:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。