論文の概要: Rethinking Certification for Higher Trust and Ethical Safeguarding of
Autonomous Systems
- arxiv url: http://arxiv.org/abs/2303.09388v1
- Date: Thu, 16 Mar 2023 15:19:25 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-17 15:05:28.915459
- Title: Rethinking Certification for Higher Trust and Ethical Safeguarding of
Autonomous Systems
- Title（参考訳）: 高信頼の認定再考と自律システムの倫理的保護
- Authors: Dasa Kusnirakova and Barbora Buhnova
- Abstract要約: 自律運転システムの現在の認定プロセスを変更する必要性について論じる。
提案した認証戦略に関するいくつかの問題を特定し,システムに大きな影響を与える可能性がある。
- 参考スコア（独自算出の注目度）: 6.24907186790431
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: With the increasing complexity of software permeating critical domains such
as autonomous driving, new challenges are emerging in the ways the engineering
of these systems needs to be rethought. Autonomous driving is expected to
continue gradually overtaking all critical driving functions, which is adding
to the complexity of the certification of autonomous driving systems. As a
response, certification authorities have already started introducing strategies
for the certification of autonomous vehicles and their software. But even with
these new approaches, the certification procedures are not fully catching up
with the dynamism and unpredictability of future autonomous systems, and thus
may not necessarily guarantee compliance with all requirements imposed on these
systems. In this paper, we identified a number of issues with the proposed
certification strategies, which may impact the systems substantially. For
instance, we emphasize the lack of adequate reflection on software changes
occurring in constantly changing systems, or low support for systems'
cooperation needed for the management of coordinated moves. Other shortcomings
concern the narrow focus of the awarded certification by neglecting aspects
such as the ethical behavior of autonomous software systems. The contribution
of this paper is threefold. First, we discuss the motivation for the need to
modify the current certification processes for autonomous driving systems.
Second, we analyze current international standards used in the certification
processes towards requirements derived from the requirements laid on dynamic
software ecosystems and autonomous systems themselves. Third, we outline a
concept for incorporating the missing parts into the certification procedure.
- Abstract（参考訳）: 自動運転のような重要なドメインを浸透させるソフトウェアの複雑さが増す中、これらのシステムのエンジニアリングを再考する必要がある新しい課題が生まれている。
自動運転は、自動運転システムの認証の複雑さを増し、重要な運転機能をすべて徐々に超えていくことが期待されている。
その結果、認証当局はすでに自動運転車とそのソフトウェアを認証するための戦略を導入している。
しかし、これらの新しいアプローチにもかかわらず、認証手続きは将来の自律システムのダイナミズムと予測不能に完全に追いついていないため、これらのシステムに課される全ての要件へのコンプライアンスを保証するとは限らない。
本稿では,システムに重大な影響を与える可能性のある認証戦略について,いくつかの問題点を特定した。
例えば、絶えず変化するシステムで発生するソフトウェア変更に対する適切なリフレクションの欠如や、協調動作の管理に必要なシステムの協力の低さを強調します。
他の欠点は、自律的なソフトウェアシステムの倫理的振る舞いなどの側面を無視して、認定された認定の焦点を狭めることである。
この論文の貢献は3倍である。
まず、自動運転システムにおける現在の認証プロセスを変更する必要のある動機について述べる。
第2に、認定プロセスで使用される現在の国際標準を、動的ソフトウェアエコシステムと自律システム自体に規定された要件から導かれる要件に分析する。
第3に、欠落した部分を認定手続きに組み込むという概念を概説する。
関連論文リスト
- Data-Centric Governance [6.85316573653194]
現在のAIガバナンスアプローチは、主に手作業によるレビューとドキュメントプロセスで構成されている。
データに作用し、データを生成し、データエンジニアリングを通じて構築される。
本研究では、データセットとアルゴリズムによる評価を通じて、ガバナンス要件の体系化について検討する。
論文 参考訳（メタデータ） (2023-02-14T07:22:32Z) - AI Maintenance: A Robustness Perspective [91.28724422822003]
我々は、AIライフサイクルにおけるロバストネスの課題を強調し、自動車のメンテナンスに類似させることで、AIのメンテナンスを動機付ける。
本稿では,ロバストネスリスクの検出と軽減を目的としたAIモデル検査フレームワークを提案する。
我々のAIメンテナンスの提案は、AIライフサイクル全体を通して堅牢性評価、状態追跡、リスクスキャン、モデル硬化、規制を促進する。
論文 参考訳（メタデータ） (2023-01-08T15:02:38Z) - Systems Challenges for Trustworthy Embodied Systems [0.0]
エンボディシステムと呼ばれる、ますます自律的かつ自律的な新世代のシステムの開発が進んでいる。
実施されたシステムの振る舞いを有益な方法で調整し、人間中心の社会的価値との整合性を確保し、安全で信頼性の高い人間と機械の相互作用を設計することが不可欠である。
我々は、急進的なシステム工学が組み込みシステムからエンボディドシステムへの気候に到達し、状況を認識し、意図的に駆動され、爆発的に進化し、ほとんど予測不可能で、ますます自律的なエンボディドシステムのダイナミックフェデレーションの信頼性を保証していると論じている。
論文 参考訳（メタデータ） (2022-01-10T15:52:17Z) - Will bots take over the supply chain? Revisiting Agent-based supply
chain automation [71.77396882936951]
エージェントベースのサプライチェーンは2000年初頭から提案されている。
エージェントベースの技術は成熟しており、サプライチェーンに浸透している他の支援技術はギャップを埋めている。
例えば、IoTテクノロジのユビキティは、エージェントがサプライチェーンの状態を“理解”し、自動化のための新たな可能性を開くのに役立つ。
論文 参考訳（メタデータ） (2021-09-03T18:44:26Z) - An interdisciplinary conceptual study of Artificial Intelligence (AI)
for helping benefit-risk assessment practices: Towards a comprehensive
qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。
目的は、AIシステムを評価するための共有概念や相違点を特定することである。
論文 参考訳（メタデータ） (2021-05-07T12:01:31Z) - A Software Architecture for Autonomous Vehicles: Team LRM-B Entry in the
First CARLA Autonomous Driving Challenge [49.976633450740145]
本稿では,シミュレーション都市環境における自律走行車両のナビゲーション設計について述べる。
我々のアーキテクチャは、CARLA Autonomous Driving Challengeの要件を満たすために作られました。
論文 参考訳（メタデータ） (2020-10-23T18:07:48Z) - Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。
我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。
我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
論文 参考訳（メタデータ） (2020-10-19T13:09:31Z) - Towards an Interface Description Template for AI-enabled Systems [77.34726150561087]
再利用(Reuse)は、システムアーキテクチャを既存のコンポーネントでインスタンス化しようとする、一般的なシステムアーキテクチャのアプローチである。
現在、コンポーネントが当初目的としていたものと異なるシステムで運用する可搬性を評価するために必要な情報の選択をガイドするフレームワークは存在しない。
我々は、AI対応コンポーネントの主情報をキャプチャするインターフェイス記述テンプレートの確立に向けて、現在進行中の作業について述べる。
論文 参考訳（メタデータ） (2020-07-13T20:30:26Z) - Formal Verification of End-to-End Learning in Cyber-Physical Systems:
Progress and Challenges [7.955313479061443]
コンピュータチェックによる正式な正当性を構築することで、自律システムの安全性を確保することができるかもしれない。
本稿では,既存の形式的検証手法に基づく3つの仮定について述べる。
形式的検証による証拠の強度向上に向けた予備的な研究を要約する。
論文 参考訳（メタデータ） (2020-06-15T16:50:47Z) - A Structured Approach to Trustworthy Autonomous/Cognitive Systems [4.56877715768796]
信頼を確保するための一般的なアプローチはない。
本稿では,このギャップを正確に埋める枠組みを提案する。
現在の安全基準に基づく構造的アプローチとして,参照ライフサイクルを提案する。
論文 参考訳（メタデータ） (2020-02-19T14:36:27Z) - Towards a Framework for Certification of Reliable Autonomous Systems [3.3861948721202233]
計算システムは、人間の監督や制御なしに独自の決定を下したり、独自の行動を取ることができる場合、自律的である。
例えば、無人航空システムを民間空域で自律的に使用するために、どうやって認定できるのか?
ここでは、自律システムの信頼性の高い動作を提供するために、何が必要なのかを分析する。
我々は、研究者、技術者、規制当局への挑戦を含む規制ガイドラインの策定に向けたロードマップを提案する。
論文 参考訳（メタデータ） (2020-01-24T18:18:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。