論文の概要: Rethinking Certification for Higher Trust and Ethical Safeguarding of Autonomous Systems

• arxiv url: http://arxiv.org/abs/2303.09388v1
• Date: Thu, 16 Mar 2023 15:19:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2023-03-17 15:05:28.915459
• Title: Rethinking Certification for Higher Trust and Ethical Safeguarding of Autonomous Systems
• Title（参考訳）: 高信頼の認定再考と自律システムの倫理的保護
• Authors: Dasa Kusnirakova and Barbora Buhnova
• Abstract要約: 自律運転システムの現在の認定プロセスを変更する必要性について論じる。 提案した認証戦略に関するいくつかの問題を特定し,システムに大きな影響を与える可能性がある。
• 参考スコア（独自算出の注目度）: 6.24907186790431
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: With the increasing complexity of software permeating critical domains such as autonomous driving, new challenges are emerging in the ways the engineering of these systems needs to be rethought. Autonomous driving is expected to continue gradually overtaking all critical driving functions, which is adding to the complexity of the certification of autonomous driving systems. As a response, certification authorities have already started introducing strategies for the certification of autonomous vehicles and their software. But even with these new approaches, the certification procedures are not fully catching up with the dynamism and unpredictability of future autonomous systems, and thus may not necessarily guarantee compliance with all requirements imposed on these systems. In this paper, we identified a number of issues with the proposed certification strategies, which may impact the systems substantially. For instance, we emphasize the lack of adequate reflection on software changes occurring in constantly changing systems, or low support for systems' cooperation needed for the management of coordinated moves. Other shortcomings concern the narrow focus of the awarded certification by neglecting aspects such as the ethical behavior of autonomous software systems. The contribution of this paper is threefold. First, we discuss the motivation for the need to modify the current certification processes for autonomous driving systems. Second, we analyze current international standards used in the certification processes towards requirements derived from the requirements laid on dynamic software ecosystems and autonomous systems themselves. Third, we outline a concept for incorporating the missing parts into the certification procedure.
• Abstract（参考訳）: 自動運転のような重要なドメインを浸透させるソフトウェアの複雑さが増す中、これらのシステムのエンジニアリングを再考する必要がある新しい課題が生まれている。 自動運転は、自動運転システムの認証の複雑さを増し、重要な運転機能をすべて徐々に超えていくことが期待されている。 その結果、認証当局はすでに自動運転車とそのソフトウェアを認証するための戦略を導入している。 しかし、これらの新しいアプローチにもかかわらず、認証手続きは将来の自律システムのダイナミズムと予測不能に完全に追いついていないため、これらのシステムに課される全ての要件へのコンプライアンスを保証するとは限らない。 本稿では,システムに重大な影響を与える可能性のある認証戦略について,いくつかの問題点を特定した。 例えば、絶えず変化するシステムで発生するソフトウェア変更に対する適切なリフレクションの欠如や、協調動作の管理に必要なシステムの協力の低さを強調します。 他の欠点は、自律的なソフトウェアシステムの倫理的振る舞いなどの側面を無視して、認定された認定の焦点を狭めることである。 この論文の貢献は3倍である。 まず、自動運転システムにおける現在の認証プロセスを変更する必要のある動機について述べる。 第2に、認定プロセスで使用される現在の国際標準を、動的ソフトウェアエコシステムと自律システム自体に規定された要件から導かれる要件に分析する。 第3に、欠落した部分を認定手続きに組み込むという概念を概説する。

関連論文リスト

• In-House Evaluation Is Not Enough: Towards Robust Third-Party Flaw Disclosure for General-Purpose AI [93.33036653316591]
  我々はシステムの安全性を高めるために3つの介入を要求します。 まず、標準化されたAI欠陥レポートと研究者へのエンゲージメントのルールを用いることを提案する。 第2に,GPAIシステムプロバイダが広視野欠陥開示プログラムを採用することを提案する。 第3に,欠陥報告の分布を調整するための改良されたインフラの開発を提唱する。
  論文  参考訳（メタデータ） (2025-03-21T05:09:46Z)
• Open Challenges in the Formal Verification of Autonomous Driving [0.0]
  本稿では,自律走行システムの実例について述べる。 開発と統合に関連する重要なオープンな課題を特定します。 システム信頼性と安全性を確保するために,形式的検証手法がこれらの課題にどのように対処できるかを検討する。
  論文  参考訳（メタデータ） (2024-11-21T18:09:35Z)
• A Roadmap for Simulation-Based Testing of Autonomous Cyber-Physical Systems: Challenges and Future Direction [5.742965094549775]
  本稿では,自律システムのシミュレーションに基づくテストの戦略的ロードマップを開拓する。 本稿では,テスト自動化と品質保証に着目し,ACPSの課題と障害について論じる。
  論文  参考訳（メタデータ） (2024-05-02T07:42:33Z)
• Testing autonomous vehicles and AI: perspectives and challenges from cybersecurity, transparency, robustness and fairness [53.91018508439669]
  この研究は、人工知能を自律走行車(AV)に統合する複雑さを探求する AIコンポーネントがもたらした課題と、テスト手順への影響を調べます。 本稿は、重要な課題を特定し、AV技術におけるAIの研究・開発に向けた今後の方向性を提案する。
  論文  参考訳（メタデータ） (2024-02-21T08:29:42Z)
• No Trust without regulation! [0.0]
  機械学習(ML)の性能の爆発と、その応用の可能性は、産業システムにおけるその利用を考慮し続けています。 安全と、その基準、規制、標準の問題については、いまだに片側に過度に残っています。 欧州委員会は、安全で信頼性があり、ヨーロッパの倫理的価値を尊重するAIベースのアプリケーションを統合するための、前進と強固なアプローチを構築するための基盤を築き上げた。
  論文  参考訳（メタデータ） (2023-09-27T09:08:41Z)
• A General Framework for Verification and Control of Dynamical Models via Certificate Synthesis [54.959571890098786]
  システム仕様を符号化し、対応する証明書を定義するためのフレームワークを提供する。 コントローラと証明書を形式的に合成する自動化手法を提案する。 我々のアプローチは、ニューラルネットワークの柔軟性を利用して、制御のための安全な学習の幅広い分野に寄与する。
  論文  参考訳（メタデータ） (2023-09-12T09:37:26Z)
• Future Vision of Dynamic Certification Schemes for Autonomous Systems [3.151005833357807]
  私たちは、重大な安全リスクをもたらす可能性のある、現在の認定戦略に関するいくつかの問題を特定します。 我々は、絶えず進化するシステムにおけるソフトウェア変更の不適切な反映と、システムの協力に対するサポートの欠如を強調します。 その他の欠点としては、認定の焦点が狭く、自律的なソフトウェアシステムの倫理的振る舞いを無視することが挙げられる。
  論文  参考訳（メタデータ） (2023-08-20T19:06:57Z)
• When Authentication Is Not Enough: On the Security of Behavioral-Based Driver Authentication Systems [53.2306792009435]
  我々はランダムフォレストとリカレントニューラルネットワークアーキテクチャに基づく2つの軽量ドライバ認証システムを開発した。 我々は,SMARTCANとGANCANという2つの新しいエスケープアタックを開発することで,これらのシステムに対する攻撃を最初に提案する。 コントリビューションを通じて、これらのシステムを安全に採用する実践者を支援し、車の盗難を軽減し、ドライバーのセキュリティを高める。
  論文  参考訳（メタデータ） (2023-06-09T14:33:26Z)
• AI Maintenance: A Robustness Perspective [91.28724422822003]
  我々は、AIライフサイクルにおけるロバストネスの課題を強調し、自動車のメンテナンスに類似させることで、AIのメンテナンスを動機付ける。 本稿では,ロバストネスリスクの検出と軽減を目的としたAIモデル検査フレームワークを提案する。 我々のAIメンテナンスの提案は、AIライフサイクル全体を通して堅牢性評価、状態追跡、リスクスキャン、モデル硬化、規制を促進する。
  論文  参考訳（メタデータ） (2023-01-08T15:02:38Z)
• Towards an Interface Description Template for AI-enabled Systems [77.34726150561087]
  再利用(Reuse)は、システムアーキテクチャを既存のコンポーネントでインスタンス化しようとする、一般的なシステムアーキテクチャのアプローチである。 現在、コンポーネントが当初目的としていたものと異なるシステムで運用する可搬性を評価するために必要な情報の選択をガイドするフレームワークは存在しない。 我々は、AI対応コンポーネントの主情報をキャプチャするインターフェイス記述テンプレートの確立に向けて、現在進行中の作業について述べる。
  論文  参考訳（メタデータ） (2020-07-13T20:30:26Z)
• Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims [59.64274607533249]
  AI開発者は、責任を負うことのできる検証可能な主張をする必要がある。 このレポートは、さまざまな利害関係者がAIシステムに関するクレームの妥当性を改善するための様々なステップを示唆している。 我々は、この目的のための10のメカニズム、すなわち、組織、ソフトウェア、ハードウェアを分析し、それらのメカニズムの実装、探索、改善を目的とした推奨を行う。
  論文  参考訳（メタデータ） (2020-04-15T17:15:35Z)
• Towards a Framework for Certification of Reliable Autonomous Systems [3.3861948721202233]
  計算システムは、人間の監督や制御なしに独自の決定を下したり、独自の行動を取ることができる場合、自律的である。 例えば、無人航空システムを民間空域で自律的に使用するために、どうやって認定できるのか? ここでは、自律システムの信頼性の高い動作を提供するために、何が必要なのかを分析する。 我々は、研究者、技術者、規制当局への挑戦を含む規制ガイドラインの策定に向けたロードマップを提案する。
  論文  参考訳（メタデータ） (2020-01-24T18:18:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。