論文の概要: Towards Audit Requirements for AI-based Systems in Mobility Applications

• arxiv url: http://arxiv.org/abs/2302.13567v1
• Date: Mon, 27 Feb 2023 07:57:52 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-28 16:34:38.466412
• Title: Towards Audit Requirements for AI-based Systems in Mobility Applications
• Title（参考訳）: モバイルアプリケーションにおけるAIベースのシステムに対する監査要求に向けて
• Authors: Devi Padmavathi Alagarswamy, Christian Berghoff, Vasilios Danos, Fabian Langer, Thora Markert, Georg Schneider, Arndt von Twickel, Fabian Woitschek
• Abstract要約: 我々は、既存の規制を拡張し、ディープニューラルネットワーク(DNN)の具体的なニーズに対処する50の技術的要件またはベストプラクティスを提案する。 DNNに基づく交通標識認識システムの例証監査を行うことにより,提案する要件の適用性,有用性,有意義性を示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Various mobility applications like advanced driver assistance systems increasingly utilize artificial intelligence (AI) based functionalities. Typically, deep neural networks (DNNs) are used as these provide the best performance on the challenging perception, prediction or planning tasks that occur in real driving environments. However, current regulations like UNECE R 155 or ISO 26262 do not consider AI-related aspects and are only applied to traditional algorithm-based systems. The non-existence of AI-specific standards or norms prevents the practical application and can harm the trust level of users. Hence, it is important to extend existing standardization for security and safety to consider AI-specific challenges and requirements. To take a step towards a suitable regulation we propose 50 technical requirements or best practices that extend existing regulations and address the concrete needs for DNN-based systems. We show the applicability, usefulness and meaningfulness of the proposed requirements by performing an exemplary audit of a DNN-based traffic sign recognition system using three of the proposed requirements.
• Abstract（参考訳）: 高度な運転支援システムのような様々なモビリティアプリケーションは、人工知能(AI)ベースの機能をますます活用している。 通常、ディープニューラルネットワーク(DNN)は、実際の運転環境で発生する困難な知覚、予測、計画タスクの最高のパフォーマンスを提供するものとして使用される。 しかし、現在のUNECE R 155やISO 26262のような規制はAI関連の側面を考慮せず、従来のアルゴリズムベースのシステムにのみ適用される。 AI固有の標準や規範が存在しないことは、実践的な適用を妨げ、ユーザの信頼レベルを傷つける可能性がある。 したがって、AI固有の課題や要件を検討するために、セキュリティと安全性の既存の標準化を拡張することが重要です。 適切な規制に向けて、既存の規制を拡張し、DNNベースのシステムの具体的なニーズに対処する50の技術的要件またはベストプラクティスを提案する。 本稿では,提案要件の3つを用いて,DNNに基づく交通標識認識システムの例証監査を行うことにより,提案要件の適用性,有用性,有意義性を示す。

関連論文リスト

• Teaching Requirements Engineering for AI: A Goal-Oriented Approach in Software Engineering Courses [4.273966905160028]
  AIベースのシステムに高品質な要件を規定する能力を持つソフトウェアエンジニアを準備することが重要です。 本研究の目的は,Goal-Oriented Requirements Engineering(GORE)の有効性と適用性を評価することである。
  論文  参考訳（メタデータ） (2024-10-26T23:44:01Z)
• Navigating the sociotechnical labyrinth: Dynamic certification for responsible embodied AI [19.959138971887395]
  我々は、社会技術的要求が人工知性(AI)システムのガバナンスを形成することを論じる。 提案する学際的アプローチは,AIシステムの安全性,倫理的,実践的な展開を保証するために設計されている。
  論文  参考訳（メタデータ） (2024-08-16T08:35:26Z)
• Runtime Monitoring DNN-Based Perception [5.518665721709856]
  このチュートリアルは、読者に文学で提案されたテクニックを垣間見ることを目的としている。 まず、機械学習コミュニティで提案された古典的な手法から始め、形式的な手法コミュニティによって提案されたいくつかのテクニックを強調します。 私たちは、運用ドメイン外のデータ可用性が重要な役割を果たすモニターを厳格に設計する必要性を強調して、結論付けました。
  論文  参考訳（メタデータ） (2023-10-06T03:57:56Z)
• Simulation-based Safety Assurance for an AVP System incorporating Learning-Enabled Components [0.6526824510982802]
  テスト、検証、検証 AD/ADASセーフティクリティカルなアプリケーションが大きな課題のひとつとして残っています。 安全クリティカルな学習可能システムの検証と検証を目的としたシミュレーションベースの開発プラットフォームについて説明する。
  論文  参考訳（メタデータ） (2023-09-28T09:00:31Z)
• No Trust without regulation! [0.0]
  機械学習(ML)の性能の爆発と、その応用の可能性は、産業システムにおけるその利用を考慮し続けています。 安全と、その基準、規制、標準の問題については、いまだに片側に過度に残っています。 欧州委員会は、安全で信頼性があり、ヨーロッパの倫理的価値を尊重するAIベースのアプリケーションを統合するための、前進と強固なアプローチを構築するための基盤を築き上げた。
  論文  参考訳（メタデータ） (2023-09-27T09:08:41Z)
• When Authentication Is Not Enough: On the Security of Behavioral-Based Driver Authentication Systems [53.2306792009435]
  我々はランダムフォレストとリカレントニューラルネットワークアーキテクチャに基づく2つの軽量ドライバ認証システムを開発した。 我々は,SMARTCANとGANCANという2つの新しいエスケープアタックを開発することで,これらのシステムに対する攻撃を最初に提案する。 コントリビューションを通じて、これらのシステムを安全に採用する実践者を支援し、車の盗難を軽減し、ドライバーのセキュリティを高める。
  論文  参考訳（メタデータ） (2023-06-09T14:33:26Z)
• ROAD-R: The Autonomous Driving Dataset with Logical Requirements [54.608762221119406]
  論理要求付きROADイベント認識データセット(ROAD-R)を紹介する。 ROAD-Rは、論理的制約として表現された要件を持つ、自動運転のための最初の公開データセットである。 我々は、(i)パフォーマンスが良く、(ii)要求自体に準拠することが保証されているモデルを作成するためにそれらを活用できることを示します。
  論文  参考訳（メタデータ） (2022-10-04T13:22:19Z)
• Safe RAN control: A Symbolic Reinforcement Learning Approach [62.997667081978825]
  本稿では,無線アクセスネットワーク(RAN)アプリケーションの安全管理のためのシンボル強化学習(SRL)アーキテクチャを提案する。 我々は、ユーザが所定のセルネットワークトポロジに対して高レベルの論理的安全性仕様を指定できる純粋に自動化された手順を提供する。 ユーザがシステムに意図仕様を設定するのを支援するために開発されたユーザインターフェース(UI)を導入し、提案するエージェントの動作の違いを検査する。
  論文  参考訳（メタデータ） (2021-06-03T16:45:40Z)
• Inspect, Understand, Overcome: A Survey of Practical Methods for AI Safety [54.478842696269304]
  安全クリティカルなアプリケーションにディープニューラルネットワーク(DNN)を使用することは、多数のモデル固有の欠点のために困難です。 近年,これらの安全対策を目的とした最先端技術動物園が出現している。 本稿は、機械学習の専門家と安全エンジニアの両方に対処する。
  論文  参考訳（メタデータ） (2021-04-29T09:54:54Z)
• Towards AIOps in Edge Computing Environments [60.27785717687999]
  本稿では,異種分散環境に適用可能なaiopsプラットフォームのシステム設計について述べる。 高頻度でメトリクスを収集し、エッジデバイス上で特定の異常検出アルゴリズムを直接実行することが可能である。
  論文  参考訳（メタデータ） (2021-02-12T09:33:00Z)
• Evaluating the Safety of Deep Reinforcement Learning Models using Semi-Formal Verification [81.32981236437395]
  本稿では,区間分析に基づく半形式的意思決定手法を提案する。 本手法は, 標準ベンチマークに比較して, 形式検証に対して比較結果を得る。 提案手法は, 意思決定モデルにおける安全性特性を効果的に評価することを可能にする。
  論文  参考訳（メタデータ） (2020-10-19T11:18:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。