論文の概要: Security Challenges in Autonomous Systems Design

• arxiv url: http://arxiv.org/abs/2312.00018v2
• Date: Mon, 4 Dec 2023 03:45:38 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-25 13:06:53.846906
• Title: Security Challenges in Autonomous Systems Design
• Title（参考訳）: 自律システム設計におけるセキュリティ問題
• Authors: Mohammad Hamad, Sebastian Steinhorst,
• Abstract要約: 人間のコントロールから独立すると、このようなシステムのサイバーセキュリティはさらに重要になる。 人間のコントロールから独立すると、このようなシステムのサイバーセキュリティはさらに重要になる。 本稿では,技術の現状を徹底的に議論し,新たなセキュリティ課題を特定し,研究の方向性を提案する。
• 参考スコア（独自算出の注目度）: 1.864621482724548
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Autonomous systems are emerging in many application domains. With the recent advancements in artificial intelligence and machine learning, sensor technology, perception algorithms and robotics, scenarios previously requiring strong human involvement can be handled by autonomous systems. With the independence from human control, cybersecurity of such systems becomes even more critical as no human intervention in case of undesired behavior is possible. In this context, this paper discusses emerging security challenges in autonomous systems design which arise in many domains such as autonomous incident response, risk assessment, data availability, systems interaction, trustworthiness, updatability, access control, as well as the reliability and explainability of machine learning methods. In all these areas, this paper thoroughly discusses the state of the art, identifies emerging security challenges and proposes research directions to address these challenges for developing secure autonomous systems.
• Abstract（参考訳）: 自律システムは、多くのアプリケーションドメインで登場しています。 人工知能と機械学習、センサー技術、知覚アルゴリズム、ロボット工学の最近の進歩により、これまで強い人間の関与を必要とするシナリオは自律システムによって処理できる。 人間の制御から独立すると、望ましくない行動が起こらない場合に人間の介入が起こらないため、そのようなシステムのサイバーセキュリティはますます重要になる。 本稿では,自律的なインシデント応答,リスク評価,データ可用性,システムインタラクション,信頼性,高可用性,アクセス制御,マシンラーニング手法の信頼性と説明可能性など,多くの領域で発生する自律システム設計におけるセキュリティ上の課題について論じる。 これらすべての分野において、本稿は最先端技術について徹底的に議論し、新たなセキュリティ課題を特定し、セキュアな自律システムを開発する上でのこれらの課題に対処するための研究指針を提案する。

関連論文リスト

• Generative AI Agents in Autonomous Machines: A Safety Perspective [9.02400798202199]
  生成AIエージェントは、非並列機能を提供するが、ユニークな安全性上の懸念もある。 本研究では、生成モデルが物理自律機械にエージェントとして統合される際の安全要件の進化について検討する。 我々は、自律機械で生成AI技術を使用するための総合的な安全スコアカードの開発と実装を推奨する。
  論文  参考訳（メタデータ） (2024-10-20T20:07:08Z)
• Work-in-Progress: Crash Course: Can (Under Attack) Autonomous Driving Beat Human Drivers? [60.51287814584477]
  本稿では,現在のAVの状況を調べることによって,自律運転における本質的なリスクを評価する。 AVの利点と、現実のシナリオにおける潜在的なセキュリティ課題との微妙なバランスを強調した、特定のクレームを開発する。
  論文  参考訳（メタデータ） (2024-05-14T09:42:21Z)
• Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
  我々は、AI安全性に対する一連のアプローチを紹介し、定義する。 これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。 これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
  論文  参考訳（メタデータ） (2024-05-10T17:38:32Z)
• Testing autonomous vehicles and AI: perspectives and challenges from cybersecurity, transparency, robustness and fairness [53.91018508439669]
  この研究は、人工知能を自律走行車(AV)に統合する複雑さを探求する AIコンポーネントがもたらした課題と、テスト手順への影響を調べます。 本稿は、重要な課題を特定し、AV技術におけるAIの研究・開発に向けた今後の方向性を提案する。
  論文  参考訳（メタデータ） (2024-02-21T08:29:42Z)
• Inherent Diverse Redundant Safety Mechanisms for AI-based Software Elements in Automotive Applications [1.6495054381576084]
  本稿では,自律走行システムにおける人工知能(AI)アルゴリズムの役割と課題について考察する。 主な関心事は、AIモデルの初期のトレーニングデータを超えて一般化する能力(と必要性)に関連している。 本稿では、自律運転のような安全クリティカルなアプリケーションにおける過信AIモデルに関連するリスクについて検討する。
  論文  参考訳（メタデータ） (2024-02-13T04:15:26Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Security Considerations in AI-Robotics: A Survey of Current Methods, Challenges, and Opportunities [4.466887678364242]
  本稿では,AI-ロボティクスシステムにおけるセキュリティ問題への対処の必要性から,3次元にわたる包括的調査と分類について述べる。 まず、潜在的な攻撃面を調査し、防御戦略を緩和することから始める。 次に、依存関係や心理的影響などの倫理的問題や、これらのシステムに対する説明責任に関する法的懸念を掘り下げる。
  論文  参考訳（メタデータ） (2023-10-12T17:54:20Z)
• System Safety and Artificial Intelligence [0.0]
  社会的領域にまたがるAIの新たな応用には、新たなハザードが伴う。 システム安全の分野は、安全クリティカルシステムにおける事故や危害に対処してきた。 この章はシステムの安全性の先駆者であるナンシー・リーブソンに敬意を表しています。
  論文  参考訳（メタデータ） (2022-02-18T16:37:54Z)
• Systems Challenges for Trustworthy Embodied Systems [0.0]
  エンボディシステムと呼ばれる、ますます自律的かつ自律的な新世代のシステムの開発が進んでいる。 実施されたシステムの振る舞いを有益な方法で調整し、人間中心の社会的価値との整合性を確保し、安全で信頼性の高い人間と機械の相互作用を設計することが不可欠である。 我々は、急進的なシステム工学が組み込みシステムからエンボディドシステムへの気候に到達し、状況を認識し、意図的に駆動され、爆発的に進化し、ほとんど予測不可能で、ますます自律的なエンボディドシステムのダイナミックフェデレーションの信頼性を保証していると論じている。
  論文  参考訳（メタデータ） (2022-01-10T15:52:17Z)
• From Machine Learning to Robotics: Challenges and Opportunities for Embodied Intelligence [113.06484656032978]
  記事は、インテリジェンスが機械学習技術の進歩の鍵を握っていると主張している。 私たちは、インテリジェンスを具体化するための課題と機会を強調します。 本稿では,ロボット学習の最先端性を著しく向上させる研究の方向性を提案する。
  論文  参考訳（メタデータ） (2021-10-28T16:04:01Z)
• Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
  大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。 我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。 我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
  論文  参考訳（メタデータ） (2020-10-19T13:09:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。