論文の概要: Autonomy and Safety Assurance in the Early Development of Robotics and Autonomous Systems

• arxiv url: http://arxiv.org/abs/2501.18448v1
• Date: Thu, 30 Jan 2025 16:00:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-31 15:14:19.397855
• Title: Autonomy and Safety Assurance in the Early Development of Robotics and Autonomous Systems
• Title（参考訳）: ロボット・自律システムの初期開発における自律性と安全保証
• Authors: Dhaminda B. Abeywickrama, Michael Fisher, Frederic Wheeler, Louise Dennis,
• Abstract要約: CRADLEは、保証を信頼性、透明性、信頼性の高い自律システムにおいて不可欠な部分にすることを目的としている。 ワークショップは、様々な分野の6つの規制および保証機関の代表を集結させた。 主な議論は、(i)AIRの安全性確保における課題、(ii)安全保証の証拠、(iii)自律システムにおいて、いかに保証ケースが異なる必要があるかという3つの研究課題に関するものだった。
• 参考スコア（独自算出の注目度）: 0.8999666725996975
• License:
• Abstract: This report provides an overview of the workshop titled Autonomy and Safety Assurance in the Early Development of Robotics and Autonomous Systems, hosted by the Centre for Robotic Autonomy in Demanding and Long-Lasting Environments (CRADLE) on September 2, 2024, at The University of Manchester, UK. The event brought together representatives from six regulatory and assurance bodies across diverse sectors to discuss challenges and evidence for ensuring the safety of autonomous and robotic systems, particularly autonomous inspection robots (AIR). The workshop featured six invited talks by the regulatory and assurance bodies. CRADLE aims to make assurance an integral part of engineering reliable, transparent, and trustworthy autonomous systems. Key discussions revolved around three research questions: (i) challenges in assuring safety for AIR; (ii) evidence for safety assurance; and (iii) how assurance cases need to differ for autonomous systems. Following the invited talks, the breakout groups further discussed the research questions using case studies from ground (rail), nuclear, underwater, and drone-based AIR. This workshop offered a valuable opportunity for representatives from industry, academia, and regulatory bodies to discuss challenges related to assured autonomy. Feedback from participants indicated a strong willingness to adopt a design-for-assurance process to ensure that robots are developed and verified to meet regulatory expectations.
• Abstract（参考訳）: 本報告では,2024年9月2日にマンチェスター大学のロボット自律性センター(CRADLE)が主催する,ロボット・自律システムの早期開発における自律と安全保証に関するワークショップの概要を紹介する。 このイベントは、自律型およびロボットシステムの安全性、特に自律型検査ロボット(AIR)の安全性を保証するための課題と証拠を議論するために、さまざまな分野の6つの規制および保証機関の代表を集結させた。 ワークショップには、規制当局と保証機関が招待した6つの講演があった。 CRADLEは、保証を信頼性、透明性、信頼性の高い自律システムにおいて不可欠な部分にすることを目的としている。 主な議論は3つの研究課題に関するものだった。 一AIRの安全性確保の課題 二 安全保証の証拠及び 三 自律システムにおいて、いかに保証ケースが異なるか。 招待された講演の後、ブレイクアウトグループはさらに、地上(レール)、原子力、水中、ドローンベースのAIRからのケーススタディを用いた研究課題を議論した。 このワークショップは、産業、学術、規制機関の代表者に対して、保証された自治に関する課題について議論する貴重な機会を提供した。 参加者からのフィードバックは、ロボットが規制上の期待に応えるように開発され、検証されることを保証するため、安全のための設計プロセスを採用する強い意志を示している。

関連論文リスト

• Generative AI Agents in Autonomous Machines: A Safety Perspective [9.02400798202199]
  生成AIエージェントは、非並列機能を提供するが、ユニークな安全性上の懸念もある。 本研究では、生成モデルが物理自律機械にエージェントとして統合される際の安全要件の進化について検討する。 我々は、自律機械で生成AI技術を使用するための総合的な安全スコアカードの開発と実装を推奨する。
  論文  参考訳（メタデータ） (2024-10-20T20:07:08Z)
• Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
  我々は、AI安全性に対する一連のアプローチを紹介し、定義する。 これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。 これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
  論文  参考訳（メタデータ） (2024-05-10T17:38:32Z)
• A Safe Harbor for AI Evaluation and Red Teaming [124.89885800509505]
  一部の研究者は、そのような研究の実施や研究成果の公表が、アカウント停止や法的報復につながることを恐れている。 我々は、主要なAI開発者が法的、技術的に安全な港を提供することを約束することを提案します。 これらのコミットメントは、ジェネレーティブAIのリスクに取り組むための、より包括的で意図しないコミュニティ努力への必要なステップである、と私たちは信じています。
  論文  参考訳（メタデータ） (2024-03-07T20:55:08Z)
• Testing autonomous vehicles and AI: perspectives and challenges from cybersecurity, transparency, robustness and fairness [53.91018508439669]
  この研究は、人工知能を自律走行車(AV)に統合する複雑さを探求する AIコンポーネントがもたらした課題と、テスト手順への影響を調べます。 本稿は、重要な課題を特定し、AV技術におけるAIの研究・開発に向けた今後の方向性を提案する。
  論文  参考訳（メタデータ） (2024-02-21T08:29:42Z)
• Security Challenges in Autonomous Systems Design [1.864621482724548]
  人間のコントロールから独立すると、このようなシステムのサイバーセキュリティはさらに重要になる。 人間のコントロールから独立すると、このようなシステムのサイバーセキュリティはさらに重要になる。 本稿では,技術の現状を徹底的に議論し,新たなセキュリティ課題を特定し,研究の方向性を提案する。
  論文  参考訳（メタデータ） (2023-11-05T09:17:39Z)
• Autonomous Vehicles an overview on system, cyber security, risks, issues, and a way forward [0.0]
  この章は、自動運転車の複雑な領域を探求し、その基本的な構成要素と運用上の特性を分析します。 この調査の主な焦点は、サイバーセキュリティの領域、特に自動運転車の文脈にある。 これらの車両を潜在的な脅威から保護することを目的とした様々なリスク管理ソリューションについて、包括的な分析を行う。
  論文  参考訳（メタデータ） (2023-09-25T15:19:09Z)
• Assurance for Autonomy -- JPL's past research, lessons learned, and future directions [56.32768279109502]
  幅広い状況の変動が、事前計画された応答を妨げている場合、自律性が必要である。 ミッション・アシュアランス(Mission Assurance)は、信頼性を提供する上で重要な貢献者であるが、何十年にもわたって宇宙飛行に輝く保証の実践は、自律性に関する経験が比較的少ない。 JPLのソフトウェア保証グループの研究者は、自律性の保証に特化した技術の開発に関与している。
  論文  参考訳（メタデータ） (2023-05-16T18:24:12Z)
• Artificial Intelligence Security Competition (AISC) [52.20676747225118]
  人工知能セキュリティコンペティション(AISC)は、Zhonguancun Laboratory、China Industrial Control Systems Cyber Emergency Response Team、Institute for Artificial Intelligence、清華大学、RealAIによって組織された。 コンテストはディープフェイクセキュリティコンペティション、自律運転セキュリティコンペティション、顔認識セキュリティコンペティションの3つのトラックで構成されている。 本報告では,これらの3トラックの競合ルールと,各トラックの上位チームのソリューションについて紹介する。
  論文  参考訳（メタデータ） (2022-12-07T02:45:27Z)
• Assured Autonomy: Path Toward Living With Autonomous Systems We Can Trust [17.71048945905425]
  自律性(autonomy)は、人間の操作者によって直接制御されることなくシステムが振る舞うことができる広範で拡張的な能力である。 2019年10月に開催された最初のワークショップは、自律システムの確保における現在および期待されている課題と課題に焦点を当てたものだ。 2020年2月に開催された第2回ワークショップでは、既存の能力、現在の研究、ワークショップで特定される課題や問題に対処できる研究トレンドに焦点を当てた。
  論文  参考訳（メタデータ） (2020-10-27T17:00:01Z)
• Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims [59.64274607533249]
  AI開発者は、責任を負うことのできる検証可能な主張をする必要がある。 このレポートは、さまざまな利害関係者がAIシステムに関するクレームの妥当性を改善するための様々なステップを示唆している。 我々は、この目的のための10のメカニズム、すなわち、組織、ソフトウェア、ハードウェアを分析し、それらのメカニズムの実装、探索、改善を目的とした推奨を行う。
  論文  参考訳（メタデータ） (2020-04-15T17:15:35Z)
• Towards a Framework for Certification of Reliable Autonomous Systems [3.3861948721202233]
  計算システムは、人間の監督や制御なしに独自の決定を下したり、独自の行動を取ることができる場合、自律的である。 例えば、無人航空システムを民間空域で自律的に使用するために、どうやって認定できるのか? ここでは、自律システムの信頼性の高い動作を提供するために、何が必要なのかを分析する。 我々は、研究者、技術者、規制当局への挑戦を含む規制ガイドラインの策定に向けたロードマップを提案する。
  論文  参考訳（メタデータ） (2020-01-24T18:18:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。