論文の概要: A Measure for Level of Autonomy Based on Observable System Behavior
- arxiv url: http://arxiv.org/abs/2407.14975v1
- Date: Sat, 20 Jul 2024 20:34:20 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-23 19:48:22.025862
- Title: A Measure for Level of Autonomy Based on Observable System Behavior
- Title（参考訳）: 観測可能なシステム行動に基づく自律性の尺度
- Authors: Jason M. Pittman,
- Abstract要約: 観測可能な行動を用いて自律性のレベルを予測するための潜在的尺度を提案する。
また,提案手法を取り入れたアルゴリズムを提案する。
この測定とアルゴリズムは、実行時に自律システムを比較する方法に興味のある研究者や実践者にとって重要である。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Contemporary artificial intelligence systems are pivotal in enhancing human efficiency and safety across various domains. One such domain is autonomous systems, especially in automotive and defense use cases. Artificial intelligence brings learning and enhanced decision-making to autonomy system goal-oriented behaviors and human independence. However, the lack of clear understanding of autonomy system capabilities hampers human-machine or machine-machine interaction and interdiction. This necessitates varying degrees of human involvement for safety, accountability, and explainability purposes. Yet, measuring the level autonomous capability in an autonomous system presents a challenge. Two scales of measurement exist, yet measuring autonomy presupposes a variety of elements not available in the wild. This is why existing measures for level of autonomy are operationalized only during design or test and evaluation phases. No measure for level of autonomy based on observed system behavior exists at this time. To address this, we outline a potential measure for predicting level of autonomy using observable actions. We also present an algorithm incorporating the proposed measure. The measure and algorithm have significance to researchers and practitioners interested in a method to blind compare autonomous systems at runtime. Defense-based implementations are likewise possible because counter-autonomy depends on robust identification of autonomous systems.
- Abstract（参考訳）: 現代の人工知能システムは、様々な領域における人間の効率性と安全性を高める上で重要な存在である。
そのような領域の1つは自律システムであり、特に自動車や防衛のユースケースにおいてである。
人工知能は、自律システムにおける目標指向の行動と人間の独立性に学習と意思決定の強化をもたらす。
しかし、自律システムに関する明確な理解の欠如は、人間-機械間相互作用や機械-機械間相互作用を阻害する。
これは、安全性、説明責任、説明可能性の目的のために、様々なレベルの人間の関与を必要とする。
しかし、自律システムにおけるレベルの自律能力を測定することは、課題である。
2つの尺度が存在するが、自律性の測定は、野生では利用できない様々な要素を前提としている。
そのため、既存の自律性の尺度は、設計、テスト、評価フェーズでのみ運用される。
観察されたシステムの振る舞いに基づく自律性のレベルは現時点では存在しない。
これを解決するために、観測可能な行動を用いて自律性のレベルを予測するための潜在的尺度を概説する。
また,提案手法を取り入れたアルゴリズムを提案する。
この測定とアルゴリズムは、実行時に自律システムを比較する方法に興味のある研究者や実践者にとって重要である。
反自律性は、自律システムの堅牢な識別に依存するため、防衛ベースの実装も可能である。
関連論文リスト
- Exploring the Causality of End-to-End Autonomous Driving [57.631400236930375]
本稿では,エンドツーエンド自動運転の因果関係を探究し,分析するための包括的アプローチを提案する。
私たちの研究は、エンドツーエンドの自動運転の謎を初めて明らかにし、ブラックボックスを白い箱に変えた。
論文 参考訳（メタデータ） (2024-07-09T04:56:11Z) - Work-in-Progress: Crash Course: Can (Under Attack) Autonomous Driving Beat Human Drivers? [60.51287814584477]
本稿では,現在のAVの状況を調べることによって,自律運転における本質的なリスクを評価する。
AVの利点と、現実のシナリオにおける潜在的なセキュリティ課題との微妙なバランスを強調した、特定のクレームを開発する。
論文 参考訳（メタデータ） (2024-05-14T09:42:21Z) - A Quantitative Autonomy Quantification Framework for Fully Autonomous Robotic Systems [0.0]
本稿では,全自律モードに着目し,タスク要求に基づく定量的自律性評価フレームワークを提案する。
このフレームワークは、自律性を定量化するツールを提供するだけでなく、自律システム開発者とユーザのための規制インターフェースと共通言語も提供する。
論文 参考訳（メタデータ） (2023-11-03T14:26:53Z) - LLM4Drive: A Survey of Large Language Models for Autonomous Driving [62.10344445241105]
大規模言語モデル(LLM)は、文脈理解、論理的推論、回答生成などの能力を示した。
本稿では,自動走行のための大規模言語モデル (LLM4AD) に関する研究ラインを体系的にレビューする。
論文 参考訳（メタデータ） (2023-11-02T07:23:33Z) - Interpretable Self-Aware Neural Networks for Robust Trajectory
Prediction [50.79827516897913]
本稿では,意味概念間で不確実性を分散する軌道予測のための解釈可能なパラダイムを提案する。
実世界の自動運転データに対する我々のアプローチを検証し、最先端のベースラインよりも優れた性能を示す。
論文 参考訳（メタデータ） (2022-11-16T06:28:20Z) - Learning Deep Sensorimotor Policies for Vision-based Autonomous Drone
Racing [52.50284630866713]
既存のシステムは、状態推定、計画、制御のために手作業によるコンポーネントを必要とすることが多い。
本稿では、深層感触者ポリシーを学習することで、視覚に基づく自律ドローンレース問題に取り組む。
論文 参考訳（メタデータ） (2022-10-26T19:03:17Z) - Adaptive Autonomy in Human-on-the-Loop Vision-Based Robotics Systems [16.609594839630883]
コンピュータビジョンのアプローチは、自律ロボットシステムによって意思決定の指針として広く使われている。
特に人間が監督的な役割しか果たさないHuman-on-the-loop(HoTL)システムでは、高精度が重要です。
適応的自律性レベルに基づくソリューションを提案し,これらのモデルの信頼性の低下を検出する。
論文 参考訳（メタデータ） (2021-03-28T05:43:10Z) - Towards robust sensing for Autonomous Vehicles: An adversarial
perspective [82.83630604517249]
結果として得られる決定が摂動に対して堅牢であることは、最も重要なことです。
敵対的摂動は、意図的に環境や感覚測定の修正を施したものである。
より安全なシステムの構築とデプロイには,センサーシステムの脆弱性を慎重に評価する必要がある。
論文 参考訳（メタデータ） (2020-07-14T05:25:15Z) - Learning to Optimize Autonomy in Competence-Aware Systems [32.3596917475882]
体験を通して学習し、オンラインで更新する自律の内省モデルを提案する。
我々は、さまざまなレベルの自律性と利用可能な人間のフィードバックにおいて、自身の習熟度を明示的にモデル化する能力認識システム(CAS)を定義する。
我々はCASの収束特性を解析し、ロボット配送と自律運転領域の実験結果を提供する。
論文 参考訳（メタデータ） (2020-03-17T14:31:45Z) - Modeling Perception Errors towards Robust Decision Making in Autonomous
Vehicles [11.503090828741191]
意思決定サブシステムが堅牢で安全な判断を下すのに十分な認識サブシステムは十分か?
自律システムの挙動に異なる種類の知覚・知覚誤差が与える影響を解析する方法を示す。
論文 参考訳（メタデータ） (2020-01-31T08:02:14Z) - Towards a Framework for Certification of Reliable Autonomous Systems [3.3861948721202233]
計算システムは、人間の監督や制御なしに独自の決定を下したり、独自の行動を取ることができる場合、自律的である。
例えば、無人航空システムを民間空域で自律的に使用するために、どうやって認定できるのか?
ここでは、自律システムの信頼性の高い動作を提供するために、何が必要なのかを分析する。
我々は、研究者、技術者、規制当局への挑戦を含む規制ガイドラインの策定に向けたロードマップを提案する。
論文 参考訳（メタデータ） (2020-01-24T18:18:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。