論文の概要: Regulating human control over autonomous systems
- arxiv url: http://arxiv.org/abs/2007.11218v1
- Date: Wed, 22 Jul 2020 06:05:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-07 23:32:29.342397
- Title: Regulating human control over autonomous systems
- Title(参考訳): 自律システムによるヒューマンコントロールの制御
- Authors: Mikolaj firlej, Araz Taeihagh
- Abstract要約: より自律的なシステムの利用は、人間のコントロールの方針によって誘導されるべきである、と論じられている。
本稿では、米国における防衛と輸送の2つの領域における人的制御の概念について考察する。
- 参考スコア(独自算出の注目度): 1.2691047660244335
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In recent years, many sectors have experienced significant progress in
automation, associated with the growing advances in artificial intelligence and
machine learning. There are already automated robotic weapons, which are able
to evaluate and engage with targets on their own, and there are already
autonomous vehicles that do not need a human driver. It is argued that the use
of increasingly autonomous systems (AS) should be guided by the policy of human
control, according to which humans should execute a certain significant level
of judgment over AS. While in the military sector there is a fear that AS could
mean that humans lose control over life and death decisions, in the
transportation domain, on the contrary, there is a strongly held view that
autonomy could bring significant operational benefits by removing the need for
a human driver. This article explores the notion of human control in the United
States in the two domains of defense and transportation. The operationalization
of emerging policies of human control results in the typology of direct and
indirect human controls exercised over the use of AS. The typology helps to
steer the debate away from the linguistic complexities of the term autonomy. It
identifies instead where human factors are undergoing important changes and
ultimately informs about more detailed rules and standards formulation, which
differ across domains, applications, and sectors.
- Abstract(参考訳): 近年、人工知能と機械学習の進歩に伴い、多くの分野が自動化の著しい進歩を経験している。
すでに自動化されたロボット兵器があり、個人で目標を評価し、関与することが可能であり、人間ドライバーを必要としない自動運転車もすでに存在する。
ますます自律的なシステム(AS)の使用は、人間がASに対してある程度の判断を下すべきという人間のコントロール政策によって導かれるべきであると論じられている。
軍事分野では、ASは人間が生命と死の判断をコントロールできなくなるという恐れがあるが、輸送領域では、それとは対照的に、自律性は人間のドライバーの必要性を取り除くことによって、大きな運用上の利益をもたらすという強い見解がある。
本稿では、米国における防衛と輸送の2つの領域における人的制御の概念について考察する。
人的制御の新たな政策の運用は、ASの使用に関する直接的および間接的な人的制御の類型化をもたらす。
このタイポロジーは、自律性という用語の言語的複雑さから議論を遠ざけるのに役立つ。
代わりに、人間の要因が重要な変化を受けている場所を特定し、最終的にドメイン、アプリケーション、セクターによって異なる、より詳細なルールと標準の定式化について知らせる。
関連論文リスト
- AutoRT: Embodied Foundation Models for Large Scale Orchestration of
Robotic Agents [110.44779088587809]
AutoRTは、人間の監督を最小限に抑えて、完全に見えないシナリオで運用ロボットの展開をスケールアップするシステムである。
われわれはAutoRTが複数の建物にまたがる20以上のロボットに指示を提示し、遠隔操作と自律ロボットポリシーを通じて77万個の実ロボットエピソードを収集するデモを行った。
実験により,AutoRTが収集した「未使用データ」は極めて多種多様であり,AutoRTのLLMを使用することで,人間の好みに合わせることができるデータ収集ロボットの指示が可能であることを実証した。
論文 参考訳(メタデータ) (2024-01-23T18:45:54Z) - A Language Agent for Autonomous Driving [33.64382018350317]
本稿では,人間のような知性を自律運転システムに統合するためのパラダイムシフトを提案する。
当社のアプローチは、Agent-Driverと呼ばれ、従来の自動運転パイプラインを変換します。
我々の手法は最先端の運転方法よりも大きなマージンで優れています。
論文 参考訳(メタデータ) (2023-11-17T18:59:56Z) - Exploring AI-enhanced Shared Control for an Assistive Robotic Arm [5.461938536945723]
特に,アートインテリジェンス(AI)を共有制御パラダイムに統合する方法について検討する。
特に,人間とロボットのインターフェースの簡潔な要件に着目した。
論文 参考訳(メタデータ) (2023-06-23T14:19:56Z) - "No, to the Right" -- Online Language Corrections for Robotic
Manipulation via Shared Autonomy [70.45420918526926]
LILACは、実行中に自然言語の修正をオンラインで実施し、適応するためのフレームワークである。
LILACは人間とロボットを個別にターンテイクする代わりに、人間とロボットの間にエージェンシーを分割する。
提案手法は,タスク完了率が高く,ユーザによって主観的に好まれることを示す。
論文 参考訳(メタデータ) (2023-01-06T15:03:27Z) - HERD: Continuous Human-to-Robot Evolution for Learning from Human
Demonstration [57.045140028275036]
本研究では,マイクロ進化的強化学習を用いて,操作スキルを人間からロボットに伝達可能であることを示す。
本稿では,ロボットの進化経路とポリシーを協調的に最適化する多次元進化経路探索アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-12-08T15:56:13Z) - Learning Deep Sensorimotor Policies for Vision-based Autonomous Drone
Racing [52.50284630866713]
既存のシステムは、状態推定、計画、制御のために手作業によるコンポーネントを必要とすることが多い。
本稿では、深層感触者ポリシーを学習することで、視覚に基づく自律ドローンレース問題に取り組む。
論文 参考訳(メタデータ) (2022-10-26T19:03:17Z) - When to Ask for Help: Proactive Interventions in Autonomous
Reinforcement Learning [57.53138994155612]
強化学習の長期的な目標は、世界で自律的に対話し学習できるエージェントを設計することである。
重要な課題は、ロボットアームが物体をテーブルから押し出したときなど、外部からの援助を必要とする不可逆状態の存在である。
本研究では,非可逆状態の検出と回避を効率よく学習し,エージェントが侵入した場合に積極的に支援を求めるアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-10-19T17:57:24Z) - Meaningful human control over AI systems: beyond talking the talk [8.351027101823705]
私たちは、AIベースのシステムが有意義な人間の制御下にある必要がある4つの特性を特定します。
第一に、人間とAIアルゴリズムが相互作用するシステムは、道徳的にロードされた状況の明確に定義された領域を持つべきである。
第2に、システム内の人間とAIエージェントは、適切かつ相互に互換性のある表現を持つべきである。
第三に、人間に帰属する責任は、その人のシステムを支配する能力と権限に相応すべきである。
論文 参考訳(メタデータ) (2021-11-25T11:05:37Z) - Drivers' Manoeuvre Modelling and Prediction for Safe HRI [0.0]
心の理論は、ロボット工学や、最近は自律車や半自律車のために広く研究されている。
本研究では、人間の動き、車の状態、人間の入力からのデータを組み合わせることで、行動の前に人間の意図を予測する方法について検討した。
論文 参考訳(メタデータ) (2021-06-03T10:07:55Z) - Respect for Human Autonomy in Recommender Systems [24.633323508534254]
多くの倫理体系は、人権の考慮から生じる重要な原則として、人間の自治を尊重している。
具体的な定式化は行われていない。
我々は、レコメンダシステムの文脈において、人間の自律性に対する敬意を具体的に運用する必要があると論じる。
論文 参考訳(メタデータ) (2020-09-05T21:39:34Z) - Human Grasp Classification for Reactive Human-to-Robot Handovers [50.91803283297065]
本稿では,ロボットが人間に遭遇するロボットのハンドオーバに対するアプローチを提案する。
対象物をさまざまな手形やポーズで保持する典型的な方法をカバーする,人間の把握データセットを収集する。
本稿では,検出した把握位置と手の位置に応じて人手から対象物を取り出す計画実行手法を提案する。
論文 参考訳(メタデータ) (2020-03-12T19:58:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。