論文の概要: Regulating human control over autonomous systems
- arxiv url: http://arxiv.org/abs/2007.11218v1
- Date: Wed, 22 Jul 2020 06:05:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-07 23:32:29.342397
- Title: Regulating human control over autonomous systems
- Title（参考訳）: 自律システムによるヒューマンコントロールの制御
- Authors: Mikolaj firlej, Araz Taeihagh
- Abstract要約: より自律的なシステムの利用は、人間のコントロールの方針によって誘導されるべきである、と論じられている。
本稿では、米国における防衛と輸送の2つの領域における人的制御の概念について考察する。
- 参考スコア（独自算出の注目度）: 1.2691047660244335
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In recent years, many sectors have experienced significant progress in
automation, associated with the growing advances in artificial intelligence and
machine learning. There are already automated robotic weapons, which are able
to evaluate and engage with targets on their own, and there are already
autonomous vehicles that do not need a human driver. It is argued that the use
of increasingly autonomous systems (AS) should be guided by the policy of human
control, according to which humans should execute a certain significant level
of judgment over AS. While in the military sector there is a fear that AS could
mean that humans lose control over life and death decisions, in the
transportation domain, on the contrary, there is a strongly held view that
autonomy could bring significant operational benefits by removing the need for
a human driver. This article explores the notion of human control in the United
States in the two domains of defense and transportation. The operationalization
of emerging policies of human control results in the typology of direct and
indirect human controls exercised over the use of AS. The typology helps to
steer the debate away from the linguistic complexities of the term autonomy. It
identifies instead where human factors are undergoing important changes and
ultimately informs about more detailed rules and standards formulation, which
differ across domains, applications, and sectors.
- Abstract（参考訳）: 近年、人工知能と機械学習の進歩に伴い、多くの分野が自動化の著しい進歩を経験している。
すでに自動化されたロボット兵器があり、個人で目標を評価し、関与することが可能であり、人間ドライバーを必要としない自動運転車もすでに存在する。
ますます自律的なシステム(AS)の使用は、人間がASに対してある程度の判断を下すべきという人間のコントロール政策によって導かれるべきであると論じられている。
軍事分野では、ASは人間が生命と死の判断をコントロールできなくなるという恐れがあるが、輸送領域では、それとは対照的に、自律性は人間のドライバーの必要性を取り除くことによって、大きな運用上の利益をもたらすという強い見解がある。
本稿では、米国における防衛と輸送の2つの領域における人的制御の概念について考察する。
人的制御の新たな政策の運用は、ASの使用に関する直接的および間接的な人的制御の類型化をもたらす。
このタイポロジーは、自律性という用語の言語的複雑さから議論を遠ざけるのに役立つ。
代わりに、人間の要因が重要な変化を受けている場所を特定し、最終的にドメイン、アプリケーション、セクターによって異なる、より詳細なルールと標準の定式化について知らせる。
関連論文リスト
- Robotic Control via Embodied Chain-of-Thought Reasoning [86.6680905262442]
学習したロボット制御ポリシーの鍵となる制限は、トレーニングデータの外部で一般化できないことである。
視覚言語行動モデル(VLA)に関する最近の研究は、大規模なインターネット事前学習型視覚言語モデルを使用することで、その堅牢性と一般化能力を大幅に向上させることができることを示した。
ロボットの動作を予測する前に、VLAに対して、計画、サブタスク、動作、視覚的接地機能について複数の推論を行うために、VLAに対してEmbodied Chain-of-Thought Reasoning (ECoT)を導入する。
論文 参考訳（メタデータ） (2024-07-11T17:31:01Z) - Commonsense Reasoning for Legged Robot Adaptation with Vision-Language Models [81.55156507635286]
脚のついたロボットは、様々な環境をナビゲートし、幅広い障害を克服することができる。
現在の学習手法は、人間の監督を伴わずに、予期せぬ状況の長い尾への一般化に苦慮することが多い。
本稿では,VLM-Predictive Control (VLM-PC) というシステムを提案する。
論文 参考訳（メタデータ） (2024-07-02T21:00:30Z) - Work-in-Progress: Crash Course: Can (Under Attack) Autonomous Driving Beat Human Drivers? [60.51287814584477]
本稿では,現在のAVの状況を調べることによって,自律運転における本質的なリスクを評価する。
AVの利点と、現実のシナリオにおける潜在的なセキュリティ課題との微妙なバランスを強調した、特定のクレームを開発する。
論文 参考訳（メタデータ） (2024-05-14T09:42:21Z) - A Language Agent for Autonomous Driving [31.359413767191608]
本稿では,人間のような知性を自律運転システムに統合するためのパラダイムシフトを提案する。
当社のアプローチはAgent-Driverと呼ばれ,汎用ツールライブラリを導入して,従来の自律走行パイプラインを変革する。
LLM(Large Language Models)によって駆動されるエージェントドライブには直感的な常識と堅牢な推論能力が備わっています。
論文 参考訳（メタデータ） (2023-11-17T18:59:56Z) - Managing extreme AI risks amid rapid progress [171.05448842016125]
我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。
このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。
現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
論文 参考訳（メタデータ） (2023-10-26T17:59:06Z) - Exploring AI-enhanced Shared Control for an Assistive Robotic Arm [4.999814847776098]
特に,アートインテリジェンス(AI)を共有制御パラダイムに統合する方法について検討する。
特に,人間とロボットのインターフェースの簡潔な要件に着目した。
論文 参考訳（メタデータ） (2023-06-23T14:19:56Z) - "No, to the Right" -- Online Language Corrections for Robotic
Manipulation via Shared Autonomy [70.45420918526926]
LILACは、実行中に自然言語の修正をオンラインで実施し、適応するためのフレームワークである。
LILACは人間とロボットを個別にターンテイクする代わりに、人間とロボットの間にエージェンシーを分割する。
提案手法は,タスク完了率が高く,ユーザによって主観的に好まれることを示す。
論文 参考訳（メタデータ） (2023-01-06T15:03:27Z) - HERD: Continuous Human-to-Robot Evolution for Learning from Human
Demonstration [57.045140028275036]
本研究では,マイクロ進化的強化学習を用いて,操作スキルを人間からロボットに伝達可能であることを示す。
本稿では,ロボットの進化経路とポリシーを協調的に最適化する多次元進化経路探索アルゴリズムを提案する。
論文 参考訳（メタデータ） (2022-12-08T15:56:13Z) - Meaningful human control over AI systems: beyond talking the talk [8.351027101823705]
私たちは、AIベースのシステムが有意義な人間の制御下にある必要がある4つの特性を特定します。
第一に、人間とAIアルゴリズムが相互作用するシステムは、道徳的にロードされた状況の明確に定義された領域を持つべきである。
第2に、システム内の人間とAIエージェントは、適切かつ相互に互換性のある表現を持つべきである。
第三に、人間に帰属する責任は、その人のシステムを支配する能力と権限に相応すべきである。
論文 参考訳（メタデータ） (2021-11-25T11:05:37Z) - Drivers' Manoeuvre Modelling and Prediction for Safe HRI [0.0]
心の理論は、ロボット工学や、最近は自律車や半自律車のために広く研究されている。
本研究では、人間の動き、車の状態、人間の入力からのデータを組み合わせることで、行動の前に人間の意図を予測する方法について検討した。
論文 参考訳（メタデータ） (2021-06-03T10:07:55Z) - Respect for Human Autonomy in Recommender Systems [24.633323508534254]
多くの倫理体系は、人権の考慮から生じる重要な原則として、人間の自治を尊重している。
具体的な定式化は行われていない。
我々は、レコメンダシステムの文脈において、人間の自律性に対する敬意を具体的に運用する必要があると論じる。
論文 参考訳（メタデータ） (2020-09-05T21:39:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。