論文の概要: Robot Navigation in Risky, Crowded Environments: Understanding Human
Preferences
- arxiv url: http://arxiv.org/abs/2303.08284v1
- Date: Wed, 15 Mar 2023 00:11:39 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-16 15:13:14.344694
- Title: Robot Navigation in Risky, Crowded Environments: Understanding Human
Preferences
- Title(参考訳): 危険で群がった環境でのロボットナビゲーション:人間の嗜好を理解する
- Authors: Aamodh Suresh, Angelique Taylor, Laurel D. Riek, Sonia Martinez
- Abstract要約: リスクと混み合った環境(RCE)は、人間によって異なる知覚されるリスクと不確実性の抽象的な源を含んでいる。
本研究では,より優れたナビゲーション説明可能なAI(XAI)の設計を支援するために,人間の行動と知覚に関する斬新で批判的な洞察を提供する。
- 参考スコア(独自算出の注目度): 6.1364879462585185
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Risky and crowded environments (RCE) contain abstract sources of risk and
uncertainty, which are perceived differently by humans, leading to a variety of
behaviors. Thus, robots deployed in RCEs, need to exhibit diverse perception
and planning capabilities in order to interpret other human agents' behavior
and act accordingly in such environments. To understand this problem domain, we
conducted a study to explore human path choices in RCEs, enabling better
robotic navigational explainable AI (XAI) designs. We created a novel COVID-19
pandemic grocery shopping scenario which had time-risk tradeoffs, and acquired
users' path preferences. We found that participants showcase a variety of path
preferences: from risky and urgent to safe and relaxed. To model users'
decision making, we evaluated three popular risk models (Cumulative Prospect
Theory (CPT), Conditional Value at Risk (CVAR), and Expected Risk (ER). We
found that CPT captured people's decision making more accurately than CVaR and
ER, corroborating theoretical results that CPT is more expressive and inclusive
than CVaR and ER. We also found that people's self assessments of risk and
time-urgency do not correlate with their path preferences in RCEs. Finally, we
conducted thematic analysis of open-ended questions, providing crucial design
insights for robots is RCE. Thus, through this study, we provide novel and
critical insights about human behavior and perception to help design better
navigational explainable AI (XAI) in RCEs.
- Abstract(参考訳): リスクと混み合った環境(RCE)には、人間によって異なる知覚のリスクと不確実性の抽象的な源が含まれており、様々な行動をもたらす。
このように、CEに展開されたロボットは、他の人間のエージェントの行動を解釈し、そのような環境で行動するために、多様な知覚と計画能力を示す必要がある。
この問題領域を理解するために、我々はRCCにおけるヒューマンパスの選択を探究し、より優れたロボットナビゲーション説明型AI(XAI)の設計を可能にした。
われわれは、新型コロナウイルス(COVID-19)パンデミックによる食料品のショッピングシナリオを新たに作りました。
参加者は、リスクから緊急から安全、リラックスに至るまで、さまざまな経路の選好を示すことが分かりました。
ユーザの意思決定をモデル化するために,CPT(Cumulative Prospect Theory),CVAR(Con Conditional Value at Risk),ER(Prepremed Risk)の3つの一般的なリスクモデルを評価した。
CPTはCVaRやERよりも正確で,CPTがCVaRやERよりも表現力が高く包括的であるという理論的結果の裏付けとなる。
また,リスクと時間的持続性に対する自己評価は,rcesの経路選好と相関しないことが判明した。
最後に,オープンエンド質問の主題分析を行い,ロボットにとって重要な設計洞察を提供する。
そこで本研究では,より優れたナビゲーション説明可能なAI(XAI)の設計を支援するために,人間の行動と知覚に関する斬新で批判的な洞察を提供する。
関連論文リスト
- Learning Risk-Aware Quadrupedal Locomotion using Distributional
Reinforcement Learning [13.279646927568937]
本稿では,分散強化学習を用いたリスクセンシティブな移動訓練手法を提案する。
本研究では,ロボットが環境と相互作用する際の不確実性を考慮した完全な値分布を推定する。
シミュレーションおよび四足歩行ロボットANYmalにおいて,突発的リスクに敏感な移動行動を示す。
論文 参考訳(メタデータ) (2023-09-25T16:05:32Z) - A Counterfactual Safety Margin Perspective on the Scoring of Autonomous
Vehicles' Riskiness [52.27309191283943]
本稿では,異なるAVの行動のリスクを評価するためのデータ駆動型フレームワークを提案する。
本稿では,衝突を引き起こす可能性のある名目行動から最小限の偏差を示す,対実的安全マージンの概念を提案する。
論文 参考訳(メタデータ) (2023-08-02T09:48:08Z) - An Overview of Catastrophic AI Risks [38.84933208563934]
本稿では,破滅的なAIリスクの主な要因について概説し,その要因を4つのカテゴリに分類する。
個人やグループが意図的にAIを使用して危害を及ぼす悪用; 競争環境がアクターに安全でないAIを配置させたり、AIに制御を強制するAIレース。
組織的リスクは 人的要因と複雑なシステムが 破滅的な事故の 可能性を高めることを示しています
不正なAIは、人間よりもはるかにインテリジェントなエージェントを制御することの難しさを説明する。
論文 参考訳(メタデータ) (2023-06-21T03:35:06Z) - On the Security Risks of Knowledge Graph Reasoning [71.64027889145261]
我々は、敵の目標、知識、攻撃ベクトルに応じて、KGRに対するセキュリティ脅威を体系化する。
我々は、このような脅威をインスタンス化する新しいタイプの攻撃であるROARを提示する。
ROARに対する潜在的な対策として,潜在的に有毒な知識のフィルタリングや,対向的な拡張クエリによるトレーニングについて検討する。
論文 参考訳(メタデータ) (2023-05-03T18:47:42Z) - Constrained Reinforcement Learning for Robotics via Scenario-Based
Programming [64.07167316957533]
DRLをベースとしたエージェントの性能を最適化し,その動作を保証することが重要である。
本稿では,ドメイン知識を制約付きDRLトレーニングループに組み込む新しい手法を提案する。
我々の実験は、専門家の知識を活用するために我々のアプローチを用いることで、エージェントの安全性と性能が劇的に向上することを示した。
論文 参考訳(メタデータ) (2022-06-20T07:19:38Z) - Adaptive Risk Tendency: Nano Drone Navigation in Cluttered Environments
with Distributional Reinforcement Learning [17.940958199767234]
適応型リスク傾向ポリシーを学習するための分散強化学習フレームワークを提案する。
本アルゴリズムは,シミュレーションと実世界の実験の両方において,ハエのリスク感度を調整可能であることを示す。
論文 参考訳(メタデータ) (2022-03-28T13:39:58Z) - Two steps to risk sensitivity [4.974890682815778]
条件付きバリュー・アット・リスク(CVaR)は、人間と動物の計画のモデル化のためのリスク尺度である。
CVaRに対する従来の分布的アプローチを逐次的に導入し、人間の意思決定者の選択を再分析する。
次に,リスク感度,すなわち時間的整合性,さらに重要な特性について考察し,CVaRの代替案を示す。
論文 参考訳(メタデータ) (2021-11-12T16:27:47Z) - Risk-Sensitive Sequential Action Control with Multi-Modal Human
Trajectory Forecasting for Safe Crowd-Robot Interaction [55.569050872780224]
本稿では,リスクに敏感な最適制御に基づく安全な群集ロボットインタラクションのためのオンラインフレームワークを提案し,そのリスクをエントロピーリスク尺度でモデル化する。
私たちのモジュラーアプローチは、クラウドとロボットの相互作用を学習ベースの予測とモデルベースの制御に分離します。
シミュレーション研究と実世界の実験により、このフレームワークは、現場にいる50人以上の人間との衝突を避けながら、安全で効率的なナビゲーションを実現することができることが示された。
論文 参考訳(メタデータ) (2020-09-12T02:02:52Z) - RoboTed: a case study in Ethical Risk Assessment [0.9137554315375919]
倫理的リスクアセスメント(ERA)を概説し、責任ロボット(Responsible Robotics, Responsible Robotics, Responsible Robotics, Responsible Robotics, Responsible Robotics, Responsible Robotics, Responsible Robotics, Responsible Robotics, Responsible Robotics, ERA
ケーススタディは、倫理的リスクを考慮すれば、設計変更が促進され、より倫理的で持続可能なロボットが生まれることを示す。
論文 参考訳(メタデータ) (2020-07-31T06:35:18Z) - Enhanced Adversarial Strategically-Timed Attacks against Deep
Reinforcement Learning [91.13113161754022]
本稿では,DRLに基づくナビゲーションシステムに対して,選択した時間フレーム上の物理ノイズパターンを妨害することにより,タイミングに基づく逆方向戦略を導入する。
実験結果から, 対向タイミング攻撃は性能低下を引き起こす可能性が示唆された。
論文 参考訳(メタデータ) (2020-02-20T21:39:25Z) - A Case for Humans-in-the-Loop: Decisions in the Presence of Erroneous
Algorithmic Scores [85.12096045419686]
本研究では,児童虐待のホットラインスクリーニング決定を支援するアルゴリズムツールの採用について検討した。
まず、ツールがデプロイされたときに人間が行動を変えることを示します。
表示されたスコアが誤ったリスク推定である場合、人間はマシンの推奨に従わない可能性が低いことを示す。
論文 参考訳(メタデータ) (2020-02-19T07:27:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。