論文の概要: Robot Navigation in Risky, Crowded Environments: Understanding Human
Preferences
- arxiv url: http://arxiv.org/abs/2303.08284v1
- Date: Wed, 15 Mar 2023 00:11:39 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-16 15:13:14.344694
- Title: Robot Navigation in Risky, Crowded Environments: Understanding Human
Preferences
- Title(参考訳): 危険で群がった環境でのロボットナビゲーション:人間の嗜好を理解する
- Authors: Aamodh Suresh, Angelique Taylor, Laurel D. Riek, Sonia Martinez
- Abstract要約: リスクと混み合った環境(RCE)は、人間によって異なる知覚されるリスクと不確実性の抽象的な源を含んでいる。
本研究では,より優れたナビゲーション説明可能なAI(XAI)の設計を支援するために,人間の行動と知覚に関する斬新で批判的な洞察を提供する。
- 参考スコア(独自算出の注目度): 6.1364879462585185
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Risky and crowded environments (RCE) contain abstract sources of risk and
uncertainty, which are perceived differently by humans, leading to a variety of
behaviors. Thus, robots deployed in RCEs, need to exhibit diverse perception
and planning capabilities in order to interpret other human agents' behavior
and act accordingly in such environments. To understand this problem domain, we
conducted a study to explore human path choices in RCEs, enabling better
robotic navigational explainable AI (XAI) designs. We created a novel COVID-19
pandemic grocery shopping scenario which had time-risk tradeoffs, and acquired
users' path preferences. We found that participants showcase a variety of path
preferences: from risky and urgent to safe and relaxed. To model users'
decision making, we evaluated three popular risk models (Cumulative Prospect
Theory (CPT), Conditional Value at Risk (CVAR), and Expected Risk (ER). We
found that CPT captured people's decision making more accurately than CVaR and
ER, corroborating theoretical results that CPT is more expressive and inclusive
than CVaR and ER. We also found that people's self assessments of risk and
time-urgency do not correlate with their path preferences in RCEs. Finally, we
conducted thematic analysis of open-ended questions, providing crucial design
insights for robots is RCE. Thus, through this study, we provide novel and
critical insights about human behavior and perception to help design better
navigational explainable AI (XAI) in RCEs.
- Abstract(参考訳): リスクと混み合った環境(RCE)には、人間によって異なる知覚のリスクと不確実性の抽象的な源が含まれており、様々な行動をもたらす。
このように、CEに展開されたロボットは、他の人間のエージェントの行動を解釈し、そのような環境で行動するために、多様な知覚と計画能力を示す必要がある。
この問題領域を理解するために、我々はRCCにおけるヒューマンパスの選択を探究し、より優れたロボットナビゲーション説明型AI(XAI)の設計を可能にした。
われわれは、新型コロナウイルス(COVID-19)パンデミックによる食料品のショッピングシナリオを新たに作りました。
参加者は、リスクから緊急から安全、リラックスに至るまで、さまざまな経路の選好を示すことが分かりました。
ユーザの意思決定をモデル化するために,CPT(Cumulative Prospect Theory),CVAR(Con Conditional Value at Risk),ER(Prepremed Risk)の3つの一般的なリスクモデルを評価した。
CPTはCVaRやERよりも正確で,CPTがCVaRやERよりも表現力が高く包括的であるという理論的結果の裏付けとなる。
また,リスクと時間的持続性に対する自己評価は,rcesの経路選好と相関しないことが判明した。
最後に,オープンエンド質問の主題分析を行い,ロボットにとって重要な設計洞察を提供する。
そこで本研究では,より優れたナビゲーション説明可能なAI(XAI)の設計を支援するために,人間の行動と知覚に関する斬新で批判的な洞察を提供する。
関連論文リスト
- Constrained Reinforcement Learning for Robotics via Scenario-Based
Programming [64.07167316957533]
DRLをベースとしたエージェントの性能を最適化し,その動作を保証することが重要である。
本稿では,ドメイン知識を制約付きDRLトレーニングループに組み込む新しい手法を提案する。
我々の実験は、専門家の知識を活用するために我々のアプローチを用いることで、エージェントの安全性と性能が劇的に向上することを示した。
論文 参考訳(メタデータ) (2022-06-20T07:19:38Z) - Adaptive Risk Tendency: Nano Drone Navigation in Cluttered Environments
with Distributional Reinforcement Learning [17.940958199767234]
適応型リスク傾向ポリシーを学習するための分散強化学習フレームワークを提案する。
本アルゴリズムは,シミュレーションと実世界の実験の両方において,ハエのリスク感度を調整可能であることを示す。
論文 参考訳(メタデータ) (2022-03-28T13:39:58Z) - Two steps to risk sensitivity [4.974890682815778]
条件付きバリュー・アット・リスク(CVaR)は、人間と動物の計画のモデル化のためのリスク尺度である。
CVaRに対する従来の分布的アプローチを逐次的に導入し、人間の意思決定者の選択を再分析する。
次に,リスク感度,すなわち時間的整合性,さらに重要な特性について考察し,CVaRの代替案を示す。
論文 参考訳(メタデータ) (2021-11-12T16:27:47Z) - Learning Risk-aware Costmaps for Traversability in Challenging
Environments [16.88528967313285]
トラバーサビリティコストの分散を頑健に学習するためのニューラルネットワークアーキテクチャを導入する。
ロボットの生命維持をモチベーションとするので,テールリスクの学習の観点から,この学習課題に取り組む。
提案手法は,0から1の間で所望の確率リスク閾値が与えられた場合,期待されるテールリスクを確実に学習することを示す。
論文 参考訳(メタデータ) (2021-07-25T04:12:03Z) - Probabilistic Human Motion Prediction via A Bayesian Neural Network [71.16277790708529]
本稿では,人間の動作予測のための確率モデルを提案する。
我々のモデルは、観測された動きシーケンスが与えられたときに、いくつかの将来の動きを生成することができる。
我々は、大規模ベンチマークデータセットHuman3.6mに対して、我々のアプローチを広範囲に検証した。
論文 参考訳(メタデータ) (2021-07-14T09:05:33Z) - Adversarial Interaction Attack: Fooling AI to Misinterpret Human
Intentions [46.87576410532481]
現在の大きな成功にもかかわらず、ディープラーニングベースのAIシステムは、微妙な敵対的ノイズによって容易に騙されることを示した。
骨格に基づくヒトの相互作用のケーススタディに基づき、相互作用に対する新しい敵対的攻撃を提案する。
本研究では、安全クリティカルなアプリケーションにAIシステムをデプロイする際に慎重に対処する必要があるAIと人間との相互作用ループにおける潜在的なリスクを強調します。
論文 参考訳(メタデータ) (2021-01-17T16:23:20Z) - Risk-Sensitive Sequential Action Control with Multi-Modal Human
Trajectory Forecasting for Safe Crowd-Robot Interaction [55.569050872780224]
本稿では,リスクに敏感な最適制御に基づく安全な群集ロボットインタラクションのためのオンラインフレームワークを提案し,そのリスクをエントロピーリスク尺度でモデル化する。
私たちのモジュラーアプローチは、クラウドとロボットの相互作用を学習ベースの予測とモデルベースの制御に分離します。
シミュレーション研究と実世界の実験により、このフレームワークは、現場にいる50人以上の人間との衝突を避けながら、安全で効率的なナビゲーションを実現することができることが示された。
論文 参考訳(メタデータ) (2020-09-12T02:02:52Z) - Bounded Risk-Sensitive Markov Games: Forward Policy Design and Inverse
Reward Learning with Iterative Reasoning and Cumulative Prospect Theory [33.57592649823294]
本稿では,リスクに敏感なマルコフゲーム(BRSMG)とその逆報酬学習問題について検討する。
我々は,BRSMGにおいて,人間は知能を制限し,リスクに敏感なユーティリティを最大化することを示した。
その結果, エージェントの行動は, リスク・リバース特性とリスク・サーキング特性の両方を示すことがわかった。
論文 参考訳(メタデータ) (2020-09-03T07:32:32Z) - Learning Bounds for Risk-sensitive Learning [86.50262971918276]
リスクに敏感な学習では、損失のリスク・アバース(またはリスク・シーキング)を最小化する仮説を見つけることを目的としている。
最適化された確実性等価性によって最適性を記述するリスク感応学習スキームの一般化特性について検討する。
論文 参考訳(メタデータ) (2020-06-15T05:25:02Z) - AI Research Considerations for Human Existential Safety (ARCHES) [6.40842967242078]
負の言葉で言えば、我々は人類が次の世紀のAI開発から直面する現実的なリスクを問う。
Emphprepotenceという,仮説AI技術の鍵となる性質
その後、既存の安全に対する潜在的な利益のために、現代の研究方向の集合が検討される。
論文 参考訳(メタデータ) (2020-05-30T02:05:16Z) - Enhanced Adversarial Strategically-Timed Attacks against Deep
Reinforcement Learning [91.13113161754022]
本稿では,DRLに基づくナビゲーションシステムに対して,選択した時間フレーム上の物理ノイズパターンを妨害することにより,タイミングに基づく逆方向戦略を導入する。
実験結果から, 対向タイミング攻撃は性能低下を引き起こす可能性が示唆された。
論文 参考訳(メタデータ) (2020-02-20T21:39:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。