論文の概要: Robot Navigation in Risky, Crowded Environments: Understanding Human
Preferences
- arxiv url: http://arxiv.org/abs/2303.08284v1
- Date: Wed, 15 Mar 2023 00:11:39 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-16 15:13:14.344694
- Title: Robot Navigation in Risky, Crowded Environments: Understanding Human
Preferences
- Title(参考訳): 危険で群がった環境でのロボットナビゲーション:人間の嗜好を理解する
- Authors: Aamodh Suresh, Angelique Taylor, Laurel D. Riek, Sonia Martinez
- Abstract要約: リスクと混み合った環境(RCE)は、人間によって異なる知覚されるリスクと不確実性の抽象的な源を含んでいる。
本研究では,より優れたナビゲーション説明可能なAI(XAI)の設計を支援するために,人間の行動と知覚に関する斬新で批判的な洞察を提供する。
- 参考スコア(独自算出の注目度): 6.1364879462585185
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Risky and crowded environments (RCE) contain abstract sources of risk and
uncertainty, which are perceived differently by humans, leading to a variety of
behaviors. Thus, robots deployed in RCEs, need to exhibit diverse perception
and planning capabilities in order to interpret other human agents' behavior
and act accordingly in such environments. To understand this problem domain, we
conducted a study to explore human path choices in RCEs, enabling better
robotic navigational explainable AI (XAI) designs. We created a novel COVID-19
pandemic grocery shopping scenario which had time-risk tradeoffs, and acquired
users' path preferences. We found that participants showcase a variety of path
preferences: from risky and urgent to safe and relaxed. To model users'
decision making, we evaluated three popular risk models (Cumulative Prospect
Theory (CPT), Conditional Value at Risk (CVAR), and Expected Risk (ER). We
found that CPT captured people's decision making more accurately than CVaR and
ER, corroborating theoretical results that CPT is more expressive and inclusive
than CVaR and ER. We also found that people's self assessments of risk and
time-urgency do not correlate with their path preferences in RCEs. Finally, we
conducted thematic analysis of open-ended questions, providing crucial design
insights for robots is RCE. Thus, through this study, we provide novel and
critical insights about human behavior and perception to help design better
navigational explainable AI (XAI) in RCEs.
- Abstract(参考訳): リスクと混み合った環境(RCE)には、人間によって異なる知覚のリスクと不確実性の抽象的な源が含まれており、様々な行動をもたらす。
このように、CEに展開されたロボットは、他の人間のエージェントの行動を解釈し、そのような環境で行動するために、多様な知覚と計画能力を示す必要がある。
この問題領域を理解するために、我々はRCCにおけるヒューマンパスの選択を探究し、より優れたロボットナビゲーション説明型AI(XAI)の設計を可能にした。
われわれは、新型コロナウイルス(COVID-19)パンデミックによる食料品のショッピングシナリオを新たに作りました。
参加者は、リスクから緊急から安全、リラックスに至るまで、さまざまな経路の選好を示すことが分かりました。
ユーザの意思決定をモデル化するために,CPT(Cumulative Prospect Theory),CVAR(Con Conditional Value at Risk),ER(Prepremed Risk)の3つの一般的なリスクモデルを評価した。
CPTはCVaRやERよりも正確で,CPTがCVaRやERよりも表現力が高く包括的であるという理論的結果の裏付けとなる。
また,リスクと時間的持続性に対する自己評価は,rcesの経路選好と相関しないことが判明した。
最後に,オープンエンド質問の主題分析を行い,ロボットにとって重要な設計洞察を提供する。
そこで本研究では,より優れたナビゲーション説明可能なAI(XAI)の設計を支援するために,人間の行動と知覚に関する斬新で批判的な洞察を提供する。
関連論文リスト
- Fully Autonomous AI Agents Should Not be Developed [58.88624302082713]
本稿では,完全自律型AIエージェントを開発すべきではないと主張している。
この立場を支持するために、我々は、従来の科学文献と現在の製品マーケティングから、異なるAIエージェントレベルを規定するために構築する。
分析の結果,システムの自律性によって人へのリスクが増大することが明らかとなった。
論文 参考訳(メタデータ) (2025-02-04T19:00:06Z) - Engineering Trustworthy AI: A Developer Guide for Empirical Risk Minimization [53.80919781981027]
信頼できるAIのための重要な要件は、経験的リスク最小化のコンポーネントの設計選択に変換できる。
私たちは、AIの信頼性の新たな標準を満たすAIシステムを構築するための実用的なガイダンスを提供したいと思っています。
論文 参考訳(メタデータ) (2024-10-25T07:53:32Z) - Disentangling Uncertainty for Safe Social Navigation using Deep Reinforcement Learning [0.4218593777811082]
本研究は, DRLに基づくナビゲーションフレームワークにアレータリック, エピステミック, 予測不確実性推定を組み込む新しいアプローチを導入する。
本研究では,不確実な意思決定状況において,ロボットの社会的行動から保守的衝突回避への転換を提案する。
論文 参考訳(メタデータ) (2024-09-16T18:49:38Z) - Risks and NLP Design: A Case Study on Procedural Document QA [52.557503571760215]
より具体的なアプリケーションやユーザに対して分析を専門化すれば,ユーザに対するリスクや害の明確な評価が可能になる,と我々は主張する。
リスク指向のエラー分析を行い、リスクの低減とパフォーマンスの向上を図り、将来のシステムの設計を通知する。
論文 参考訳(メタデータ) (2024-08-16T17:23:43Z) - EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。
高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。
しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。
本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
論文 参考訳(メタデータ) (2024-08-08T13:19:37Z) - Risk-aware Trajectory Prediction by Incorporating Spatio-temporal Traffic Interaction Analysis [3.7414278978078204]
本稿では,データセット内の高リスク相互作用に対応する位置と速度を解析することにより,この情報を得る。
トレーニングでは、高いリスク状況下でより良い予測を生成するために、それを使用します。
論文 参考訳(メタデータ) (2024-07-15T11:57:06Z) - Learning Risk-Aware Quadrupedal Locomotion using Distributional Reinforcement Learning [12.156082576280955]
危険環境への展開には、ロボットが事故を防ぐための行動や動きに関連するリスクを理解する必要がある。
本稿では,分散強化学習を用いたリスクセンシティブな移動訓練手法を提案する。
シミュレーションおよび四足歩行ロボットANYmalにおいて,突発的リスクに敏感な移動行動を示す。
論文 参考訳(メタデータ) (2023-09-25T16:05:32Z) - Adaptive Risk Tendency: Nano Drone Navigation in Cluttered Environments
with Distributional Reinforcement Learning [17.940958199767234]
適応型リスク傾向ポリシーを学習するための分散強化学習フレームワークを提案する。
本アルゴリズムは,シミュレーションと実世界の実験の両方において,ハエのリスク感度を調整可能であることを示す。
論文 参考訳(メタデータ) (2022-03-28T13:39:58Z) - Two steps to risk sensitivity [4.974890682815778]
条件付きバリュー・アット・リスク(CVaR)は、人間と動物の計画のモデル化のためのリスク尺度である。
CVaRに対する従来の分布的アプローチを逐次的に導入し、人間の意思決定者の選択を再分析する。
次に,リスク感度,すなわち時間的整合性,さらに重要な特性について考察し,CVaRの代替案を示す。
論文 参考訳(メタデータ) (2021-11-12T16:27:47Z) - Risk-Sensitive Sequential Action Control with Multi-Modal Human
Trajectory Forecasting for Safe Crowd-Robot Interaction [55.569050872780224]
本稿では,リスクに敏感な最適制御に基づく安全な群集ロボットインタラクションのためのオンラインフレームワークを提案し,そのリスクをエントロピーリスク尺度でモデル化する。
私たちのモジュラーアプローチは、クラウドとロボットの相互作用を学習ベースの予測とモデルベースの制御に分離します。
シミュレーション研究と実世界の実験により、このフレームワークは、現場にいる50人以上の人間との衝突を避けながら、安全で効率的なナビゲーションを実現することができることが示された。
論文 参考訳(メタデータ) (2020-09-12T02:02:52Z) - A Case for Humans-in-the-Loop: Decisions in the Presence of Erroneous
Algorithmic Scores [85.12096045419686]
本研究では,児童虐待のホットラインスクリーニング決定を支援するアルゴリズムツールの採用について検討した。
まず、ツールがデプロイされたときに人間が行動を変えることを示します。
表示されたスコアが誤ったリスク推定である場合、人間はマシンの推奨に従わない可能性が低いことを示す。
論文 参考訳(メタデータ) (2020-02-19T07:27:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。