論文の概要: Human-Robot Red Teaming for Safety-Aware Reasoning
- arxiv url: http://arxiv.org/abs/2508.01129v1
- Date: Sat, 02 Aug 2025 00:55:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-05 18:25:21.723384
- Title: Human-Robot Red Teaming for Safety-Aware Reasoning
- Title（参考訳）: 安全に配慮した推論のための人間ロボットのレッドチーム
- Authors: Emily Sheetz, Emma Zemler, Misha Savchenko, Connor Rainen, Erik Holum, Jodi Graf, Andrew Albright, Shaun Azimi, Benjamin Kuipers,
- Abstract要約: 安全を意識した推論のためのヒューマンロボット・レッド・チーム・パラダイムを提案する。
人間とロボットが協力して、環境に関する仮定に挑戦し、起こりうる危険の空間を探索することを期待しています。
この調査により、ロボットは、特にハザード識別、リスクアセスメント、リスク軽減、安全報告など、安全を意識した推論を行うことができる。
- 参考スコア（独自算出の注目度）: 1.3060095849496556
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While much research explores improving robot capabilities, there is a deficit in researching how robots are expected to perform tasks safely, especially in high-risk problem domains. Robots must earn the trust of human operators in order to be effective collaborators in safety-critical tasks, specifically those where robots operate in human environments. We propose the human-robot red teaming paradigm for safety-aware reasoning. We expect humans and robots to work together to challenge assumptions about an environment and explore the space of hazards that may arise. This exploration will enable robots to perform safety-aware reasoning, specifically hazard identification, risk assessment, risk mitigation, and safety reporting. We demonstrate that: (a) human-robot red teaming allows human-robot teams to plan to perform tasks safely in a variety of domains, and (b) robots with different embodiments can learn to operate safely in two different environments -- a lunar habitat and a household -- with varying definitions of safety. Taken together, our work on human-robot red teaming for safety-aware reasoning demonstrates the feasibility of this approach for safely operating and promoting trust on human-robot teams in safety-critical problem domains.
- Abstract（参考訳）: 多くの研究がロボットの能力向上を研究しているが、特にリスクの高い問題領域において、ロボットが安全にタスクを実行することを期待する研究には欠点がある。
ロボットは、安全クリティカルなタスク、特にロボットが人間の環境で動作しているタスクにおいて、効果的な協力者となるために、人間のオペレーターの信頼を得なければならない。
安全を意識した推論のためのヒューマンロボット・レッド・チーム・パラダイムを提案する。
人間とロボットが協力して、環境に関する仮定に挑戦し、起こりうる危険の空間を探索することを期待しています。
この調査により、ロボットは、特にハザード識別、リスクアセスメント、リスク軽減、安全報告など、安全を意識した推論を行うことができる。
私たちはそれを証明しています。
(a)人間ロボットのレッドチーム化により、さまざまなドメインで安全にタスクを実行する計画を立てることができる。
b) 異なる実施形態のロボットは、安全の定義の異なる2つの異なる環境(月の生息地と家庭)で安全に動作することを学ぶことができる。
同時に、安全を意識した推論のための人間ロボットレッドコラボレーションの研究は、安全クリティカルな問題領域における人間ロボットチームに対する信頼を安全に運用し、促進するためのこのアプローチの可能性を示している。
関連論文リスト
- A roadmap for AI in robotics [55.87087746398059]
AIの可能性を生かして、私たちの日常生活にロボットを配備する上での、際立った障壁に取り組みたいと考えています。
この記事では、1990年代からロボット工学におけるAIが達成したことを評価し、課題と約束を列挙した短期的・中期的な研究ロードマップを提案する。
論文 参考訳（メタデータ） (2025-07-26T15:18:28Z) - Don't Let Your Robot be Harmful: Responsible Robotic Manipulation via Safety-as-Policy [53.048430683355804]
ロボット操作における人間の指示の実行は、深刻な安全性のリスクにつながる可能性がある。
i) 安全リスクを含むシナリオを自動生成し、仮想的なインタラクションを行う世界モデルと、(ii) 反射による結果を予測するメンタルモデルを含む。
本研究は, 安全行政がリスクを回避し, 合成データセットと実世界の両方の実験において, 効率的にタスクを完了できることを実証する。
論文 参考訳（メタデータ） (2024-11-27T12:27:50Z) - Common (good) practices measuring trust in HRI [55.2480439325792]
ロボットへの信頼は、人々の日常生活にロボットを取り入れるのに欠かせないと広く信じられている。
研究者たちは、人々がロボットをさまざまな方法で信頼する方法を模索してきた。
ほとんどのロボティクス学者は、信頼のレベルが不足すると解脱のリスクが生じることに同意する。
論文 参考訳（メタデータ） (2023-11-20T20:52:10Z) - Habitat 3.0: A Co-Habitat for Humans, Avatars and Robots [119.55240471433302]
Habitat 3.0は、家庭環境における協調ロボットタスクを研究するためのシミュレーションプラットフォームである。
複雑な変形可能な体と外観と運動の多様性をモデル化する際の課題に対処する。
Human-in-the-loopインフラストラクチャは、マウス/キーボードまたはVRインターフェースを介してシミュレーションされたロボットとの実際のヒューマンインタラクションを可能にする。
論文 参考訳（メタデータ） (2023-10-19T17:29:17Z) - The dynamic nature of trust: Trust in Human-Robot Interaction revisited [0.38233569758620045]
社会支援ロボット(SAR)は、現実世界の人間を支援するロボットである。
リスクは信頼の要素をもたらすので、ロボットに対する人間の信頼を理解することは必須である。
論文 参考訳（メタデータ） (2023-03-08T19:20:11Z) - HERD: Continuous Human-to-Robot Evolution for Learning from Human
Demonstration [57.045140028275036]
本研究では,マイクロ進化的強化学習を用いて,操作スキルを人間からロボットに伝達可能であることを示す。
本稿では,ロボットの進化経路とポリシーを協調的に最適化する多次元進化経路探索アルゴリズムを提案する。
論文 参考訳（メタデータ） (2022-12-08T15:56:13Z) - Vision-Based Safety System for Barrierless Human-Robot Collaboration [0.0]
本稿では,速度分離監視(SSM)方式の安全システムを提案する。
ディープラーニングに基づくコンピュータビジョンシステムは、ロボットに近いオペレータの3D位置を検出し、追跡し、推定する。
人間とロボットが相互作用する3つの異なる操作モードが提示される。
論文 参考訳（メタデータ） (2022-08-03T12:31:03Z) - A Review on Trust in Human-Robot Interaction [0.0]
人間とロボットのインタラクション、すなわち人間とロボットの信頼に関する新たな研究分野が生まれつつある。
本稿では,研究テーマに基づく人間ロボット信頼に関する過去の研究を概観し,その分野における選択された傾向について論じる。
論文 参考訳（メタデータ） (2021-05-20T21:50:03Z) - Show Me What You Can Do: Capability Calibration on Reachable Workspace
for Human-Robot Collaboration [83.4081612443128]
本稿では,REMPを用いた短時間キャリブレーションにより,ロボットが到達できると考える非専門家と地道とのギャップを効果的に埋めることができることを示す。
この校正手順は,ユーザ認識の向上だけでなく,人間とロボットのコラボレーションの効率化にも寄与することを示す。
論文 参考訳（メタデータ） (2021-03-06T09:14:30Z) - Motion Planning Combines Psychological Safety and Motion Prediction for
a Sense Motive Robot [2.14239637027446]
本稿では,身体的安全性と心理的安全性の両面をカバーすることで,人間の安全問題に対処する。
まず,人間の表情に応じた適応型ロボットの速度制御とステップサイズ調整手法を導入する。
第2に,人間の姿勢や視線方向の急激な変化を検出して人間の動きを予測し,人間の注意が散らばっているかどうかをロボットが推測し,人間の次の動きを予測し,反発力を再構築して衝突を避ける。
論文 参考訳（メタデータ） (2020-09-29T04:19:53Z) - Supportive Actions for Manipulation in Human-Robot Coworker Teams [15.978389978586414]
我々は、将来の干渉を減らすことで相互作用を支援する行動を、支援ロボット行動と表現する。
1)タスク指向: ロボットは自身のタスク目標をさらに進めるためにのみ行動を取るし、(2)支援的: ロボットはタスク指向のタスクよりも支援的行動を好む。
シミュレーション実験では, 人体モデルを用いて, エージェント間の干渉を軽減し, 作業の完了に要する時間が長いことを明らかにした。
論文 参考訳（メタデータ） (2020-05-02T09:37:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。