論文の概要: Dialogue based Interactive Explanations for Safety Decisions in Human Robot Collaboration
- arxiv url: http://arxiv.org/abs/2604.05896v2
- Date: Fri, 10 Apr 2026 19:39:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-14 14:47:45.605567
- Title: Dialogue based Interactive Explanations for Safety Decisions in Human Robot Collaboration
- Title（参考訳）: 対話型対話によるロボット協調作業における安全判断の対話的説明
- Authors: Yifan Xu, Xiao Zhan, Akilu Yunusa Kaltungo, Ming Shan Ng, Tsukasa Ishizawa, Kota Fujimoto, Clara Cheung,
- Abstract要約: 本稿では,人間ロボットの協調作業における安全性決定の対話的説明のための対話型フレームワークを提案する。
提案手法は,制約に基づく安全性評価,同一状態の接地対話,行動選択を規定する制約表現とを密に結合する。
建設ロボティクスのシナリオでフレームワークをインスタンス化し、制約に敏感な対話がいかに安全性の介入を明確化し、協調的なタスク回復をサポートするかを示す構造化された運用トレースを提供する。
- 参考スコア（独自算出の注目度）: 4.456345425809772
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: As robots increasingly operate in shared, safety critical environments, acting safely is no longer sufficient robots must also make their safety decisions intelligible to human collaborators. In human robot collaboration (HRC), behaviours such as stopping or switching modes are often triggered by internal safety constraints that remain opaque to nearby workers. We present a dialogue based framework for interactive explanation of safety decisions in HRC. The approach tightly couples explanation with constraint based safety evaluation, grounding dialogue in the same state and constraint representations that govern behaviour selection. Explanations are derived directly from the recorded decision trace, enabling users to pose causal ("Why?"), contrastive ("Why not?"), and counterfactual ("What if?") queries about safety interventions. Counterfactual reasoning is evaluated in a bounded manner under fixed, certified safety parameters, ensuring that interactive exploration does not relax operational guarantees. We instantiate the framework in a construction robotics scenario and provide a structured operational trace illustrating how constraint aware dialogue clarifies safety interventions and supports coordinated task recovery. By treating explanation as an operational interface to safety control, this work advances a design perspective for interactive, safety aware autonomy in HRC.
- Abstract（参考訳）: ロボットがより共有され、安全に重要な環境で活動するようになると、安全に行動することはもはや十分ではない。
ヒューマンロボットコラボレーション(HRC)では、停止や切替モードなどの動作は、近くの労働者に不透明な内部安全制約によって引き起こされることが多い。
本稿では,HRCにおける安全性決定の対話的説明のための対話型フレームワークを提案する。
提案手法は,制約に基づく安全性評価,同一状態の接地対話,行動選択を規定する制約表現とを密に結合する。
説明は記録された決定トレースから直接導き出され、ユーザーは因果関係(なぜ?)、対照的な(なぜ?)、そして対実的な(もし?)、安全介入に関するクエリをポーズできる。
対実的推論は、固定された保証された安全パラメータの下で境界的に評価され、対話的な探索が運用上の保証を緩和しないことが保証される。
建設ロボティクスのシナリオでフレームワークをインスタンス化し、制約に敏感な対話がいかに安全性の介入を明確化し、協調的なタスク回復をサポートするかを示す構造化された運用トレースを提供する。
安全管理のための運用インターフェースとしての説明を扱うことにより、HRCにおける対話的かつ安全に配慮した自律性の設計視点を推し進める。
関連論文リスト
- State-Dependent Safety Failures in Multi-Turn Language Model Interaction [70.52906620450847]
我々は、状態空間の観点から安全性障害を研究し、多くのマルチターン障害が構造化状態の進化から生じることを示す。
本稿では,対話履歴を状態遷移演算子として扱う状態指向診断フレームワークSTARを紹介する。
静的な評価の下で頑健なように見えるシステムは、構造化されたマルチターン相互作用の下で、迅速かつ再現可能な安全破壊を受けることができる。
論文 参考訳（メタデータ） (2026-03-15T12:13:01Z) - Safe Probabilistic Planning for Human-Robot Interaction using Conformal Risk Control [13.455001736850255]
本稿では,人間-ロボットインタラクションのための新しい確率論的安全制御フレームワークを提案する。
この手法では、CBFの安全性値の予測誤差を定量化し、制御するために共形リスク制御を用いる。
提案手法は, 基準法に比べて衝突速度と安全違反を著しく低減することを示した。
論文 参考訳（メタデータ） (2026-03-11T04:19:44Z) - Trust in Autonomous Human--Robot Collaboration: Effects of Responsive Interaction Policies [0.0]
信頼は人間とロボットのコラボレーションにおいて中心的な役割を果たすが、完全に自律的な相互作用の制約の下でその形成が調査されることは滅多にない。
本研究では,Wizard-of-Oz制御やスクリプティング修復を伴わないソーシャルロボットとの協調作業において,インタラクションポリシが信頼にどのように影響するかを検討した。
論文 参考訳（メタデータ） (2026-02-25T16:38:20Z) - Contextual Safety Reasoning and Grounding for Open-World Robots [79.98924225712668]
COREは、環境に関する事前の知識なしに、オンラインのコンテキスト推論、接地、執行を可能にする安全フレームワークである。
知覚の不確実性を考慮したCOREの確率論的安全性保証を提供する。
シミュレーションと実世界の実験を通じて、COREは目に見えない環境において、文脈的に適切な振る舞いを強制することを示した。
論文 参考訳（メタデータ） (2026-02-23T15:51:23Z) - RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。
しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。
提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
論文 参考訳（メタデータ） (2025-12-24T15:01:26Z) - Uncertainty Aware-Predictive Control Barrier Functions: Safer Human Robot Interaction through Probabilistic Motion Forecasting [13.020006323600251]
不確かさを意識した予測制御バリア関数は、制御バリア関数の正式な安全性を保証することで、確率的手の動き予測を融合させる。
UA-PCBFは、将来の人間の状態をより深く理解した協力型ロボットに力を与える。
最先端のHRIアーキテクチャとは対照的に、UA-PCBFはタスククリティカルなメトリクスでより良いパフォーマンスを示す。
論文 参考訳（メタデータ） (2025-08-28T14:11:26Z) - Designing Control Barrier Function via Probabilistic Enumeration for Safe Reinforcement Learning Navigation [55.02966123945644]
本稿では,ニューラルネットワーク検証技術を利用して制御障壁関数(CBF)とポリシー修正機構の設計を行う階層型制御フレームワークを提案する。
提案手法は,安全なCBFベースの制御層を構築するために使用される,安全でない操作領域を特定するための確率的列挙に依存する。
これらの実験は、効率的なナビゲーション動作を維持しながら、安全でない動作を補正する提案手法の能力を実証するものである。
論文 参考訳（メタデータ） (2025-04-30T13:47:25Z) - Safety Control of Service Robots with LLMs and Embodied Knowledge Graphs [12.787160626087744]
本稿では,大規模言語モデルとERCP(Embodied Robotic Control Prompts)とEKG(Embodied Knowledge Graphs)との新たな統合を提案する。
ERCPは、LLMが安全かつ正確な応答を生成するための事前定義された命令として設計されている。
EKGは、ロボットの動作が安全プロトコルと継続的に一致していることを保証する包括的な知識基盤を提供する。
論文 参考訳（メタデータ） (2024-05-28T05:50:25Z) - Vision-Based Safety System for Barrierless Human-Robot Collaboration [0.0]
本稿では,速度分離監視(SSM)方式の安全システムを提案する。
ディープラーニングに基づくコンピュータビジョンシステムは、ロボットに近いオペレータの3D位置を検出し、追跡し、推定する。
人間とロボットが相互作用する3つの異なる操作モードが提示される。
論文 参考訳（メタデータ） (2022-08-03T12:31:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。