論文の概要: Building Trustworthy Household Robots through Open-World Safety

• arxiv url: http://arxiv.org/abs/2610.14034v1
• Date: Thu, 01 Oct 2026 05:51:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 23:42:30.576582
• Title: Building Trustworthy Household Robots through Open-World Safety
• Title（参考訳）: オープンワールドの安全を生かした家庭用ロボットの構築
• Abstract要約: 我々は、オープンワールドの安全性を主張する。家庭用ロボットは、目に見えない状況で特定の安全要件を守らなければならない。 既存の安全手法がなぜこの保護を提供しないのかを検討する。 本研究は,安全要件の特定,学習,地中化に関する研究課題を提案する。
• 参考スコア（独自算出の注目度）: 19.764204171817997
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Foundation models are expanding robot capabilities, enabling robots to handle more diverse objects, follow sophisticated instructions, and operate in complex environments. These advances bring us to a future in which robots become part of everyday household life. However, cluttered, dynamic household environments also expose robots to unfamiliar objects, tasks, and interactions, making reliable zero-shot task completion an ongoing challenge for robotics research. From a security perspective, we argue for open-world safety: household robots should preserve specified safety requirements in unseen situations, including when they cannot complete the requested task. Safety protections must account for context and interactions that persist across actions and tasks. In this position paper, we examine why existing safety methods can fail to provide this protection. Protection can fail through misinterpreted context, overlooked past interactions, or stopping and recovery strategies that become unsafe under unfamiliar conditions. We therefore propose a research agenda to specify, learn, and ground safety requirements, enforce them with reliable recovery, and evaluate the generalization of such protections. We call for household robots whose safety protections remain reliable beyond the situations, context, and history used to train and develop them, to achieve open-world safety.
• Abstract（参考訳）: ファンデーションモデルはロボットの能力を拡大し、ロボットがより多様な物体を扱えるようにし、洗練された指示に従って複雑な環境で操作できるようにする。 これらの進歩は、ロボットが日常の家庭生活の一部になる未来に私たちを導いてくれる。 しかし、散らかったダイナミックな家庭環境は、不慣れな物体、タスク、インタラクションにロボットを公開し、信頼性の高いゼロショットタスクを完了させることは、ロボティクス研究の継続的な課題である。 セキュリティの観点から、我々はオープンワールドの安全性を論じる: 家庭用ロボットは、要求されたタスクを完了できない場合など、特定された安全要件を目に見えない状況で守るべきである。 安全保護は、行動やタスクにまたがるコンテキストと相互作用を考慮に入れなければならない。 本稿では,既存の安全対策が,この保護を達成できない理由について検討する。 保護は、誤った解釈、過去のインタラクションを見落としている、あるいは不慣れな状況下で安全になるような停止と回復戦略によって失敗する可能性がある。 そこで本稿では, 安全要件の特定, 学習, 接地に関する研究課題を提案し, 信頼性の高い回復を強制し, それらの保護の一般化を評価する。 我々は、オープンワールドの安全を達成するために、これらのロボットの訓練や開発に使用される状況、状況、歴史を超えて、安全保護が信頼できる家庭用ロボットを求めている。

関連論文リスト

• Rethinking Safety for Generalist Robots [18.929186283033413]
  我々は、ロボットのライフサイクル全体で考慮される危険を広げる、ロボットの安全の新しい時代の必要性を論じる。 本稿では,ジェネラリストロボットの安全な展開を導くための,新興リスクの分類とフルスタックな研究課題について述べる。
  論文  参考訳（メタデータ） (2026-09-06T01:23:02Z)
• Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses [168.50301366360344]
  Embodied AI (Embodied AI) は、知覚、認知、計画、相互作用を、安全クリティカルな環境で機能するエージェントに統合する。 デジタルAIシステムとは異なり、エンボディエージェントは不確実な検知、不完全な知識、動的な人間とロボットの相互作用の下で行動しなければならない。 この調査は、エンボディされたAIにおける安全性研究の包括的なレビューを提供し、完全なエンボディされたパイプラインにわたる攻撃と防御を調査している。
  論文  参考訳（メタデータ） (2026-03-28T13:21:44Z)
• Contextual Safety Reasoning and Grounding for Open-World Robots [79.98924225712668]
  COREは、環境に関する事前の知識なしに、オンラインのコンテキスト推論、接地、執行を可能にする安全フレームワークである。 知覚の不確実性を考慮したCOREの確率論的安全性保証を提供する。 シミュレーションと実世界の実験を通じて、COREは目に見えない環境において、文脈的に適切な振る舞いを強制することを示した。
  論文  参考訳（メタデータ） (2026-02-23T15:51:23Z)
• Safe Stochastic Explorer: Enabling Safe Goal Driven Exploration in Stochastic Environments and Safe Interaction with Unknown Objects [14.689306855809653]
  Hamilton-Jacobi Reachability や Control Barrier Functions のような安全な制御の現在の方法は、既知のシステム力学を仮定する。 既存の安全な探査技術は、未知の現実世界で運用する場合に固有の不可避性を説明できないことが多い。 安全エクスプローラー(S.S.Explorer, S.S.Explorer, S.S.Explorer, S.S.Explorer)を提案する。
  論文  参考訳（メタデータ） (2026-01-31T19:07:10Z)
• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• Don't Let Your Robot be Harmful: Responsible Robotic Manipulation via Safety-as-Policy [53.048430683355804]
  ロボット操作における人間の指示の実行は、深刻な安全性のリスクにつながる可能性がある。 i) 安全リスクを含むシナリオを自動生成し、仮想的なインタラクションを行う世界モデルと、(ii) 反射による結果を予測するメンタルモデルを含む。 本研究は, 安全行政がリスクを回避し, 合成データセットと実世界の両方の実験において, 効率的にタスクを完了できることを実証する。
  論文  参考訳（メタデータ） (2024-11-27T12:27:50Z)
• Safety Control of Service Robots with LLMs and Embodied Knowledge Graphs [12.787160626087744]
  本稿では,大規模言語モデルとERCP(Embodied Robotic Control Prompts)とEKG(Embodied Knowledge Graphs)との新たな統合を提案する。 ERCPは、LLMが安全かつ正確な応答を生成するための事前定義された命令として設計されている。 EKGは、ロボットの動作が安全プロトコルと継続的に一致していることを保証する包括的な知識基盤を提供する。
  論文  参考訳（メタデータ） (2024-05-28T05:50:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。