論文の概要: Safe Embodied AI for Long-horizon Tasks: A Cross-layer Analysis of Robotic Manipulation

• arxiv url: http://arxiv.org/abs/2606.05660v1
• Date: Thu, 04 Jun 2026 03:43:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-05 22:39:44.529418
• Title: Safe Embodied AI for Long-horizon Tasks: A Cross-layer Analysis of Robotic Manipulation
• Title（参考訳）: 長距離作業のための安全な身体的AI:ロボットマニピュレーションの層間解析
• Authors: Dabin Kim, Daemin Park, Sangyub Lee, Jinsik Kim, Yeongtak Oh, Jongho Shin, Sungroh Yoon,
• Abstract要約: 身体的なAIシステムは、物理的環境における拡張された地平線を推論し、行動することがますます期待されている。 安全な具体化されたAIは大きな注目を集めているが、その文献は計画、ポリシー設計、実行時に断片化されている。 この調査は、エンボディドAIの観点から、長距離ロボット操作における安全性の構造化されたレビューを提供する。
• 参考スコア（独自算出の注目度）: 34.70550511647954
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Embodied AI systems are increasingly expected to reason and act over extended horizons in physical environments. This growing capability brings safety to the foreground, because failures in the physical world can harm people, damage objects, and disrupt workplaces. Although safe embodied AI has attracted substantial attention, the literature remains fragmented across planning, policy design, and runtime execution. Long-horizon robotic manipulation is a particularly revealing anchor domain for this problem because semantic misgrounding, subtask-level error propagation, execution drift, and contact-rich physical risk can accumulate within the same closed-loop system. This survey therefore provides a structured review of safety in long-horizon robotic manipulation from an embodied AI perspective. We organize the literature by intervention locus, covering planning-time, policy-time, and execution-time safety, and we analyze the strength of the evidence that each line of work provides, distinguishing formal guarantees, statistical support, and empirical safety heuristics. This framework clarifies the distinct roles of backbone capability papers, direct safety mechanisms, and benchmark or evaluation studies, while exposing where current safety claims are well supported and where they remain indirect. We identify persistent gaps, including limited evidence for policy-time safety, weak formal support for contact-rich long-horizon manipulation, immature uncertainty-triggered intervention, and a shortage of manipulation-specific safety benchmarks. We conclude by outlining research directions for cross-layer assurance, evaluation design, and safer deployment of long-horizon robotic agents in real-world settings.
• Abstract（参考訳）: 身体的なAIシステムは、物理的環境における拡張された地平線を推論し、行動することがますます期待されている。 物理的世界の失敗は人を傷つけたり、物を傷つけたり、職場を破壊したりする可能性があるからだ。 安全な具体化されたAIは大きな注目を集めているが、その文献は計画、ポリシー設計、実行時に断片化されている。 長い水平ロボット操作は、セマンティックなミスグラウンド、サブタスクレベルのエラー伝播、実行のドリフト、接触に富んだ物理的リスクが同じ閉ループシステム内に蓄積されるため、この問題に対して特に顕著なアンカードメインである。 この調査は、エンボディドAIの観点から、長距離ロボット操作における安全性の構造化されたレビューを提供する。 本研究は,計画時,政策時,実行時安全を網羅し,形式的保証,統計的支援,実証的安全ヒューリスティックスを識別し,各作業ラインが提供する証拠の強さを分析する。 このフレームワークは、バックボーン機能論文、直接的な安全メカニズム、ベンチマークまたは評価研究の明確な役割を明らかにし、現在の安全要求が適切にサポートされている場所と、それらが間接的にどこにあるかを明らかにしている。 我々は、政策時安全の限られた証拠、接触に富んだ長距離操作の弱い形式的サポート、未熟な不確実性トリガーによる介入、操作固有の安全ベンチマークの不足など、永続的なギャップを識別する。 本研究は, クロス層保証, 評価設計, より安全な長距離ロボットエージェントの現実世界環境への展開に向けた研究の方向性を概説する。

関連論文リスト

• Vision-Language-Action Safety: Threats, Challenges, Evaluations, and Mechanisms [61.29786895012393]
  VLA(Vision-Language-Action)モデルがインボディードインテリジェンスのための統一された基盤として登場している。 この調査は、ビジョン・ランゲージ・アクションモデルにおける安全性の統一的で最新の概要を提供する。
  論文  参考訳（メタデータ） (2026-04-26T15:58:19Z)
• Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses [168.50301366360344]
  Embodied AI (Embodied AI) は、知覚、認知、計画、相互作用を、安全クリティカルな環境で機能するエージェントに統合する。 デジタルAIシステムとは異なり、エンボディエージェントは不確実な検知、不完全な知識、動的な人間とロボットの相互作用の下で行動しなければならない。 この調査は、エンボディされたAIにおける安全性研究の包括的なレビューを提供し、完全なエンボディされたパイプラインにわたる攻撃と防御を調査している。
  論文  参考訳（メタデータ） (2026-03-28T13:21:44Z)
• What Breaks Embodied AI Security:LLM Vulnerabilities, CPS Flaws,or Something Else? [28.12412876058788]
  身体化されたAIシステムは、制御された環境から安全クリティカルな現実世界へのデプロイへと急速に移行している。 インボディードAIとは異なり、インボディードインテリジェンスにおける失敗は、不可逆的な物理的結果をもたらす。 我々は,実施によるシステムレベルのミスマッチから,重大な障害が生じることを論じる。
  論文  参考訳（メタデータ） (2026-02-19T13:29:00Z)
• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• Trust in LLM-controlled Robotics: a Survey of Security Threats, Defenses and Challenges [31.289512037053246]
  大きな言語モデル(LLM)は、複雑なヒューマンコマンドを解釈し、洗練されたタスクを実行する能力に革命をもたらした。 このようなパラダイムシフトは、'embodiment gap'から生じる重大なセキュリティ脆弱性を導入します。 本稿では,LLM制御ロボティクスにおける脅威の出現状況とそれに対応する防衛戦略を要約した体系的な調査を行う。
  論文  参考訳（メタデータ） (2025-12-17T02:07:33Z)
• ANNIE: Be Careful of Your Robots [48.89876809734855]
  エンボディドAIシステムに対する敵の安全攻撃に関する最初の体系的研究について述べる。 すべての安全カテゴリーで攻撃の成功率は50%を超えている。 結果は、実証済みのAIシステムにおいて、これまで未調査だったが、非常に連続的な攻撃面を露呈する。
  論文  参考訳（メタデータ） (2025-09-03T15:00:28Z)
• Real-Time Out-of-Distribution Failure Prevention via Multi-Modal Reasoning [18.28480383898768]
  FORTRESSはロボットの安全性のための共同推論と計画のフレームワークである。 セマンティックに安全なフォールバック戦略を生成し、安全クリティカルなOOD障害を防ぐ。
  論文  参考訳（メタデータ） (2025-05-15T17:55:28Z)
• Safetywashing: Do AI Safety Benchmarks Actually Measure Safety Progress? [59.96471873997733]
  我々は、より有意義な安全指標を開発するための実証的な基盤を提案し、機械学習研究の文脈でAIの安全性を定義する。 我々は、AI安全研究のためのより厳格なフレームワークを提供し、安全性評価の科学を前進させ、測定可能な進歩への道筋を明らかにすることを目指している。
  論文  参考訳（メタデータ） (2024-07-31T17:59:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。