論文の概要: Pre-Execution Safety Gate & Task Safety Contracts for LLM-Controlled Robot Systems

• arxiv url: http://arxiv.org/abs/2604.05427v1
• Date: Tue, 07 Apr 2026 04:46:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-08 17:42:09.629325
• Title: Pre-Execution Safety Gate & Task Safety Contracts for LLM-Controlled Robot Systems
• Title（参考訳）: LLM制御ロボットの運転前安全ゲートと作業安全契約
• Authors: Ike Obi, Vishnunandan L. N. Venkatesh, Weizheng Wang, Ruiqi Wang, Dayoon Suh, Temitope I. Amosa, Wonse Jo, Byung-Cheol Min,
• Abstract要約: 我々は、安全でない自然言語タスクコマンドがロボットの実行に到達するのを防ぐ、ニューロシンボリックな安全アーキテクチャであるSafeGateを紹介した。 さらに,ゲートを通過するコマンドを不変条件,ガード条件,中止条件に分解するタスクセーフティ契約を導入する。 その結果,SafeGateは,良性タスクの高い受け入れを維持しつつも,欠陥コマンドの受け入れを著しく減少させることがわかった。
• 参考スコア（独自算出の注目度）: 14.419994656981002
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) are increasingly used to convert task commands into robot-executable code, however this pipeline lacks validation gates to detect unsafe and defective commands before they are translated into robot code. Furthermore, even commands that appear safe at the outset can produce unsafe state transitions during execution in the absence of continuous constraint monitoring. In this research, we introduce SafeGate, a neurosymbolic safety architecture that prevents unsafe natural language task commands from reaching robot execution. Drawing from ISO 13482 safety standard, SafeGate extracts structured safety-relevant properties from natural language commands and applies a deterministic decision gate to authorize or reject execution. In addition, we introduce Task Safety Contracts, which decomposes commands that pass through the gate into invariants, guards, and abort conditions to prevent unsafe state transitions during execution. We further incorporate Z3 SMT solving to enforce constraint checking derived from the Task Safety Contracts. We evaluate SafeGate against existing LLM-based robot safety frameworks and baseline LLMs across 230 benchmark tasks, 30 AI2-THOR simulation scenarios, and real-world robot experiments. Results show that SafeGate significantly reduces the acceptance of defective commands while maintaining a high acceptance of benign tasks, demonstrating the importance of pre-execution safety gates for LLM-controlled robot systems
• Abstract（参考訳）: 大規模言語モデル(LLM)は、タスクコマンドをロボット実行可能なコードに変換するために使われることが多いが、このパイプラインには、ロボットコードに変換される前に、安全で欠陥のあるコマンドを検出するための検証ゲートがない。 さらに、最初から安全に見えるコマンドでさえ、連続的な制約監視がなければ、実行中に安全でない状態遷移を発生させることができる。 本研究では,安全でない自然言語タスクコマンドがロボットの実行に到達するのを防ぐ,ニューロシンボリックな安全アーキテクチャであるSafeGateを紹介する。 ISO 13482の安全基準に基づき、SafeGateは自然言語コマンドから構造化された安全関連プロパティを抽出し、実行を認可または拒否するために決定論的決定ゲートを適用する。 さらに、ゲートを通過するコマンドを不変(invariant)、ガード( guard)、中止(abort)の条件に分解し、実行中の安全でない状態遷移を防ぐタスクセーフティ契約を導入する。 さらに,タスクセーフティ契約に基づく制約チェックを実施するために,Z3 SMT解決を取り入れた。 230のベンチマークタスク、30のAI2-THORシミュレーションシナリオ、実世界のロボット実験において、既存のLLMベースのロボット安全フレームワークとベースラインLLMに対してSafeGateを評価する。 その結果, SafeGateは, LLM制御ロボットシステムにおける前操作安全ゲートの重要性を実証し, 良性タスクの高い受け入れを維持しつつ, 欠陥コマンドの受け入れを著しく減少させることがわかった。

関連論文リスト

• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• AGENTSAFE: Benchmarking the Safety of Embodied Agents on Hazardous Instructions [64.85086226439954]
  本稿では,有害な指示に対するVLMエージェントの安全性を評価するためのベンチマークであるSAFEを提案する。 SAFEは、SAFE−THOR、SAFE−VERSE、SAFE−DIAGNOSEの3つの成分からなる。 我々は、ハザード認識を安全な計画と実行に翻訳する体系的な失敗を明らかにする。
  論文  参考訳（メタデータ） (2025-06-17T16:37:35Z)
• Safety Aware Task Planning via Large Language Models in Robotics [22.72668275829238]
  本稿では,ロボット作業計画に安全意識を組み込むためのマルチLLMフレームワークであるSAFER(Safety-Aware Framework for Execution in Robotics)を紹介する。 本フレームワークは, 複数段階の安全フィードバックを統合し, リアルタイムリスク評価, プロアクティブエラー訂正, 透過的安全性評価を実現している。
  論文  参考訳（メタデータ） (2025-03-19T21:41:10Z)
• Safety Guardrails for LLM-Enabled Robots [82.0459036717193]
  従来のロボット安全アプローチは、大規模言語モデル(LLM)の新たな脆弱性に対処しない LLM対応ロボットの安全性を確保するための2段ガードレールアーキテクチャであるRoboGuardを提案する。 RoboGuardは、安全プランのパフォーマンスを損なうことなく、安全でないプランの実行を92%から2.5%以下に削減することを示す。
  論文  参考訳（メタデータ） (2025-03-10T22:01:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。