論文の概要: Mind the Refinement Gap: When Safe High-Level Robot Plans Produce Unsafe Executions

• arxiv url: http://arxiv.org/abs/2610.02662v1
• Date: Fri, 02 Oct 2026 01:31:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.156832
• Title: Mind the Refinement Gap: When Safe High-Level Robot Plans Produce Unsafe Executions
• Title（参考訳）: 安全なハイレベルロボットは、安全でない実行を誘発する
• Abstract要約: 言語対応ロボットシステムは、セマンティックグラフ計画と時間論理的安全モニターをますます組み合わせている。 線形時間論理 (LTL) の仕様の下で, 表面計画上の評価値とグラフ修正トレース上の判定値を比較することにより, これらのシステムにおけるトレース完全性仮定について検討する。
• 参考スコア（独自算出の注目度）: 1.8700974135631865
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language-enabled robot systems increasingly combine semantic-graph planning with temporal-logic safety monitors. We investigate a trace-completeness assumption in these systems: whether the high-level action sequence checked by a monitor represents the navigation and implicit action effects induced during execution. We audit this assumption in RoboGuard by comparing its verdict on a surface plan with its verdict on a graph-refined trace under the same Linear Temporal Logic (LTL) specification. Our evaluation comprises 28 controlled cases spanning five action-abstraction families and 14 end-to-end cases in which SPINE [1] generates plans from natural-language instructions while RoboGuard generates scene-grounded safety specifications. In the controlled evaluation, all 12 targeted abstraction cases exhibit the predicted surface-versus-refined discrepancy while all 16 controls behave as expected, motivating graph-based trace refinement as a lightweight mitigation and a diagnostic tool for physical-AI safety monitors.
• Abstract（参考訳）: 言語対応ロボットシステムは、セマンティックグラフ計画と時間論理的安全モニターをますます組み合わせている。 モニタによってチェックされたハイレベルなアクションシーケンスが,実行中に誘導されるナビゲーションおよび暗黙的なアクション効果を表すかどうか,これらのシステムにおけるトレース完全性仮定について検討する。 我々は、RoboGuardにおけるこの仮定を、曲面計画上の判定と、LTL(Linear Temporal Logic)仕様に基づくグラフ修正トレース上の判定とを比較して評価する。 提案手法は,5家族にまたがる28例と,SPINE [1]が自然言語から計画を生成する14例と,RoboGuardがシーングラウンドの安全仕様を生成する14例からなる。 制御された評価では,12件の抽象化ケースはすべて,予測された表面逆修正の相違を示す一方,16件のコントロールは期待通りに動作し,グラフベースのトレースリファインメントを軽量な緩和と物理AI安全モニタの診断ツールとして動機付けている。

関連論文リスト

• RoboMonitor: Label-Efficient Runtime Monitoring of Robot Task Execution via Predictive Representation Learning [3.5773382751934792]
  実行監視には、現在の実行フェーズを特定し、障害を検出し、タスク完了を認識する必要がある。 監視監視を導入する前にデータセットから学習するラベル効率のよい視覚言語実行モニタであるRoboMonitorを紹介する。 デプロイメントでは、RoboMonitorはタスク命令とカメラ観察のみを必要とする。
  論文  参考訳（メタデータ） (2026-09-25T02:43:24Z)
• Corrupt Plans, Clean Traces: Evading Chain-of-Thought Monitoring with Plan Injection [21.905085829126666]
  チェーン・オブ・シント(CoT)モニタリングは、大規模言語モデル「アクター」の推論を「モニター」によって検査する安全戦略である。 アクターのコンテキストに有害だが良心的な推論を植えることによって、モニターを回避しながら敵の行動を起こせることが判明した。
  論文  参考訳（メタデータ） (2026-09-14T18:33:27Z)
• EmbodiedUS-FS: Fast Slow Intelligence for Ultrasound Robotics [7.86106222803178]
  安全かつ解釈可能なロボット超音波支援のための高速で遅い階層型超音波超音波システムを提案する。 Slow Brainは、APIとハンドブックコーパスから知識を増強して、インテント解析と段階的なタスク計画を実行する。 Fast Brainは、超音波画像、ロボットのポーズと強制状態、患者の運動情報などのマルチモーダルフィードバックを融合して、局所的な行動を洗練し、画質の高い回復行動を実行する。
  論文  参考訳（メタデータ） (2026-06-21T03:28:26Z)
• CORA: Conformal Risk-Controlled Agents for Safeguarded Mobile GUI Automation [68.53387633351484]
  有害な行為に対する統計的保証を提供するポスト・ポリティクス・プレアクション保護フレームワークであるCORA(Conformal Risk-control GUI Agent)を提案する。 CORAは、安全を選択的行動実行として再定義する:我々は、提案されたステップごとに行動条件リスクを推定するためにガーディアンモデルを訓練する。 このパラダイムを厳格に評価するために、ステップレベルのハーモラベルを持つモバイル安全違反の新しいベンチマークであるPhone-Harmを紹介する。
  論文  参考訳（メタデータ） (2026-04-10T09:41:21Z)
• TraceSafe: A Systematic Assessment of LLM Guardrails on Multi-Step Tool-Calling Trajectories [20.868825285848196]
  安全ガードレールは、自然言語の応答には適しているが、その有効性は、多段階のツール使用軌跡の中では明らかにされていない。 このギャップに対処するために、中間軌道安全性を評価するために特別に設計された最初の包括的なベンチマークであるStructureSafe-Benchを紹介します。
  論文  参考訳（メタデータ） (2026-04-08T15:46:14Z)
• Detecting Object Tracking Failure via Sequential Hypothesis Testing [80.7891291021747]
  ビデオにおけるリアルタイムのオンラインオブジェクト追跡は、コンピュータビジョンにおける中核的なタスクである。 本稿では,物体追跡を逐次的仮説テストとして解釈することを提案する。 本研究では,地中追跡情報と内部追跡情報の両方を活用することにより,教師なしと教師なしの両方の変種を提案する。
  論文  参考訳（メタデータ） (2026-02-13T14:57:15Z)
• SafePlanner: Testing Safety of the Automated Driving System Plan Model [12.833174109894843]
  SafePlannerは、自動運転システムのプランモデルにおける安全クリティカルな欠陥を特定するためのフレームワークである。 構造的に意味のあるテストシナリオを生成し、有害な計画行動を検出する。 83.63パーセントの機能を達成し、63.22パーセントの意思決定をプランモデルでカバーし、バグ発見と効率の両方においてベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-01-14T05:14:00Z)
• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• AGENTSAFE: Benchmarking the Safety of Embodied Agents on Hazardous Instructions [64.85086226439954]
  本稿では,有害な指示に対するVLMエージェントの安全性を評価するためのベンチマークであるSAFEを提案する。 SAFEは、SAFE−THOR、SAFE−VERSE、SAFE−DIAGNOSEの3つの成分からなる。 我々は、ハザード認識を安全な計画と実行に翻訳する体系的な失敗を明らかにする。
  論文  参考訳（メタデータ） (2025-06-17T16:37:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。