論文の概要: Refuse the Harm, Complete the Task via Graph-of-Rules Planning for LLM-Enabled Robots

• arxiv url: http://arxiv.org/abs/2610.24603v1
• Date: Sat, 17 Oct 2026 10:13:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-22 17:27:52.87638
• Title: Refuse the Harm, Complete the Task via Graph-of-Rules Planning for LLM-Enabled Robots
• Title（参考訳）: LLMロボットのグラフ・オブ・ルール・プランニングによるハームの再利用
• Abstract要約: 我々は,LLM対応ロボットが正規部分を完成させながら,命令の有害部分を拒否するタスクであるセーフタスク補完を導入する。 5つの協力エージェントは、一般的な安全原則を世界固有のルールに根ざし、命令のサブタスクを文脈で評価し、正当な目標から安全な目標を導き出すために使用される。 我々は、ASR(Attack Success Rate)とTSR(Task Success Rate)の2つの環境での2つのベンチマークにおける純粋攻撃と複合命令に関するルールグラフを評価する。
• 参考スコア（独自算出の注目度）: 7.690381877859342
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) are increasingly used in embodied AI for robotic manipulation and planning, but their deployment in physical systems exposes vulnerabilities such as jailbreak attacks that induce unsafe behavior. Existing inference-time defenses are mainly evaluated on short instructions containing a single hazard, whereas realistic tasks may interleave safe and unsafe sub-tasks, conceal hazardous steps, or combine individually safe actions into unsafe outcomes. Such compound instructions make it harder for a single safety decision to distinguish hazardous sub-tasks from legitimate ones, risking either overlooking the hazard or rejecting the whole instruction. We introduce safe task completion, a task that requires an LLM-enabled robot to refuse the harmful part of an instruction while completing its legitimate part. To address this problem, we propose RuleGraph, a multi-agent Graph-of-Rules planning framework that distributes safety enforcement across multiple reasoning and verification stages. Five cooperating agents are used to ground general safety principles into world-specific rules, assess the instruction's sub-tasks in context, and derive a safe goal from the legitimate ones. Planning toward this goal is then organized as a graph of rule-specific nodes, where higher-level nodes inherit the union of their parents' rules, and candidate plans are progressively verified and aggregated until a single plan satisfies every relevant rule. In this way, RuleGraph reduces reliance on a single centralized safety decision. We evaluate RuleGraph on pure-attack and compound instructions across two benchmarks in two environments using Attack Success Rate (ASR) and Task Success Rate (TSR). RuleGraph reduces ASR to 0% on both benchmarks while achieving the highest TSR among all methods, reaching 98.57% on the RoboGuard benchmark and 84.54% on our long-horizon compound instructions.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、ロボット操作と計画のためのAIの具体化にますます使用されているが、物理的なシステムへの展開は、安全でない振る舞いを引き起こすジェイルブレイク攻撃のような脆弱性を露呈する。 既存の推論時防御は、主に単一の危険を含む短い指示に基づいて評価されるが、現実的なタスクは、安全で安全でないサブタスクをインターリーブしたり、有害なステップを隠したり、個別に安全なアクションを安全でない結果に組み合わせたりすることができる。 このような複合的な指示は、危険のあるサブタスクを正当なサブタスクと区別することを、単一の安全判断が難しくする。 我々は,LLM対応ロボットが正規部分を完成させながら,命令の有害部分を拒否するタスクであるセーフタスク補完を導入する。 この問題に対処するために,複数の推論および検証段階にまたがって安全対策を分散するマルチエージェントグラフ・オブ・ルール計画フレームワークであるルールグラフを提案する。 5つの協力エージェントは、一般的な安全原則を世界固有のルールに根ざし、命令のサブタスクを文脈で評価し、正当な目標から安全な目標を導き出すために使用される。 この目標に向けてのプランニングはルール固有のノードのグラフとして編成され、上位のノードが両親のルールの統一を継承し、候補プランが段階的に検証され、関連するすべてのルールを満たすまで集約される。 このように、ルールグラフは単一の集中型安全判断への依存を減らす。 本稿では、ASR(Attack Success Rate)とTSR(Task Success Rate)の2つの環境での2つのベンチマークにおける純粋攻撃と複合命令に関するルールグラフを評価する。 RuleGraph は両方のベンチマークで ASR を 0% に減らし、すべてのメソッドの中で最高 TSR を達成し、RoboGuard ベンチマークで98.57%、長い水平複合命令で84.54% に達した。

関連論文リスト

• Safe Task Planning with Long-Term Graph Memory for Embodied Agents [20.808759904759313]
  大規模言語モデル(LLM)と視覚言語モデル(VLM)は、エンボディエージェントのためのゼロショットタスク計画を大幅に進歩させた。 オープン環境と動的環境の長期セマンティックグラフメモリの構築と保守を行う,新しい安全なタスク計画フレームワーク SafeMem を提案する。
  論文  参考訳（メタデータ） (2026-09-08T08:49:50Z)
• OSGuard: A Benchmark for Safety in Computer-Use Agents [12.395093977641581]
  OSGuard(OSGuard)は、コンピュータ使用エージェントの安全性を評価するベンチマークスイートである。 OSGuardには、ローカルガードレール決定のためのアクションレベルベンチマークと、エンドツーエンド評価のためのリスク強化実行スイートが含まれている。
  論文  参考訳（メタデータ） (2026-06-13T00:32:24Z)
• VLESA: Vision-Language Embodied Safety Agent for Human Activity Monitoring [60.53395558502203]
  Vision-Language Embodied Safety Agent (VLESA)は、自我中心のビデオから人間の活動を監視する。 VLESAは、コンテキストに応じて同一のアクションが安全または危険である意図に依存した安全性に対処する。 目標を共同で推測し,映像から将来の行動を予測するための意図-行動予測エージェントを提案する。
  論文  参考訳（メタデータ） (2026-06-02T17:42:17Z)
• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• MADRA: Multi-Agent Debate for Risk-Aware Embodied Planning [3.058137447286947]
  既存の方法は、選好調整トレーニングや、単一エージェントの安全プロンプトを使用する場合のオーバーリジェクションによって、高い計算コストに悩まされることが多い。 トレーニング不要なマルチエージェント議論リスクアセスメントフレームワークMADRAを提案する。 私たちの仕事は、信頼できるエンボディエージェントを構築するためのスケーラブルでモデルに依存しないソリューションを提供します。
  論文  参考訳（メタデータ） (2025-11-26T14:51:37Z)
• AGENTSAFE: Benchmarking the Safety of Embodied Agents on Hazardous Instructions [64.85086226439954]
  本稿では,有害な指示に対するVLMエージェントの安全性を評価するためのベンチマークであるSAFEを提案する。 SAFEは、SAFE−THOR、SAFE−VERSE、SAFE−DIAGNOSEの3つの成分からなる。 我々は、ハザード認識を安全な計画と実行に翻訳する体系的な失敗を明らかにする。
  論文  参考訳（メタデータ） (2025-06-17T16:37:35Z)
• Graphormer-Guided Task Planning: Beyond Static Rules with LLM Safety Perception [4.424170214926035]
  本稿では,大規模言語モデルと構造化安全モデリングを組み合わせたリスク対応タスク計画フレームワークを提案する。 提案手法は,空間的および文脈的危険因子を抽出し,動的セマンティック安全グラフを構築する。 既定の安全性制約に依存する既存の手法とは異なり、我々のフレームワークはコンテキスト認識型リスク認識モジュールを導入している。
  論文  参考訳（メタデータ） (2025-03-10T02:43:54Z)
• SafeAgentBench: A Benchmark for Safe Task Planning of Embodied LLM Agents [58.65256663334316]
  我々は,対話型シミュレーション環境におけるLLMエージェントの安全性を考慮したタスク計画のための最初のベンチマークであるSafeAgentBenchを紹介する。 SafeAgentBenchは、(1)10の潜在的な危険と3つのタスクタイプをカバーするために厳格にキュレートされた750のタスクの実行可能な多種多様な高品質データセット、(2)低レベルコントローラを備えた普遍的な実施環境、9つの最先端ベースラインに対して17のハイレベルアクションでマルチエージェント実行をサポートするSafeAgentEnv、(3)実行とセマンティックの両方の観点から信頼性の高い評価方法を含む。
  論文  参考訳（メタデータ） (2024-12-17T18:55:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。