論文の概要: PROTEA: Securing Robot Task Planning and Execution

• arxiv url: http://arxiv.org/abs/2601.07186v1
• Date: Mon, 12 Jan 2026 04:13:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-23 08:17:40.737003
• Title: PROTEA: Securing Robot Task Planning and Execution
• Title（参考訳）: PROTEA: ロボットタスク計画と実行の確保
• Authors: Zainab Altaweel, Mohaiminul Al Nahian, Jake Juettner, Adnan Siraj Rakin, Shiqi Zhang,
• Abstract要約: 近年の対人攻撃の研究は、既存のロボットタスクプランナーの重大な脆弱性を明らかにしている。 本稿では,LLM-as-a-Judge防衛機構であるProteAを紹介し,タスクプランの安全性を評価する。 本研究は, 作業計画システムの堅牢性と安全性向上を図るロボットシステム実践者に対して, 実用的な知見を提供するものである。
• 参考スコア（独自算出の注目度）: 8.03349484209617
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Robots need task planning methods to generate action sequences for complex tasks. Recent work on adversarial attacks has revealed significant vulnerabilities in existing robot task planners, especially those built on foundation models. In this paper, we aim to address these security challenges by introducing PROTEA, an LLM-as-a-Judge defense mechanism, to evaluate the security of task plans. PROTEA is developed to address the dimensionality and history challenges in plan safety assessment. We used different LLMs to implement multiple versions of PROTEA for comparison purposes. For systemic evaluations, we created a dataset containing both benign and malicious task plans, where the harmful behaviors were injected at varying levels of stealthiness. Our results provide actionable insights for robotic system practitioners seeking to enhance robustness and security of their task planning systems. Details, dataset and demos are provided: https://protea-secure.github.io/PROTEA/
• Abstract（参考訳）: ロボットは複雑なタスクのためのアクションシーケンスを生成するタスク計画方法を必要とする。 最近の敵攻撃の研究は、既存のロボットタスクプランナー、特に基礎モデル上に構築されたロボットの重大な脆弱性を明らかにしている。 本稿では,LLM-as-a-Judge 防衛機構である PROTEA を導入して,タスクプランのセキュリティを評価することで,これらのセキュリティ課題に対処することを目的とする。 PROTEAは、計画安全評価における次元と歴史の課題に対処するために開発された。 比較のために複数のバージョンの PROTEA を実装した。 システム評価では,悪質なタスク計画と悪質なタスク計画の両方を含むデータセットを作成し,有害な振る舞いをさまざまなレベルのステルスネスで注入した。 本研究は, 作業計画システムの堅牢性と安全性向上を図るロボットシステム実践者に対して, 実用的な知見を提供するものである。 詳細、データセット、デモが提供されている。 https://protea-secure.github.io/PROTEA/

関連論文リスト

• LPS-Bench: Benchmarking Safety Awareness of Computer-Use Agents in Long-Horizon Planning under Benign and Adversarial Scenarios [51.52395368061729]
  LPS-Benchは,長期作業下でのMPPベースのCUAの計画時安全意識を評価するベンチマークである。 実験は、安全な行動を維持する既存のCUAの能力に重大な欠陥があることを明らかにする。 MCPに基づくCUAシステムにおける長期計画の安全性向上のための緩和戦略を提案する。
  論文  参考訳（メタデータ） (2026-02-03T08:40:24Z)
• Robo-Troj: Attacking LLM-based Task Planners [9.129136827127443]
  LLMベースのタスクプランナを対象とした,最初のマルチトリガーバックドアアタックであるRobo-Trojを開発した。 マルチトリガー攻撃として、Robo-Trojは、ロボットアプリケーションドメインの多様性に対応するために訓練されている。
  論文  参考訳（メタデータ） (2025-04-23T19:39:16Z)
• Safety Aware Task Planning via Large Language Models in Robotics [22.72668275829238]
  本稿では,ロボット作業計画に安全意識を組み込むためのマルチLLMフレームワークであるSAFER(Safety-Aware Framework for Execution in Robotics)を紹介する。 本フレームワークは, 複数段階の安全フィードバックを統合し, リアルタイムリスク評価, プロアクティブエラー訂正, 透過的安全性評価を実現している。
  論文  参考訳（メタデータ） (2025-03-19T21:41:10Z)
• Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics [68.36528819227641]
  本稿では,ビジョン・ランゲージ・アクション(VLA)モデルのロバスト性を体系的に評価する。 本研究では,ロボット行動の不安定化に空間的基盤を活用する2つの未目標攻撃目標と,ロボット軌道を操作する目標攻撃目標を導入する。 我々は、カメラの視野に小さなカラフルなパッチを配置し、デジタルと物理の両方の環境で効果的に攻撃を実行する逆パッチ生成アプローチを設計する。
  論文  参考訳（メタデータ） (2024-11-18T01:52:20Z)
• COHERENT: Collaboration of Heterogeneous Multi-Robot System with Large Language Models [49.24666980374751]
  COHERENTは、異種マルチロボットシステムの協調のための新しいLCMベースのタスク計画フレームワークである。 提案-実行-フィードバック-調整機構は,個々のロボットに対して動作を分解・割り当てするように設計されている。 実験の結果,我々の研究は,成功率と実行効率の面で,従来の手法をはるかに上回っていることが明らかとなった。
  論文  参考訳（メタデータ） (2024-09-23T15:53:41Z)
• Probabilistically Correct Language-based Multi-Robot Planning using Conformal Prediction [11.614036749291216]
  本稿では,S-ATLAS for Safe plAnning for Teams of Language-instructed Agentsを提案する。 提案したプランナは,計画実行が成功すると仮定して,ユーザ指定のタスク成功率を達成可能であることを示す。 我々は,本手法が計算効率が高く,ヘルプレートが低いことを示す関連研究との比較実験を行った。
  論文  参考訳（メタデータ） (2024-02-23T15:02:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。