論文の概要: PROTEA: Securing Robot Task Planning and Execution

• arxiv url: http://arxiv.org/abs/2601.07186v1
• Date: Mon, 12 Jan 2026 04:13:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-23 08:17:40.737003
• Title: PROTEA: Securing Robot Task Planning and Execution
• Title（参考訳）: PROTEA: ロボットタスク計画と実行の確保
• Abstract要約: 近年の対人攻撃の研究は、既存のロボットタスクプランナーの重大な脆弱性を明らかにしている。 本稿では,LLM-as-a-Judge防衛機構であるProteAを紹介し,タスクプランの安全性を評価する。 本研究は, 作業計画システムの堅牢性と安全性向上を図るロボットシステム実践者に対して, 実用的な知見を提供するものである。
• 参考スコア（独自算出の注目度）: 8.03349484209617
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Robots need task planning methods to generate action sequences for complex tasks. Recent work on adversarial attacks has revealed significant vulnerabilities in existing robot task planners, especially those built on foundation models. In this paper, we aim to address these security challenges by introducing PROTEA, an LLM-as-a-Judge defense mechanism, to evaluate the security of task plans. PROTEA is developed to address the dimensionality and history challenges in plan safety assessment. We used different LLMs to implement multiple versions of PROTEA for comparison purposes. For systemic evaluations, we created a dataset containing both benign and malicious task plans, where the harmful behaviors were injected at varying levels of stealthiness. Our results provide actionable insights for robotic system practitioners seeking to enhance robustness and security of their task planning systems. Details, dataset and demos are provided: https://protea-secure.github.io/PROTEA/
• Abstract（参考訳）: ロボットは複雑なタスクのためのアクションシーケンスを生成するタスク計画方法を必要とする。 最近の敵攻撃の研究は、既存のロボットタスクプランナー、特に基礎モデル上に構築されたロボットの重大な脆弱性を明らかにしている。 本稿では,LLM-as-a-Judge 防衛機構である PROTEA を導入して,タスクプランのセキュリティを評価することで,これらのセキュリティ課題に対処することを目的とする。 PROTEAは、計画安全評価における次元と歴史の課題に対処するために開発された。 比較のために複数のバージョンの PROTEA を実装した。 システム評価では,悪質なタスク計画と悪質なタスク計画の両方を含むデータセットを作成し,有害な振る舞いをさまざまなレベルのステルスネスで注入した。 本研究は, 作業計画システムの堅牢性と安全性向上を図るロボットシステム実践者に対して, 実用的な知見を提供するものである。 詳細、データセット、デモが提供されている。 https://protea-secure.github.io/PROTEA/

関連論文リスト

• RoboWits: Unexpected Challenges for Robotic Creative Problem Solving [58.58727722988084]
  我々は、認知的推論、創造的ツールの使用、予期しない状況に対する堅牢性を評価するために設計された、双方向のロボットベンチマークであるRoboWitsを紹介する。 このパイプラインを用いて,30種類の種タスクと208のタスクを,幾何学的,物質的,集合的推論にまたがる変異と難易度でキュレートした。 プレトレーニングされたVLAは,単一タスクの微調整後にシードタスクに予備的な成功を示すが,変異タスクの実行に苦慮している。
  論文  参考訳（メタデータ） (2026-05-28T17:57:15Z)
• LPS-Bench: Benchmarking Safety Awareness of Computer-Use Agents in Long-Horizon Planning under Benign and Adversarial Scenarios [51.52395368061729]
  LPS-Benchは,長期作業下でのMPPベースのCUAの計画時安全意識を評価するベンチマークである。 実験は、安全な行動を維持する既存のCUAの能力に重大な欠陥があることを明らかにする。 MCPに基づくCUAシステムにおける長期計画の安全性向上のための緩和戦略を提案する。
  論文  参考訳（メタデータ） (2026-02-03T08:40:24Z)
• MaP-AVR: A Meta-Action Planner for Agents Leveraging Vision Language Models and Retrieval-Augmented Generation [18.84633713315585]
  複雑な日々のタスクを管理するように設計されたロボットAIシステムは、ハイレベルなタスクを理解し分解するためのタスクプランナーに依存している。 本稿は、計画されたスキルセットを定義することが同様に重要である、と論じる。 日々の環境の複雑さに対処するためには、スキルセットは高度な一般化能力を持つべきである。
  論文  参考訳（メタデータ） (2025-12-22T14:58:52Z)
• VerifyLLM: LLM-Based Pre-Execution Task Plan Verification for Robots [44.99833362998488]
  本研究では,シミュレータや実環境で実行する前に,タスクプランを自動的に検証するアーキテクチャを提案する。 このモジュールは、Large Language Modelsの推論機能を使用して、論理的一貫性を評価し、計画の潜在的なギャップを特定する。 我々は,タスク計画の信頼性と効率の向上に寄与し,自律システムにおける堅牢な事前実行検証の必要性に対処する。
  論文  参考訳（メタデータ） (2025-07-07T15:31:36Z)
• Robo-Troj: Attacking LLM-based Task Planners [9.129136827127443]
  LLMベースのタスクプランナを対象とした,最初のマルチトリガーバックドアアタックであるRobo-Trojを開発した。 マルチトリガー攻撃として、Robo-Trojは、ロボットアプリケーションドメインの多様性に対応するために訓練されている。
  論文  参考訳（メタデータ） (2025-04-23T19:39:16Z)
• Safety Aware Task Planning via Large Language Models in Robotics [22.72668275829238]
  本稿では,ロボット作業計画に安全意識を組み込むためのマルチLLMフレームワークであるSAFER(Safety-Aware Framework for Execution in Robotics)を紹介する。 本フレームワークは, 複数段階の安全フィードバックを統合し, リアルタイムリスク評価, プロアクティブエラー訂正, 透過的安全性評価を実現している。
  論文  参考訳（メタデータ） (2025-03-19T21:41:10Z)
• Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics [68.36528819227641]
  本稿では,ビジョン・ランゲージ・アクション(VLA)モデルのロバスト性を体系的に評価する。 本研究では,ロボット行動の不安定化に空間的基盤を活用する2つの未目標攻撃目標と,ロボット軌道を操作する目標攻撃目標を導入する。 我々は、カメラの視野に小さなカラフルなパッチを配置し、デジタルと物理の両方の環境で効果的に攻撃を実行する逆パッチ生成アプローチを設計する。
  論文  参考訳（メタデータ） (2024-11-18T01:52:20Z)
• COHERENT: Collaboration of Heterogeneous Multi-Robot System with Large Language Models [49.24666980374751]
  COHERENTは、異種マルチロボットシステムの協調のための新しいLCMベースのタスク計画フレームワークである。 提案-実行-フィードバック-調整機構は,個々のロボットに対して動作を分解・割り当てするように設計されている。 実験の結果,我々の研究は,成功率と実行効率の面で,従来の手法をはるかに上回っていることが明らかとなった。
  論文  参考訳（メタデータ） (2024-09-23T15:53:41Z)
• Probabilistically Correct Language-based Multi-Robot Planning using Conformal Prediction [11.614036749291216]
  本稿では,S-ATLAS for Safe plAnning for Teams of Language-instructed Agentsを提案する。 提案したプランナは,計画実行が成功すると仮定して,ユーザ指定のタスク成功率を達成可能であることを示す。 我々は,本手法が計算効率が高く,ヘルプレートが低いことを示す関連研究との比較実験を行った。
  論文  参考訳（メタデータ） (2024-02-23T15:02:44Z)
• AlphaBlock: Embodied Finetuning for Vision-Language Reasoning in Robot Manipulation [50.737355245505334]
  本稿では,ロボット操作タスクにおける高レベル認知能力を学習するための新しいフレームワークを提案する。 得られたデータセットAlphaBlockは、多段階のテキストプランとペア観測による35の包括的なハイレベルタスクで構成されている。
  論文  参考訳（メタデータ） (2023-05-30T09:54:20Z)
• ProgPrompt: Generating Situated Robot Task Plans using Large Language Models [68.57918965060787]
  大規模言語モデル(LLM)は、タスク計画中の潜在的な次のアクションを評価するために使用することができる。 本稿では, プログラム型LCMプロンプト構造を用いて, 配置環境間での計画生成機能を実現する。
  論文  参考訳（メタデータ） (2022-09-22T20:29:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。