論文の概要: LEASH: Stay Safe in Agentic Robotics
- arxiv url: http://arxiv.org/abs/2611.14115v1
- Date: Tue, 10 Nov 2026 14:06:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-12 04:24:43.830344
- Title: LEASH: Stay Safe in Agentic Robotics
- Title(参考訳): LEASH: エージェントロボティクスの安全確保
- Abstract要約: エージェントロボットの安全性を評価するベンチマークであるRoboRiskを紹介する。
RoboRiskはタスクレベルのリフェール(T)、計画修正(P)、実行時ハザード(E)、インジェクション(I)、シーケンスメモリ(S)の5つのカテゴリをカバーしている。
本稿では, エージェント・ロボティクスに不可欠な安全インフラを提供するリース強化エージェント・セーフティ・ハーネス(LEASH)を提案する。
- 参考スコア(独自算出の注目度): 24.232822224853667
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Foundation models such as GPT and Claude have shown strong capabilities in spatial understanding and embodied intelligence. These advances make agentic robotics a promising path toward artificial general intelligence in robotics. However, we find that using foundation models to control robots poses serious safety risks, and comprehensive safety evaluation is still lacking. We introduce RoboRisk, a comprehensive benchmark for evaluating safety in agentic robotics. Its 92 simulated tasks and 13 physical-robot tasks fall into five categories: Task-level Refusal (T), Plan Repair (P), Execution-time Hazard (E), Injection (I), and Sequential Memory (S). Prior benchmarks cover at most two of these categories, and several evaluate only text outputs. In contrast, RoboRisk covers all five and executes every task in closed loop. We evaluate six state-of-the-art foundation models on RoboRisk: GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna, Claude Opus 5.5, Gemini 4 Argon, and Grok 4.7. These models generally show high harm rates. We also evaluate two robot-specific APIs: the Dream API and PokeBot's RoboAPI. We further propose the Lease-Enforced Agentic Safety Harness (LEASH), which offers essential safety infrastructure for agentic robotics and can be integrated into nearly any agentic architecture. LEASH leverages a decision model (Jev or OpenAI's Decisions API) to implement task, action, and commit gates, which review the task, each action, and each irreversible operation in their visual context. The planner and all three gates share a common safety policy. Experiments on RoboRisk in simulation and on physical robots show that LEASH effectively reduces harm across all six foundation models. It largely preserves their task completion performance and adds little time and token overhead.
- Abstract(参考訳): GPTやClaudeのような基礎モデルは、空間的理解とインテリジェンスの具体化において強力な能力を示している。
これらの進歩により、ロボット工学における人工知能への有望な道がエージェントロボットである。
しかし, 基礎モデルを用いてロボットを制御すると, 深刻な安全リスクが生じ, 包括的安全性評価がいまだに欠如していることが判明した。
エージェントロボットの安全性を評価するための総合的なベンチマークであるRoboRiskを紹介する。
92のシミュレーションタスクと13の物理ロボットタスクは、タスクレベルの拒絶(T)、計画修正(P)、実行時ハザード(E)、インジェクション(I)、シーケンスメモリ(S)の5つのカテゴリに分類される。
以前のベンチマークでは、これらのカテゴリの少なくとも2つをカバーしており、いくつかはテキスト出力のみを評価している。
対照的に、RoboRiskは5つ全てをカバーし、クローズドループですべてのタスクを実行する。
GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna, Claude Opus 5.5, Gemini 4 Argon, Grok 4.7。
これらのモデルは一般的に高い害率を示す。
また、Dream APIとPokeBotのRoboAPIの2つのロボット固有のAPIを評価します。
さらに, エージェントロボットに不可欠な安全インフラを提供し, ほぼすべてのエージェントアーキテクチャに統合可能なリース強化エージェント安全ハーネス (LEASH) を提案する。
LEASHは、タスク、アクション、コミットゲートを実装するために決定モデル(JevまたはOpenAIのDecisions API)を活用し、タスク、各アクション、および各不可逆操作を視覚的コンテキストでレビューする。
プランナーと3つのゲートは共通の安全方針を共有している。
シミュレーションおよび物理ロボットにおけるRoboRiskの実験は、LEASHが6つの基礎モデルすべてに対して効果的に害を軽減していることを示している。
タスク完了のパフォーマンスを保ち、時間とトークンのオーバーヘッドがほとんどありません。
関連論文リスト
- Physical Agentic AI: An Architecture for Orchestrating a Robot Crew with LLMs [6.2312877626161205]
本稿では,スキルグラウンドロボットエージェントオーケストレーションのためのフレームワークであるPhysical Agentic AIを紹介する。
ロボットオーケストレーションレイヤは、スキルライブラリ、ロボット状態、名前付きロケーション、ワークフローコントラクトを非アクチュエータミッションプランナに公開する。
我々は,ガゼボで全条件で全ミッションが実行され,ドローン-UGV検索・ディスパッチミッションを評価する。
論文 参考訳(メタデータ) (2026-08-23T23:35:31Z) - Action Chunk Scheduling for Batched Robot Policy Serving [7.138711572751692]
本稿では、遠隔GPUから複数のロボットにロボットポリシーを提供する問題を紹介し、スケジューリング問題として定式化する。
私たちは、シミュレートされたロボットと実際のロボットの両方で検証されたサービスシステムであるArmoryを構築します。
実験の結果,全てのロボットが同じ場合,ロボットが異なる速度で行動チャンクを消費した場合は不十分であることがわかった。
論文 参考訳(メタデータ) (2026-07-31T22:58:59Z) - Propagating Unsafe Actions in LLM Controlled Multi-Robot Collaboration via Single Robot Compromise [26.689718481370903]
大規模言語モデル (LLMs) は、インテリジェンスにおける一般的なプランナーとしてますます使われている。
対戦相手が単一のエントリーロボットのみと対話するマルチロボットシステムに対する新たな攻撃パラダイムを提案する。
私たちはこのプロセスを3つのメトリクス、服従、伝染、ステルスネスで定量化します。
論文 参考訳(メタデータ) (2026-05-15T05:45:52Z) - RoboReward: General-Purpose Vision-Language Reward Models for Robotics [124.34685604054312]
視覚言語モデル(VLM)は、自動報酬モデルとして期待されているが、実際のロボットタスクにおけるそれらの効果は理解されていない。
大規模な実ロボットコーパス上に構築されたロボティクス報酬データセットとベンチマークであるRoboRewardを導入することで、このギャップを埋めることを目指している。
論文 参考訳(メタデータ) (2026-01-02T12:47:34Z) - Robot-R1: Reinforcement Learning for Enhanced Embodied Reasoning in Robotics [55.05920313034645]
本稿では,ロボット制御に特化して具体的推論を強化するため,強化学習を活用した新しいフレームワークであるRobot-R1を紹介する。
DeepSeek-R1学習アプローチにインスパイアされたRobot-R1は、推論に基づく応答をサンプリングし、より正確な予測につながるものを強化する。
実験の結果,ロボットR1で訓練したモデルは,具体的推論タスクにおいて,SFT法よりも優れていた。
論文 参考訳(メタデータ) (2025-05-29T16:41:12Z) - Robotic Programmer: Video Instructed Policy Code Generation for Robotic Manipulation [29.67033327646875]
RoboProは、ゼロショット方式でポリシーコードでロボット操作を行うロボット基礎モデルである。
RoboProは、シミュレータと現実世界の両方の環境でのロボット操作において、最先端のゼロショットのパフォーマンスを実現している。
論文 参考訳(メタデータ) (2025-01-08T04:30:45Z) - $π_0$: A Vision-Language-Action Flow Model for General Robot Control [77.32743739202543]
本稿では,インターネット規模のセマンティック知識を継承するために,事前学習された視覚言語モデル(VLM)上に構築された新しいフローマッチングアーキテクチャを提案する。
我々は,事前訓練後のタスクをゼロショットで実行し,人からの言語指導に追従し,微調整で新たなスキルを習得する能力の観点から,我々のモデルを評価した。
論文 参考訳(メタデータ) (2024-10-31T17:22:30Z) - RoboScript: Code Generation for Free-Form Manipulation Tasks across Real
and Simulation [77.41969287400977]
本稿では,コード生成を利用したデプロイ可能なロボット操作パイプラインのためのプラットフォームである textbfRobotScript を提案する。
自由形自然言語におけるロボット操作タスクのためのコード生成ベンチマークも提案する。
我々は,Franka と UR5 のロボットアームを含む,複数のロボットエボディメントにまたがるコード生成フレームワークの適応性を実証した。
論文 参考訳(メタデータ) (2024-02-22T15:12:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。