論文の概要: RT-Safe: Benchmarking Agent Safety in Real-Time Embodied Environment

• arxiv url: http://arxiv.org/abs/2610.09294v1
• Date: Wed, 07 Oct 2026 01:57:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.67519
• Title: RT-Safe: Benchmarking Agent Safety in Real-Time Embodied Environment
• Title（参考訳）: RT-Safe:リアルタイム身体環境におけるベンチマークエージェントの安全性
• Abstract要約: 本稿では,実時間制約下でのエンボディエージェントの安全性を評価するためのシミュレーション都市ベンチマークRT-SAFEを紹介する。 標準的なタスク成功は、重大な安全性上の障害を隠蔽し、決定遅延自体が物理的なリスクの源になることを示します。
• 参考スコア（独自算出の注目度）: 9.236370282727641
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Rapid progress in AI agents has brought growing attention to agent safety, with extensive evaluation focused on digital environments. As agents move into the physical world, embodied safety becomes increasingly important: failures can cause human injury and costly hardware damage. Beyond selecting safe actions, embodied agents must also operate under real-time constraints: the physical world does not pause while an agent reasons. As pedestrians move and vehicles approach during inference, an action that appears safe at observation time may become unsafe before execution. Real-time embodied safety therefore depends on both decision quality and decision latency. We introduce RT-SAFE, a simulated urban benchmark for evaluating embodied-agent safety under real-time constraints. RT-SAFE combines navigation tasks with moving actors, environmental hazards, and traffic rules, while allowing the world to evolve throughout inference and action execution. Across eight VLMs, agents achieve high task completion yet almost never complete safely: in the hardest setting, only 0.7% of episodes finish without a safety event. More strikingly, matched static and real-time evaluations yield task completion rates of 91.3% and 94.1%, respectively, while real-time execution increases collisions by $12.3\times$. These results reveal that standard task success can mask substantial safety failures, and that decision latency itself can become a source of physical risk. Finally, we show that RT-SAFE can support offline RL training and substantially reduce collision rates while achieving strong task completion.
• Abstract（参考訳）: AIエージェントの急速な進歩は、エージェントの安全性への関心を増し、デジタル環境に焦点を当てた広範な評価をもたらしている。 エージェントが物理的な世界に進出するにつれ、身体的安全性がますます重要になってくる。 安全なアクションの選択以外にも、エンボディされたエージェントはリアルタイムな制約の下で動作する必要がある。 歩行者が動き、車が推論中に近づくと、観察時に安全に見える行動が実行前に危険になる可能性がある。 したがって、リアルタイムの実施した安全性は、意思決定の品質と決定のレイテンシの両方に依存します。 本稿では,実時間制約下でのエンボディエージェントの安全性を評価するためのシミュレーション都市ベンチマークRT-SAFEを紹介する。 RT-SAFEは、ナビゲーションタスクを移動中のアクター、環境障害、交通ルールと組み合わせ、推論と行動実行を通じて世界が進化することを可能にする。 8つのVLMで、エージェントは高いタスク完了を達成できるが、ほぼ安全に完了することはなく、最も困難な環境では、安全イベントなしでエピソードのわずか0.7%が終了する。 さらに驚くべきことに、マッチした静的評価とリアルタイム評価は、それぞれ91.3%と94.1%のタスク完了率を示し、リアルタイム実行は、衝突を12.3\times$で増加させる。 これらの結果から、標準的なタスク成功は重大な安全障害を隠蔽し、決定待ち時間自体が物理的なリスクの原因となることが判明した。 最後に、RT-SAFEはオフラインRLトレーニングをサポートし、強いタスク完了を達成しつつ、衝突率を大幅に低減できることを示す。

関連論文リスト

• Self-Evolving Just-In-Time Memory for Proactive Embodied Safety [13.342067741014455]
  既存の安全アプローチは、安全でないアクションをブロックしたり、過度に注意を喚起するために、ランタイムガードレールに依存しています。 我々は,プログレッシブ・スタンリング・ガードレールからアクティブ・ハザード対策まで,安全を具体化した自己進化型Just-In-Time Memoryフレームワークを紹介した。
  論文  参考訳（メタデータ） (2026-06-26T14:26:24Z)
• SafeManip: A Property-Driven Benchmark for Temporal Safety Evaluation in Robotic Manipulation [30.582295885898997]
  本稿では,ロボット操作における時間的安全特性を明示的に評価するためのプロパティ駆動型ベンチマークであるSafeManipを紹介する。 SafeManipは、有限トレース上の線形時間論理(LTLf)を用いて、有限実行上の再利用可能な安全テンプレートを定義する。 我々は,50のRoboCasa365家計タスクに対して,$_0.5$,GR00T,およびそれらのトレーニングバリエーションを含む6つの視覚言語アクションポリシーについてSafeManipを評価した。
  論文  参考訳（メタデータ） (2026-05-12T16:49:28Z)
• BeSafe-Bench: Unveiling Behavioral Safety Risks of Situated Agents in Functional Environments [22.32760987248309]
  本研究では,機能的環境における位置エージェントの行動安全リスクを明らかにするベンチマークであるBeSafe-Bench(BSB)を提案する。 BSBは、Web、Mobile、Embodied VLM、Embodied VLAの4つの代表的なドメインをカバーしている。 機能的環境を用いて、安全クリティカルリスクの9つのカテゴリでタスクを増強し、多様な指導空間を構築する。
  論文  参考訳（メタデータ） (2026-01-30T03:41:57Z)
• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• SafeAgent: Safeguarding LLM Agents via an Automated Risk Simulator [77.86600052899156]
  LLM(Large Language Model)ベースのエージェントは、現実のアプリケーションにますますデプロイされる。 完全自動合成データ生成によるエージェント安全性を体系的に向上する最初のフレームワークであるAutoSafeを提案する。 AutoSafeは安全性のスコアを平均で45%向上させ、現実世界のタスクでは28.91%の改善を実現している。
  論文  参考訳（メタデータ） (2025-05-23T10:56:06Z)
• SafeAgentBench: A Benchmark for Safe Task Planning of Embodied LLM Agents [58.65256663334316]
  我々は,対話型シミュレーション環境におけるLLMエージェントの安全性を考慮したタスク計画のための最初のベンチマークであるSafeAgentBenchを紹介する。 SafeAgentBenchは、(1)10の潜在的な危険と3つのタスクタイプをカバーするために厳格にキュレートされた750のタスクの実行可能な多種多様な高品質データセット、(2)低レベルコントローラを備えた普遍的な実施環境、9つの最先端ベースラインに対して17のハイレベルアクションでマルチエージェント実行をサポートするSafeAgentEnv、(3)実行とセマンティックの両方の観点から信頼性の高い評価方法を含む。
  論文  参考訳（メタデータ） (2024-12-17T18:55:58Z)
• Safety Margins for Reinforcement Learning [53.10194953873209]
  安全マージンを生成するためにプロキシ臨界度メトリクスをどのように活用するかを示す。 Atari 環境での APE-X と A3C からの学習方針に対するアプローチを評価する。
  論文  参考訳（メタデータ） (2023-07-25T16:49:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。