論文の概要: CAPSafe: A Benchmark for Contextual Action and Plan Safety Reasoning in Embodied Agents

• arxiv url: http://arxiv.org/abs/2610.28381v1
• Date: Tue, 20 Oct 2026 15:33:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.888491
• Title: CAPSafe: A Benchmark for Contextual Action and Plan Safety Reasoning in Embodied Agents
• Title（参考訳）: CAPSafe: 身体的エージェントの文脈行動と計画安全推論のためのベンチマーク
• Abstract要約: 大規模言語モデル(LLM)を用いたエンボディエージェントには安全に関する推論が不可欠である CAPSafe(Contextual Action and Plan Safety)ベンチマークについて紹介する。 環境条件を考慮して、一つの行動が安全かどうかを検査する。 また、複雑な有害な家庭作業のために、エージェントが安全なロングホライゾンプランを作成できるかどうかも評価する。
• 参考スコア（独自算出の注目度）: 16.691433462683445
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Reasoning about safety is essential for embodied agents powered by large language models (LLMs). We introduce the Contextual Action and Plan Safety benchmark (CAPSafe), designed to evaluate safety reasoning at two levels: (1) an action-level dataset that tests whether a single action is safe given its environmental context, and (2) a plan-level dataset that evaluates whether agents can generate safe long-horizon plans for complex hazardous household tasks. CAPSafe models safety conditions where hazards are situational (inferred from object properties), multiple hazards can co-occur within the same environment, and each is annotated with a relative severity level for fine-grained analysis. Evaluating nine closed and open-source LLMs reveals a substantial gap between hazard recognition and safe long-horizon planning. Several models achieve high accuracy in recognizing unsafe actions (exceeding 90% in the best cases), yet safe long-horizon planning remains substantially harder. Gemini-3-pro achieves the highest safe success rate (78.19%), while other models remain below 65%. These results highlight that robust safety reasoning over long action sequences remains an open challenge.
• Abstract（参考訳）: 安全性に関する推論は、大型言語モデル(LLM)を利用したエンボディエージェントにとって不可欠である。 本研究では,1つの行動が安全かどうかを判断する行動レベルデータセットと,2つの行動レベルデータセットを用いて,エージェントが複雑な有害な家庭作業に対して安全な長期計画を作成することができるかどうかを評価する。 CAPSafeは、ハザードが状況的(物的特性から推測される)で、複数のハザードが同一環境内で共起し、それぞれが微粒な分析のために相対的な重度レベルで注釈付けされる安全条件をモデル化する。 9つのクローズドかつオープンソースのLCMを評価することは、ハザード認識と安全なロングホライゾン計画の間に大きなギャップがあることを明らかにする。 いくつかのモデルでは、安全でない行動(最良の場合の90%)を認識する上で高い精度が達成されているが、安全な長距離計画は依然としてかなり難しいままである。 Gemini-3-proは最も安全な成功率(78.19%)を達成したが、他のモデルは65%以下にとどまった。 これらの結果は、長いアクションシーケンスに対する堅牢な安全性推論が依然としてオープンな課題であることを示している。

関連論文リスト

• SafeRelBench: A Spatial-Relation-Aware Benchmark for Process-Level Safety in VLM-Driven Embodied Agents [29.05559307748216]
  SFERELBENCHは,507個の実測値を持つ空間相関型安全ベンチマークである。 SAFERELBENCHを用いて、7つのオープンソースおよびクローズドソースなVLM駆動型エンボディエージェントの評価を行い、タスク成功とプロセスレベルの安全コンプライアンスの間に大きなギャップを見出した。
  論文  参考訳（メタデータ） (2026-07-16T03:59:44Z)
• Yuvion LLM: An Adversarially-Aware Large Language Model for Content And AI Safety [67.86055044301408]
  我々は、敵対的に堅牢なコンテンツ安全性とより広範なAI安全性のために構築された、大きな言語モデルであるYuvion LLMを紹介する。 そのパイプラインは、逆向きに認識されたデータ構築、知識の強化された継続事前訓練、およびポリシーに基づくマルチタスクのトレーニング後安全性を組み合わせたものだ。 Yuvion LLMは、安全に焦点を当てたベンチマークにおいて明らかな利点を示し、特に敵対的な条件下では強い堅牢性を示す。
  論文  参考訳（メタデータ） (2026-06-26T01:12:02Z)
• SafetyALFRED: Evaluating Safety-Conscious Planning of Multimodal Large Language Models [46.968844120076916]
  実装エージェントベンチマークALFRED上に構築されたSafetyALFREDを紹介し,実際のキッチンハザードの6つのカテゴリを拡張した。 我々は,リスク認識だけでなく,具体的計画によるアクティブなリスク軽減についても,11種類の最先端モデルを評価した。
  論文  参考訳（メタデータ） (2026-04-21T16:27:20Z)
• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• SafeMind: Benchmarking and Mitigating Safety Risks in Embodied LLM Agents [7.975014390527644]
  大規模言語モデル(LLM)を利用したエージェントは、高度な計画能力を継承するが、物理世界との直接的な相互作用は安全上の脆弱性を露呈する。 SafeMindBenchは、4つのタスクカテゴリ(Instr-Risk、Env-Risk、Order-Fix、Req-Align)にまたがる5,558のサンプルを備えたマルチモーダルベンチマークである。 SafeMindAgentはモジュール型Planner-Executorアーキテクチャで、3つのケースドセーフモジュールを統合し、安全性制約を推論プロセスに組み込む。
  論文  参考訳（メタデータ） (2025-09-30T07:24:04Z)
• AGENTSAFE: Benchmarking the Safety of Embodied Agents on Hazardous Instructions [64.85086226439954]
  本稿では,有害な指示に対するVLMエージェントの安全性を評価するためのベンチマークであるSAFEを提案する。 SAFEは、SAFE−THOR、SAFE−VERSE、SAFE−DIAGNOSEの3つの成分からなる。 我々は、ハザード認識を安全な計画と実行に翻訳する体系的な失敗を明らかにする。
  論文  参考訳（メタデータ） (2025-06-17T16:37:35Z)
• A Framework for Benchmarking and Aligning Task-Planning Safety in LLM-Based Embodied Agents [13.225168384790257]
  大規模言語モデル(LLM)は、エンボディエージェント内のタスク計画能力を向上する上で大きな可能性を秘めている。 我々は, LLMをベースとしたエンボディエージェントの挙動を, セーフプランベンチとアライメントのための統合フレームワークであるSafe-BeAlを提案する。 我々の経験的分析によると、敵対的な入力や悪意がなくても、LSMベースのエージェントは安全でない行動を示すことができる。
  論文  参考訳（メタデータ） (2025-04-20T15:12:14Z)
• SafeVLA: Towards Safety Alignment of Vision-Language-Action Model via Constrained Learning [30.037309138373754]
  視覚言語アクションモデル(VLA)は、汎用的なロボットポリシーとしての可能性を示している。 これらのモデルは、環境、ロボット自身、人間への危害のリスクを含む、現実世界の展開中に極端な安全上の課題を生じさせる。 我々は、ISA(Integrated safety approach)を探求し、安全要件を体系的にモデル化し、多様な安全でない振る舞いを積極的に引き出すことによって、この問題に対処する。
  論文  参考訳（メタデータ） (2025-03-05T13:16:55Z)
• Safety Margins for Reinforcement Learning [53.10194953873209]
  安全マージンを生成するためにプロキシ臨界度メトリクスをどのように活用するかを示す。 Atari 環境での APE-X と A3C からの学習方針に対するアプローチを評価する。
  論文  参考訳（メタデータ） (2023-07-25T16:49:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。