論文の概要: A Generalizable Approach to Safety-Aware Robotic Behavior Planning with an Explicit Constraint Space
- arxiv url: http://arxiv.org/abs/2611.18026v1
- Date: Fri, 13 Nov 2026 10:51:57 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-16 19:23:44.377254
- Title: A Generalizable Approach to Safety-Aware Robotic Behavior Planning with an Explicit Constraint Space
- Title(参考訳): 明示的制約空間を用いた安全対応型ロボット行動計画への一般化可能なアプローチ
- Abstract要約: 大規模言語と視覚言語モデルは、自然言語の指示と視覚的な観察からかなり高度なロボット行動計画を立てている。
本稿では,再利用可能なテキスト安全ルールを格納する明示的な制約空間に基づく安全対応型行動計画フレームワークを提案する。
- 参考スコア(独自算出の注目度): 4.107351725651862
- License:
- Abstract: Large language and vision-language models have substantially advanced robotic behavior planning from natural-language instructions and visual observations. However, safe manipulation in tabletop environments remains challenging because the safety constraints required for a task depend on the surrounding scene and may not be explicitly specified in the instruction. We propose a safety-aware behavior planning framework based on an explicit Constraint Space that stores reusable textual safety rules. Rather than retrieving rules solely by semantic similarity, we formulate constraint selection as task- and environment-conditioned applicability learning. A lightweight query-conditioned dual-tower model identifies the constraints applicable to the current context, which are then provided together with the original task and image to a multimodal behavior planner. To handle incorrect constraint selections and previously unseen hazards, we introduce a multimodal Safety Inspector that evaluates generated primitive plans, reconstructs the complete applicable constraint set, and provides corrective planning feedback. Validated inspection feedback is further used for test-time adaptation of constraint applicability and parameter-efficient adaptation of the Safety Inspector through LoRA, while newly identified constraints are incorporated into the Constraint Space. The resulting framework integrates explicit safety knowledge representation,context-aware constraint selection, corrective safety inspection, and test-time knowledge adaptation for safety-aware robotic behavior planning.
- Abstract(参考訳): 大規模言語と視覚言語モデルは、自然言語の指示と視覚的な観察からかなり高度なロボット行動計画を立てている。
しかし、タスクに必要な安全制約が周囲のシーンに依存しており、命令で明示的に指定されていないため、テーブルトップ環境での安全な操作は依然として困難である。
本稿では,再利用可能なテキスト安全ルールを格納する明示的な制約空間に基づく安全対応型行動計画フレームワークを提案する。
意味的類似性のみでルールを検索する代わりに、制約選択をタスクと環境条件による適用性学習として定式化する。
軽量なクエリ条件付きデュアルトウワーモデルでは、現在のコンテキストに適用可能な制約を特定し、元のタスクとイメージと共にマルチモーダルな振る舞いプランナに提供される。
不正な制約選択や以前は見つからなかったハザードに対処するため,生成したプリミティブプランを評価し,適用可能な制約セットを再構築し,修正計画フィードバックを提供するマルチモーダルセーフティインスペクタを導入する。
検証された検査フィードバックは、制約適用性の試験時間適応と、LoRAによる安全検査器のパラメータ効率適応にさらに使用され、新たに特定された制約は制約空間に組み込まれる。
このフレームワークは、明示的な安全知識表現、コンテキスト対応制約選択、修正安全検査、安全対応ロボット行動計画のためのテスト時知識適応を統合している。
関連論文リスト
- Proactive Context-Forecasted Safety Constraints for Nonstationary Reinforcement Learning [0.0]
本稿では,文脈予測に基づくアクティブな安全制約生成のためのフレームワークを提案する。
構造化された文脈変化を伴う運転環境における手法の評価を行う。
その結果, 積極的制約生成は非定常強度と非定常強度の両面における衝突を著しく減少させることがわかった。
論文 参考訳(メタデータ) (2026-09-08T00:44:30Z) - Towards General Language-Conditioned Latent Safety Filters [1.5335713879217925]
言語条件付き安全フィルタリングについて検討し,ハミルトン・ヤコビの安全アクターと批評家が言語指定制約を条件とした。
視覚的設定におけるピック・アンド・プレイス、テーブル・ワイピング、ブロック・スタッキングタスク間でのこの定式化を評価する。
本実験は,言語条件付き安全フィルタが制約違反を低減し,未知の制約インスタンスへの部分的転送を示すことを示す証拠を提供する。
論文 参考訳(メタデータ) (2026-07-31T22:00:35Z) - AdaPlanBench: Evaluating Adaptive Planning in Large Language Model Agents under World and User Constraints [65.27107190916512]
AdaPlanBenchは,Large Language Model (LLM)エージェントが適応的に計画し,段階的に明らかにされた制約の下で再計画できるかどうかを評価するための,インタラクティブなベンチマークである。
AdaPlanBenchは307の家庭用タスクに基づいて構築されている。
二重制約下での適応計画は依然として困難であり、最良のモデルは67.75%の精度にしか達していない。
論文 参考訳(メタデータ) (2026-06-04T02:47:29Z) - BarrierSteer: LLM Safety via Learning Barrier Steering [83.12893815611052]
BarrierSteerは、学習した非線形安全性制約を直接モデルの潜在表現空間に埋め込むことで、安全性を形式化する新しいフレームワークである。
BarrierSteerは、敵の成功率を大幅に低下させ、安全でない世代を減少させ、既存の手法より優れていることを示す。
論文 参考訳(メタデータ) (2026-02-23T18:19:46Z) - Contextual Safety Reasoning and Grounding for Open-World Robots [79.98924225712668]
COREは、環境に関する事前の知識なしに、オンラインのコンテキスト推論、接地、執行を可能にする安全フレームワークである。
知覚の不確実性を考慮したCOREの確率論的安全性保証を提供する。
シミュレーションと実世界の実験を通じて、COREは目に見えない環境において、文脈的に適切な振る舞いを強制することを示した。
論文 参考訳(メタデータ) (2026-02-23T15:51:23Z) - PoSafeNet: Safe Learning with Poset-Structured Neural Nets [49.854863600271614]
既存のアプローチは、しばしば複数の安全制約を均一に、または固定された優先命令によって強制し、実現不可能と不安定な振る舞いを引き起こす。
我々は、この設定を擬似構造的安全性として定式化し、安全制約を部分的に順序づけられた集合としてモデル化し、安全構成を政策クラスの構造的特性として扱う。
この定式化に基づいて、逐次クローズドフォームプロジェクションを介して安全性を強制する、識別可能な神経安全層であるPoSafeNetを提案する。
論文 参考訳(メタデータ) (2026-01-29T22:03:32Z) - Graphormer-Guided Task Planning: Beyond Static Rules with LLM Safety Perception [4.424170214926035]
本稿では,大規模言語モデルと構造化安全モデリングを組み合わせたリスク対応タスク計画フレームワークを提案する。
提案手法は,空間的および文脈的危険因子を抽出し,動的セマンティック安全グラフを構築する。
既定の安全性制約に依存する既存の手法とは異なり、我々のフレームワークはコンテキスト認識型リスク認識モジュールを導入している。
論文 参考訳(メタデータ) (2025-03-10T02:43:54Z) - Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。
次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。
これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
論文 参考訳(メタデータ) (2022-08-23T05:02:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。