論文の概要: Calibrated Predictive Safety for Heterogeneous Robots: An Action-Conditioned JEPA Framework with Model-Based Safety Shields
- arxiv url: http://arxiv.org/abs/2608.17496v1
- Date: Tue, 18 Aug 2026 08:24:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-19 21:40:53.263518
- Title: Calibrated Predictive Safety for Heterogeneous Robots: An Action-Conditioned JEPA Framework with Model-Based Safety Shields
- Title（参考訳）: 不均質ロボットのキャリブレーション予測安全:モデルベース安全シールドを用いたアクションコンディションJEPAフレームワーク
- Abstract要約: 本研究では,アクション条件付き統合埋め込み予測アーキテクチャの世界モデルが,実行前,タスクの進行と,候補となるアクションチャンクの物理的リスクを予測できるかどうかを検討する。
本稿では,(1) 提案者がK個の候補を生成,(2) 動作条件のJEPAが各候補を凍結エンコーダの遅延空間で前方にロールアウトし,(3) リスクと進捗の基点が各ロールアウトと報告の不確実性,(4) 決定論的な単体安全シールドフィルタが許容できない候補を処理し,(5) フォールバックラダーが空の許容セットのケースを処理している,という,回帰水平決定パイプラインを提案する。
- 参考スコア（独自算出の注目度）: 2.299706695317804
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Vision-language-action policies generalize broadly but provide no execution-time guarantees; classical model-based planners respect kinematic and geometric constraints but generalize poorly. We study whether an action-conditioned Joint-Embedding Predictive Architecture (JEPA) world model can predict, before execution, both task progress and physical risk for candidate action chunks, and whether coupling these predictions to an embodiment-specific model-based safety shield yields a deployable pipeline for heterogeneous robots. We propose a receding-horizon decision pipeline: (1) a proposer produces K candidate action chunks; (2) an action-conditioned JEPA rolls each candidate forward in a frozen-encoder latent space conditioned on an embodiment embedding; (3) calibrated risk and progress heads score each rollout and report uncertainty; (4) a deterministic per-embodiment safety shield filters inadmissible candidates; (5) a fallback ladder handles empty-admissible-set cases. The learned ranking only reorders admissible candidates; enforcement guarantees come from the deterministic shield and fallback ladder. We evaluate with a pre-registered protocol in simulation (LIBERO-Long). In 600-episode configurations the full framework improved success over a shield-only baseline and reduced collision false negatives at matched recall. Deployment-efficiency measurements on target on-robot and edge accelerators are included. Real-robot experiments and an offline reranking significance test remain future work; see the paper for disclosures.
- Abstract（参考訳）: 古典的なモデルベースのプランナーは運動的制約と幾何学的制約を尊重するが、一般化は不十分である。
動作条件付きJEPA(Joint-Embedding Predictive Architecture)の世界モデルが実行前にタスクの進行と予測される動作チャンクの物理的リスクを予測できるかどうか,また,これらの予測を具体化されたモデルベース安全シールドと組み合わせることで,異種ロボットのデプロイ可能なパイプラインが得られるかを検討する。
本稿では,(1) 提案者がK個の候補を生成,(2) 動作条件のJEPAが各候補を凍結エンコーダの潜伏空間で前方に回転させ,(3) リスク・進捗ヘッドが各ロールアウトのスコアと不確実性を判定し,(4) 決定論的な単体安全シールドフィルタが許容できない候補を処理し,(5) フォールバックラダーが空の許容セットのケースを処理した。
学習されたランキングは、許容できる候補者のみを並べ替える; 執行保証は決定論的シールドとフォールバックはしごから得られる。
シミュレーション(LIBERO-Long)における事前登録プロトコルを用いて評価を行った。
600エピソード構成では、完全なフレームワークはシールドのみのベースラインよりも成功し、一致したリコール時の衝突偽陰性を低減した。
ターゲットのオンロボットとエッジアクセラレータのデプロイ効率の測定も含んでいる。
実際のロボット実験とオフラインの再配置テストは今後の作業のままである。
関連論文リスト
- Interventional Causal Circuits for Safe Robot Action Testing and Failure Recovery [4.492262382019958]
運動パラメータの形式的テストは計算に費用がかかり、コストはアクション空間の次元に悪影響を及ぼす。
本稿では,JPT(Joint Probability Tree)とMarginal-Deterministic Variable Tree(Marginal-Deterministic Variable Tree)から派生した因果回路を結合した閉ループフレームワークを提案する。
このフレームワークは、ロボットが動作を開始する前に全ての介入クエリのトラクタビリティを検証し、サポート外候補を自動的に検出し、修正から除外する。
論文 参考訳（メタデータ） (2026-07-16T10:41:20Z) - PlanGuard: Defending Agents against Indirect Prompt Injection via Planning-based Consistency Verification [1.7904458681854372]
PlanGuardは、コンテキスト分離の原則に基づいた、トレーニング不要の防御フレームワークである。
PlanGuardは攻撃を効果的に中和し、アタック成功率(ASR)を72.8%から0%に下げる。
論文 参考訳（メタデータ） (2026-04-11T09:59:46Z) - CORA: Conformal Risk-Controlled Agents for Safeguarded Mobile GUI Automation [68.53387633351484]
有害な行為に対する統計的保証を提供するポスト・ポリティクス・プレアクション保護フレームワークであるCORA(Conformal Risk-control GUI Agent)を提案する。
CORAは、安全を選択的行動実行として再定義する:我々は、提案されたステップごとに行動条件リスクを推定するためにガーディアンモデルを訓練する。
このパラダイムを厳格に評価するために、ステップレベルのハーモラベルを持つモバイル安全違反の新しいベンチマークであるPhone-Harmを紹介する。
論文 参考訳（メタデータ） (2026-04-10T09:41:21Z) - World Action Verifier: Self-Improving World Models via Forward-Inverse Asymmetry [82.93104394404781]
汎用世界モデルは、スケーラブルなポリシー評価、最適化、計画を約束します。
本稿では,世界モデルによる予測誤りと自己改善を識別するフレームワークであるWorld Action Verifier(WAV)を提案する。
論文 参考訳（メタデータ） (2026-04-02T12:48:36Z) - CorrectionPlanner: Self-Correction Planner with Reinforcement Learning in Autonomous Driving [55.88697462014118]
CorrectionPlannerは自己補正を備えた自動回帰プランナーである。
Waymaxでは衝突率を20%以上削減し、nuPlanでは最先端の計画スコアを達成している。
論文 参考訳（メタデータ） (2026-03-16T18:03:21Z) - RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。
しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。
提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
論文 参考訳（メタデータ） (2025-12-24T15:01:26Z) - Building a Foundational Guardrail for General Agentic Systems via Synthetic Data [76.18834864749606]
LLMエージェントは、計画段階で介入するマルチステップタスクを計画できる。
既存のガードレールは主にポスト・エグゼクティブ(英語版)を運用しており、スケーリングが困難であり、計画レベルで制御可能な監督を行う余地がほとんどない。
我々は、良性軌道を合成し、カテゴリーラベル付きリスクを困難に注入し、自動報酬モデルを介して出力をフィルタリングする制御可能なエンジンであるAuraGenを紹介する。
論文 参考訳（メタデータ） (2025-10-10T18:42:32Z) - Failure Prediction at Runtime for Generative Robot Policies [6.375597233389154]
実行中の早期の障害予測は、人間中心で安全クリティカルな環境でロボットをデプロイするために不可欠である。
本稿では,フェールデータを必要としない生成ロボットポリシーの故障予測フレームワークであるFIPERを提案する。
その結果、FIPERは実際の障害と良質なOOD状況とをよく区別し、既存の手法よりも正確に早期に障害を予測できることがわかった。
論文 参考訳（メタデータ） (2025-10-10T15:09:27Z) - Constrained Decoding for Robotics Foundation Models [12.916330118607918]
本稿では,自動回帰ロボット基盤モデルのための制約付き復号化フレームワークであるSafeDecを紹介する。
タスク固有の安全ルールはSignal Temporal Logic (STL) 公式として表現され、最小限のオーバーヘッドで推論時に強制される。
提案手法は,実行時に仮定された動的条件下でのSTL仕様を,再トレーニングなしで確実に満たすものである。
論文 参考訳（メタデータ） (2025-09-01T19:17:40Z) - Preliminary Investigation into Uncertainty-Aware Attack Stage Classification [81.28215542218724]
この研究は、不確実性の下での攻撃段階推論の問題に対処する。
Evidential Deep Learning (EDL) に基づく分類手法を提案し、ディリクレ分布のパラメータを可能な段階に出力することで予測の不確実性をモデル化する。
シミュレーション環境における予備実験により,提案モデルが精度良く攻撃の段階を推定できることが実証された。
論文 参考訳（メタデータ） (2025-08-01T06:58:00Z) - Model Tampering Attacks Enable More Rigorous Evaluations of LLM Capabilities [49.09703018511403]
大規模言語モデル(LLM)のリスクと能力の評価は、AIのリスク管理とガバナンスフレームワークにますます取り入れられている。
現在、ほとんどのリスク評価は、システムから有害な振る舞いを誘発する入力を設計することで実施されている。
本稿では,遅延活性化や重みへの修正が可能なモデル改ざん攻撃を用いたLCMの評価を提案する。
論文 参考訳（メタデータ） (2025-02-03T18:59:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。