論文の概要: Permissive Safety Through Trusted Inference: Verifiable Belief-Space Neural Safety Filters for Assured Interactive Robotics

• arxiv url: http://arxiv.org/abs/2606.02562v1
• Date: Mon, 01 Jun 2026 17:54:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-02 21:34:32.559263
• Title: Permissive Safety Through Trusted Inference: Verifiable Belief-Space Neural Safety Filters for Assured Interactive Robotics
• Title（参考訳）: 信頼推論による許容安全性: 対話型ロボットのための検証可能な空間型ニューラルネットワーク安全フィルタ
• Authors: Haimin Hu,
• Abstract要約: 本稿では,共形予測を用いて,BeliefSFの高確率安全性を認証するアルゴリズムを提案する。 提案手法は,標準共形予測基準よりもはるかに寛容な信念空間安全フィルタであることを示す。
• 参考スコア（独自算出の注目度）: 4.864901603093661
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Autonomous robots that interact with people must make safe and efficient decisions under human-induced uncertainty, such as their preferences, goals, competency, and willingness to cooperate. Safety filters are a popular approach for ensuring safety in interactive robotics, since their modular design separates safety from performance, allowing robots to operate safely around people with minimal impact on task efficiency. While traditional safety filters typically operate only in the physical space, neglecting the robot's ability to learn and adapt online, the recently proposed belief-space safety filter (BeliefSF) reasons about robot safety in closed-loop with runtime inference that actively reduces the robot's uncertainty online, thereby reducing conservativeness in filtering. However, providing formal safety guarantees for robots deploying BeliefSF remains a significant challenge due to errors in runtime inference and neural approximation of safety filters required to handle the high dimensionality of belief spaces. In this paper, we propose an algorithmic approach to certify high-probability safety of BeliefSF using conformal prediction, while explicitly accounting for the reliability of the robot's runtime inference module. Our method leverages the structure of belief-space safety filtering by focusing verification on a region where inference is expected to be reliable. It preserves the simplicity and sample complexity of standard conformal prediction, yet can certify a substantially less conservative safety filter. Through a simulated human-vehicle interaction benchmark, we show that our approach verifies a significantly more permissive belief-space safety filter than a standard conformal prediction baseline.
• Abstract（参考訳）: 人と対話する自律ロボットは、人間の好み、目標、能力、協力への意欲など、人間による不確実性の下で安全かつ効率的な決定をしなければならない。 モジュラーデザインは、パフォーマンスから安全性を分離し、ロボットがタスク効率に最小限の影響を受けずに安全に操作できるようにするため、対話型ロボットの安全性を確保するための一般的なアプローチである。 従来の安全フィルタは、通常、物理的な空間でのみ動作し、ロボットがオンラインで学習し、適応する能力を無視するが、最近提案された信念空間安全フィルタ(BeliefSF)は、ロボットのオンラインにおける不確実性を積極的に低減し、フィルタリングにおける保守性を低下させる、実行時推論を伴うクローズドループにおけるロボットの安全性に関する理由である。 しかしながら、BeliefSFをデプロイするロボットに正式な安全保証を提供することは、実行時推論の誤りと、信念空間の高次元性を扱うために必要な安全フィルタの神経近似のために、依然として大きな課題である。 本稿では,ロボットのランタイム推論モジュールの信頼性を明確に考慮しつつ,共形予測を用いて,BeliefSFの高確率安全性を証明するためのアルゴリズム的アプローチを提案する。 提案手法は,信頼度の高い領域に検証を集中させることにより,信念空間の安全フィルタリングの構造を活用する。 標準共形予測の単純さとサンプルの複雑さを保ちながら、極めて保守的でない安全フィルタを証明できる。 シミュレーションされた車車間相互作用ベンチマークにより,本手法は標準共形予測基準よりもはるかに寛容な信念空間安全フィルタを検証可能であることを示す。

関連論文リスト

• Selective Safety Steering via Value-Filtered Decoding [54.87935112120107]
  大型言語モデル(LLM)は人間の価値観に合わせるように訓練されているが、その世代は安全上の制約に反する可能性がある。 既存のデコード時のステアリング手法は、しばしば不要に介入し、ベースモデルの下で安全であった世代を変更する。 安全でない応答の安全性を向上しつつ、そのような不要な介入を減らすための新しいテストタイムステアリング手法を提案する。
  論文  参考訳（メタデータ） (2026-05-14T12:13:08Z)
• Safety-Critical LiDAR-Inertial Odometry with On-Manifold Deterministic Protection Level [5.842629690276321]
  安全クリティカルなシナリオでは、自律ナビゲーションシステムの保護レベルは、移動ロボットが安全なタスクを実行できるために不可欠である。 我々は, オンマンフォールド決定性状態推定に基づく決定論的保護レベルを提供する安全クリティカルなLiDAR慣性オドメトリーを提案する。 本システムは,様々な環境における多様なロボットに対する効果的な決定論的オンライン安全基準を提供することができる。
  論文  参考訳（メタデータ） (2026-05-10T07:20:34Z)
• Layered Safety: Enhancing Autonomous Collision Avoidance via Multistage CBF Safety Filters [18.386652442201665]
  本稿では,ロバストで信頼性の高い層状安全フィルタを構築するための汎用的なエンドツーエンドフレームワークを提案する。 ロボット中心の点雲が与えられた場合、我々は、ポアソン安全関数(PSF)を合成するために使用される占有マップを構築することから始める。 PSFは2つの異なる安全濾過段階において制御バリア機能(CBF)として使用される。
  論文  参考訳（メタデータ） (2026-02-27T22:19:45Z)
• BarrierSteer: LLM Safety via Learning Barrier Steering [83.12893815611052]
  BarrierSteerは、学習した非線形安全性制約を直接モデルの潜在表現空間に埋め込むことで、安全性を形式化する新しいフレームワークである。 BarrierSteerは、敵の成功率を大幅に低下させ、安全でない世代を減少させ、既存の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2026-02-23T18:19:46Z)
• Contextual Safety Reasoning and Grounding for Open-World Robots [79.98924225712668]
  COREは、環境に関する事前の知識なしに、オンラインのコンテキスト推論、接地、執行を可能にする安全フレームワークである。 知覚の不確実性を考慮したCOREの確率論的安全性保証を提供する。 シミュレーションと実世界の実験を通じて、COREは目に見えない環境において、文脈的に適切な振る舞いを強制することを示した。
  論文  参考訳（メタデータ） (2026-02-23T15:51:23Z)
• Uncertainty-aware Latent Safety Filters for Avoiding Out-of-Distribution Failures [11.73424668815629]
  本研究では,不確実性を考慮した潜伏型安全フィルタを導入し,ロボットを既知の障害や目に見えない障害から遠ざけている。 この不確実性認識型安全フィルタは,潜在的な安全でないシナリオを事前に検出し,安全かつ不分配な動作を確実に提案することを示す。
  論文  参考訳（メタデータ） (2025-05-01T18:18:17Z)
• One Filter to Deploy Them All: Robust Safety for Quadrupedal Navigation in Unknown Environments [10.103090762559708]
  観測条件付き到達可能性に基づく安全フィルタ(OCR)フレームワークを提案する。 我々のキーとなるアイデアは、新しい障害領域に対する最適制御理論安全値関数を予測するOCR値ネットワーク(OCR-VN)を使用することです。 提案手法は,多種多様な階層型二次制御系を自動で保護できることを実証する。
  論文  参考訳（メタデータ） (2024-12-13T09:21:02Z)
• Meta-Learning Priors for Safe Bayesian Optimization [72.8349503901712]
  メタ学習アルゴリズムであるF-PACOHを構築し,データ不足の設定において確実な定量化を実現する。 コアコントリビューションとして、安全に適合した事前をデータ駆動で選択するための新しいフレームワークを開発する。 ベンチマーク関数と高精度動作系において,我々のメタ学習先行が安全なBOアプローチの収束を加速することを示す。
  論文  参考訳（メタデータ） (2022-10-03T08:38:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。