論文の概要: Shielding for Higher-Order Safety
- arxiv url: http://arxiv.org/abs/2608.03662v1
- Date: Tue, 04 Aug 2026 13:41:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-05 15:30:23.224032
- Title: Shielding for Higher-Order Safety
- Title(参考訳): 高次安全のための遮蔽
- Abstract要約: 安全シールドは、安全を保証するためにコントローラの動作を制限する実行時執行機構である。
本稿では,高次スムーズ性制約に対する有限状態安全ゲームの構築について述べる。
- 参考スコア(独自算出の注目度): 7.5385675686924865
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Safety shields are runtime enforcement mechanisms that restrict the actions of a controller to guarantee safety. Classical shields are usually synthesised for state predicates: the current physical state is either safe or unsafe, and the shield disables precisely those actions that can force the system into an unsafe state in the future. In many cyber-physical applications this view is too coarse. A vehicle approaching an obstacle should not only avoid collision, but also respect speed regulations, force limits induced by acceleration, and jerk limits to prevent injuries. From a physical perspective, these requirements are predicated over the derivatives of the state. This paper develops a finite-state safety-game construction for such high-order smoothness constraints. We define differential safety properties using finite differences over a discretised state space, characterise their expressiveness, and reduce shield synthesis to an ordinary safety game over a history state space. We give a synthesis algorithm whose shields store exactly $k$ past states for properties of order $k$ and prove that this memory is necessary. We describe an iterative synthesis procedure for a maximally permissive shield that operates over hierarchies of derivative constraints. The algorithm solves constraints iteratively in increasing order and uses the solution at each iteration to prune the state space for the next constraint. This makes shield synthesis more efficient in practice, as the algorithm refrains from exploring large regions of the state space that are known to be unsafe.
- Abstract(参考訳): 安全シールドは、安全を保証するためにコントローラの動作を制限する実行時執行機構である。
古典的なシールドは通常、状態予測のために合成される: 現在の物理的状態は安全か安全でないかのいずれかであり、シールドは、将来システムが安全でない状態に陥る可能性のあるアクションを正確に無効にする。
多くのサイバー物理応用において、この見解は粗い。
障害物に接近する車両は、衝突を避けるだけでなく、速度規制、加速によって引き起こされる力制限、損傷を防ぐためのジャーク制限も尊重すべきである。
物理的観点では、これらの要求は状態の微分について述語される。
本稿では,高次スムーズ性制約に対する有限状態安全ゲームの構築について述べる。
離散状態空間上の有限差分を用いて差分安全特性を定義し、その表現性を特徴づけ、シールド合成を歴史状態空間上の通常の安全ゲームに還元する。
我々は、オーダー$k$のプロパティに対して、シールドが正確に$k$過去の状態を格納する合成アルゴリズムを与え、このメモリが必要であることを証明する。
本稿では、微分制約の階層上で機能する最大許容シールドの反復合成手順について述べる。
このアルゴリズムは、増大する順序で制約を反復的に解決し、各繰り返しにおける解を用いて、次の制約に対して状態空間を創出する。
このアルゴリズムは、安全でないことが知られている状態空間の広い領域を探索することを控えているため、実際にはシールド合成をより効率的にする。
関連論文リスト
- Explainably Safe Reinforcement Learning [3.5232085374661284]
本稿では,シールドの決定を人為的に解釈可能な説明を提供することで信頼性を高める,安全安全RLの新たなアプローチを提案する。
当社の手法は,シグナリングポリシを意思決定ツリーの階層構造として表現し,トップダウンのケースベースの説明を提供する。
論文 参考訳(メタデータ) (2026-06-03T09:06:52Z) - PoSafeNet: Safe Learning with Poset-Structured Neural Nets [49.854863600271614]
既存のアプローチは、しばしば複数の安全制約を均一に、または固定された優先命令によって強制し、実現不可能と不安定な振る舞いを引き起こす。
我々は、この設定を擬似構造的安全性として定式化し、安全制約を部分的に順序づけられた集合としてモデル化し、安全構成を政策クラスの構造的特性として扱う。
この定式化に基づいて、逐次クローズドフォームプロジェクションを介して安全性を強制する、識別可能な神経安全層であるPoSafeNetを提案する。
論文 参考訳(メタデータ) (2026-01-29T22:03:32Z) - Efficient Dynamic Shielding for Parametric Safety Specifications [2.1829548755022423]
Shieldingは、安全を損なう可能性がある場合、AIコントローラの動作を監視し、介入する必要があるランタイム安全執行ツールである。
パラメトリック安全仕様の動的シールドを導入し,実行時に発生する可能性のあるすべての安全仕様の集合を簡潔に表現する。
実験では、動的シールドはオフライン設計に数分かかり、各ステップでオンライン適応するのに1秒から数秒かかりましたが、ブルートフォースのオンライン再計算アプローチは最大5倍遅くなりました。
論文 参考訳(メタデータ) (2025-05-28T08:30:03Z) - Shield Synthesis for LTL Modulo Theories [2.034732821736745]
我々は、より表現力のある論理で複雑な安全仕様に適合するシールドを生成するための新しいアプローチを開発する。
私たちの知る限りでは、このような表現力に対するシールドのアプローチはこれが初めてです。
論文 参考訳(メタデータ) (2024-06-06T15:40:29Z) - Safety Shielding under Delayed Observation [59.86192283565134]
シールドは安全な実行を保証するコンストラクション・バイ・コンストラクション・インストラクタである。
シールドは、将来の干渉が最小化される可能性が最も高い方法で、安全な修正行動を選択するべきである。
現実的な運転シミュレータにおけるシールドの最初の統合について述べる。
論文 参考訳(メタデータ) (2023-07-05T10:06:10Z) - Approximate Shielding of Atari Agents for Safe Exploration [83.55437924143615]
遮蔽の概念に基づく安全な探索のための原理的アルゴリズムを提案する。
本稿では,我々の近似遮蔽アルゴリズムが安全違反率を効果的に低減することを示す予備的な結果を示す。
論文 参考訳(メタデータ) (2023-04-21T16:19:54Z) - Online Shielding for Reinforcement Learning [59.86192283565134]
RLエージェントのオンライン安全保護のためのアプローチを提案する。
実行中、シールドは利用可能な各アクションの安全性を分析する。
この確率と与えられた閾値に基づいて、シールドはエージェントからのアクションをブロックするかを決定する。
論文 参考訳(メタデータ) (2022-12-04T16:00:29Z) - BarrierNet: A Safety-Guaranteed Layer for Neural Networks [50.86816322277293]
BarrierNetは、ニューラルコントローラの安全性の制約が環境の変化に適応できるようにする。
本研究では,2次元空間と3次元空間における交通統合やロボットナビゲーションといった一連の制御問題について評価する。
論文 参考訳(メタデータ) (2021-11-22T15:38:11Z) - Safe Reinforcement Learning with Linear Function Approximation [48.75026009895308]
我々は、状態と行動の未知の線形コスト関数として安全を導入し、それは常に一定の閾値以下でなければならない。
次に,線形関数近似を用いたマルコフ決定過程(MDP)について,SLUCB-QVIおよびRSLUCB-QVIと呼ぶアルゴリズムを提案する。
SLUCB-QVI と RSLUCB-QVI は、Emphno safety violation で $tildemathcalOleft(kappasqrtd3H3Tright)$ regret, almost matching を達成した。
論文 参考訳(メタデータ) (2021-06-11T08:46:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。