論文の概要: Measuring Robustness in Cyber-Physical Systems under Sensor Attacks
- arxiv url: http://arxiv.org/abs/2403.05829v1
- Date: Sat, 9 Mar 2024 07:47:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-03-17 16:41:26.718590
- Title: Measuring Robustness in Cyber-Physical Systems under Sensor Attacks
- Title（参考訳）: センサアタックによるサイバー物理システムのロバスト性測定
- Abstract要約: 本稿では,サイバー物理システムに対する境界センサー攻撃の定量的解析のための公式な枠組みを提案する。
我々は、量的前方と後方の安全という2つの量的安全概念を定式化する。
このような公式を推論するアドホックな証明システムを開発した。
- 参考スコア（独自算出の注目度）: 3.0758169771529693
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper contributes a formal framework for quantitative analysis of bounded sensor attacks on cyber-physical systems, using the formalism of differential dynamic logic. Given a precondition and postcondition of a system, we formalize two quantitative safety notions, quantitative forward and backward safety, which respectively express (1) how strong the strongest postcondition of the system is with respect to the specified postcondition, and (2) how strong the specified precondition is with respect to the weakest precondition of the system needed to ensure the specified postcondition holds. We introduce two notions, forward and backward robustness, to characterize the robustness of a system against sensor attacks as the loss of safety. To reason about robustness, we introduce two simulation distances, forward and backward simulation distances, which are defined based on the behavioral distances between the original system and the system with compromised sensors. Forward and backward distances, respectively, characterize upper bounds of the degree of forward and backward safety loss caused by the sensor attacks. We verify the two simulation distances by expressing them as modalities, i.e., formulas of differential dynamic logic, and develop an ad-hoc proof system to reason with such formulas. We showcase our formal notions and reasoning techniques on two non-trivial case studies: an autonomous vehicle that needs to avoid collision and a water tank system.
- Abstract（参考訳）: 本稿では,差動論理の定式化を用いて,サイバー物理システムに対する境界センサ攻撃の定量的解析のための形式的枠組みを提案する。
システムの前処理条件と後処理条件が与えられた場合,(1) システムの最も強い後処理条件がどの程度強いか,(2) 指定された後処理条件を満たすために必要なシステムの最も弱い前処理条件がどれほど強いか,という2つの量的安全性概念を定式化する。
本稿では,センサ攻撃に対するシステムの堅牢性を安全性の喪失として特徴付けるために,前向きと後向きの堅牢性という2つの概念を導入する。
そこで本研究では,従来のシステムとセンサを妥協したシステムとの動作距離に基づいて,前向きと後向きのシミュレーション距離という2つのシミュレーション距離を導入する。
前方及び後方距離はそれぞれ、センサー攻撃による前方及び後方安全損失の上限を特徴付ける。
この2つのシミュレーション距離を,微分力学の公式をモダリティとして表現することで検証し,そのような式を推論するためのアドホックな証明システムを開発する。
我々は、衝突を避ける自律走行車と水槽システムという2つの非自明なケーススタディについて、我々の正式な概念と推論技術を紹介した。
関連論文リスト
- RobResilience: Implementing and Evaluating a Resilience Framework for Cyber-Physical Embodied Systems [15.203157475329201]
サイバー物理システムを具現化したシステムでは、アクティブなサイバー攻撃はデータだけでなく、物理的完全性や人間の安全にも即座に脅威をもたらす。
既存のセキュリティアプローチは検出時に優れているが、破壊が許容可能か、パフォーマンス劣化が安全な運用境界内にあるかを決定するランタイムメカニズムが欠如している。
本稿では、Webotsシミュレーション環境において、サイバー物理システムを具現化するための正式なレジリエンスフレームワークであるRobResilienceを提案する。
論文 参考訳（メタデータ） (2026-09-15T15:49:04Z) - Provably Secure Agent Guardrail [89.79561918065122]
既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。
本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
論文 参考訳（メタデータ） (2026-05-28T02:12:41Z) - Physics from Video: Identifiability of Time-Invariant Second-Order ODEs under Minimal Trajectory Conditions [60.2784641643737]
ビジュアルリアリズムと物理的な理解のギャップを埋めることは、ビデオベースの世界モデルにとって重要な課題である。
原画素からの連続時間物理法則の構造識別可能性について検討した。
レベルセットの傾斜被覆条件は、学習された潜伏空間が真の物理的状態に局所的に親和的であることを証明する。
論文 参考訳（メタデータ） (2026-05-27T13:22:29Z) - HySecTwin: A Knowledge-Driven Digital Twin Framework Augmented with Hybrid Reasoning for Cyber-Physical Systems [11.079014014639327]
HySecTwinは知識駆動型ディジタルツインアーキテクチャで、リアルタイム脅威検出のコアに自動推論を配置する。
フレームワークは決定論的ルールベースの推論とハイブリッドファジィ推論を統合し、明示的で解釈可能で監査可能なセキュリティアセスメントを生成する。
その結果、セマンティックモデリング、セマンティックエンリッチメント、ハイブリッド推論は、システムオーバーヘッドを余分に伴わずに説明可能性やレジリエンスを向上させることが示された。
論文 参考訳（メタデータ） (2026-05-12T07:41:31Z) - The Devil Behind Moltbook: Anthropic Safety is Always Vanishing in Self-Evolving AI Societies [57.387081435669835]
大規模言語モデルから構築されたマルチエージェントシステムは、スケーラブルな集合知性と自己進化のための有望なパラダイムを提供する。
エージェント社会が継続的自己進化、完全隔離、安全性の不変性を満たすことは不可能であることを示す。
我々は、特定された安全上の懸念を軽減するために、いくつかの解決方法を提案する。
論文 参考訳（メタデータ） (2026-02-10T15:18:19Z) - Agentic Uncertainty Quantification [76.94013626702183]
本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。
システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
論文 参考訳（メタデータ） (2026-01-22T07:16:26Z) - Property-Guided Cyber-Physical Reduction and Surrogation for Safety Analysis in Robotic Vehicles [1.9234504183934984]
本稿では,ロボット車両システムにおける安全性特性のファルシフィケーション手法を提案する。
与えられた仕様に関連する制御論理と物理力学のみを分離することにより、軽量なサロゲートモデルを構築する。
これにより、トレース分析と時間論理託によるスケーラブルなファルシフィケーションが可能になる。
論文 参考訳（メタデータ） (2025-12-01T23:27:22Z) - Stabilizing Information Flow Entropy: Regularization for Safe and Interpretable Autonomous Driving Perception [8.543667347406286]
我々はディープニューラルエンコーダを階層型通信チェーンとして再認識し、生の知覚入力をタスク関連潜在特徴に圧縮する。
Elossは,軽量でプラグアンドプレイの学習目標として設計された,エントロピーベースの新しい正規化器である。
論文 参考訳（メタデータ） (2025-09-18T17:01:27Z) - Anomaly Detection in Complex Dynamical Systems: A Systematic Framework Using Embedding Theory and Physics-Inspired Consistency [0.0]
複雑な力学系における異常検出は、産業やサイバー物理のインフラにおける信頼性、安全性、効率を確保するために不可欠である。
本稿では,古典的な埋め込み理論と物理に着想を得た一貫性原理を基礎としたシステム理論による異常検出手法を提案する。
本研究は, 異常が安定系の力学を阻害する仮説を支持し, 異常検出のための頑健かつ解釈可能な信号を提供する。
論文 参考訳（メタデータ） (2025-02-26T17:06:13Z) - SAFE-SIM: Safety-Critical Closed-Loop Traffic Simulation with Diffusion-Controllable Adversaries [94.84458417662407]
制御可能なクローズドループ安全クリティカルシミュレーションフレームワークであるSAFE-SIMを紹介する。
提案手法は,1)現実の環境を深く反映した現実的な長距離安全クリティカルシナリオの生成,2)より包括的でインタラクティブな評価のための制御可能な敵行動の提供,の2つの利点をもたらす。
複数のプランナにまたがるnuScenesとnuPlanデータセットを使用して、我々のフレームワークを実証的に検証し、リアリズムと制御性の両方の改善を実証した。
論文 参考訳（メタデータ） (2023-12-31T04:14:43Z) - Towards Formal Fault Injection for Safety Assessment of Automated
Systems [0.0]
本稿では,開発ライフサイクルを通じてこれら2つのテクニックを融合したフォーマルなフォールトインジェクションを紹介する。
我々は,形式的手法と断層注入の相互支援の5つの領域を同定し,より密着的なアプローチを提唱する。
論文 参考訳（メタデータ） (2023-11-16T11:34:18Z) - Investigating Robustness in Cyber-Physical Systems: Specification-Centric Analysis in the face of System Deviations [8.8690305802668]
サイバー物理システム(CPS)の重要属性は堅牢性であり、安全に運用する能力を示している。
本稿では,特定のシステム要件を満たす上でのコントローラの有効性を特徴付ける,仕様に基づく新しいロバスト性を提案する。
本稿では, 微妙な堅牢性違反を識別するための2層シミュレーションに基づく解析フレームワークを提案する。
論文 参考訳（メタデータ） (2023-11-13T16:44:43Z) - Ring-A-Bell! How Reliable are Concept Removal Methods for Diffusion Models? [52.238883592674696]
Ring-A-Bellは、T2I拡散モデルのためのモデルに依存しないレッドチームツールである。
これは、不適切なコンテンツの生成に対応する拡散モデルに対する問題的プロンプトを特定する。
この結果から,安全プロンプトベンチマークの操作により,既存の安全メカニズムを回避できると考えられるプロンプトを変換できることが示唆された。
論文 参考訳（メタデータ） (2023-10-16T02:11:20Z) - Risk Verification of Stochastic Systems with Neural Network Controllers [0.0]
ニューラルネットワーク(NN)コントローラを用いた動的システムのリスク検証のための,データ駆動型フレームワークを提案する。
制御システム,NNコントローラ,トレースロバスト性の概念を備えた仕様が与えられた場合,システムからトラジェクトリを収集する。
NNコントローラが仕様を満たさないリスクを推定するために、これらのロバストネス値のリスクメトリクスを計算します。
論文 参考訳（メタデータ） (2022-08-26T20:09:55Z) - Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。
次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。
これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
論文 参考訳（メタデータ） (2022-08-23T05:02:09Z) - Invisible for both Camera and LiDAR: Security of Multi-Sensor Fusion
based Perception in Autonomous Driving Under Physical-World Attacks [62.923992740383966]
本稿では,MDFに基づくADシステムにおけるセキュリティ問題の最初の研究について述べる。
物理的に実現可能な逆3Dプリントオブジェクトを生成し、ADシステムが検出に失敗してクラッシュする。
以上の結果から,攻撃は様々なオブジェクトタイプおよびMSFに対して90%以上の成功率を達成した。
論文 参考訳（メタデータ） (2021-06-17T05:11:07Z) - No Need to Know Physics: Resilience of Process-based Model-free Anomaly
Detection for Industrial Control Systems [95.54151664013011]
本稿では,システムの物理的特性に反する逆スプーフ信号を生成するための新しい枠組みを提案する。
トップセキュリティカンファレンスで公表された4つの異常検知器を分析した。
論文 参考訳（メタデータ） (2020-12-07T11:02:44Z) - Safely Learning Dynamical Systems from Short Trajectories [12.184674552836414]
未知の力学系を制御することの学習における根本的な課題は、安全を維持しながら測定を行うことによってモデルの不確実性を減少させることである。
我々は,次の軌道の始点を逐次決定することで,力学系を安全に学習することの意味の数学的定義を定式化する。
本稿では,長さ1の軌跡から真の力学を安全に復元するか,安全な学習が不可能であることを証明した線形プログラミングに基づくアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-11-24T18:06:10Z) - Towards robust sensing for Autonomous Vehicles: An adversarial
perspective [82.83630604517249]
結果として得られる決定が摂動に対して堅牢であることは、最も重要なことです。
敵対的摂動は、意図的に環境や感覚測定の修正を施したものである。
より安全なシステムの構築とデプロイには,センサーシステムの脆弱性を慎重に評価する必要がある。
論文 参考訳（メタデータ） (2020-07-14T05:25:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。