論文の概要: The Use of the Simplex Architecture to Enhance Safety in Deep-Learning-Powered Autonomous Systems

• arxiv url: http://arxiv.org/abs/2509.21014v1
• Date: Thu, 25 Sep 2025 11:20:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-26 20:58:12.864343
• Title: The Use of the Simplex Architecture to Enhance Safety in Deep-Learning-Powered Autonomous Systems
• Title（参考訳）: 深層学習型自律システムにおける安全確保のためのSimplexアーキテクチャの利用
• Authors: Federico Nesti, Niko Salamini, Mauro Marinoni, Giorgio Maria Cicero, Gabriele Serra, Alessandro Biondi, Giorgio Buttazzo,
• Abstract要約: 本稿では,学習に基づく自律システムの安全性,セキュリティ,予測可能性のレベルを向上するソフトウェアアーキテクチャを提案する。 これは2つの独立した実行ドメインを活用している。1つは、信頼できるオペレーティングシステム下でのニューラルネットワークの実行に特化しており、信頼できないと見なされている。
• 参考スコア（独自算出の注目度）: 38.86794557167231
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Recently, the outstanding performance reached by neural networks in many tasks has led to their deployment in autonomous systems, such as robots and vehicles. However, neural networks are not yet trustworthy, being prone to different types of misbehavior, such as anomalous samples, distribution shifts, adversarial attacks, and other threats. Furthermore, frameworks for accelerating the inference of neural networks typically run on rich operating systems that are less predictable in terms of timing behavior and present larger surfaces for cyber-attacks. To address these issues, this paper presents a software architecture for enhancing safety, security, and predictability levels of learning-based autonomous systems. It leverages two isolated execution domains, one dedicated to the execution of neural networks under a rich operating system, which is deemed not trustworthy, and one responsible for running safety-critical functions, possibly under a different operating system capable of handling real-time constraints. Both domains are hosted on the same computing platform and isolated through a type-1 real-time hypervisor enabling fast and predictable inter-domain communication to exchange real-time data. The two domains cooperate to provide a fail-safe mechanism based on a safety monitor, which oversees the state of the system and switches to a simpler but safer backup module, hosted in the safety-critical domain, whenever its behavior is considered untrustworthy. The effectiveness of the proposed architecture is illustrated by a set of experiments performed on two control systems: a Furuta pendulum and a rover. The results confirm the utility of the fall-back mechanism in preventing faults due to the learning component.
• Abstract（参考訳）: 近年、ニューラルネットワークが多くのタスクで到達した卓越したパフォーマンスは、ロボットや車両などの自律システムへの展開につながっている。 しかし、ニューラルネットワークはまだ信頼できないため、異常なサンプル、分布シフト、敵対的攻撃、その他の脅威など、さまざまな種類の不作為行為が生じる傾向にある。 さらに、ニューラルネットワークの推論を加速するフレームワークは、一般的に、タイミングの振る舞いやサイバー攻撃のためのより大きな表面の予測が難しいリッチなオペレーティングシステム上で実行される。 これらの課題に対処するため,本論文では,学習に基づく自律システムの安全性,セキュリティ,予測可能性のレベルを向上するソフトウェアアーキテクチャを提案する。 これは2つの独立した実行ドメインを活用している。1つは、信頼できるオペレーティングシステム下でのニューラルネットワークの実行に特化しており、もう1つは、おそらくリアルタイムの制約を処理することができる異なるオペレーティングシステムの下で、安全クリティカルな機能を実行する責任がある。 両方のドメインは同一のコンピューティングプラットフォーム上にホストされており、タイプ1のリアルタイムハイパーバイザを通じて分離され、高速で予測可能なドメイン間通信によってリアルタイムデータを交換することができる。 この2つのドメインは、システムの状態を監視し、その動作が信頼できないと判断された場合に、安全クリティカルドメインにホストされるよりシンプルで安全なバックアップモジュールに切り替える安全モニタに基づくフェールセーフメカニズムの提供に協力する。 提案手法の有効性を,古田振り子とローバーの2つの制御系で実験した。 その結果,学習部品による障害防止におけるフォールバック機構の有用性が確認された。

関連論文リスト

• Securing Agentic AI: Threat Modeling and Risk Analysis for Network Monitoring Agentic AI System [2.5145802129902664]
  MAESTROフレームワークはエージェントAIの脆弱性を公開、評価、排除するために使用された。 プロトタイプエージェントシステムはPython、LangChain、WebSocketでテレメトリを使用して構築、実装された。
  論文  参考訳（メタデータ） (2025-08-12T00:14:12Z)
• Building Hybrid B-Spline And Neural Network Operators [0.0]
  制御システムはサイバー物理システム(CPS)の安全性を確保するために不可欠である 本稿では,B-スプラインの帰納バイアスとデータ駆動型ニューラルネットワークを組み合わせることで,CPS行動のリアルタイム予測を容易にする手法を提案する。
  論文  参考訳（メタデータ） (2024-06-06T21:54:59Z)
• Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
  CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。 次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。 これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
  論文  参考訳（メタデータ） (2022-08-23T05:02:09Z)
• TESDA: Transform Enabled Statistical Detection of Attacks in Deep Neural Networks [0.0]
  攻撃のオンライン検出のための,低オーバーヘッド,フレキシブル,統計的根拠を持ったTESDAを提案する。 従来の作業とは異なり、動作の相違を検出するために、リアルタイムに動作する専用のハードウェアも、トロイの木馬トリガーの存在も必要ありません。 複数のアーキテクチャ、データセット、多様な攻撃にまたがって、我々の方法の有用性と実用性を実証的に確立する。
  論文  参考訳（メタデータ） (2021-10-16T02:10:36Z)
• Increasing the Confidence of Deep Neural Networks by Coverage Analysis [71.57324258813674]
  本稿では、異なる安全でない入力に対してモデルを強化するために、カバレッジパラダイムに基づく軽量な監視アーキテクチャを提案する。 実験結果から,提案手法は強力な対向例とアウト・オブ・ディストリビューション・インプットの両方を検出するのに有効であることが示唆された。
  論文  参考訳（メタデータ） (2021-01-28T16:38:26Z)
• Scalable Learning of Safety Guarantees for Autonomous Systems using Hamilton-Jacobi Reachability [18.464688553299663]
  Hamilton-Jacobiリーチビリティのような方法は、そのようなシステムに保証された安全セットとコントローラを提供することができる。 システムが稼働中は、これらの不確実性に関する新たな知識を学習し、それに従って安全性分析を更新する必要がある。 本稿では,分解,ウォームスタート,アダプティブグリッドなど,計算を高速化するいくつかの手法を合成する。
  論文  参考訳（メタデータ） (2021-01-15T00:13:01Z)
• Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
  大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。 我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。 我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
  論文  参考訳（メタデータ） (2020-10-19T13:09:31Z)
• Certifiable Robustness to Adversarial State Uncertainty in Deep Reinforcement Learning [40.989393438716476]
  ディープニューラルネットワークベースのシステムは、現在では多くのロボティクスタスクにおいて最先端のシステムとなっているが、ネットワークの堅牢性に関する公式な保証なしに、安全クリティカルドメインへの適用は危険なままである。 センサー入力に対する小さな摂動は、しばしばネットワークベースの決定を変えるのに十分である。 この研究は、認証された敵対的ロバスト性の研究を活用して、深い強化学習アルゴリズムのためのオンラインロバストを開発する。
  論文  参考訳（メタデータ） (2020-04-11T21:36:13Z)
• Enhanced Adversarial Strategically-Timed Attacks against Deep Reinforcement Learning [91.13113161754022]
  本稿では,DRLに基づくナビゲーションシステムに対して,選択した時間フレーム上の物理ノイズパターンを妨害することにより,タイミングに基づく逆方向戦略を導入する。 実験結果から, 対向タイミング攻撃は性能低下を引き起こす可能性が示唆された。
  論文  参考訳（メタデータ） (2020-02-20T21:39:25Z)
• Firearm Detection and Segmentation Using an Ensemble of Semantic Neural Networks [62.997667081978825]
  本稿では,意味的畳み込みニューラルネットワークのアンサンブルに基づく兵器検出システムを提案する。 特定のタスクに特化した単純なニューラルネットワークのセットは、計算リソースを少なくし、並列にトレーニングすることができる。 個々のネットワークの出力の集約によって与えられるシステムの全体的な出力は、ユーザが偽陽性と偽陰性とをトレードオフするように調整することができる。
  論文  参考訳（メタデータ） (2020-02-11T13:58:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。