論文の概要: On the Applicability of Safety Nets: A Safety-By-Design Solution for Certifying Neural Networks

• arxiv url: http://arxiv.org/abs/2608.20053v1
• Date: Thu, 20 Aug 2026 13:51:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-21 20:28:51.591154
• Title: On the Applicability of Safety Nets: A Safety-By-Design Solution for Certifying Neural Networks
• Title（参考訳）: 安全ネットの適用性について:ニューラルネットワーク認証のための安全設計ソリューション
• Authors: Johann Maximilian Christensen, Thomas Stefani, Elena Hoemann, Frank Köster, Sven Hallerbach,
• Abstract要約: Safety Netsは、ニューラルネットワーク圧縮とルックアップテーブルを組み合わせて、100%正確なランタイム動作を保証する。 この研究は、安全ネットにおけるニューラルネットワークとルックアップテーブルサイズの間のトレードオフを初めて体系的に分析した。 その結果、約50から100のノードを持つ3から5の隠蔽層を持つアーキテクチャと1ホットのエンコーディングを組み合わせることで、最適なバランスが得られた。
• 参考スコア（独自算出の注目度）: 0.7285647284266376
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The integration of Artificial Intelligence (AI) in safety-critical aviation systems presents significant challenges for certification and deployment. Aviation, often regarded as the safest form of transportation, relies on numerous safety-critical systems. For future safety-critical AI-based systems, EASA requires a Safety-by-Design approach, which can be achieved by using Safety Nets that combine neural network compression with lookup tables to ensure 100 % correct runtime behavior across the discretized operational design domain. Although Safety Nets have been studied, no comprehensive study of their performance characteristics and system design trade-offs has been conducted. This work presents the first systematic analysis of the trade-off between neural network and lookup table size in Safety Nets. By systematically comparing neural networks with diverse architectures, this study identifies optimal design parameters that minimize overall storage and memory requirements while maintaining certification compliance. Results demonstrate that architectures with 3 to 5 hidden layers, each with approximately 50 to 100 nodes, combined with one-hot encoding, achieve the best balance. In these configurations, neural networks accurately represent at least 97 % of the data, while compact lookup tables handle the remaining errors. The resulting Safety Nets reduce the system size by almost three orders of magnitude, fitting within the memory budget of current avionics hardware while guaranteeing 100 % correct outputs across the entire discretized input space, as required by EASA guidelines. This work provides the first-ever open-source implementation of Safety Nets for HCAS and VCAS with replicable results, demonstrating a practical pathway toward certifiable AI-based systems in aviation and establishing Safety Nets as a viable Safety-by-Design solution for safety-critical applications.
• Abstract（参考訳）: 安全クリティカルな航空システムへの人工知能(AI)の統合は、認証と展開において重大な課題を呈している。 航空は、しばしば最も安全な輸送形態と見なされるが、多くの安全クリティカルなシステムに依存している。 将来の安全クリティカルなAIベースのシステムでは、EASAはセーフティ・バイ・デザインのアプローチを必要としており、ニューラルネットワーク圧縮とルックアップテーブルを組み合わせた安全ネットを使用して、離散化されたオペレーショナルデザインドメイン全体の100%の正確なランタイム動作を保証する。 安全ネットは研究されているが、その性能特性やシステム設計のトレードオフに関する包括的な研究は行われていない。 この研究は、安全ネットにおけるニューラルネットワークとルックアップテーブルサイズの間のトレードオフを初めて体系的に分析した。 ニューラルネットワークと多様なアーキテクチャを体系的に比較することにより、認証コンプライアンスを維持しながら、全体的なストレージとメモリ要求を最小限に抑える最適な設計パラメータを特定する。 その結果、約50から100のノードを持つ3から5の隠蔽層を持つアーキテクチャと1ホットのエンコーディングを組み合わせることで、最適なバランスが得られた。 これらの構成では、ニューラルネットワークはデータの97%を正確に表現し、一方、コンパクトなルックアップテーブルは残りのエラーを処理する。 結果として生じるセーフティネットは、現在のアビオニクスハードウェアのメモリ予算に適合し、EASAガイドラインで要求されるように、離散化された入力空間全体で100パーセントの正確な出力を保証しながら、ほぼ3桁のシステムサイズを縮小する。 この研究は、HCASとVCASのための安全ネットのオープンソース実装として初めて、再現性のある結果を提供し、航空における認証AIベースのシステムへの実践的な経路を示し、安全クリティカルなアプリケーションのための安全な設計ソリューションとして安全ネットを確立する。

関連論文リスト

• ShardNet: Training Neural Controllers with Hard, Non-Convex Constraints [2.1198879079315573]
  構築による制約の和合を強制するニューラルネットワークアーキテクチャであるShardNetを紹介する。 我々は,ShardNetポリシーが検証された集合に対して100%の安全性を維持し,既存の形式的手法に比べて客観的損失が著しく低いことを示す。
  論文  参考訳（メタデータ） (2026-06-29T21:38:44Z)
• Lightweight Intrusion Detection System Using a Hybrid CNN and ConvNeXt-Tiny Model for Internet of Things Networks [1.5803208833562954]
  我々は,CNNとConvNeXt-Tinyのハイブリッドモデルを活用した,IoT環境用軽量侵入検知システム(IDS)を提案する。 提案手法は,ネットワーク攻撃の種類,特にボットネットと悪意のあるトラフィックを検出・分類するために設計されており,軽量なConvNeXt-Tinyアーキテクチャはリソース制約されたデバイスやネットワークへの効果的な展開を可能にする。
  論文  参考訳（メタデータ） (2025-09-07T20:32:38Z)
• Towards provable probabilistic safety for scalable embodied AI systems [79.31011047593492]
  エンボディードAIシステムは、様々なアプリケーションでますます普及している。 複雑な運用環境での安全性確保は依然として大きな課題である。 このパースペクティブは、安全で大規模に実施されたAIシステムを安全クリティカルなアプリケーションに採用するための道筋を提供する。
  論文  参考訳（メタデータ） (2025-06-05T15:46:25Z)
• A Joint Reconstruction-Triplet Loss Autoencoder Approach Towards Unseen Attack Detection in IoV Networks [6.229535970620059]
  In this present an unsupervised autoencoder method designed on beign network data for unseen attack detection in IoV network。 本手法は, 異常データに対して約99%の精度で, 異常データに対して97%から100%の精度で頑健に動作することを示す。
  論文  参考訳（メタデータ） (2025-05-27T19:40:57Z)
• Building Hybrid B-Spline And Neural Network Operators [0.0]
  制御システムはサイバー物理システム(CPS)の安全性を確保するために不可欠である 本稿では,B-スプラインの帰納バイアスとデータ駆動型ニューラルネットワークを組み合わせることで,CPS行動のリアルタイム予測を容易にする手法を提案する。
  論文  参考訳（メタデータ） (2024-06-06T21:54:59Z)
• Scaling #DNN-Verification Tools with Efficient Bound Propagation and Parallel Computing [57.49021927832259]
  ディープニューラルネットワーク(DNN)は多くのシナリオで異常な結果を示した強力なツールです。 しかし、それらの複雑な設計と透明性の欠如は、現実世界のアプリケーションに適用する際の安全性上の懸念を提起する。 DNNの形式的検証(FV)は、安全面の証明可能な保証を提供する貴重なソリューションとして登場した。
  論文  参考訳（メタデータ） (2023-12-10T13:51:25Z)
• Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
  CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。 次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。 これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
  論文  参考訳（メタデータ） (2022-08-23T05:02:09Z)
• BarrierNet: A Safety-Guaranteed Layer for Neural Networks [50.86816322277293]
  BarrierNetは、ニューラルコントローラの安全性の制約が環境の変化に適応できるようにする。 本研究では,2次元空間と3次元空間における交通統合やロボットナビゲーションといった一連の制御問題について評価する。
  論文  参考訳（メタデータ） (2021-11-22T15:38:11Z)
• Self-Repairing Neural Networks: Provable Safety for Deep Networks via Dynamic Repair [16.208330991060976]
  本稿では,非リレーショナル安全性制約の違反を動的に修復するニューラルネットワーク分類器を構築する方法を提案する。 我々のアプローチは、確実に安全な出力が得られる新しい自己修復層に基づいている。 提案手法は,GPU上で効率的に実行されるベクトル化計算を用いて実装可能であることを示す。
  論文  参考訳（メタデータ） (2021-07-23T20:08:52Z)
• Safe RAN control: A Symbolic Reinforcement Learning Approach [62.997667081978825]
  本稿では,無線アクセスネットワーク(RAN)アプリケーションの安全管理のためのシンボル強化学習(SRL)アーキテクチャを提案する。 我々は、ユーザが所定のセルネットワークトポロジに対して高レベルの論理的安全性仕様を指定できる純粋に自動化された手順を提供する。 ユーザがシステムに意図仕様を設定するのを支援するために開発されたユーザインターフェース(UI)を導入し、提案するエージェントの動作の違いを検査する。
  論文  参考訳（メタデータ） (2021-06-03T16:45:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。