論文の概要: Framework for Certification of AI-Based Systems

• arxiv url: http://arxiv.org/abs/2302.11049v1
• Date: Tue, 21 Feb 2023 23:08:37 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-23 16:53:04.653235
• Title: Framework for Certification of AI-Based Systems
• Title（参考訳）: AIに基づくシステムの認証のためのフレームワーク
• Authors: Maxime Gariel, Brian Shimanuki, Rob Timpe, Evan Wilson
• Abstract要約: 航空宇宙ソフトウェアの現在の認定プロセスは、ディープニューラルネットワークのようなAIベースのアルゴリズムに適応していない。 本稿では,ニューラルネットワークモデルの認証手法を確立するためのフレームワークと原則を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The current certification process for aerospace software is not adapted to "AI-based" algorithms such as deep neural networks. Unlike traditional aerospace software, the precise parameters optimized during neural network training are as important as (or more than) the code processing the network and they are not directly mathematically understandable. Despite their lack of explainability such algorithms are appealing because for some applications they can exhibit high performance unattainable with any traditional explicit line-by-line software methods. This paper proposes a framework and principles that could be used to establish certification methods for neural network models for which the current certification processes such as DO-178 cannot be applied. While it is not a magic recipe, it is a set of common sense steps that will allow the applicant and the regulator increase their confidence in the developed software, by demonstrating the capabilities to bring together, trace, and track the requirements, data, software, training process, and test results.
• Abstract（参考訳）: 航空宇宙ソフトウェアの現在の認定プロセスは、ディープニューラルネットワークのようなAIベースのアルゴリズムに適応していない。 従来の航空宇宙ソフトウェアとは異なり、ニューラルネットワークトレーニング中に最適化された正確なパラメータは、ネットワークを処理するコードと同じくらい(あるいはそれ以上)重要であり、直接数学的に理解できない。 説明可能性の欠如にもかかわらず、これらのアルゴリズムは、いくつかのアプリケーションでは、従来の明示的なラインバイラインのソフトウェアメソッドでは実現不可能な高性能を示すことができるため、魅力的である。 本稿では、DO-178のような現在の認証プロセスを適用することができないニューラルネットワークモデルの認証方法を確立するために使用できるフレームワークと原則を提案する。 これは魔法のレシピではないが、要件、データ、ソフトウェア、トレーニングプロセス、テスト結果などを組み合わせて追跡し、追跡する能力を示すことによって、申請者と規制当局が開発ソフトウェアに対する信頼を高めるための、一連の常識的なステップである。

関連論文リスト

• Formal and Practical Elements for the Certification of Machine Learning Systems [0.9217021281095907]
  機械学習モデルのパラメータは、手書きではなく、物理から派生したもので、データから学習されていることを示す。 その結果、要件を直接コード行にトレースすることはできず、現在のボトムアップの航空宇宙認証パラダイムを妨げることになる。 拡張性のある統計的検証器に基づいて,提案するフレームワークは,モデルに依存しないツールに依存しない。
  論文  参考訳（メタデータ） (2023-10-05T00:20:59Z)
• Using Machine Learning To Identify Software Weaknesses From Software Requirement Specifications [49.1574468325115]
  本研究は、要求仕様からソフトウェア弱点を特定するための効率的な機械学習アルゴリズムを見つけることに焦点を当てる。 ProMISE_exp. Naive Bayes、サポートベクターマシン(SVM)、決定木、ニューラルネットワーク、畳み込みニューラルネットワーク(CNN)アルゴリズムをテストした。
  論文  参考訳（メタデータ） (2023-08-10T13:19:10Z)
• An FPGA Architecture for Online Learning using the Tsetlin Machine [5.140342614848069]
  本稿では,オンライン学習のための新しいフィールドプログラミング可能なゲートアレイ基盤を提案する。 Tsetlin Machineと呼ばれる低複雑さの機械学習アルゴリズムを実装している。 本稿では,提案するインフラを用いたオンライン学習の事例と,エネルギー/性能/精度のトレードオフを実証する。
  論文  参考訳（メタデータ） (2023-06-01T13:33:26Z)
• The Cascaded Forward Algorithm for Neural Network Training [61.06444586991505]
  本稿では,ニューラルネットワークのための新しい学習フレームワークであるCascaded Forward(CaFo)アルゴリズムを提案する。 FFとは異なり、我々のフレームワークは各カスケードブロックのラベル分布を直接出力する。 我々のフレームワークでは、各ブロックは独立して訓練できるので、並列加速度システムに容易に展開できる。
  論文  参考訳（メタデータ） (2023-03-17T02:01:11Z)
• Quantization-aware Interval Bound Propagation for Training Certifiably Robust Quantized Neural Networks [58.195261590442406]
  我々は、逆向きに頑健な量子化ニューラルネットワーク(QNN)の訓練と証明の課題について検討する。 近年の研究では、浮動小数点ニューラルネットワークが量子化後の敵攻撃に対して脆弱であることが示されている。 本稿では、堅牢なQNNをトレーニングするための新しい方法であるQA-IBP(quantization-aware interval bound propagation)を提案する。
  論文  参考訳（メタデータ） (2022-11-29T13:32:38Z)
• Improving Compositionality of Neural Networks by Decoding Representations to Inputs [83.97012077202882]
  我々は、ニューラルネットワークのアクティベーションを制約し、入力に"デコード"するように生成モデルを共同で訓練することで、従来のディープラーニングプログラムの利点を橋渡しする。 本稿では,デオード可能な表現の分布外検出,逆例,校正,公平性への応用を実証する。
  論文  参考訳（メタデータ） (2021-06-01T20:07:16Z)
• Provably Training Neural Network Classifiers under Fairness Constraints [70.64045590577318]
  過パラメータのニューラルネットワークが制約を満たしていることを示す。 公平なニューラルネットワーク分類器を構築する上で重要な要素は、ニューラルネットワークの非応答解析を確立することである。
  論文  参考訳（メタデータ） (2020-12-30T18:46:50Z)
• Designing Neural Networks for Real-Time Systems [9.28438818579034]
  文献におけるほとんどのアプローチは、ANNベースのコントローラの機能のみを保証することを検討している。 本稿では,一般的なディープラーニングフレームワークであるKerasを用いてトレーニングされたニューラルネットワークを,機能的に等価なCコードにコンパイルする設計パイプラインを提案する。
  論文  参考訳（メタデータ） (2020-08-26T21:41:37Z)
• Robust Pruning at Initialization [61.30574156442608]
  計算リソースが限られているデバイス上で、機械学習アプリケーションを使用するための、より小さく、エネルギー効率のよいニューラルネットワークの必要性が高まっている。 ディープNNにとって、このような手順はトレーニングが困難であり、例えば、ひとつの層が完全に切断されるのを防ぐことができないため、満足できないままである。
  論文  参考訳（メタデータ） (2020-02-19T17:09:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。