Fugu-MT 論文翻訳(概要): Training Safe Neural Networks with Global SDP Bounds

論文の概要: Training Safe Neural Networks with Global SDP Bounds

arxiv url: http://arxiv.org/abs/2409.09687v1
Date: Sun, 15 Sep 2024 10:50:22 GMT
ステータス: 処理完了
システム内更新日: 2024-09-17 19:38:21.013635
Title: Training Safe Neural Networks with Global SDP Bounds
Title（参考訳）: グローバルSDP境界を用いた安全なニューラルネットワークの訓練
Authors: Roman Soletskyi, David "davidad" Dalrymple,
Abstract要約: 本稿では,半定値プログラミング(SDP)を用いたニューラルネットワークの形式的安全性保証によるトレーニング手法を提案する。本手法は,大規模かつ高次元な入力領域における安全性の検証に焦点をあて,対向境界に着目した既存手法の限界に対処する。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: This paper presents a novel approach to training neural networks with formal safety guarantees using semidefinite programming (SDP) for verification. Our method focuses on verifying safety over large, high-dimensional input regions, addressing limitations of existing techniques that focus on adversarial robustness bounds. We introduce an ADMM-based training scheme for an accurate neural network classifier on the Adversarial Spheres dataset, achieving provably perfect recall with input dimensions up to $d=40$. This work advances the development of reliable neural network verification methods for high-dimensional systems, with potential applications in safe RL policies.
Abstract（参考訳）: 本稿では、半定値プログラミング(SDP)を用いて、形式的安全性を保証するニューラルネットワークのトレーニング手法を提案する。本手法は,大規模高次元入力領域における安全性の検証に焦点をあて,対向ロバスト性境界に着目した既存手法の限界に対処する。本稿では,Adversarial Spheresデータセット上の精度の高いニューラルネットワーク分類器のためのADMMに基づくトレーニング手法を提案する。この研究は、安全なRLポリシーに適用可能な高次元システムのための信頼性ニューラルネットワーク検証手法の開発を前進させる。

関連論文リスト

Deep Learning Algorithms Used in Intrusion Detection Systems -- A Review [0.0]
本稿では,CNN,Recurrent Neural Networks(RNN),Deep Belief Networks(DBN),Deep Neural Networks(DNN),Long Short-Term Memory(LSTM),Autoencoders(AE),Multi-Layer Perceptrons(MLP),Self-Normalizing Networks(SNN),Hybrid Model(ネットワーク侵入検知システム)など,近年のディープラーニング技術の進歩について述べる。
論文参考訳（メタデータ） (2024-02-26T20:57:35Z)
Scaling #DNN-Verification Tools with Efficient Bound Propagation and Parallel Computing [57.49021927832259]
ディープニューラルネットワーク(DNN)は多くのシナリオで異常な結果を示した強力なツールです。しかし、それらの複雑な設計と透明性の欠如は、現実世界のアプリケーションに適用する際の安全性上の懸念を提起する。 DNNの形式的検証(FV)は、安全面の証明可能な保証を提供する貴重なソリューションとして登場した。
論文参考訳（メタデータ） (2023-12-10T13:51:25Z)
Quantization-aware Interval Bound Propagation for Training Certifiably Robust Quantized Neural Networks [58.195261590442406]
我々は、逆向きに頑健な量子化ニューラルネットワーク(QNN)の訓練と証明の課題について検討する。近年の研究では、浮動小数点ニューラルネットワークが量子化後の敵攻撃に対して脆弱であることが示されている。本稿では、堅牢なQNNをトレーニングするための新しい方法であるQA-IBP(quantization-aware interval bound propagation)を提案する。
論文参考訳（メタデータ） (2022-11-29T13:32:38Z)
Increasing the Confidence of Deep Neural Networks by Coverage Analysis [71.57324258813674]
本稿では、異なる安全でない入力に対してモデルを強化するために、カバレッジパラダイムに基づく軽量な監視アーキテクチャを提案する。実験結果から,提案手法は強力な対向例とアウト・オブ・ディストリビューション・インプットの両方を検出するのに有効であることが示唆された。
論文参考訳（メタデータ） (2021-01-28T16:38:26Z)
Data-Driven Assessment of Deep Neural Networks with Random Input Uncertainty [14.191310794366075]
我々は,ネットワーク出力の安全性を同時に証明し,ローカライズ可能なデータ駆動最適化手法を開発した。深部ReLUネットワークにおける提案手法の有効性とトラクタビリティを実験的に実証した。
論文参考訳（メタデータ） (2020-10-02T19:13:35Z)
SecDD: Efficient and Secure Method for Remotely Training Neural Networks [13.70633147306388]
私たちは、ディープラーニングアルゴリズムの最悪の品質と見なされるものを活用しています。我々は、安全でないチャネル上で遠隔でデプロイされたニューラルネットワークをセキュアかつ効率的に訓練するための方法を作成する。
論文参考訳（メタデータ） (2020-09-19T03:37:44Z)
Modeling from Features: a Mean-field Framework for Over-parameterized Deep Neural Networks [54.27962244835622]
本稿では、オーバーパラメータ化ディープニューラルネットワーク(DNN)のための新しい平均場フレームワークを提案する。このフレームワークでは、DNNは連続的な極限におけるその特徴に対する確率測度と関数によって表現される。本稿では、標準DNNとResidual Network(Res-Net)アーキテクチャを通してフレームワークを説明する。
論文参考訳（メタデータ） (2020-07-03T01:37:16Z)
Protecting the integrity of the training procedure of neural networks [0.0]
ニューラルネットワークは、継続的に増加する多くのアプリケーションに使われます。ニューラルネットワークの不透明さによって増加するITセキュリティの最も顕著な問題の1つは、トレーニング期間中に攻撃を害する可能性があることである。本稿では,標準暗号機構を用いてトレーニング手順の整合性を確実に検証する手法を提案する。
論文参考訳（メタデータ） (2020-05-14T12:57:23Z)
Learn2Perturb: an End-to-end Feature Perturbation Learning to Improve Adversarial Robustness [79.47619798416194]
Learn2Perturbは、ディープニューラルネットワークの対角的堅牢性を改善するために、エンドツーエンドの機能摂動学習アプローチである。予測最大化にインスパイアされ、ネットワークと雑音パラメータを連続的にトレーニングするために、交互にバックプロパゲーショントレーニングアルゴリズムが導入された。
論文参考訳（メタデータ） (2020-03-02T18:27:35Z)
HYDRA: Pruning Adversarially Robust Neural Networks [58.061681100058316]
ディープラーニングは、敵対的攻撃に対する堅牢性の欠如と、大規模なニューラルネットワークサイズという、2つの大きな課題に直面している。そこで本稿では,頑健なトレーニング目標を意識したプルーニング手法を提案し,トレーニング目標にプルーンへの接続を探索させる。 HYDRAと題する我々の手法は,最先端のベニグニグニグニグニグニとロバストな精度で圧縮されたネットワークを同時に実現できることを実証する。
論文参考訳（メタデータ） (2020-02-24T19:54:53Z)
Scalable Quantitative Verification For Deep Neural Networks [44.570783946111334]
ディープニューラルネットワーク(DNN)のためのテスト駆動検証フレームワークを提案する。本手法は,形式的確率特性の健全性が証明されるまで,十分な試験を行う。われわれの研究は、現実世界のディープニューラルネットワークが捉えた分布の性質を、証明可能な保証で検証する方法を開拓している。
論文参考訳（メタデータ） (2020-02-17T09:53:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。