Fugu-MT 論文翻訳(概要): Self-Repairing Neural Networks: Provable Safety for Deep Networks via Dynamic Repair

論文の概要: Self-Repairing Neural Networks: Provable Safety for Deep Networks via Dynamic Repair

arxiv url: http://arxiv.org/abs/2107.11445v1
Date: Fri, 23 Jul 2021 20:08:52 GMT
ステータス: 処理完了
システム内更新日: 2021-07-27 15:51:08.042278
Title: Self-Repairing Neural Networks: Provable Safety for Deep Networks via Dynamic Repair
Title（参考訳）: 自己修復型ニューラルネットワーク:動的修復によるディープネットワークの安全性の証明
Authors: Klas Leino, Aymeric Fromherz, Ravi Mangal, Matt Fredrikson, Bryan Parno, Corina P\u{a}s\u{a}reanu
Abstract要約: 本稿では,非リレーショナル安全性制約の違反を動的に修復するニューラルネットワーク分類器を構築する方法を提案する。我々のアプローチは、確実に安全な出力が得られる新しい自己修復層に基づいている。提案手法は,GPU上で効率的に実行されるベクトル化計算を用いて実装可能であることを示す。
参考スコア（独自算出の注目度）: 16.208330991060976
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Neural networks are increasingly being deployed in contexts where safety is a critical concern. In this work, we propose a way to construct neural network classifiers that dynamically repair violations of non-relational safety constraints called safe ordering properties. Safe ordering properties relate requirements on the ordering of a network's output indices to conditions on their input, and are sufficient to express most useful notions of non-relational safety for classifiers. Our approach is based on a novel self-repairing layer, which provably yields safe outputs regardless of the characteristics of its input. We compose this layer with an existing network to construct a self-repairing network (SR-Net), and show that in addition to providing safe outputs, the SR-Net is guaranteed to preserve the accuracy of the original network. Notably, our approach is independent of the size and architecture of the network being repaired, depending only on the specified property and the dimension of the network's output; thus it is scalable to large state-of-the-art networks. We show that our approach can be implemented using vectorized computations that execute efficiently on a GPU, introducing run-time overhead of less than one millisecond on current hardware -- even on large, widely-used networks containing hundreds of thousands of neurons and millions of parameters.
Abstract（参考訳）: ニューラルネットワークは、安全が重要な懸念事項である状況において、ますます展開されている。本研究では,安全オーダリングプロパティと呼ばれる非リレーショナル安全制約の違反を動的に修復するニューラルネットワーク分類器を構築する手法を提案する。安全な順序付け特性は、ネットワークの出力指標の順序付け要求と入力条件を関連付け、分類器の非関係安全性の最も有用な概念を表現するのに十分である。提案手法は, 入力の特性に関わらず, 確実に安全な出力が得られる新しい自己修復層に基づいている。このレイヤを既存のネットワークで構成し、自己修復ネットワーク(SR-Net)を構築し、安全な出力を提供するとともに、SR-Netが元のネットワークの精度を維持することを保証していることを示す。特に,本手法はネットワークのサイズや構造によらず,ネットワークの出力の特定の特性や寸法にのみ依存するので,大規模で最先端のネットワークに対してスケーラブルである。このアプローチは,数十万のニューロンと数百万のパラメータを含む大規模で広く使用されているネットワーク上でさえ,現在のハードウェア上で1ミリ秒未満の実行時のオーバーヘッドを導入して,GPU上で効率的に実行されるベクトル化された計算を使用して実装可能であることを示す。

関連論文リスト

Hard-Constrained Neural Networks with Universal Approximation Guarantees [5.3663546125491735]
HardNetは、モデルキャパシティを犠牲にすることなく、本質的に厳しい制約を満たすニューラルネットワークを構築するためのフレームワークである。ニューラルネットワークの普遍近似能力はHardNetが保持していることを示す。
論文参考訳（メタデータ） (2024-10-14T17:59:24Z)
A Generalization of Continuous Relaxation in Structured Pruning [0.3277163122167434]
トレンドは、パラメータが増加するより深い、より大きなニューラルネットワークが、より小さなニューラルネットワークよりも高い精度を達成することを示している。ネットワーク拡張, プルーニング, サブネットワーク崩壊, 削除のためのアルゴリズムを用いて, 構造化プルーニングを一般化する。結果のCNNは計算コストのかかるスパース行列演算を使わずにGPUハードウェア上で効率的に実行される。
論文参考訳（メタデータ） (2023-08-28T14:19:13Z)
RDRN: Recursively Defined Residual Network for Image Super-Resolution [58.64907136562178]
深部畳み込みニューラルネットワーク(CNN)は、単一画像超解像において顕著な性能を得た。本稿では,注目ブロックを効率的に活用する新しいネットワークアーキテクチャを提案する。
論文参考訳（メタデータ） (2022-11-17T11:06:29Z)
Robust Training and Verification of Implicit Neural Networks: A Non-Euclidean Contractive Approach [64.23331120621118]
本稿では,暗黙的ニューラルネットワークのトレーニングとロバスト性検証のための理論的および計算的枠組みを提案する。組込みネットワークを導入し、組込みネットワークを用いて、元のネットワークの到達可能な集合の超近似として$ell_infty$-normボックスを提供することを示す。 MNISTデータセット上で暗黙的なニューラルネットワークをトレーニングするためにアルゴリズムを適用し、我々のモデルの堅牢性と、文献における既存のアプローチを通じてトレーニングされたモデルを比較する。
論文参考訳（メタデータ） (2022-08-08T03:13:24Z)
Automated Repair of Neural Networks [0.26651200086513094]
安全でないNNの安全仕様を修復するためのフレームワークを提案する。提案手法では,重み値のいくつかを修正して,新しい安全なNN表現を探索することができる。我々は,提案するフレームワークが安全なNNを実現する能力を示す広範な実験を行った。
論文参考訳（メタデータ） (2022-07-17T12:42:24Z)
Efficient Global Robustness Certification of Neural Networks via Interleaving Twin-Network Encoding [8.173681464694651]
混合整数線形プログラミング(MILP)問題として、ReLUアクティベーション機能付きニューラルネットワークのグローバルロバスト性認証を定式化する。我々のアプローチは、ニューラルネットワークの2つのコピーを並べて符号化する、新しいインターリービングツインネットワーク符号化スキームを含む。クローズドループ制御の安全性検証のケーススタディを行い,本手法の重要性と実用性を実証した。
論文参考訳（メタデータ） (2022-03-26T19:23:37Z)
Edge Rewiring Goes Neural: Boosting Network Resilience via Policy Gradient [62.660451283548724]
ResiNetは、さまざまな災害や攻撃に対する回復力のあるネットワークトポロジを発見するための強化学習フレームワークである。 ResiNetは複数のグラフに対してほぼ最適のレジリエンス向上を実現し,ユーティリティのバランスを保ちながら,既存のアプローチに比べて大きなマージンを持つことを示す。
論文参考訳（メタデータ） (2021-10-18T06:14:28Z)
Improving Neural Network Robustness through Neighborhood Preserving Layers [0.751016548830037]
このような層を組み込むことができ、効率的にトレーニングできる新しいニューラルネットワークアーキテクチャを実証する。我々は、設計したネットワークアーキテクチャが、最先端の勾配に基づく攻撃に対してより堅牢であることを実証的に示す。
論文参考訳（メタデータ） (2021-01-28T01:26:35Z)
Enabling certification of verification-agnostic networks via memory-efficient semidefinite programming [97.40955121478716]
本稿では,ネットワークアクティベーションの総数にのみ線形なメモリを必要とする一階二重SDPアルゴリズムを提案する。 L-inf の精度は 1% から 88% ,6% から 40% に改善した。また,変分オートエンコーダの復号器に対する2次安定性仕様の厳密な検証を行った。
論文参考訳（メタデータ） (2020-10-22T12:32:29Z)
Deep Adaptive Inference Networks for Single Image Super-Resolution [72.7304455761067]
シングルイメージ超解像(SISR)は、ディープ畳み込みニューラルネットワーク(CNN)の展開により、近年大きく進歩している。本稿では,深部SISR(AdaDSR)の適応型推論ネットワークを活用することで,この問題に対処する。我々のAdaDSRは、SISRモデルをバックボーンとし、画像の特徴とリソース制約を入力として取り、ローカルネットワーク深さのマップを予測する軽量アダプタモジュールを備える。
論文参考訳（メタデータ） (2020-04-08T10:08:20Z)
Resolution Adaptive Networks for Efficient Inference [53.04907454606711]
本稿では,低分解能表現が「容易」な入力を分類するのに十分である,という直感に触発された新しいレゾリューション適応ネットワーク(RANet)を提案する。 RANetでは、入力画像はまず、低解像度表現を効率的に抽出する軽量サブネットワークにルーティングされる。ネットワーク内の高解像度パスは、"ハード"サンプルを認識する能力を維持している。
論文参考訳（メタデータ） (2020-03-16T16:54:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。