論文の概要: Traversing the Local Polytopes of ReLU Neural Networks: A Unified
Approach for Network Verification
- arxiv url: http://arxiv.org/abs/2111.08922v1
- Date: Wed, 17 Nov 2021 06:12:39 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-18 20:07:07.646295
- Title: Traversing the Local Polytopes of ReLU Neural Networks: A Unified
Approach for Network Verification
- Title(参考訳): ReLUニューラルネットワークの局所ポリトープのトラバース:ネットワーク検証のための統一的アプローチ
- Authors: Shaojie Xu, Joel Vaughan, Jie Chen, Aijun Zhang, Agus Sudjianto
- Abstract要約: ReLUアクティベーション機能を備えたニューラルネットワーク(NN)は、幅広いアプリケーションで成功している。
頑健さを検証し,解釈可能性を向上させるための従来の研究は,ReLU NNの断片線形関数形式を部分的に活用した。
本稿では,ReLU NNが入力空間で生成する独自のトポロジ構造について検討し,分割した局所ポリトープ間の隣接性を同定する。
- 参考スコア(独自算出の注目度): 6.71092092685492
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Although neural networks (NNs) with ReLU activation functions have found
success in a wide range of applications, their adoption in risk-sensitive
settings has been limited by the concerns on robustness and interpretability.
Previous works to examine robustness and to improve interpretability partially
exploited the piecewise linear function form of ReLU NNs. In this paper, we
explore the unique topological structure that ReLU NNs create in the input
space, identifying the adjacency among the partitioned local polytopes and
developing a traversing algorithm based on this adjacency. Our polytope
traversing algorithm can be adapted to verify a wide range of network
properties related to robustness and interpretability, providing an unified
approach to examine the network behavior. As the traversing algorithm
explicitly visits all local polytopes, it returns a clear and full picture of
the network behavior within the traversed region. The time and space complexity
of the traversing algorithm is determined by the number of a ReLU NN's
partitioning hyperplanes passing through the traversing region.
- Abstract(参考訳): ReLUアクティベーション機能を備えたニューラルネットワーク(NN)は、幅広いアプリケーションで成功しているが、ロバスト性と解釈可能性に関する懸念から、リスクに敏感な設定の採用は制限されている。
頑健さを検証し,解釈可能性を向上させるための従来の研究は,ReLU NNの断片線形関数形式を部分的に活用した。
本稿では,ReLU NNが入力空間内で生成する独自のトポロジ構造について検討し,分割した局所ポリトープ間の隣接性を同定し,この隣接性に基づくトラバースアルゴリズムを開発する。
ポリトープトラバースアルゴリズムは,ロバスト性や解釈性に関連する幅広いネットワーク特性を検証するために適用可能であり,ネットワーク動作を統一的に検証する手法を提供する。
トラバースアルゴリズムがすべてのローカルポリトープを明示的に訪問すると、トラバースされた領域内のネットワーク動作の明確かつ完全な画像を返す。
トラバースアルゴリズムの時間と空間の複雑さは、トラバース領域を通過するReLU NNの分割超平面の数によって決定される。
関連論文リスト
- Joint Admission Control and Resource Allocation of Virtual Network Embedding via Hierarchical Deep Reinforcement Learning [69.00997996453842]
本稿では,仮想ネットワークの埋め込みにおいて,入出力制御と資源配分を併用して学習する深層強化学習手法を提案する。
HRL-ACRAは,受入率と長期平均収益の両面で,最先端のベースラインを上回っていることを示す。
論文 参考訳(メタデータ) (2024-06-25T07:42:30Z) - Network Inversion of Binarised Neural Nets [3.5571131514746837]
ニューラルネットワークの出力マッピングに対する入力のブラックボックスの性質を解明する上で、ネットワークの反転は重要な役割を担っている。
本稿では,ネットワークの構造をキャプチャするCNF式に符号化することで,訓練されたBNNを逆転させる新しい手法を提案する。
論文 参考訳(メタデータ) (2024-02-19T09:39:54Z) - The Evolution of the Interplay Between Input Distributions and Linear
Regions in Networks [20.97553518108504]
ReLUに基づくディープニューラルネットワークにおける線形凸領域の数をカウントする。
特に、任意の1次元入力に対して、それを表現するのに必要となるニューロンの数に対して最小限の閾値が存在することを証明している。
また、トレーニング中のReLUネットワークにおける決定境界の反復的改善プロセスも明らかにした。
論文 参考訳(メタデータ) (2023-10-28T15:04:53Z) - The Influence of Network Structural Preference on Node Classification
and Link Prediction [0.0]
本研究は,新しい機能抽象化手法,すなわちTransition Probabilities Matrix (TPM)を導入する。
提案手法は,3つの実世界のネットワーク上でノード識別・分類・リンク予測を行った。
論文 参考訳(メタデータ) (2022-08-07T12:56:28Z) - Edge Rewiring Goes Neural: Boosting Network Resilience via Policy
Gradient [62.660451283548724]
ResiNetは、さまざまな災害や攻撃に対する回復力のあるネットワークトポロジを発見するための強化学習フレームワークである。
ResiNetは複数のグラフに対してほぼ最適のレジリエンス向上を実現し,ユーティリティのバランスを保ちながら,既存のアプローチに比べて大きなマージンを持つことを示す。
論文 参考訳(メタデータ) (2021-10-18T06:14:28Z) - Clustering-Based Interpretation of Deep ReLU Network [17.234442722611803]
我々はReLU関数の非線形挙動が自然なクラスタリングを引き起こすことを認識している。
本稿では,完全連結フィードフォワードReLUニューラルネットワークの解釈可能性を高める手法を提案する。
論文 参考訳(メタデータ) (2021-10-13T09:24:11Z) - Learning Autonomy in Management of Wireless Random Networks [102.02142856863563]
本稿では,任意の数のランダム接続ノードを持つ無線ネットワークにおいて,分散最適化タスクに取り組む機械学習戦略を提案する。
我々は,ネットワークトポロジとは無関係に,前方および後方に計算を行う分散メッセージパスニューラルネットワーク(DMPNN)と呼ばれる,柔軟な深層ニューラルネットワーク形式を開発した。
論文 参考訳(メタデータ) (2021-06-15T09:03:28Z) - On the use of local structural properties for improving the efficiency
of hierarchical community detection methods [77.34726150561087]
本研究では,階層型コミュニティ検出の効率向上のために,局所構造ネットワーク特性をプロキシとして利用する方法について検討する。
また,ネットワークプルーニングの性能への影響を,階層的コミュニティ検出をより効率的にするための補助的手法として検証する。
論文 参考訳(メタデータ) (2020-09-15T00:16:12Z) - Hierarchical Verification for Adversarial Robustness [89.30150585592648]
正解点$ell_p$ロバスト性検証問題に対する新しいフレームワークを提案する。
LayerCertは、修正線形アクティベーション(ReLU)を用いたディープフィードフォワードネットワークの階層的幾何構造を利用する
提案手法は,GeoCertに比べて,解決すべき凸プログラムの数とサイズを確実に削減できることを示す。
論文 参考訳(メタデータ) (2020-07-23T07:03:05Z) - Reachability Analysis for Feed-Forward Neural Networks using Face
Lattices [10.838397735788245]
本稿では,ニューラルネットワークの正確な到達可能な集合を入力集合に並列化する手法を提案する。
我々の手法は、出力セットが与えられた完全な入力セットを構築することができ、安全違反につながる任意の入力を追跡することができる。
論文 参考訳(メタデータ) (2020-03-02T22:23:57Z) - Dense Residual Network: Enhancing Global Dense Feature Flow for
Character Recognition [75.4027660840568]
本稿では,すべての畳み込み層から階層的特徴をフルに活用することにより,局所的・大域的特徴フローを改善する方法について検討する。
技術的には、テキスト認識のための効率的で効果的なCNNフレームワークであるFDRN(Fast Dense Residual Network)を提案する。
論文 参考訳(メタデータ) (2020-01-23T06:55:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。