Fugu-MT 論文翻訳(概要): Extending Neural Network Verification to a Larger Family of Piece-wise Linear Activation Functions

論文の概要: Extending Neural Network Verification to a Larger Family of Piece-wise Linear Activation Functions

arxiv url: http://arxiv.org/abs/2311.10780v1
Date: Thu, 16 Nov 2023 11:01:39 GMT
ステータス: 処理完了
システム内更新日: 2023-11-22 14:37:51.842724
Title: Extending Neural Network Verification to a Larger Family of Piece-wise Linear Activation Functions
Title（参考訳）: ピアスワイズ線形活性化関数の大ファミリーへのニューラルネットワーク検証の拡張
Authors: L\'aszl\'o Antal (RWTH Aachen University), Hana Masara (RWTH Aachen University), Erika \'Abrah\'am (RWTH Aachen University)
Abstract要約: 利用可能なニューラルネットワーク検証手法を拡張して,より広い範囲の線形アクティベーション機能をサポートする。また,開始集合として表される有界入力集合に対して,元の形式を正確にオーバー近似するアルゴリズムを拡張して,非有界入力集合も許容する。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: In this paper, we extend an available neural network verification technique to support a wider class of piece-wise linear activation functions. Furthermore, we extend the algorithms, which provide in their original form exact respectively over-approximative results for bounded input sets represented as start sets, to allow also unbounded input set. We implemented our algorithms and demonstrated their effectiveness in some case studies.
Abstract（参考訳）: 本稿では,より広い範囲の線形活性化関数をサポートするために,利用可能なニューラルネットワーク検証手法を拡張する。さらに,開始集合として表される有界入力集合に対して,元の形式を正確にオーバー近似するアルゴリズムを拡張し,非有界入力集合も許容する。我々はアルゴリズムを実装し、いくつかのケーススタディでその効果を実証した。

関連論文リスト

Provable Bounds on the Hessian of Neural Networks: Derivative-Preserving Reachability Analysis [6.9060054915724]
本稿では,アクティベーションの異なるニューラルネットワークに適した新しい到達可能性解析手法を提案する。本手法の重要な特徴は,活性化関数のループ変換により,その単調性を効果的に活用することである。結果として得られるエンドツーエンドの抽象化は、微分情報を局所的に保存し、小さな入力集合に正確な境界を与える。
論文参考訳（メタデータ） (2024-06-06T20:02:49Z)
Enhancing Neural Subset Selection: Integrating Background Information into Set Representations [53.15923939406772]
対象値が入力集合とサブセットの両方に条件付けされている場合、スーパーセットのテクスティ不変な統計量を関心のサブセットに組み込むことが不可欠であることを示す。これにより、出力値がサブセットとその対応するスーパーセットの置換に不変であることを保証する。
論文参考訳（メタデータ） (2024-02-05T16:09:35Z)
Provable Preimage Under-Approximation for Neural Networks (Full Version) [27.519993407376862]
ニューラルネットワークに対する任意のポリヘドロン出力セットの事前像の記号的アンダー近似を生成するための効率的な時空アルゴリズムを提案する。実験により,本手法の有効性を,高次元MNIST分類タスクを含む領域にわたって検証した。我々は,形式的な保証を提供するために,ポリトープ表現の不整合和を利用する,前者のための健全で完全なアルゴリズムを提案する。
論文参考訳（メタデータ） (2023-05-05T16:55:27Z)
Unification of popular artificial neural network activation functions [0.0]
本稿では,最も一般的なニューラルネットワーク活性化関数の統一表現について述べる。分数計算のMittag-Leffler関数を採用することにより、フレキシブルでコンパクトな関数形式を提案する。
論文参考訳（メタデータ） (2023-02-21T21:20:59Z)
Neural Network Verification as Piecewise Linear Optimization: Formulations for the Composition of Staircase Functions [2.088583843514496]
混合整数計画法(MIP)を用いたニューラルネットワーク検証手法を提案する。ネットワーク内の各ニューロンに対して一方向線形活性化関数を用いた強い定式化を導出する。また、入力次元において超線形時間で実行される分離手順を導出する。
論文参考訳（メタデータ） (2022-11-27T03:25:48Z)
Simple initialization and parametrization of sinusoidal networks via their kernel bandwidth [92.25666446274188]
従来の活性化機能を持つネットワークの代替として、活性化を伴う正弦波ニューラルネットワークが提案されている。まず,このような正弦波ニューラルネットワークの簡易版を提案する。次に、ニューラルタンジェントカーネルの観点からこれらのネットワークの挙動を分析し、そのカーネルが調整可能な帯域幅を持つ低域フィルタを近似することを実証する。
論文参考訳（メタデータ） (2022-11-26T07:41:48Z)
Improved Algorithms for Neural Active Learning [74.89097665112621]
非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
論文参考訳（メタデータ） (2022-10-02T05:03:38Z)
Stabilizing Q-learning with Linear Architectures for Provably Efficient Learning [53.17258888552998]
本研究では,線形関数近似を用いた基本的な$Q$-learningプロトコルの探索変種を提案する。このアルゴリズムの性能は,新しい近似誤差というより寛容な概念の下で,非常に優雅に低下することを示す。
論文参考訳（メタデータ） (2022-06-01T23:26:51Z)
Efficient Neural Network Analysis with Sum-of-Infeasibilities [64.31536828511021]
凸最適化における総和係数法に着想を得て,広範な分岐関数を持つネットワーク上での検証クエリを解析するための新しい手法を提案する。標準ケース分析に基づく完全探索手順の拡張は、各検索状態で実行される凸手順をDeepSoIに置き換えることによって達成できる。
論文参考訳（メタデータ） (2022-03-19T15:05:09Z)
Activation function design for deep networks: linearity and effective initialisation [10.108857371774977]
先行作業で特定された初期化時の2つの問題を回避する方法を検討する。これらの問題は, 原点付近に十分に大きな線形領域を持つ活性化関数を選択することで, どちらも回避できることを示す。
論文参考訳（メタデータ） (2021-05-17T11:30:46Z)
Parallelization Techniques for Verifying Neural Networks [52.917845265248744]
検証問題に基づくアルゴリズムを反復的に導入し、2つの分割戦略を探索する。また、ニューラルネットワークの検証問題を単純化するために、ニューロンアクティベーションフェーズを利用する、高度に並列化可能な前処理アルゴリズムも導入する。
論文参考訳（メタデータ） (2020-04-17T20:21:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。