論文の概要: Tighter Truncated Rectangular Prism Approximation for RNN Robustness Verification
- arxiv url: http://arxiv.org/abs/2511.11699v1
- Date: Wed, 12 Nov 2025 12:27:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-18 14:36:23.009514
- Title: Tighter Truncated Rectangular Prism Approximation for RNN Robustness Verification
- Title(参考訳): RNNロバスト性検証のためのTighter Truncated長方形プリスム近似
- Authors: Xingqi Lin, Liangyu Chen, Min Wu, Min Zhang, Zhenbing Zeng,
- Abstract要約: ロバスト性検証は、リカレントニューラルネットワーク(RNN)を頑健に証明するための有望なテクニックである。
既存の手法では、線形境界面を持つ非線形部品を個別に過度に近似し、これはかなりの過大評価を引き起こし、検証精度が低下する可能性がある。
本研究では,2つの線形緩和平面によって形成される新しい矩形プリズムと,その体積と表面積を最小化し,より厳密なオーバー近似を行うための精細化駆動法を提案する。
- 参考スコア(独自算出の注目度): 19.808988000317616
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Robustness verification is a promising technique for rigorously proving Recurrent Neural Networks (RNNs) robustly. A key challenge is to over-approximate the nonlinear activation functions with linear constraints, which can transform the verification problem into an efficiently solvable linear programming problem. Existing methods over-approximate the nonlinear parts with linear bounding planes individually, which may cause significant over-estimation and lead to lower verification accuracy. In this paper, in order to tightly enclose the three-dimensional nonlinear surface generated by the Hadamard product, we propose a novel truncated rectangular prism formed by two linear relaxation planes and a refinement-driven method to minimize both its volume and surface area for tighter over-approximation. Based on this approximation, we implement a prototype DeepPrism for RNN robustness verification. The experimental results demonstrate that \emph{DeepPrism} has significant improvement compared with the state-of-the-art approaches in various tasks of image classification, speech recognition and sentiment analysis.
- Abstract(参考訳): ロバスト性検証は、リカレントニューラルネットワーク(RNN)を頑健に証明するための有望なテクニックである。
鍵となる課題は、非線形活性化関数を線形制約で過剰に近似し、検証問題を効率よく解ける線形プログラミング問題に変換することである。
既存の手法では、線形境界面を持つ非線形部品を個別に過度に近似し、これはかなりの過大評価を引き起こし、検証精度が低下する可能性がある。
本稿では,アダマール積が生成する3次元非線形表面を密閉するために,2つの線形緩和平面によって形成される新しい矩形プリズムと,その体積と表面積を最小化して過近似を緩和する改良駆動法を提案する。
この近似に基づいて、RNNのロバスト性検証のためのプロトタイプDeepPrismを実装した。
The experimental results showed that \emph{DeepPrism} have significant improvement than the state-of-the-art approach in various task of image classification, speech recognition and sentiment analysis。
関連論文リスト
- Verification of Geometric Robustness of Neural Networks via Piecewise Linear Approximation and Lipschitz Optimisation [57.10353686244835]
我々は、回転、スケーリング、せん断、翻訳を含む入力画像の幾何学的変換に対するニューラルネットワークの検証の問題に対処する。
提案手法は, 分枝・分枝リプシッツと組み合わせたサンプリングおよび線形近似を用いて, 画素値に対する楽音線形制約を求める。
提案手法では,既存の手法よりも最大32%の検証ケースが解決されている。
論文 参考訳(メタデータ) (2024-08-23T15:02:09Z) - Automated Design of Linear Bounding Functions for Sigmoidal Nonlinearities in Neural Networks [23.01933325606068]
既存の完全検証技術は、すべての堅牢性クエリに対して証明可能な保証を提供するが、小さなニューラルネットワークを超えてスケールするのに苦労する。
本稿では,これらの線形近似の品質向上のためのパラメータ探索手法を提案する。
具体的には、最先端のアルゴリズム構成手法によって与えられた検証問題に慎重に適応する単純な探索手法を用いることで、最先端技術よりも平均で25%のグローバルローバウンドを向上することを示す。
論文 参考訳(メタデータ) (2024-06-14T16:16:26Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - The Neural Network shifted-Proper Orthogonal Decomposition: a Machine
Learning Approach for Non-linear Reduction of Hyperbolic Equations [0.0]
本研究では,統計的学習フレームワークにおいて,正しい前処理変換を自動的に検出する問題にアプローチする。
純粋にデータ駆動方式により、線形部分空間操作の既存のアプローチを未知の対流場を持つ非線形双曲問題に一般化することができる。
提案アルゴリズムは、その性能をベンチマークするために単純なテストケースに対して検証され、その後、多相シミュレーションに成功している。
論文 参考訳(メタデータ) (2021-08-14T15:13:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。