論文の概要: Tighter Truncated Rectangular Prism Approximation for RNN Robustness Verification
- arxiv url: http://arxiv.org/abs/2511.11699v1
- Date: Wed, 12 Nov 2025 12:27:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-18 14:36:23.009514
- Title: Tighter Truncated Rectangular Prism Approximation for RNN Robustness Verification
- Title(参考訳): RNNロバスト性検証のためのTighter Truncated長方形プリスム近似
- Authors: Xingqi Lin, Liangyu Chen, Min Wu, Min Zhang, Zhenbing Zeng,
- Abstract要約: ロバスト性検証は、リカレントニューラルネットワーク(RNN)を頑健に証明するための有望なテクニックである。
既存の手法では、線形境界面を持つ非線形部品を個別に過度に近似し、これはかなりの過大評価を引き起こし、検証精度が低下する可能性がある。
本研究では,2つの線形緩和平面によって形成される新しい矩形プリズムと,その体積と表面積を最小化し,より厳密なオーバー近似を行うための精細化駆動法を提案する。
- 参考スコア(独自算出の注目度): 19.808988000317616
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Robustness verification is a promising technique for rigorously proving Recurrent Neural Networks (RNNs) robustly. A key challenge is to over-approximate the nonlinear activation functions with linear constraints, which can transform the verification problem into an efficiently solvable linear programming problem. Existing methods over-approximate the nonlinear parts with linear bounding planes individually, which may cause significant over-estimation and lead to lower verification accuracy. In this paper, in order to tightly enclose the three-dimensional nonlinear surface generated by the Hadamard product, we propose a novel truncated rectangular prism formed by two linear relaxation planes and a refinement-driven method to minimize both its volume and surface area for tighter over-approximation. Based on this approximation, we implement a prototype DeepPrism for RNN robustness verification. The experimental results demonstrate that \emph{DeepPrism} has significant improvement compared with the state-of-the-art approaches in various tasks of image classification, speech recognition and sentiment analysis.
- Abstract(参考訳): ロバスト性検証は、リカレントニューラルネットワーク(RNN)を頑健に証明するための有望なテクニックである。
鍵となる課題は、非線形活性化関数を線形制約で過剰に近似し、検証問題を効率よく解ける線形プログラミング問題に変換することである。
既存の手法では、線形境界面を持つ非線形部品を個別に過度に近似し、これはかなりの過大評価を引き起こし、検証精度が低下する可能性がある。
本稿では,アダマール積が生成する3次元非線形表面を密閉するために,2つの線形緩和平面によって形成される新しい矩形プリズムと,その体積と表面積を最小化して過近似を緩和する改良駆動法を提案する。
この近似に基づいて、RNNのロバスト性検証のためのプロトタイプDeepPrismを実装した。
The experimental results showed that \emph{DeepPrism} have significant improvement than the state-of-the-art approach in various task of image classification, speech recognition and sentiment analysis。
関連論文リスト
- Parallel Diffusion Solver via Residual Dirichlet Policy Optimization [88.7827307535107]
拡散モデル(DM)は、最先端の生成性能を達成したが、シーケンシャルなデノナイジング特性のため、高いサンプリング遅延に悩まされている。
既存のソルバベースの加速度法では、低次元の予算で画像品質が著しく低下することが多い。
本研究では,各ステップに複数の勾配並列評価を組み込んだ新しいODE解法であるEnsemble Parallel Directionsolvr(EPD-EPr)を提案する。
論文 参考訳(メタデータ) (2025-12-28T05:48:55Z) - FNIN: A Fourier Neural Operator-based Numerical Integration Network for Surface-form-gradients [31.570033378168574]
SfG ( Surface-from-gradients) は、3次元の3次元表面を勾配から復元することを目的としている。
従来の手法では、高精度な入力と高解像度な入力を扱うという課題に直面している。
本稿では,2段階最適化フレームワーク内でFNIN(Fourier Neural operator-based Numerical Integration Network)を提案する。
論文 参考訳(メタデータ) (2025-01-21T04:11:04Z) - Verification of Geometric Robustness of Neural Networks via Piecewise Linear Approximation and Lipschitz Optimisation [57.10353686244835]
我々は、回転、スケーリング、せん断、翻訳を含む入力画像の幾何学的変換に対するニューラルネットワークの検証の問題に対処する。
提案手法は, 分枝・分枝リプシッツと組み合わせたサンプリングおよび線形近似を用いて, 画素値に対する楽音線形制約を求める。
提案手法では,既存の手法よりも最大32%の検証ケースが解決されている。
論文 参考訳(メタデータ) (2024-08-23T15:02:09Z) - Automated Design of Linear Bounding Functions for Sigmoidal Nonlinearities in Neural Networks [23.01933325606068]
既存の完全検証技術は、すべての堅牢性クエリに対して証明可能な保証を提供するが、小さなニューラルネットワークを超えてスケールするのに苦労する。
本稿では,これらの線形近似の品質向上のためのパラメータ探索手法を提案する。
具体的には、最先端のアルゴリズム構成手法によって与えられた検証問題に慎重に適応する単純な探索手法を用いることで、最先端技術よりも平均で25%のグローバルローバウンドを向上することを示す。
論文 参考訳(メタデータ) (2024-06-14T16:16:26Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - An Accelerated Doubly Stochastic Gradient Method with Faster Explicit
Model Identification [97.28167655721766]
本稿では、分散正規化損失最小化問題に対する2倍加速勾配降下法(ADSGD)を提案する。
まず、ADSGDが線形収束率を達成でき、全体的な計算複雑性を低減できることを示す。
論文 参考訳(メタデータ) (2022-08-11T22:27:22Z) - Error-Correcting Neural Networks for Two-Dimensional Curvature
Computation in the Level-Set Method [0.0]
本稿では,2次元曲率をレベルセット法で近似するための誤差ニューラルモデルに基づく手法を提案する。
我々の主な貢献は、需要に応じて機械学習操作を可能にする数値スキームに依存する、再設計されたハイブリッド・ソルバである。
論文 参考訳(メタデータ) (2022-01-22T05:14:40Z) - The Neural Network shifted-Proper Orthogonal Decomposition: a Machine
Learning Approach for Non-linear Reduction of Hyperbolic Equations [0.0]
本研究では,統計的学習フレームワークにおいて,正しい前処理変換を自動的に検出する問題にアプローチする。
純粋にデータ駆動方式により、線形部分空間操作の既存のアプローチを未知の対流場を持つ非線形双曲問題に一般化することができる。
提案アルゴリズムは、その性能をベンチマークするために単純なテストケースに対して検証され、その後、多相シミュレーションに成功している。
論文 参考訳(メタデータ) (2021-08-14T15:13:35Z) - Attribute-Guided Adversarial Training for Robustness to Natural
Perturbations [64.35805267250682]
本稿では,属性空間への分類器の露出を最大化するために,新しいサンプルを生成することを学習する逆学習手法を提案する。
我々のアプローチは、ディープニューラルネットワークが自然に発生する摂動に対して堅牢であることを可能にする。
論文 参考訳(メタデータ) (2020-12-03T10:17:30Z) - Convex Geometry and Duality of Over-parameterized Neural Networks [70.15611146583068]
有限幅2層ReLUネットワークの解析のための凸解析手法を開発した。
正規化学習問題に対する最適解が凸集合の極点として特徴づけられることを示す。
高次元では、トレーニング問題は無限に多くの制約を持つ有限次元凸問題としてキャストできることが示される。
論文 参考訳(メタデータ) (2020-02-25T23:05:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。