論文の概要: Quadratic Characterizations for Reachability Analysis of Neural Networks
- arxiv url: http://arxiv.org/abs/2605.20482v1
- Date: Tue, 19 May 2026 20:45:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-21 19:19:56.373833
- Title: Quadratic Characterizations for Reachability Analysis of Neural Networks
- Title(参考訳): ニューラルネットワークの到達可能性解析のための2次解析法
- Authors: Elias Khalife, Mazen Farhood, Pierre-Loic Garoche,
- Abstract要約: 本稿では,2次元実平面におけるスカラー関係の2次的特性の検証を行うための枠組みを開発する。
$tanh$のようなスムーズなアクティベーションに対しては、一般的なセクターやスロープに基づく記述の代替となるドメイン依存の二次的特徴を与える。
ReLUネットワークでは、ニューロンとより密接な局所境界間の依存関係を活用することにより、フィードフォワードネットワークのQCに基づく可読性解析における保守性を低減する方法を提案する。
- 参考スコア(独自算出の注目度): 0.7264378254137812
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Quadratic constraints (QCs) are widely used to characterize nonlinearities and uncertainties, but generic analytical characterizations can be conservative on bounded domains. This paper develops a framework for constructing verified quadratic characterizations of scalar relations in the two-dimensional real plane. Candidate quadratic inequalities are locally generated by solving convex quadratic programs using samples from the relation and exterior sample points. They are then verified globally using sum-of-squares certificates over an exact semialgebraic description or, in the case of nonpolynomial relations, over relaxed polynomial descriptions. The resulting verified constraints define a sound overapproximation of the scalar relations over the considered domains. These constraints are directly compatible with existing analysis frameworks based on QCs and pointwise integral quadratic constraints (IQCs) for static nonlinearities and uncertainties, and they can also be embedded in QC-based semidefinite programs for reachability and safety analysis of feedforward neural networks. For smooth activations such as $\tanh$, the method yields domain-dependent quadratic characterizations that constitute an alternative to generic sector- or slope-based descriptions. For ReLU networks, we give methods to reduce conservatism in QC-based reachability analysis of feedforward networks by exploiting dependencies between neurons and tighter local bounds. Numerical examples demonstrate improved reachability results for smooth activations, reduced conservatism for ReLU networks, and applicability beyond neural networks through an example involving saturation.
- Abstract(参考訳): 二次制約(QC)は、非線形性と不確実性を特徴づけるために広く用いられているが、一般的な解析的特徴は有界領域において保守的である。
本稿では,2次元実平面におけるスカラー関係の2次的特性の検証を行うための枠組みを開発する。
候補2次不等式は、関係点と外点からのサンプルを用いて凸2次プログラムを解くことによって局所的に生成される。
それらの証明は、厳密な半代数的記述や、非多項式的関係の場合、緩和された多項式的記述について、全世界的に検証される。
得られた検証された制約は、考慮された領域に対するスカラー関係の音響オーバー近似を定義する。
これらの制約は、静的非線形性と不確実性のためのQCとポイントワイド積分二次制約(IQC)に基づく既存の分析フレームワークと直接互換性があり、フィードフォワードニューラルネットワークの到達性と安全性解析のためのQCベースの半定プログラムにも組み込むことができる。
$\tanh$のようなスムーズなアクティベーションに対して、この方法は一般セクターやスロープに基づく記述の代替となるドメイン依存の二次的特徴を与える。
ReLUネットワークでは、ニューロンとより密接な局所境界間の依存関係を活用することにより、フィードフォワードネットワークのQCに基づく可読性解析における保守性を低減する方法を提案する。
数値的な例では、スムーズなアクティベーションのための到達性の改善、ReLUネットワークの保守性の低減、飽和を含む例によるニューラルネットワークを越えた適用性などが示されている。
関連論文リスト
- Identifiable Convex-Concave Regression via Sub-gradient Regularised Least Squares [1.9580473532948397]
複雑な入力関係を凸成分と凹成分の和としてモデル化する新しい非パラメトリック回帰法を提案する。
The method-ICCNLS-decomposes sub-constrained shape-constrained additive decomposition。
論文 参考訳(メタデータ) (2025-06-22T15:53:12Z) - Local Stability and Region of Attraction Analysis for Neural Network Feedback Systems under Positivity Constraints [0.5097809301149341]
フィードフォワードニューラルネットワーク(FFNN)により実現された静的非線形フィードバックを用いたLur'e形式の非線形システムの局所安定性について検討する。
正の系制約を利用することで、コンパクトな集合に制限された軌道の指数的安定性に十分な条件を与える Aizerman 予想の局所的変種を用いる。
論文 参考訳(メタデータ) (2025-05-28T21:45:49Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Optimal variance-reduced stochastic approximation in Banach spaces [114.8734960258221]
可分バナッハ空間上で定義された収縮作用素の定点を推定する問題について検討する。
演算子欠陥と推定誤差の両方に対して漸近的でない境界を確立する。
論文 参考訳(メタデータ) (2022-01-21T02:46:57Z) - On Asymptotic Linear Convergence of Projected Gradient Descent for
Constrained Least Squares [22.851500417035947]
この写本は、制約最小二乗の文脈における射影勾配降下の解析のための統一的な枠組みを提示する。
本稿では,PGDの収束解析のレシピを提示し,このレシピを4つの基本的な問題に応用して実証する。
論文 参考訳(メタデータ) (2021-12-22T09:49:51Z) - Linear systems with neural network nonlinearities: Improved stability
analysis via acausal Zames-Falb multipliers [0.0]
ニューラルネットワークの非線形性を考慮した線形時間不変系のフィードバック相互干渉の安定性を離散時間で解析する。
このアプローチは、ニューラルネットワークの非線形性とフィードバック相互接続の安定性解析のための柔軟で汎用的なフレームワークを提供する。
論文 参考訳(メタデータ) (2021-03-31T14:21:03Z) - On the Stability Properties and the Optimization Landscape of Training
Problems with Squared Loss for Neural Networks and General Nonlinear Conic
Approximation Schemes [0.0]
ニューラルネットワークと一般的な非線形円錐近似スキームの2乗損失を伴うトレーニング問題の最適化景観と安定性特性について検討する。
これらの不安定性に寄与する同じ効果が、サドル点や急激な局所ミニマの出現の原因でもあることを証明している。
論文 参考訳(メタデータ) (2020-11-06T11:34:59Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳(メタデータ) (2020-07-02T17:55:47Z) - Convex Geometry and Duality of Over-parameterized Neural Networks [70.15611146583068]
有限幅2層ReLUネットワークの解析のための凸解析手法を開発した。
正規化学習問題に対する最適解が凸集合の極点として特徴づけられることを示す。
高次元では、トレーニング問題は無限に多くの制約を持つ有限次元凸問題としてキャストできることが示される。
論文 参考訳(メタデータ) (2020-02-25T23:05:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。