論文の概要: $(\text{DNN})^2$: Doubly Non-Negative Relaxations for Deep Neural Networks
- arxiv url: http://arxiv.org/abs/2608.24743v1
- Date: Tue, 25 Aug 2026 15:48:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:35.085426
- Title: $(\text{DNN})^2$: Doubly Non-Negative Relaxations for Deep Neural Networks
- Title（参考訳）: $(\text{DNN})^2$: ディープニューラルネットワークに対する二重非負の緩和
- Abstract要約: そこで本研究では,有効証明のための非特異乗算器空間を探索する新しい固有値対応手法を提案する。
実験により,本手法は標準SDP法よりも一貫した境界を生成することが示された。
- 参考スコア（独自算出の注目度）: 6.796081662087122
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Existing linear program (LP) and semidefinite program (SDP) relaxations for rectified linear unit (ReLU) neural network (NN) verification yield overly-conservative safety guarantees due to significant relaxation gaps. While the completely positive program (CPP) formulation closes this gap, it is NP-hard to solve. Its cheapest tractable relaxation, the doubly non-negative program (DNN), retains critical constraints as an SDP, but one whose size exceeds the reach of interior-point methods at practical scale. While Burer-Monteiro (BM) factorization has been applied to make SDP-based verification scalable, no such result exists for the strictly tighter DNN formulation. A key obstacle is that additional non-negativity constraints in the DNN cause dual multipliers for optimality certification to be non-unique, making standard certification methods inapplicable. We propose a novel eigenvalue maximization procedure that searches the non-unique multiplier space for a valid certificate, i.e. a global optimality guarantee. Experiments demonstrate that our approach $(\text{DNN})^2$ produces bounds consistently tighter than the standard SDP method, often matching the exact solution, and that our certification procedure confirms global optimality when a valid certificate exists. These results are a key step toward providing tight, certifiable, and computationally scalable verification guarantees needed to deploy neural network controllers and perception modules in safety-critical autonomous systems.
- Abstract（参考訳）: 既存の線形プログラム (LP) と半定値プログラム (SDP) による、修正線形ユニット (ReLU) ニューラルネットワーク (NN) の検証は、大幅な緩和ギャップによる過度に保守的な安全性を保証する。
完全に正のプログラム(CPP)の定式化はこのギャップを閉じるが、NP-ハードである。
最も安上がりな緩和策である二重非負のプログラム(DNN)は、SDPとして重要な制約を保っているが、そのサイズが実際的な規模でインテリアポイント法の範囲を超えている。
Burer-Monteiro (BM) は SDP ベースの検証をスケーラブルにするために応用されているが、より厳密な DNN の定式化にはそのような結果は存在しない。
鍵となる障害は、DNNにおける追加の非負性制約により、最適性認定のための二重乗算器が非特異となり、標準的な認証方法が適用不可能となることである。
本稿では,有効証明,すなわち大域的最適性保証のための非特異乗算器空間を探索する新しい固有値最大化手法を提案する。
実験により,我々のアプローチである $(\text{DNN})^2$ が標準のSDP法よりも一貫した境界を生成し,正確な解によく一致することを示すとともに,有効な証明が存在する場合のグローバルな最適性を確認する。
これらの結果は、ニューラルネットワークコントローラと認識モジュールを安全クリティカルな自律システムにデプロイするために必要な、厳密で認証可能で、スケーラブルな検証保証を提供するための重要なステップである。
関連論文リスト
- Are Safety Guarantees in Neural Networks Safe? How to Compute Trustworthy Robustness Certifications [10.268619734362547]
本稿では,提案手法を導入し,NN検証器への線形呼び出し数でアポテム最適証明を計算する方法を示す。
また,標準的なMNISTおよびFashion MNISTベンチマークで評価したParallelepipedoNNシステムを提案する。
論文 参考訳（メタデータ） (2026-06-22T18:50:52Z) - Certifiable Safe RLHF: Fixed-Penalty Constraint Optimization for Safer Language Models [7.422627253922975]
我々は,大規模コーパスでトレーニングされたコストモデルであるCertifiable Safe-RLHFを導入し,セマンティックグラウンドの安全性スコアを割り当てる。
適切にスケールされたペナルティにより、二重変数更新の必要性を排除し、安全制約の実現性を保証することができる。
経験的評価により、CS-RLHFは、名目や脱獄のプロンプトに対して、最先端のモデル応答よりも5倍効率が高いことが示されている。
論文 参考訳（メタデータ） (2025-10-03T21:24:41Z) - Lipschitz-Based Robustness Certification for Recurrent Neural Networks via Convex Relaxation [0.0]
本稿では,RNNの層間相互作用を凸問題としてモデル化する緩和法であるRNN-SDPを提案する。
また、既知の入力制約を組み込んで得られるリプシッツ境界をさらに強化する拡張についても検討する。
論文 参考訳（メタデータ） (2025-09-22T15:26:46Z) - Exact Certification of (Graph) Neural Networks Against Label Poisoning [50.87615167799367]
グラフニューラルネットワーク(GNN)におけるラベルフリップの正確な認証手法を提案する。
本稿では,ノード分類タスクにおける広範囲なGNNアーキテクチャの認証に本手法を適用した。
私たちの研究は、ニューラルネットワークによって引き起こされた毒殺攻撃に対する最初の正確な認証を提示します。
論文 参考訳（メタデータ） (2024-11-30T17:05:12Z) - Benign Overfitting in Deep Neural Networks under Lazy Training [72.28294823115502]
データ分布が適切に分離された場合、DNNは分類のためのベイズ最適テスト誤差を達成できることを示す。
よりスムーズな関数との補間により、より一般化できることを示す。
論文 参考訳（メタデータ） (2023-05-30T19:37:44Z) - The #DNN-Verification Problem: Counting Unsafe Inputs for Deep Neural
Networks [94.63547069706459]
#DNN-Verification問題は、DNNの入力構成の数を数えることによって安全性に反する結果となる。
違反の正確な数を返す新しい手法を提案する。
安全クリティカルなベンチマークのセットに関する実験結果を示す。
論文 参考訳（メタデータ） (2023-01-17T18:32:01Z) - Linearity Grafting: Relaxed Neuron Pruning Helps Certifiable Robustness [172.61581010141978]
証明可能な堅牢性は、安全クリティカルなシナリオでディープニューラルネットワーク(DNN)を採用する上で望ましい特性である。
線形性の適切なレベルを「グラフト」することで、神経細胞を戦略的に操作する新しいソリューションを提案する。
論文 参考訳（メタデータ） (2022-06-15T22:42:29Z) - PEREGRiNN: Penalized-Relaxation Greedy Neural Network Verifier [1.1011268090482575]
我々は、ReLU NNの最も一般的な安全仕様を正式に検証するための新しいアプローチを導入する。
我々は, 線形実現可能性チェッカーとしてだけでなく, 解法で許容される緩和量のペナルティ化の手段として, 凸解法を用いる。
論文 参考訳（メタデータ） (2020-06-18T21:33:07Z) - Second-Order Provable Defenses against Adversarial Attacks [63.34032156196848]
ネットワークの固有値が有界であれば、凸最適化を用いて$l$ノルムの証明を効率的に計算できることを示す。
認証精度は5.78%,44.96%,43.19%であった。
論文 参考訳（メタデータ） (2020-06-01T05:55:18Z) - Provably Efficient Safe Exploration via Primal-Dual Policy Optimization [105.7510838453122]
制約付きマルコフ決定過程(CMDP)を用いた安全強化学習(SRL)問題について検討する。
本稿では,関数近似設定において,安全な探索を行うCMDPの効率の良いオンラインポリシー最適化アルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-03-01T17:47:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。