論文の概要: Efficient Preimage Approximation for Neural Network Certification

• arxiv url: http://arxiv.org/abs/2505.22798v1
• Date: Wed, 28 May 2025 19:13:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-30 18:14:07.498351
• Title: Efficient Preimage Approximation for Neural Network Certification
• Title（参考訳）: ニューラルネットワーク認証のための効率的な事前近似
• Authors: Anton Björklund, Mykola Zaitsev, Marta Kwiatkowska,
• Abstract要約: 現実のユースケースでは、パッチ攻撃に対する認証が難しい」 定量的なカバレッジ推定も提供する認証のアプローチのひとつは、ニューラルネットワークの事前イメージを活用することだ。 最先端のPreMAPアルゴリズムを含む事前近似法はスケーラビリティに苦慮する。 本稿では,より厳密な境界,適応的なモンテカルロサンプリング,改良された分岐を含むPreMAPのアルゴリズム改良を提案する。
• 参考スコア（独自算出の注目度）: 16.48296008910141
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: The growing reliance on artificial intelligence in safety- and security-critical applications demands effective neural network certification. A challenging real-world use case is certification against ``patch attacks'', where adversarial patches or lighting conditions obscure parts of images, for example traffic signs. One approach to certification, which also gives quantitative coverage estimates, utilizes preimages of neural networks, i.e., the set of inputs that lead to a specified output. However, these preimage approximation methods, including the state-of-the-art PREMAP algorithm, struggle with scalability. This paper presents novel algorithmic improvements to PREMAP involving tighter bounds, adaptive Monte Carlo sampling, and improved branching heuristics. We demonstrate efficiency improvements of at least an order of magnitude on reinforcement learning control benchmarks, and show that our method scales to convolutional neural networks that were previously infeasible. Our results demonstrate the potential of preimage approximation methodology for reliability and robustness certification.
• Abstract（参考訳）: 安全およびセキュリティクリティカルなアプリケーションにおける人工知能への依存の高まりは、効果的なニューラルネットワーク認証を要求する。 現実のユースケースでは,‘パッチアタック’に対する認証が難しい。 認証に対する1つのアプローチは、定量的なカバレッジ推定も提供し、ニューラルネットワークの前像、すなわち特定の出力につながる入力のセットを利用する。 しかし、最先端のPreMAPアルゴリズムを含むこれらのプリモージュ近似手法はスケーラビリティに苦慮している。 本稿では,より厳密な境界,適応的なモンテカルロサンプリング,分岐ヒューリスティックスの改善を含むPreMAPのアルゴリズム改良を提案する。 我々は,強化学習制御ベンチマークにおいて,少なくとも1桁の効率向上を実証し,従来実現不可能であった畳み込みニューラルネットワークにスケールすることを示す。 本研究は,信頼性・堅牢性評価のための事前近似手法の可能性を示すものである。

関連論文リスト

• Lightweight CNN Model Hashing with Higher-Order Statistics and Chaotic Mapping for Piracy Detection and Tamper Localization [9.859893936091813]
  知覚的ハッシュは、海賊モデルを特定する効果的なアプローチとして現れている。 本稿では,高次統計量(HOS)とカオスマッピング機構を組み合わせた軽量CNNモデルハッシュ手法を提案する。
  論文  参考訳（メタデータ） (2025-10-31T03:04:10Z)
• Knowledge-Informed Neural Network for Complex-Valued SAR Image Recognition [51.03674130115878]
  本稿では,新しい「圧縮集約圧縮」アーキテクチャ上に構築された軽量なフレームワークであるKnowledge-Informed Neural Network(KINN)を紹介する。 KINNはパラメータ効率の認識における最先端を確立し、データスカースとアウト・オブ・ディストリビューションのシナリオにおいて例外的な一般化を提供する。
  論文  参考訳（メタデータ） (2025-10-23T07:12:26Z)
• Efficient Reachability Analysis for Convolutional Neural Networks Using Hybrid Zonotopes [4.32258850473064]
  フィードフォワードニューラルネットワークの既存の伝播に基づく到達可能性分析手法は、スケーラビリティと精度の両方を達成するのに苦労することが多い。 この研究は、畳み込みニューラルネットワークの到達可能な集合を計算するための、新しいセットベースのアプローチを示す。
  論文  参考訳（メタデータ） (2025-03-13T19:45:26Z)
• PREMAP: A Unifying PREiMage APproximation Framework for Neural Networks [30.701422594374456]
  本稿では,任意の多面体出力集合のアンダー・アンド・オーバー近似を生成する事前抽象化のためのフレームワークを提案する。 提案手法を様々なタスクで評価し,高インプット次元画像分類タスクに対する効率とスケーラビリティの大幅な向上を示す。
  論文  参考訳（メタデータ） (2024-08-17T17:24:47Z)
• Policy Verification in Stochastic Dynamical Systems Using Logarithmic Neural Certificates [7.9898826915621965]
  我々は、リーチエイド仕様に関する離散時間システムに対するニューラルネットワークポリシーの検証について検討する。 このような検証タスクに対する既存のアプローチは、ニューラルネットワークの計算済みリプシッツ定数に依存している。 我々は既存のアプローチよりも小さなリプシッツ定数を得るための2つの重要な貢献を提示する。
  論文  参考訳（メタデータ） (2024-06-02T18:19:19Z)
• Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
  ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。 我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。 我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
  論文  参考訳（メタデータ） (2023-10-02T03:25:32Z)
• Joint Hierarchical Priors and Adaptive Spatial Resolution for Efficient Neural Image Compression [11.25130799452367]
  ニューラル画像圧縮(NIC)のための絶対画像圧縮変換器(ICT)を提案する。 ICTは、潜在表現からグローバルコンテキストとローカルコンテキストの両方をキャプチャし、量子化された潜在表現の分布をパラメータ化する。 我々のフレームワークは、多目的ビデオ符号化(VVC)参照符号化(VTM-18.0)とニューラルスウィンT-ChARMに対する符号化効率とデコーダ複雑性のトレードオフを大幅に改善する。
  論文  参考訳（メタデータ） (2023-07-05T13:17:14Z)
• Provable Preimage Under-Approximation for Neural Networks (Full Version) [27.519993407376862]
  ニューラルネットワークに対する任意のポリヘドロン出力セットの事前像の記号的アンダー近似を生成するための効率的な時空アルゴリズムを提案する。 実験により,本手法の有効性を,高次元MNIST分類タスクを含む領域にわたって検証した。 我々は,形式的な保証を提供するために,ポリトープ表現の不整合和を利用する,前者のための健全で完全なアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-05-05T16:55:27Z)
• Certified Interpretability Robustness for Class Activation Mapping [77.58769591550225]
  本稿では,解釈可能性マップのためのCORGI(Certifiable prOvable Robustness Guarantees)を提案する。 CORGIは入力画像を取り込み、そのCAM解釈可能性マップのロバスト性に対する証明可能な下限を与えるアルゴリズムである。 交通標識データを用いたケーススタディによるCORGIの有効性を示す。
  論文  参考訳（メタデータ） (2023-01-26T18:58:11Z)
• Quantization-aware Interval Bound Propagation for Training Certifiably Robust Quantized Neural Networks [58.195261590442406]
  我々は、逆向きに頑健な量子化ニューラルネットワーク(QNN)の訓練と証明の課題について検討する。 近年の研究では、浮動小数点ニューラルネットワークが量子化後の敵攻撃に対して脆弱であることが示されている。 本稿では、堅牢なQNNをトレーニングするための新しい方法であるQA-IBP(quantization-aware interval bound propagation)を提案する。
  論文  参考訳（メタデータ） (2022-11-29T13:32:38Z)
• Can pruning improve certified robustness of neural networks? [106.03070538582222]
  ニューラルネット・プルーニングはディープ・ニューラル・ネットワーク(NN)の実証的ロバスト性を向上させることができることを示す。 実験の結果,NNを適切に刈り取ることで,その精度を8.2%まで向上させることができることがわかった。 さらに,認証された宝くじの存在が,従来の密集モデルの標準および認証された堅牢な精度に一致することを観察する。
  論文  参考訳（メタデータ） (2022-06-15T05:48:51Z)
• A Robust Backpropagation-Free Framework for Images [47.97322346441165]
  画像データに対するエラーカーネル駆動型アクティベーションアライメントアルゴリズムを提案する。 EKDAAは、ローカルに派生したエラー送信カーネルとエラーマップを導入することで達成される。 結果は、識別不能なアクティベーション機能を利用するEKDAAトレーニングCNNに対して提示される。
  論文  参考訳（メタデータ） (2022-06-03T21:14:10Z)
• NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural Networks [151.03112356092575]
  本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。 種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
  論文  参考訳（メタデータ） (2022-02-07T12:30:45Z)
• Robustness against Adversarial Attacks in Neural Networks using Incremental Dissipativity [3.8673567847548114]
  逆例はニューラルネットワークの分類性能を低下させるのが容易である。 本研究は,ニューラルネットワークに対する漸進的拡散性に基づくロバスト性証明を提案する。
  論文  参考訳（メタデータ） (2021-11-25T04:42:57Z)
• Increasing the Confidence of Deep Neural Networks by Coverage Analysis [71.57324258813674]
  本稿では、異なる安全でない入力に対してモデルを強化するために、カバレッジパラダイムに基づく軽量な監視アーキテクチャを提案する。 実験結果から,提案手法は強力な対向例とアウト・オブ・ディストリビューション・インプットの両方を検出するのに有効であることが示唆された。
  論文  参考訳（メタデータ） (2021-01-28T16:38:26Z)
• Enabling certification of verification-agnostic networks via memory-efficient semidefinite programming [97.40955121478716]
  本稿では,ネットワークアクティベーションの総数にのみ線形なメモリを必要とする一階二重SDPアルゴリズムを提案する。 L-inf の精度は 1% から 88% ,6% から 40% に改善した。 また,変分オートエンコーダの復号器に対する2次安定性仕様の厳密な検証を行った。
  論文  参考訳（メタデータ） (2020-10-22T12:32:29Z)
• Bayesian Optimization with Machine Learning Algorithms Towards Anomaly Detection [66.05992706105224]
  本稿では,ベイズ最適化手法を用いた効果的な異常検出フレームワークを提案する。 ISCX 2012データセットを用いて検討したアルゴリズムの性能を評価する。 実験結果から, 精度, 精度, 低コストアラームレート, リコールの観点から, 提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2020-08-05T19:29:35Z)
• Debona: Decoupled Boundary Network Analysis for Tighter Bounds and Faster Adversarial Robustness Proofs [2.1320960069210484]
  ニューラルネットワークは、安全クリティカルな現実世界のアプリケーションで一般的に使用される。 このような敵の例が存在しないこと、あるいは具体的な例を提供することは、安全なアプリケーションを保証するために不可欠である。 畳み込みネットワークにおける最大プーリング層上層と下層の境界の厳密な証明を行う。
  論文  参考訳（メタデータ） (2020-06-16T10:00:33Z)
• Liver Segmentation in Abdominal CT Images via Auto-Context Neural Network and Self-Supervised Contour Attention [6.268517865399281]
  腹部CT画像に肝セグメンテーションのためのCNNを導入する。 一般化性能を改善するために,まず1つのCNNにおける自動文脈アルゴリズムを提案する。 提案したネットワークは,ネットワーク間で最高の一般化性能を示した。
  論文  参考訳（メタデータ） (2020-02-14T07:32:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。