論文の概要: Are Safety Guarantees in Neural Networks Safe? How to Compute Trustworthy Robustness Certifications

• arxiv url: http://arxiv.org/abs/2606.23858v1
• Date: Mon, 22 Jun 2026 18:50:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-24 22:16:48.638675
• Title: Are Safety Guarantees in Neural Networks Safe? How to Compute Trustworthy Robustness Certifications
• Title（参考訳）: ニューラルネットワークにおける安全保証は安全か?信頼できるロバスト性証明の計算方法
• Authors: Merkouris Papamichail, Konstantinos Varsos, Giorgos Flouris, João Marques-Silva,
• Abstract要約: 本稿では,提案手法を導入し,NN検証器への線形呼び出し数でアポテム最適証明を計算する方法を示す。 また,標準的なMNISTおよびFashion MNISTベンチマークで評価したParallelepipedoNNシステムを提案する。
• 参考スコア（独自算出の注目度）: 10.268619734362547
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: A primary challenge in AI safety is the existence of adversarial examples -- slightly distorted inputs that cause a neural network (NN) to misclassify. To mitigate this problem, recent research focuses on the computation of robustness certifications, which, for a given input, determine the largest distortion the input may receive without breaking the network's prediction. Robustness certifications can be interpreted as an axis-aligned hyper-rectangle (multi-dimensional intervals). Most existing approaches focus on maximizing the certification's volume, but recent intractability results prohibit the computation of volume-optimal certifications in reasonable time. We introduce the apothem measure and show how to compute apothem-optimal certifications in a linear number of calls to a NN verifier (oracle) w.r.t. the input domain's diameter. Moreover, we prove that we cannot have a volume-optimal, oracle-based algorithm, even if we discard the oracle costs. Also, we introduce dual certifications -- an interval including all instances of a class -- thus providing apothem-minimum upper bounds to a robustness certification. Further, we present the ParallelepipedoNN system, which we evaluate on the standard MNIST and Fashion MNIST benchmarks. A preliminary comparison with existing work on the same datasets reveals at least two-fold improvement w.r.t. the minimum edge length.
• Abstract（参考訳）: AI安全性の最大の課題は、敵の例の存在 -- ニューラルネットワーク(NN)の誤分類を引き起こすわずかに歪んだ入力 — である。 この問題を緩和するために、最近の研究では、与えられた入力に対して、ネットワークの予測を破ることなく入力が受ける最大の歪みを決定する堅牢性証明の計算に焦点を当てている。 ロバストネス認証は、軸方向の超矩形(多次元間隔)と解釈できる。 既存のほとんどのアプローチは、認定のボリュームを最大化することに重点を置いているが、近年の難易度の結果は、適切な時間内でのボリューム最適認定の計算を禁止している。 提案手法は,入力領域の直径に対して,NN検証器 (oracle) への線形呼び出し数でアポテム最適証明を計算する方法を示す。 さらに, オラクルのコストを削減しても, ボリューム最適, オラクルベースのアルゴリズムは持たないことを示す。 また、クラスの全インスタンスを含むインターバルである二重認証を導入し、ロバストネス認定に最小限の上限を与える。 さらに,標準的なMNISTおよびFashion MNISTベンチマークで評価したParallelepipedoNNシステムを提案する。 同じデータセット上の既存の研究との予備的な比較では、最小端の長さの少なくとも2倍の改善が示される。

関連論文リスト

• Exact Certification of (Graph) Neural Networks Against Label Poisoning [50.87615167799367]
  グラフニューラルネットワーク(GNN)におけるラベルフリップの正確な認証手法を提案する。 本稿では,ノード分類タスクにおける広範囲なGNNアーキテクチャの認証に本手法を適用した。 私たちの研究は、ニューラルネットワークによって引き起こされた毒殺攻撃に対する最初の正確な認証を提示します。
  論文  参考訳（メタデータ） (2024-11-30T17:05:12Z)
• Towards General Robustness Verification of MaxPool-based Convolutional Neural Networks via Tightening Linear Approximation [51.235583545740674]
  MaxLinは、線形近似が厳密なMaxPoolベースのCNNの堅牢性検証器である。 我々は、MNIST、CIFAR-10、Tiny ImageNetデータセットでトレーニングされたLeNetやネットワークを含むオープンソースのベンチマークでMaxLinを評価した。
  論文  参考訳（メタデータ） (2024-06-02T10:33:04Z)
• The #DNN-Verification Problem: Counting Unsafe Inputs for Deep Neural Networks [94.63547069706459]
  #DNN-Verification問題は、DNNの入力構成の数を数えることによって安全性に反する結果となる。 違反の正確な数を返す新しい手法を提案する。 安全クリティカルなベンチマークのセットに関する実験結果を示す。
  論文  参考訳（メタデータ） (2023-01-17T18:32:01Z)
• Getting a-Round Guarantees: Floating-Point Attacks on Certified Robustness [19.380453459873298]
  敵の例は、わずかな入力摂動によって機械学習分類器の決定を変更できるため、セキュリティリスクを引き起こす。 これらの保証は、ラウンドエラーを引き起こす浮動小数点表現の制限により無効化可能であることを示す。 この攻撃は、正確な認証保証を持つ線形分類器や、保守的な認証を持つニューラルネットワークに対して実行可能であることを示す。
  論文  参考訳（メタデータ） (2022-05-20T13:07:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。