論文の概要: Double Bubble, Toil and Trouble: Enhancing Certified Robustness through Transitivity

• arxiv url: http://arxiv.org/abs/2210.06077v1
• Date: Wed, 12 Oct 2022 10:42:21 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-13 15:25:02.798426
• Title: Double Bubble, Toil and Trouble: Enhancing Certified Robustness through Transitivity
• Title（参考訳）: ダブルバブル, トイ, トラブル: トランジティビティによる認証ロバスト性向上
• Authors: Andrew C. Cullen, Paul Montague, Shijie Liu, Sarah M. Erfani, Benjamin I.P. Rubinstein
• Abstract要約: ニューラルネットワークモデルの分類を反転させる微妙な敵の例に反応して、最近の研究は、ソリューションとして証明された堅牢性を促進している。 我々は,今日の"最適"証明書が,認証の推移性と入力空間の幾何学の両方を活用することで,どのように改善できるかを示す。 また, 得られた認定半径の4ドルパーセンテージを均一に増加させることにより, さらに有望な結果が得られた。
• 参考スコア（独自算出の注目度）: 27.04033198073254
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: In response to subtle adversarial examples flipping classifications of neural network models, recent research has promoted certified robustness as a solution. There, invariance of predictions to all norm-bounded attacks is achieved through randomised smoothing of network inputs. Today's state-of-the-art certifications make optimal use of the class output scores at the input instance under test: no better radius of certification (under the $L_2$ norm) is possible given only these score. However, it is an open question as to whether such lower bounds can be improved using local information around the instance under test. In this work, we demonstrate how today's "optimal" certificates can be improved by exploiting both the transitivity of certifications, and the geometry of the input space, giving rise to what we term Geometrically-Informed Certified Robustness. By considering the smallest distance to points on the boundary of a set of certifications this approach improves certifications for more than $80\%$ of Tiny-Imagenet instances, yielding an on average $5 \%$ increase in the associated certification. When incorporating training time processes that enhance the certified radius, our technique shows even more promising results, with a uniform $4$ percentage point increase in the achieved certified radius.
• Abstract（参考訳）: ニューラルネットワークモデルの分類をひっくり返す微妙な敵対的な例に反応して、最近の研究はソリューションとして認定ロバスト性を促進している。 そこで、ネットワーク入力のランダムな平滑化により、すべてのノルムバウンド攻撃に対する予測の不変性が達成される。 今日の最先端の認定では、テスト中の入力インスタンスでクラス出力スコアを最適に利用しています。 しかし、テスト中のインスタンスの周囲のローカル情報を使って、そのような低い境界を改善できるかどうかについては、明らかな疑問である。 本研究は,認証の推移性と入力空間の幾何学の両方を利用して,今日の「最適」証明をどのように改善できるかを実証し,幾何学的証明ロバストネス(Geometrically-Informed Certified Robustness)と呼ぶものを生み出した。 認証のセットの境界にある点までの距離を最小にすることで、このアプローチは80\%以上の小さなimagenetインスタンスの認証を改善し、関連する認証を平均5 \%$増加させる。 認定半径を増大させるトレーニング時間プロセスを導入すると、より有望な結果が得られ、達成された認定半径の4ドルポイントが均一に上昇する。

関連論文リスト

• Exact Certification of (Graph) Neural Networks Against Label Poisoning [50.87615167799367]
  機械学習モデルはラベルのフリップ(ラベルのフリップ)に弱い。 サンプルと集合証明書の両方を抽出し,正確な認証手法を提案する。 私たちの研究は、ニューラルネットワークによって引き起こされた毒殺攻撃に対する最初の正確な証明書を提示しました。
  論文  参考訳（メタデータ） (2024-11-30T17:05:12Z)
• Adaptive Hierarchical Certification for Segmentation using Randomized Smoothing [87.48628403354351]
  機械学習の認証は、特定の条件下では、敵対的なサンプルが特定の範囲内でモデルを回避できないことを証明している。 セグメンテーションの一般的な認証方法は、平らな粒度のクラスを使い、モデルの不確実性による高い断続率をもたらす。 本稿では,複数レベルの階層内で画素を認証し,不安定なコンポーネントに対して粗いレベルに適応的に認証を緩和する,新しい,より実用的な設定を提案する。
  論文  参考訳（メタデータ） (2024-02-13T11:59:43Z)
• Incremental Randomized Smoothing Certification [5.971462597321995]
  ごく少数のサンプルで近似モデルの認証を行うために、元のスムーズなモデルに対する認証保証を再利用する方法を示す。 提案手法の有効性を実験的に実証し,スクラッチから近似モデルのランダムな平滑化を適用した認証に対して,最大3倍の認証スピードアップを示す。
  論文  参考訳（メタデータ） (2023-05-31T03:11:15Z)
• Towards Evading the Limits of Randomized Smoothing: A Theoretical Analysis [74.85187027051879]
  決定境界を複数の雑音分布で探索することにより,任意の精度で最適な証明を近似できることを示す。 この結果は、分類器固有の認証に関するさらなる研究を後押しし、ランダム化された平滑化が依然として調査に値することを示す。
  論文  参考訳（メタデータ） (2022-06-03T17:48:54Z)
• Smooth-Reduce: Leveraging Patches for Improved Certified Robustness [100.28947222215463]
  本研究では,Smooth-Reduce の学習自由な修正スムース化手法を提案する。 提案アルゴリズムは,入力画像から抽出した重なり合うパッチを分類し,予測ロジットを集約して,入力周辺の半径が大きいことを証明する。 我々は,このような証明書の理論的保証を提供し,他のランダムな平滑化手法に対する顕著な改善を実証的に示す。
  論文  参考訳（メタデータ） (2022-05-12T15:26:20Z)
• ANCER: Anisotropic Certification via Sample-wise Volume Maximization [134.7866967491167]
  本稿では,与えられたテストセットのサンプルに対して,ボリュームを介して異方性証明書を取得するためのフレームワークであるanceRを紹介する。 その結果,CERはCIFAR-10とImageNetの両方で複数の半径で精度を導入し,ボリュームの面ではかなり大きな領域を認証していることがわかった。
  論文  参考訳（メタデータ） (2021-07-09T17:42:38Z)
• Certified Distributional Robustness on Smoothed Classifiers [27.006844966157317]
  本稿では,ロバスト性証明として,入力分布に対する最悪の逆損失を提案する。 双対性と滑らか性を利用して、証明書のサロゲートとして容易に計算できる上限を与える。
  論文  参考訳（メタデータ） (2020-10-21T13:22:25Z)
• Second-Order Provable Defenses against Adversarial Attacks [63.34032156196848]
  ネットワークの固有値が有界であれば、凸最適化を用いて$l$ノルムの証明を効率的に計算できることを示す。 認証精度は5.78%,44.96%,43.19%であった。
  論文  参考訳（メタデータ） (2020-06-01T05:55:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。