論文の概要: QCRS: Improve Randomized Smoothing using Quasi-Concave Optimization

• arxiv url: http://arxiv.org/abs/2302.00209v1
• Date: Wed, 1 Feb 2023 03:25:43 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-02 13:33:55.884447
• Title: QCRS: Improve Randomized Smoothing using Quasi-Concave Optimization
• Title（参考訳）: QCRS:準凸最適化によるランダム化平滑化の改善
• Authors: Bo-Han Kung and Shang-Tse Chen
• Abstract要約: ランダム化スムーシングは、現在最先端の手法であり、ディープニューラルネットワークに対して証明された堅牢性を提供する。 より大きな認証領域を得る1つの方法は、適切なデータポイントの代わりに入力固有のフィルタを使用することである。 本研究では, 準高次問題構造を利用することにより, 計算オーバーヘッドの少ないほとんどのデータポイントに対して, 最適認証ラジイを求めることができることを示す。
• 参考スコア（独自算出の注目度）: 3.680403821470857
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Randomized smoothing is currently the state-of-the-art method that provides certified robustness for deep neural networks. However, it often cannot achieve an adequate certified region on real-world datasets. One way to obtain a larger certified region is to use an input-specific algorithm instead of using a fixed Gaussian filter for all data points. Several methods based on this idea have been proposed, but they either suffer from high computational costs or gain marginal improvement in certified radius. In this work, we show that by exploiting the quasiconvex problem structure, we can find the optimal certified radii for most data points with slight computational overhead. This observation leads to an efficient and effective input-specific randomized smoothing algorithm. We conduct extensive experiments and empirical analysis on Cifar10 and ImageNet. The results show that the proposed method significantly enhances the certified radii with low computational overhead.
• Abstract（参考訳）: ランダム化平滑化は現在、ディープニューラルネットワークの堅牢性を保証する最先端の方法である。 しかし、現実世界のデータセット上で適切な認定領域を達成できない場合が多い。 より大きな認定領域を得る一つの方法は、すべてのデータポイントに対して固定ガウスフィルタを使用する代わりに、入力固有のアルゴリズムを使用することである。 このアイデアに基づくいくつかの手法が提案されているが、高い計算コストに苦しむか、認定半径の限界改善を得るかのどちらかである。 本研究では,疑似凸問題構造を生かして,計算オーバーヘッドの少ないほとんどのデータポイントに対して最適なradiiを求めることができることを示す。 この観測により、効率的で効果的な入力固有ランダム化平滑化アルゴリズムが導かれる。 我々はcifar10とimagenetの広範な実験と実験分析を行っている。 その結果,提案手法は計算オーバーヘッドの少ない認定radiiを著しく向上させることがわかった。

関連論文リスト

• Estimating the Robustness Radius for Randomized Smoothing with 100$\times$ Sample Efficiency [6.199300239433395]
  この研究は、サンプルの数を1桁から2桁に減らすことで、わずかに小さなロバストネス半径の計算が可能になることを証明している。 我々は、標準CIFAR-10およびImageNetデータセットで有望な結果を実験的に示しながら、この現象を説明する数学的基礎を提供する。
  論文  参考訳（メタデータ） (2024-04-26T12:43:19Z)
• Efficient Dataset Distillation Using Random Feature Approximation [109.07737733329019]
  本稿では,ニューラルネットワークガウス過程(NNGP)カーネルのランダム特徴近似(RFA)を用いた新しいアルゴリズムを提案する。 我々のアルゴリズムは、KIP上で少なくとも100倍のスピードアップを提供し、1つのGPUで実行できる。 RFA蒸留 (RFAD) と呼ばれる本手法は, 大規模データセットの精度において, KIP や他のデータセット凝縮アルゴリズムと競合して動作する。
  論文  参考訳（メタデータ） (2022-10-21T15:56:13Z)
• Communication-Efficient Adam-Type Algorithms for Distributed Data Mining [93.50424502011626]
  我々はスケッチを利用した新しい分散Adam型アルゴリズムのクラス(例:SketchedAMSGrad)を提案する。 我々の新しいアルゴリズムは、反復毎に$O(frac1sqrtnT + frac1(k/d)2 T)$の高速収束率を$O(k log(d))$の通信コストで達成する。
  論文  参考訳（メタデータ） (2022-10-14T01:42:05Z)
• Smooth-Reduce: Leveraging Patches for Improved Certified Robustness [100.28947222215463]
  本研究では,Smooth-Reduce の学習自由な修正スムース化手法を提案する。 提案アルゴリズムは,入力画像から抽出した重なり合うパッチを分類し,予測ロジットを集約して,入力周辺の半径が大きいことを証明する。 我々は,このような証明書の理論的保証を提供し,他のランダムな平滑化手法に対する顕著な改善を実証的に示す。
  論文  参考訳（メタデータ） (2022-05-12T15:26:20Z)
• Large-scale Optimization of Partial AUC in a Range of False Positive Rates [51.12047280149546]
  ROC曲線 (AUC) の下の領域は、機械学習において最も広く使われている分類モデルのパフォーマンス指標の1つである。 近年の封筒平滑化技術に基づく効率的な近似勾配降下法を開発した。 提案アルゴリズムは,効率のよい解法を欠くランク付けされた範囲損失の和を最小化するためにも利用できる。
  論文  参考訳（メタデータ） (2022-03-03T03:46:18Z)
• Data Dependent Randomized Smoothing [127.34833801660233]
  データ依存フレームワークは、3つのランダムな平滑化アプローチにシームレスに組み込むことができます。 CIFAR10とImageNetで0.5の半径の最強ベースラインの認定精度よりも9%と6%の改善が得られています。
  論文  参考訳（メタデータ） (2020-12-08T10:53:11Z)
• Efficient Nonlinear RX Anomaly Detectors [7.762712532657168]
  異常検出のための標準カーネルReed-Xiaoli(RX)の効率向上のための2種類の手法を提案する。 その結果,提案手法は計算コストが低く,標準カーネルrxアルゴリズムと同様の性能(性能)を持つことがわかった。
  論文  参考訳（メタデータ） (2020-12-07T21:57:54Z)
• Higher-Order Certification for Randomized Smoothing [78.00394805536317]
  本研究では,スムーズな分類器の安全性向上のための枠組みを提案する。 我々は,0th$-orderと1st$-order情報を用いて,認証された安全領域を計算する方法を提案する。 また,高次情報を用いた認証計算を一般化するフレームワークも提供する。
  論文  参考訳（メタデータ） (2020-10-13T19:35:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。