論文の概要: Certifying Ensembles: A General Certification Theory with
S-Lipschitzness
- arxiv url: http://arxiv.org/abs/2304.13019v1
- Date: Tue, 25 Apr 2023 17:50:45 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-26 19:17:34.971328
- Title: Certifying Ensembles: A General Certification Theory with
S-Lipschitzness
- Title(参考訳): 認定アンサンブル:s-リプシッツ性を持つ一般認定理論
- Authors: Aleksandar Petrov, Francisco Eiras, Amartya Sanyal, Philip H.S. Torr,
Adel Bibi
- Abstract要約: 組み立ては、一般化、不確実性推定、校正、コンセプトドリフトの効果の緩和に有用であることが示されている。
本研究では、S-Lipschitz分類器を導入し、アンサンブルの理論的堅牢性を分析することにより、リプシッツ連続性を一般化する。
- 参考スコア(独自算出の注目度): 128.2881318211724
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Improving and guaranteeing the robustness of deep learning models has been a
topic of intense research. Ensembling, which combines several classifiers to
provide a better model, has shown to be beneficial for generalisation,
uncertainty estimation, calibration, and mitigating the effects of concept
drift. However, the impact of ensembling on certified robustness is less well
understood. In this work, we generalise Lipschitz continuity by introducing
S-Lipschitz classifiers, which we use to analyse the theoretical robustness of
ensembles. Our results are precise conditions when ensembles of robust
classifiers are more robust than any constituent classifier, as well as
conditions when they are less robust.
- Abstract(参考訳): ディープラーニングモデルの堅牢性の改善と保証は、激しい研究のトピックとなっている。
複数の分類器を組み合わせてより良いモデルを提供するensemblingは、一般化、不確実性推定、キャリブレーション、概念ドリフトの効果の緩和に有効であることが示されている。
しかし、認証された堅牢性に対するアンサンブルの影響は、あまり理解されていない。
本研究では、S-Lipschitz分類器を導入してリプシッツ連続性を一般化し、アンサンブルの理論的堅牢性を分析する。
この結果は,ロバスト分類器のアンサンブルがどの構成分類器よりも頑健である場合と,ロバストでない場合の条件が正確である。
関連論文リスト
- Mixing Classifiers to Alleviate the Accuracy-Robustness Trade-Off [8.169499497403102]
本稿では、標準ニューラルネットワークとロバストニューラルネットワークの出力確率を混合した理論的動機付け型定式化を提案する。
数値実験により,混合分類器は精度・損耗トレードオフを著しく改善することを確認した。
論文 参考訳(メタデータ) (2023-11-26T02:25:30Z) - Uncertainty-guided Boundary Learning for Imbalanced Social Event
Detection [64.4350027428928]
本研究では,不均衡なイベント検出タスクのための不確実性誘導型クラス不均衡学習フレームワークを提案する。
我々のモデルは、ほとんど全てのクラス、特に不確実なクラスにおいて、社会イベントの表現と分類タスクを大幅に改善する。
論文 参考訳(メタデータ) (2023-10-30T03:32:04Z) - When Does Confidence-Based Cascade Deferral Suffice? [69.28314307469381]
カスケードは、推論コストをサンプル毎に適応的に変化させる古典的な戦略である。
deferralルールは、シーケンス内の次の分類子を呼び出すか、または予測を終了するかを決定する。
カスケードの構造に執着しているにもかかわらず、信頼に基づく推論は実際は極めてうまく機能することが多い。
論文 参考訳(メタデータ) (2023-07-06T04:13:57Z) - Controlling the Complexity and Lipschitz Constant improves polynomial
nets [55.121200972539114]
多項式ネットの結合CP分解(CCP)モデルとNested Coupled CP分解(NCP)モデルに対する新しい複雑性境界を導出する。
本研究では、6つのデータセットで実験的に評価し、モデルが逆摂動に対して頑健であるとともに精度も向上することを示す。
論文 参考訳(メタデータ) (2022-02-10T14:54:29Z) - SmoothMix: Training Confidence-calibrated Smoothed Classifiers for
Certified Robustness [61.212486108346695]
自己混合によるスムーズな分類器のロバスト性を制御するためのトレーニングスキームSmoothMixを提案する。
提案手法は, 厳密性に制限された原因として, 信頼性の低い, オフクラスに近いサンプルを効果的に同定する。
提案手法はスムーズな分類器の検証値である$ell$-robustnessを大幅に改善できることを示す。
論文 参考訳(メタデータ) (2021-11-17T18:20:59Z) - On the Certified Robustness for Ensemble Models and Beyond [22.43134152931209]
ディープニューラルネットワーク(DNN)は、敵の例に対して脆弱であり、それらを誤解することを目的としている。
我々は、アンサンブルMLモデルの信頼性の高いロバスト性を分析し、提供する。
理論的な知見に触発されて、我々は、頑健なアンサンブルMLモデルを訓練するための軽量なダイバーシティ正規化訓練(DRT)を提案する。
論文 参考訳(メタデータ) (2021-07-22T18:10:41Z) - Adversarial Robustness of Supervised Sparse Coding [34.94566482399662]
表現を学習すると同時に、正確な一般化境界と堅牢性証明を与えるモデルを考える。
線形エンコーダと組み合わされたスパーシティプロモーティングエンコーダを組み合わせた仮説クラスに着目した。
エンドツーエンドの分類のための堅牢性証明を提供する。
論文 参考訳(メタデータ) (2020-10-22T22:05:21Z) - Certified Distributional Robustness on Smoothed Classifiers [27.006844966157317]
本稿では,ロバスト性証明として,入力分布に対する最悪の逆損失を提案する。
双対性と滑らか性を利用して、証明書のサロゲートとして容易に計算できる上限を与える。
論文 参考訳(メタデータ) (2020-10-21T13:22:25Z) - Consistency Regularization for Certified Robustness of Smoothed
Classifiers [89.72878906950208]
最近のランダムな平滑化技術は、最悪の$ell$-robustnessを平均ケースのロバストネスに変換することができることを示している。
その結果,スムーズな分類器の精度と信頼性の高いロバスト性とのトレードオフは,ノイズに対する予測一貫性の規則化によって大きく制御できることが判明した。
論文 参考訳(メタデータ) (2020-06-07T06:57:43Z) - Generalised Lipschitz Regularisation Equals Distributional Robustness [47.44261811369141]
分布的ロバスト性と正規化の関係について、非常に一般的な等式結果を与える。
対立学習と分布ロバスト性の関係を明らかにする新しい結果を示す。
論文 参考訳(メタデータ) (2020-02-11T04:19:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。