Fugu-MT 論文翻訳(概要): Towards Certified Probabilistic Robustness with High Accuracy

論文の概要: Towards Certified Probabilistic Robustness with High Accuracy

arxiv url: http://arxiv.org/abs/2309.00879v1
Date: Sat, 2 Sep 2023 09:39:47 GMT
ステータス: 処理完了
システム内更新日: 2023-09-07 00:36:39.727439
Title: Towards Certified Probabilistic Robustness with High Accuracy
Title（参考訳）: 高精度な確率ロバスト性証明に向けて
Authors: Ruihan Zhang, Peixin Zhang, Jun Sun
Abstract要約: Adrialの例は、ニューラルネットワーク上に構築された多くのクリティカルシステムに対して、セキュリティ上の脅威となる。確実に堅牢で正確なニューラルネットワークモデルを構築する方法はまだオープンな問題だ。本稿では,高い精度と高い確率ロバスト性を実現することを目的とした新しいアプローチを提案する。
参考スコア（独自算出の注目度）: 3.957941698534126
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: Adversarial examples pose a security threat to many critical systems built on neural networks (such as face recognition systems, and self-driving cars). While many methods have been proposed to build robust models, how to build certifiably robust yet accurate neural network models remains an open problem. For example, adversarial training improves empirical robustness, but they do not provide certification of the model's robustness. On the other hand, certified training provides certified robustness but at the cost of a significant accuracy drop. In this work, we propose a novel approach that aims to achieve both high accuracy and certified probabilistic robustness. Our method has two parts, i.e., a probabilistic robust training method with an additional goal of minimizing variance in terms of divergence and a runtime inference method for certified probabilistic robustness of the prediction. The latter enables efficient certification of the model's probabilistic robustness at runtime with statistical guarantees. This is supported by our training objective, which minimizes the variance of the model's predictions in a given vicinity, derived from a general definition of model robustness. Our approach works for a variety of perturbations and is reasonably efficient. Our experiments on multiple models trained on different datasets demonstrate that our approach significantly outperforms existing approaches in terms of both certification rate and accuracy.
Abstract（参考訳）: 敵対的な例は、ニューラルネットワーク上に構築された多くの重要なシステム(顔認識システムや自動運転車など)にセキュリティ上の脅威をもたらす。堅牢なモデルを構築するための多くの方法が提案されているが、確実に堅牢で正確なニューラルネットワークモデルを構築する方法は未解決の問題である。例えば、敵の訓練は経験的堅牢性を改善するが、モデルの堅牢性を保証するものではない。一方で、認定トレーニングは、認定された堅牢性を提供するが、かなりの精度低下を犠牲にしている。本研究では,高い精度と認定確率的ロバスト性を実現するための新しい手法を提案する。本手法は,発散点における分散最小化を目標とする確率的ロバストトレーニング法と,予測の確率的ロバスト性判定のためのランタイム推論法という2つの部分を有する。後者は、統計的保証のある実行時にモデルの確率的堅牢性の効率的な認証を可能にする。これは、モデルロバストネスの一般的な定義から導かれる、与えられた近傍でのモデルの予測のばらつきを最小限に抑える訓練目標によって支持される。我々のアプローチは様々な摂動に有効で、合理的に効率的です。異なるデータセットでトレーニングされた複数のモデルに対する実験は、認証率と精度の両面で、既存のアプローチを大きく上回っていることを示している。

関連論文リスト

Adversarial Robustification via Text-to-Image Diffusion Models [56.37291240867549]
アドリラルロバスト性は、ニューラルネットワークをエンコードする難しい性質として伝統的に信じられてきた。データを使わずに敵の堅牢性を実現するために,スケーラブルでモデルに依存しないソリューションを開発した。
論文参考訳（メタデータ） (2024-07-26T10:49:14Z)
Rigorous Probabilistic Guarantees for Robust Counterfactual Explanations [80.86128012438834]
モデルシフトに対する反ファクトの堅牢性を計算することはNP完全であることを示す。本稿では,頑健性の厳密な推定を高い保証で実現する新しい確率論的手法を提案する。
論文参考訳（メタデータ） (2024-07-10T09:13:11Z)
Adaptive Certified Training: Towards Better Accuracy-Robustness Tradeoffs [17.46692880231195]
本稿では,適応型認定ラジイを用いたトレーニングがモデルの精度と堅牢性の向上に役立つというキーインサイトに基づく,新しい認定トレーニング手法を提案する。提案手法の有効性を,MNIST,CIFAR-10,TinyImageNetデータセットに示す。
論文参考訳（メタデータ） (2023-07-24T18:59:46Z)
On Uncertainty Calibration and Selective Generation in Probabilistic Neural Summarization: A Benchmark Study [14.041071717005362]
要約のための最新のディープモデルは、優れたベンチマーク性能を得るが、誤校正された予測の不確実性を生成する傾向にある。これは、低品質の予測に高い信頼性を割り当て、現実世界のアプリケーションにおける信頼性と信頼性を損なうことを意味する。確率的深層学習法は誤校正問題の一般的な解法であるが, 複雑な自己回帰的要約タスクにおける相対的有効性はよく理解されていない。
論文参考訳（メタデータ） (2023-04-17T23:06:28Z)
Post-hoc Uncertainty Learning using a Dirichlet Meta-Model [28.522673618527417]
本研究では,不確実性定量化能力の優れた事前学習モデルを構築するための新しいベイズメタモデルを提案する。提案手法は追加のトレーニングデータを必要としないため,不確かさの定量化に十分な柔軟性がある。提案するメタモデルアプローチの柔軟性と,これらのアプリケーションに対する優れた経験的性能を実証する。
論文参考訳（メタデータ） (2022-12-14T17:34:11Z)
Reliability-Aware Prediction via Uncertainty Learning for Person Image Retrieval [51.83967175585896]
UALは、データ不確実性とモデル不確実性を同時に考慮し、信頼性に配慮した予測を提供することを目的としている。データ不確実性はサンプル固有のノイズを捕捉する」一方、モデル不確実性はサンプルの予測に対するモデルの信頼を表現している。
論文参考訳（メタデータ） (2022-10-24T17:53:20Z)
Decorrelative Network Architecture for Robust Electrocardiogram Classification [4.808817930937323]
すべてのシナリオで正確であるネットワークをトレーニングすることはできない。深層学習法は不確実性を推定するためにモデルパラメータ空間をサンプリングする。これらのパラメータは、しばしば、敵の攻撃によって悪用される、同じ脆弱性にさらされる。本稿では,特徴デコレーションとフーリエ分割に基づく新たなアンサンブル手法を提案する。
論文参考訳（メタデータ） (2022-07-19T02:36:36Z)
Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
論文参考訳（メタデータ） (2022-01-11T23:01:12Z)
Trust but Verify: Assigning Prediction Credibility by Counterfactual Constrained Learning [123.3472310767721]
予測信頼性尺度は統計学と機械学習において基本的なものである。これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
論文参考訳（メタデータ） (2020-11-24T19:52:38Z)
Multi-Loss Sub-Ensembles for Accurate Classification with Uncertainty Estimation [1.2891210250935146]
本稿では,ディープニューラルネットワーク(DNN)の高精度な不確実性推定手法を提案する。我々は,Deep-Sub-Ensembles法によって提案される利点を利用して,推定時間を比較的低く保つ。その結果,いくつかの不確実性対策における分類課題と競争結果の精度が向上した。
論文参考訳（メタデータ） (2020-10-05T10:59:11Z)
Triple Wins: Boosting Accuracy, Robustness and Efficiency Together by Enabling Input-Adaptive Inference [119.19779637025444]
深層ネットワークは、(クリーンな自然画像の場合)正確さと(敵対的な摂動画像の場合)頑健さの相違に直面することを最近提案された。本稿では,入力適応推論に関連するマルチエグジットネットワークについて検討し,モデル精度,ロバスト性,効率の最適化において「スイートポイント」を達成する上での強い期待を示す。
論文参考訳（メタデータ） (2020-02-24T00:40:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。