論文の概要: Enhanced Estimation Techniques for Certified Radii in Randomized Smoothing
- arxiv url: http://arxiv.org/abs/2503.08801v1
- Date: Tue, 11 Mar 2025 18:30:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-13 15:40:25.106001
- Title: Enhanced Estimation Techniques for Certified Radii in Randomized Smoothing
- Title(参考訳): ランダム化平滑化における認定基数推定手法の高度化
- Authors: Zixuan Liang,
- Abstract要約: 離散領域と連続領域の両方に対して高度なアルゴリズムを導入し、CIFAR-10とImageNetデータセット上での有効性を実証する。
本研究は, より効率的な認証プロセスの可能性を強調し, 信頼性の強化と理論的枠組みの改善に向けた今後の研究の道を開くものである。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: This paper presents novel methods for estimating certified radii in randomized smoothing, a technique crucial for certifying the robustness of neural networks against adversarial perturbations. Our proposed techniques significantly improve the accuracy of certified test-set accuracy by providing tighter bounds on the certified radii. We introduce advanced algorithms for both discrete and continuous domains, demonstrating their effectiveness on CIFAR-10 and ImageNet datasets. The new methods show considerable improvements over existing approaches, particularly in reducing discrepancies in certified radii estimates. We also explore the impact of various hyperparameters, including sample size, standard deviation, and temperature, on the performance of these methods. Our findings highlight the potential for more efficient certification processes and pave the way for future research on tighter confidence sequences and improved theoretical frameworks. The study concludes with a discussion of potential future directions, including enhanced estimation techniques for discrete domains and further theoretical advancements to bridge the gap between empirical and theoretical performance in randomized smoothing.
- Abstract(参考訳): 本稿では,ニューラルネットワークの対向摂動に対する堅牢性を証明するために重要な手法であるランダム化平滑化における証明されたラジイを推定する新しい手法を提案する。
提案手法は,認定ラジイに厳密な境界を設けることにより,認定試験セット精度を大幅に向上させる。
離散領域と連続領域の両方に対して高度なアルゴリズムを導入し、CIFAR-10とImageNetデータセット上での有効性を実証する。
新たな手法は、既存のアプローチよりも大幅に改善され、特に認定ラジイ推定における相違点の低減に寄与する。
また,サンプルサイズ,標準偏差,温度などの各種ハイパーパラメータが,これらの手法の性能に及ぼす影響についても検討する。
本研究は, より効率的な認証プロセスの可能性を強調し, 信頼性の強化と理論的枠組みの改善に向けた今後の研究の道を開くものである。
この研究は、離散領域の推定手法の強化や、ランダム化平滑化における経験的性能と理論的性能のギャップを埋める理論的な進歩を含む、潜在的将来の方向性に関する議論で締めくくっている。
関連論文リスト
- Statistical Inference for Temporal Difference Learning with Linear Function Approximation [62.69448336714418]
The consistency properties of TD learning with Polyak-Ruppert averaging and linear function approximation。
まず、分散に明示的に依存し、弱い条件下で保持する新しい高次元確率収束保証を導出する。
さらに、文献よりも高速な速度を保証する凸集合のクラスに対して、洗練された高次元ベリー-エッセイン境界を確立する。
論文 参考訳(メタデータ) (2024-10-21T15:34:44Z) - Reliable Deep Diffusion Tensor Estimation: Rethinking the Power of Data-Driven Optimization Routine [17.516054970588137]
本研究では,データ駆動型最適化手法であるDoDTIを紹介する。
提案手法はDTIパラメータ推定における最先端性能を実現する。
特に、より優れた一般化、精度、効率を示し、この分野の幅広い応用に高い信頼性を与えている。
論文 参考訳(メタデータ) (2024-09-04T07:35:12Z) - See Further for Parameter Efficient Fine-tuning by Standing on the Shoulders of Decomposition [56.87609859444084]
パラメータ効率の細かいチューニング(PEFT)は、パラメータの選択したサブセットを最適化し、残りを固定し、計算とストレージのオーバーヘッドを大幅に削減することに焦点を当てている。
分解の観点からそれらを分離することで、すべてのアプローチを統一する第一歩を踏み出します。
本稿では,PEFT技術の性能向上を目的とした,単純かつ効果的なフレームワークとともに,新しい2つのPEFT手法を提案する。
論文 参考訳(メタデータ) (2024-07-07T15:44:42Z) - SURE: SUrvey REcipes for building reliable and robust deep networks [12.268921703825258]
本稿では,深層ニューラルネットワークにおける不確実性推定手法を再検討し,信頼性を高めるために一連の手法を統合する。
我々は,不確実性推定の有効性を示す重要なテストベッドである故障予測のベンチマークに対して,SUREを厳格に評価する。
データ破損、ラベルノイズ、長い尾のクラス分布といった現実世界の課題に適用した場合、SUREは顕著な堅牢性を示し、現在の最先端の特殊手法と同等あるいは同等な結果をもたらす。
論文 参考訳(メタデータ) (2024-03-01T13:58:19Z) - [Re] Double Sampling Randomized Smoothing [2.6763498831034043]
本稿では,ニューラルネットワーク(NN)の対向的摂動に対する堅牢性を証明することの課題に,機械学習の分野における課題の1つとして論じる。
提案したDouble Smpling Randomized Smoothing (DSRS) フレームワークは、スムーズな分布を追加してロバスト性認証を改善することで、既存のメソッドの制限を克服する。
論文 参考訳(メタデータ) (2023-06-27T05:46:18Z) - Uncertainty Estimation by Fisher Information-based Evidential Deep
Learning [61.94125052118442]
不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。
漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。
特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
論文 参考訳(メタデータ) (2023-03-03T16:12:59Z) - Adaptive Dimension Reduction and Variational Inference for Transductive
Few-Shot Classification [2.922007656878633]
適応次元の削減によりさらに改善された変分ベイズ推定に基づく新しいクラスタリング法を提案する。
提案手法は,Few-Shotベンチマークにおける現実的非バランスなトランスダクティブ設定の精度を大幅に向上させる。
論文 参考訳(メタデータ) (2022-09-18T10:29:02Z) - Deep-Ensemble-Based Uncertainty Quantification in Spatiotemporal Graph
Neural Networks for Traffic Forecasting [2.088376060651494]
本稿では,短期交通予測のための最先端手法である拡散畳み込みリカレントニューラルネットワーク(DCRNN)に注目した。
我々はDCRNNの不確実性を定量化するスケーラブルなディープアンサンブル手法を開発した。
我々の汎用的かつスケーラブルなアプローチは、現在最先端のベイズ的手法や、多くの一般的な頻繁な手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-04-04T16:10:55Z) - On the Practicality of Deterministic Epistemic Uncertainty [106.06571981780591]
決定論的不確実性法(DUM)は,分布外データの検出において高い性能を達成する。
DUMが十分に校正されており、現実のアプリケーションにシームレスにスケールできるかどうかは不明だ。
論文 参考訳(メタデータ) (2021-07-01T17:59:07Z) - Adaptive Gradient Method with Resilience and Momentum [120.83046824742455]
レジリエンスとモメンタム(AdaRem)を用いた適応勾配法を提案する。
AdaRemは、過去の1つのパラメータの変化方向が現在の勾配の方向と一致しているかどうかに応じてパラメータワイズ学習率を調整する。
本手法は,学習速度とテスト誤差の観点から,従来の適応学習率に基づくアルゴリズムよりも優れていた。
論文 参考訳(メタデータ) (2020-10-21T14:49:00Z) - Efficient Ensemble Model Generation for Uncertainty Estimation with
Bayesian Approximation in Segmentation [74.06904875527556]
アンサンブルセグメンテーションモデルを構築するための汎用的で効率的なセグメンテーションフレームワークを提案する。
提案手法では,層選択法を用いて効率よくアンサンブルモデルを生成することができる。
また,新たな画素単位の不確実性損失を考案し,予測性能を向上する。
論文 参考訳(メタデータ) (2020-05-21T16:08:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。