論文の概要: Non-Parametric Probabilistic Robustness: A Conservative Metric with Optimized Perturbation Distributions
- arxiv url: http://arxiv.org/abs/2511.17380v1
- Date: Fri, 21 Nov 2025 16:44:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-24 18:08:19.11607
- Title: Non-Parametric Probabilistic Robustness: A Conservative Metric with Optimized Perturbation Distributions
- Title(参考訳): 非パラメトリック確率ロバスト性:最適摂動分布を有する保守的指標
- Authors: Zheng Wang, Yi Zhang, Siddartha Khastgir, Carsten Maple, Xingyu Zhao,
- Abstract要約: 我々は,非パラメトリック確率ロバストネス(NPPR)を,対向的ロバストネス(AR)の代替として提案する。
NPPRはデータから直接、最適化された摂動分布を学習し、分布の不確実性の下で保守的なPR評価を可能にする。
CIFAR-10、CIFAR-100、Tiny ImageNetの実験では、最先端技術で使用される一般的な摂動分布を仮定すると、40%以上の保守的(より低い)PR推定値が得られた。
- 参考スコア(独自算出の注目度): 19.78408583664707
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning (DL) models, despite their remarkable success, remain vulnerable to small input perturbations that can cause erroneous outputs, motivating the recent proposal of probabilistic robustness (PR) as a complementary alternative to adversarial robustness (AR). However, existing PR formulations assume a fixed and known perturbation distribution, an unrealistic expectation in practice. To address this limitation, we propose non-parametric probabilistic robustness (NPPR), a more practical PR metric that does not rely on any predefined perturbation distribution. Following the non-parametric paradigm in statistical modeling, NPPR learns an optimized perturbation distribution directly from data, enabling conservative PR evaluation under distributional uncertainty. We further develop an NPPR estimator based on a Gaussian Mixture Model (GMM) with Multilayer Perceptron (MLP) heads and bicubic up-sampling, covering various input-dependent and input-independent perturbation scenarios. Theoretical analyses establish the relationships among AR, PR, and NPPR. Extensive experiments on CIFAR-10, CIFAR-100, and Tiny ImageNet across ResNet18/50, WideResNet50 and VGG16 validate NPPR as a more practical robustness metric, showing up to 40\% more conservative (lower) PR estimates compared to assuming those common perturbation distributions used in state-of-the-arts.
- Abstract(参考訳): 深層学習(DL)モデルは、その顕著な成功にもかかわらず、誤った出力を引き起こす可能性のある小さな入力摂動に弱いままであり、敵の強靭性(AR)の相補的な代替手段として、最近提案された確率的堅牢性(PR)を動機付けている。
しかし、既存のPRの定式化は、固定された既知の摂動分布を前提としており、実際には非現実的な予想である。
この制限に対処するために、あらかじめ定義された摂動分布に依存しないより実用的なPR指標である非パラメトリック確率ロバスト性(NPPR)を提案する。
統計モデルにおける非パラメトリックなパラダイムに従い、NPPRはデータから直接最適化された摂動分布を学習し、分布の不確実性の下で保守的なPR評価を可能にする。
さらに,多層パーセプトロン(MLP)ヘッドとバイキュビックアップサンプリングを備えたガウス混合モデル(GMM)に基づくNPPR推定器を開発し,入力依存および入力非依存の摂動シナリオをカバーする。
理論的解析は、AR、PR、NPPRの関係を確立する。
CIFAR-10、CIFAR-100、Tiny ImageNetのResNet18/50、WideResNet50、VGG16での大規模な実験により、NPPRはより実用的な堅牢性指標として評価され、最先端技術で使用される一般的な摂動分布を仮定すると、最大40%の保守的(より低い)PR推定値が示される。
関連論文リスト
- Efficient Thought Space Exploration through Strategic Intervention [54.35208611253168]
本稿では,この知見を2つの相乗的コンポーネントを通して操作するHint-Practice Reasoning(HPR)フレームワークを提案する。
フレームワークの中核となる革新は、動的に介入点を識別する分散不整合低減(DIR)である。
算術的および常識的推論ベンチマークによる実験は、HPRの最先端の効率-精度トレードオフを実証している。
論文 参考訳(メタデータ) (2025-11-13T07:26:01Z) - A Primer on Kolmogorov-Arnold Networks (KANs) for Probabilistic Time Series Forecasting [6.102596261546231]
確率的コルモゴロフ・アルノルドネットワーク(英: Probabilistic Kolmogorov-Arnold Network, P-KAN)は、コルモゴロフ・アルノルドネットワーク(英: Kolmogorov-Arnold Networks, KAN)の時系列予測用拡張である。
P-KANは、非線形および重み付き力学を捉えることができる表現的かつパラメータ効率の良いモデルを提供する。
衛星トラフィック予測におけるP-KANの評価を行い,不確実性を考慮した予測により資源割り当ての動的しきい値設定が可能となる。
論文 参考訳(メタデータ) (2025-10-19T17:38:26Z) - Rényi Neural Processes [14.11793373584558]
ニューラルプロセスは条件付き事前モデルと後続モデルとのパラメータ化結合を強制することを示す。
本稿では,標準KL分散をR'enyi分散に置き換える手法であるR'enyi Neural Processes (RNP)を提案する。
実世界の問題におけるRNPの性能改善について述べる。
論文 参考訳(メタデータ) (2024-05-25T00:14:55Z) - Prototype-based Aleatoric Uncertainty Quantification for Cross-modal
Retrieval [139.21955930418815]
クロスモーダル検索手法は、共通表現空間を共同学習することにより、視覚と言語モダリティの類似性関係を構築する。
しかし、この予測は、低品質なデータ、例えば、腐敗した画像、速いペースの動画、詳細でないテキストによって引き起こされるアレタリック不確実性のために、しばしば信頼性が低い。
本稿では, 原型に基づくAleatoric Uncertainity Quantification (PAU) フレームワークを提案する。
論文 参考訳(メタデータ) (2023-09-29T09:41:19Z) - A Confidence Machine for Sparse High-Order Interaction Model [16.780058676633914]
コンフォーマル予測(CP: Conformal Prediction)は、より少ない理論的仮定で予測結果の信頼性を得るための有望な手法である。
我々は,変数間の高次相互作用を考慮に入れた,十分なフレキシブルな,スパース高次相互作用モデル(SHIM)の完全なCPを開発する。
論文 参考訳(メタデータ) (2022-05-28T03:23:56Z) - Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。
パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文 参考訳(メタデータ) (2022-04-13T12:43:12Z) - Probabilistic Gradient Boosting Machines for Large-Scale Probabilistic
Regression [51.770998056563094]
PGBM(Probabilistic Gradient Boosting Machines)は、確率的予測を生成する手法である。
既存の最先端手法と比較してPGBMの利点を実証的に示す。
論文 参考訳(メタデータ) (2021-06-03T08:32:13Z) - Evaluating probabilistic classifiers: Reliability diagrams and score
decompositions revisited [68.8204255655161]
確率的に統計的に一貫性があり、最適に結合し、再現可能な信頼性図を自動生成するCORP手法を導入する。
コーパスは非パラメトリックアイソトニック回帰に基づいており、プール・アジャセント・ヴァイオレータ(PAV)アルゴリズムによって実装されている。
論文 参考訳(メタデータ) (2020-08-07T08:22:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。