論文の概要: Probabilistic Adversarial Training

• arxiv url: http://arxiv.org/abs/2609.39798v1
• Date: Wed, 30 Sep 2026 14:12:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.877962
• Title: Probabilistic Adversarial Training
• Title（参考訳）: 確率論的対人訓練
• Abstract要約: 逆の例は、距離ベースのディストリビューション$p_mathrmdis$と、被害者が引き起こしたディストリビューション$p_mathrmvic$の重複から生じる。 我々は、$mathrmKL(p_mathrmdis|p_mathrmvic$)-log Z_mathrmvic$が確率的堅牢性(PR)の低い境界であることを証明する。 我が家
• 参考スコア（独自算出の注目度）: 4.3967168015353595
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Building on a probabilistic perspective in which adversarial examples arise from the overlap between a distance-based distribution $p_{\mathrm{dis}}$ and a victim-classifier-induced distribution $p_{\mathrm{vic}}$, we start from a simple intuition: adversarial examples become harder to generate when these two distributions are pushed apart, as their overlap becomes smaller, thereby increasing robustness. This intuition naturally motivates a KL-based robustness objective. We then prove that $\mathrm{KL}(p_{\mathrm{dis}}\|p_{\mathrm{vic}})-\log Z_{\mathrm{vic}}$ is a lower bound on probabilistic robustness (PR), where $Z_{\mathrm{vic}}$ denotes the normalizing constant of $p_{\mathrm{vic}}$. Since PR is generally intractable to compute directly, maximizing this KL-based lower bound provides a tractable surrogate objective for improving PR. We further show that this objective recovers a scaled form of adversarial training, offering a probabilistic interpretation of adversarial training and a principled route to robustness improvement. We call the resulting method probabilistic adversarial training. Experiments show that it consistently improves PR, and ablation studies demonstrate that the induced scaling factor can even enhance the PR of non-probabilistic adversarial training methods.
• Abstract（参考訳）: p_{\mathrm{dis}}$ と被害者分類子誘導分布 $p_{\mathrm{vic}}$ の重なりから敵の例が生じる確率論的視点に基づいて、簡単な直観から始める。 この直観は自然にKLに基づくロバストネスの目的を動機付けている。 すると、$\mathrm{KL}(p_{\mathrm{dis}}\|p_{\mathrm{vic}})-\log Z_{\mathrm{vic}}$は確率的堅牢性(PR)の低い境界であり、$Z_{\mathrm{vic}}$は$p_{\mathrm{vic}}$の正規化定数を表す。 PRは一般に直接計算できるので、このKLベースの下界を最大化することは、PRを改善するための引き込み可能なサロゲートの目的を提供する。 さらに、この目的は、対人訓練のスケールした形態を回復し、対人訓練の確率論的解釈と、ロバストネス改善への原則的経路を提供することを示す。 我々は,この手法を確率論的逆行訓練と呼ぶ。 実験により、PRは一貫して改善され、アブレーション研究は、誘導スケーリング因子が非確率的逆行訓練法のPRを高めることさえできることを示した。

関連論文リスト

• Rejection via Learning Density Ratios [50.91522897152437]
  拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。 そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。 私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
  論文  参考訳（メタデータ） (2024-05-29T01:32:17Z)
• Asymptotic Behavior of Adversarial Training Estimator under $\ell_\infty$-Perturbation [5.217870815854704]
  本稿では, $ell_infty-perturbation 下での対向トレーニング推定器の挙動について検討する。 数値実験により, $ell_infty-perturbation 下での対人訓練の空間的回復能力を示す。
  論文  参考訳（メタデータ） (2024-01-27T01:16:33Z)
• Relabeling Minimal Training Subset to Flip a Prediction [20.708004593740004]
  トレーニングポイントの2%未満を許容することは、常に予測を覆すことができる。 我々は,$|mathcalS_t|$がトレーニングセットの雑音比と高い相関を示し,$|mathcalS_t|$は予測確率と相関するが相補的であることを示す。
  論文  参考訳（メタデータ） (2023-05-22T08:10:43Z)
• Statistical Learning under Heterogeneous Distribution Shift [71.8393170225794]
  ground-truth predictor is additive $mathbbE[mathbfz mid mathbfx,mathbfy] = f_star(mathbfx) +g_star(mathbfy)$.
  論文  参考訳（メタデータ） (2023-02-27T16:34:21Z)
• Robustness, Privacy, and Generalization of Adversarial Training [84.38148845727446]
  本稿では, 対人訓練におけるプライバシ・ロバスト性トレードオフと一般化・ロバスト性トレードオフの確立と定量化を行う。 我々は,差分プライバシの大きさが強固な強度と正の相関を持つ場合,敵対的トレーニングは$(varepsilon,delta)$-differentially privateであることが示される。 我々の一般化境界は、ディープラーニングにおいて大きなパラメータサイズに明示的に依存していない。
  論文  参考訳（メタデータ） (2020-12-25T13:35:02Z)
• Machine Learning's Dropout Training is Distributionally Robust Optimal [10.937094979510212]
  本稿では,一般線形モデルにおけるドロップアウトトレーニングが,期待外の損失保証を提供することを示す。 また、ドロップアウトトレーニングの実装を高速化するために、新しい並列化可能なUnbiased Multi-Level Monte Carloアルゴリズムも提供する。
  論文  参考訳（メタデータ） (2020-09-13T23:13:28Z)
• Toward Adversarial Robustness via Semi-supervised Robust Training [93.36310070269643]
  アドリラルな例は、ディープニューラルネットワーク(DNN)に対する深刻な脅威であることが示されている。 R_stand$ と $R_rob$ の2つの異なるリスクを共同で最小化することで、新しい防御手法であるロバストトレーニング(RT)を提案する。
  論文  参考訳（メタデータ） (2020-03-16T02:14:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。