論文の概要: rSDNet: Unified Robust Neural Learning against Label Noise and Adversarial Attacks
- arxiv url: http://arxiv.org/abs/2603.17628v1
- Date: Wed, 18 Mar 2026 11:47:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-19 18:32:57.674967
- Title: rSDNet: Unified Robust Neural Learning against Label Noise and Adversarial Attacks
- Title（参考訳）: rSDNet:ラベルノイズと敵攻撃に対する統一ロバストニューラルネットワーク
- Authors: Suryasis Jana, Abhik Ghosh,
- Abstract要約: ニューラルネットワークのトレーニングを最小分散推定問題として定式化する。
本稿では,$S$-divergencesの一般クラスに基づく頑健な学習アルゴリズムであるrSDNetを紹介する。
この結果から,不均一なデータ汚染下での頑健なニューラルネットワーク分類の原則的,効果的な枠組みとして,最小分散学習が注目された。
- 参考スコア（独自算出の注目度）: 1.2891210250935143
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural networks are central to modern artificial intelligence, yet their training remains highly sensitive to data contamination. Standard neural classifiers are trained by minimizing the categorical cross-entropy loss, corresponding to maximum likelihood estimation under a multinomial model. While statistically efficient under ideal conditions, this approach is highly vulnerable to contaminated observations including label noises corrupting supervision in the output space, and adversarial perturbations inducing worst-case deviations in the input space. In this paper, we propose a unified and statistically grounded framework for robust neural classification that addresses both forms of contamination within a single learning objective. We formulate neural network training as a minimum-divergence estimation problem and introduce rSDNet, a robust learning algorithm based on the general class of $S$-divergences. The resulting training objective inherits robustness properties from classical statistical estimation, automatically down-weighting aberrant observations through model probabilities. We establish essential population-level properties of rSDNet, including Fisher consistency, classification calibration implying Bayes optimality, and robustness guarantees under uniform label noise and infinitesimal feature contamination. Experiments on three benchmark image classification datasets show that rSDNet improves robustness to label corruption and adversarial attacks while maintaining competitive accuracy on clean data, Our results highlight minimum-divergence learning as a principled and effective framework for robust neural classification under heterogeneous data contamination.
- Abstract（参考訳）: ニューラルネットワークは現代の人工知能の中心であるが、その訓練はデータの汚染に非常に敏感である。
標準ニューラル分類器は、多項モデルの下での最大推定値に対応する分類的クロスエントロピー損失を最小化することにより訓練される。
理想的な条件下では統計的に効率的であるが、この手法は、出力空間の監督を損なうラベルノイズや、入力空間における最悪のケース偏差を引き起こす敵の摂動など、汚染された観測に対して非常に脆弱である。
本稿では,単一学習対象内における汚染の両形態に対処する,頑健なニューラルネットワーク分類のための統一的,統計的基盤となるフレームワークを提案する。
ニューラルネットワークのトレーニングを最小分散推定問題として定式化し,一般クラスである$S$-divergencesをベースとした堅牢な学習アルゴリズムであるrSDNetを導入する。
得られたトレーニング目的は、古典的な統計的推定からロバストネス特性を継承し、モデル確率を通して自動的に異常な観測を下降させる。
魚の整合性,ベイズ最適性を示す分類校正,一様ラベルノイズおよび無限小特徴汚染下での頑健性保証など,rSDNetの個体群レベル特性を確立した。
3つのベンチマーク画像分類データセットを用いた実験により、rSDNetは、クリーンデータ上での競合精度を維持しながら、ラベルの破損や敵攻撃に対する堅牢性を向上し、不均一なデータ汚染下でのロバストなニューラルネットワーク分類のための原則的かつ効果的なフレームワークとして、最小分散学習を強調した。
関連論文リスト
- Training More Robust Classification Model via Discriminative Loss and Gaussian Noise Injection [7.535952418691443]
本稿では,クラス内コンパクト性を明示する最小層に適用した損失関数を提案する。
また、ノイズの多いデータクラスタをクリーンなクラスタに近づける、クラスワイズな機能アライメント機構を提案する。
提案手法は, クリーンなデータに対して高い精度を維持しながら, 各種摂動に対するモデルロバスト性を大幅に強化する。
論文 参考訳（メタデータ） (2024-05-28T18:10:45Z) - Can pruning improve certified robustness of neural networks? [106.03070538582222]
ニューラルネット・プルーニングはディープ・ニューラル・ネットワーク(NN)の実証的ロバスト性を向上させることができることを示す。
実験の結果,NNを適切に刈り取ることで,その精度を8.2%まで向上させることができることがわかった。
さらに,認証された宝くじの存在が,従来の密集モデルの標準および認証された堅牢な精度に一致することを観察する。
論文 参考訳（メタデータ） (2022-06-15T05:48:51Z) - Efficient and Robust Classification for Sparse Attacks [34.48667992227529]
我々は、画像認識、自然言語処理、マルウェア検出の領域において効果的な攻撃として示されてきた$ell$-normで束縛された摂動を考える。
我々は,「トランケーション」と「アドリアル・トレーニング」を組み合わせた新しい防衛手法を提案する。
得られた洞察に触発され、これらのコンポーネントをニューラルネットワーク分類器に拡張する。
論文 参考訳（メタデータ） (2022-01-23T21:18:17Z) - Robust Neural Network Classification via Double Regularization [2.41710192205034]
本稿では、分類モデルの複雑さに対するペナルティと、学習観察の最適な再重み付けを組み合わせた、ニューラルネットワークトレーニング損失の新しい二重正則化を提案する。
我々は, (i) MNIST と (ii) CIFAR-10 のニューラルネット分類のための DRFit について, 両者の相違点について実証した。
論文 参考訳（メタデータ） (2021-12-15T13:19:20Z) - Adversarial Robustness via Fisher-Rao Regularization [33.134075068748984]
適応的堅牢性は、機械学習への関心の高まりのトピックとなっている。
火はカテゴリーのクロスエントロピー損失に対する新しいフィッシャー・ラオ正規化である。
論文 参考訳（メタデータ） (2021-06-12T04:12:58Z) - An Orthogonal Classifier for Improving the Adversarial Robustness of
Neural Networks [21.13588742648554]
近年の研究では、分類層に特定の変更を加えることで、ニューラルネットワークの堅牢性を向上させることが示されている。
我々は、成分が同じ大きさの高密度直交重み行列を明示的に構築し、新しいロバストな分類器を生み出す。
我々の方法は、多くの最先端の防衛アプローチに対して効率的で競争力がある。
論文 参考訳（メタデータ） (2021-05-19T13:12:14Z) - Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。
我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
論文 参考訳（メタデータ） (2021-02-23T20:59:30Z) - Attribute-Guided Adversarial Training for Robustness to Natural
Perturbations [64.35805267250682]
本稿では,属性空間への分類器の露出を最大化するために,新しいサンプルを生成することを学習する逆学習手法を提案する。
我々のアプローチは、ディープニューラルネットワークが自然に発生する摂動に対して堅牢であることを可能にする。
論文 参考訳（メタデータ） (2020-12-03T10:17:30Z) - How Robust are Randomized Smoothing based Defenses to Data Poisoning? [66.80663779176979]
我々は、トレーニングデータの品質の重要性を強調する堅牢な機械学習モデルに対して、これまで認識されていなかった脅威を提示します。
本稿では,二段階最適化に基づく新たなデータ中毒攻撃法を提案し,ロバストな分類器のロバスト性を保証する。
我々の攻撃は、被害者が最先端のロバストな訓練方法を用いて、ゼロからモデルを訓練しても効果的である。
論文 参考訳（メタデータ） (2020-12-02T15:30:21Z) - Adversarial Self-Supervised Contrastive Learning [62.17538130778111]
既存の対数学習アプローチは、主にクラスラベルを使用して、誤った予測につながる対数サンプルを生成する。
本稿では,未ラベルデータに対する新たな逆攻撃を提案する。これにより,モデルが摂動データサンプルのインスタンスレベルのアイデンティティを混乱させる。
ラベル付きデータなしで頑健なニューラルネットワークを逆さまにトレーニングするための,自己教師付きコントラスト学習フレームワークを提案する。
論文 参考訳（メタデータ） (2020-06-13T08:24:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。