論文の概要: Robust AUC Optimization under the Supervision of Clean Data
- arxiv url: http://arxiv.org/abs/2211.11751v1
- Date: Sat, 19 Nov 2022 15:28:19 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-23 16:51:14.592054
- Title: Robust AUC Optimization under the Supervision of Clean Data
- Title(参考訳): クリーンデータの監督下でのロバストなauc最適化
- Authors: Chenkang Zhang
- Abstract要約: クリーンサンプルを有効利用した堅牢なAUC最適化アルゴリズム(RAUCO)を提案する。
我々のRAUCOアルゴリズムは, クリーンサンプルの監督の下で, SPL(Self-paced Learning)技術を用いることで, トレーニングからノイズサンプルを除去することができる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: AUC (area under the ROC curve) optimization algorithms have drawn much
attention due to the incredible adaptability for seriously imbalanced data.
Real-world datasets usually contain extensive noisy samples that seriously
hinder the model performance, but a limited number of clean samples can be
obtained easily. Although some AUC optimization studies make an effort to
dispose of noisy samples, they do not utilize such clean samples well. In this
paper, we propose a robust AUC optimization algorithm (RAUCO) with good use of
available clean samples. Expressly, our RAUCO algorithm can exclude noisy
samples from the training by employing the technology of self-paced learning
(SPL) under the supervision of clean samples. Moreover, considering the impact
of the data enhancement technology on SPL, we innovatively introduce the
consistency regularization term to SPL. Theoretical results on the convergence
of our RAUCO algorithm are provided under mild assumptions. Comprehensive
experiments demonstrate that our RAUCO algorithm holds better robustness than
existing algorithms.
- Abstract(参考訳): AUC(ROC曲線の下での領域)最適化アルゴリズムは、真に不均衡なデータに対する驚くほどの適応性のために多くの注目を集めている。
実世界のデータセットは通常、モデルの性能を著しく阻害する広範囲なノイズサンプルを含んでいるが、限られた数のクリーンサンプルを容易に得ることができる。
いくつかのAUC最適化研究はノイズの多いサンプルを処分する努力をしているが、これらのクリーンなサンプルをうまく利用していない。
本稿では, クリーンサンプルを有効利用した堅牢なAUC最適化アルゴリズム(RAUCO)を提案する。
RAUCOアルゴリズムは, クリーンサンプルの監督下で, SPL(Self-paced Learning)技術を用いることで, ノイズのあるサンプルをトレーニングから排除することができる。
また,データ強化技術がSPLに与える影響を考慮し,SPLに整合性正規化という用語を革新的に導入する。
RAUCOアルゴリズムの収束に関する理論的結果は軽微な仮定の下で提供される。
包括的実験により、RAUCOアルゴリズムは既存のアルゴリズムよりも堅牢性が高いことが示された。
関連論文リスト
- Federated Conditional Stochastic Optimization [110.513884892319]
条件付き最適化は、不変学習タスク、AUPRC、AMLなど、幅広い機械学習タスクで見られる。
本稿では,分散フェデレーション学習のためのアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-04T01:47:37Z) - Faster Stochastic Variance Reduction Methods for Compositional MiniMax
Optimization [50.10952609321302]
合成ミニマックス最適化は、さまざまな機械学習領域において重要な課題である。
構成最小最適化の現在の方法は、最適以下の複雑さや、大きなバッチサイズに大きく依存することによって悩まされている。
本稿では,Nested STOchastic Recursive Momentum (NSTORM)と呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2023-08-18T14:57:21Z) - Single-Trajectory Distributionally Robust Reinforcement Learning [21.955807398493334]
本研究では,分散ロバストRL (DRRL) を提案する。
既存のDRRLアルゴリズムはモデルベースか、1つのサンプル軌道から学習できないかのいずれかである。
単一軌道を用いた分散ロバストQ-ラーニング(DRQ)と呼ばれる,完全モデルフリーなDRRLアルゴリズムを設計する。
論文 参考訳(メタデータ) (2023-01-27T14:08:09Z) - Asymptotically Unbiased Instance-wise Regularized Partial AUC
Optimization: Theory and Algorithm [101.44676036551537]
One-way partial AUC (OPAUC) と Two-way partial AUC (TPAUC) はバイナリ分類器の平均性能を測定する。
既存の手法のほとんどはPAUCをほぼ最適化するしかなく、制御不能なバイアスにつながる。
本稿では,分散ロバスト最適化AUCによるPAUC問題の簡易化について述べる。
論文 参考訳(メタデータ) (2022-10-08T08:26:22Z) - Towards Automated Imbalanced Learning with Deep Hierarchical
Reinforcement Learning [57.163525407022966]
不均衡学習はデータマイニングにおいて基本的な課題であり、各クラスにトレーニングサンプルの不均等な比率が存在する。
オーバーサンプリングは、少数民族のための合成サンプルを生成することによって、不均衡な学習に取り組む効果的な手法である。
我々は,異なるレベルの意思決定を共同で最適化できる自動オーバーサンプリングアルゴリズムであるAutoSMOTEを提案する。
論文 参考訳(メタデータ) (2022-08-26T04:28:01Z) - Large-scale Optimization of Partial AUC in a Range of False Positive
Rates [51.12047280149546]
ROC曲線 (AUC) の下の領域は、機械学習において最も広く使われている分類モデルのパフォーマンス指標の1つである。
近年の封筒平滑化技術に基づく効率的な近似勾配降下法を開発した。
提案アルゴリズムは,効率のよい解法を欠くランク付けされた範囲損失の和を最小化するためにも利用できる。
論文 参考訳(メタデータ) (2022-03-03T03:46:18Z) - Stochastic Optimization of Areas Under Precision-Recall Curves with
Provable Convergence [66.83161885378192]
ROC(AUROC)と精度リコール曲線(AUPRC)の下の領域は、不均衡問題に対する分類性能を評価するための一般的な指標である。
本稿では,深層学習のためのAUPRCの最適化手法を提案する。
論文 参考訳(メタデータ) (2021-04-18T06:22:21Z) - Online AUC Optimization for Sparse High-Dimensional Datasets [32.77252579365118]
エリア・アンダー・オブ・ザ・ROC曲線(AUC)は、不均衡な分類のための広く使われている性能指標である。
現在のオンラインAUC最適化アルゴリズムは、イテレーションあたりのコストが$mathcalO(d)$である。
本稿では,新しいアルゴリズムである textscFTRL-AUC を提案する。
論文 参考訳(メタデータ) (2020-09-23T00:50:01Z) - Adaptive Experience Selection for Policy Gradient [8.37609145576126]
経験的再生は、サンプル効率を改善するために一般的に使用されるアプローチである。
過去の軌跡を用いた勾配推定器は、通常、高いばらつきを持つ。
統一サンプリングや優先経験リプレイのような経験リプレイのための既存のサンプリング戦略は、勾配推定のばらつきを明示的に制御しようとするものではない。
本稿では,オンライン学習アルゴリズムである適応的経験選択(AES)を提案し,この分散を明示的に最小化する経験サンプリング分布を適応的に学習する。
論文 参考訳(メタデータ) (2020-02-17T13:16:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。