論文の概要: Balanced Self-Paced Learning for AUC Maximization

• arxiv url: http://arxiv.org/abs/2207.03650v1
• Date: Fri, 8 Jul 2022 02:09:32 GMT
• ステータス: 処理完了
• システム内更新日: 2022-07-11 13:01:09.812348
• Title: Balanced Self-Paced Learning for AUC Maximization
• Title（参考訳）: AUC最大化のためのバランス付き自己更新学習
• Authors: Bin Gu, Chenkang Zhang, Huan Xiong, Heng Huang
• Abstract要約: 既存のセルフパッチ方式は、ポイントワイズAUCに限られている。 我々のアルゴリズムは閉形式解に基づいて定常点に収束する。
• 参考スコア（独自算出の注目度）: 88.53174245457268
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Learning to improve AUC performance is an important topic in machine learning. However, AUC maximization algorithms may decrease generalization performance due to the noisy data. Self-paced learning is an effective method for handling noisy data. However, existing self-paced learning methods are limited to pointwise learning, while AUC maximization is a pairwise learning problem. To solve this challenging problem, we innovatively propose a balanced self-paced AUC maximization algorithm (BSPAUC). Specifically, we first provide a statistical objective for self-paced AUC. Based on this, we propose our self-paced AUC maximization formulation, where a novel balanced self-paced regularization term is embedded to ensure that the selected positive and negative samples have proper proportions. Specially, the sub-problem with respect to all weight variables may be non-convex in our formulation, while the one is normally convex in existing self-paced problems. To address this, we propose a doubly cyclic block coordinate descent method. More importantly, we prove that the sub-problem with respect to all weight variables converges to a stationary point on the basis of closed-form solutions, and our BSPAUC converges to a stationary point of our fixed optimization objective under a mild assumption. Considering both the deep learning and kernel-based implementations, experimental results on several large-scale datasets demonstrate that our BSPAUC has a better generalization performance than existing state-of-the-art AUC maximization methods.
• Abstract（参考訳）: AUCのパフォーマンスを改善するための学習は、機械学習において重要なトピックである。 しかし, auc最大化アルゴリズムはノイズデータにより一般化性能を低下させる可能性がある。 セルフペースト学習はノイズの多いデータを扱う効果的な方法である。 しかし,既存の自己評価学習手法はポイントワイズ学習に限られており,AUCの最大化はペアワイズ学習の問題である。 この課題を解決するために,我々は,バランスの取れたAUC最大化アルゴリズム(BSPAUC)を革新的に提案する。 具体的には,まず,自己修復型AUCの統計的目的について述べる。 そこで,本論文では,選択した正と負のサンプルが適正な比率であることを保証するために,バランスの取れた自己ペースの正規化項を組み込んだ自己ペースの最大化定式化を提案する。 特に、すべての重み変数に関するサブプロブレムは、我々の定式化では非凸であり、一方は、通常、既存の自己周期問題において凸である。 そこで本研究では,二重巡回ブロック座標降下法を提案する。 より重要なことは、すべての重み変数に関するサブプロブレムが閉形式解に基づいて定常点に収束し、我々のbspaucは穏やかな仮定の下で固定最適化目標の定常点に収束することを証明することである。 ディープラーニングとカーネルベースの実装の両方を考慮すると、BSPAUCは既存の最先端AUCの最大化手法よりも優れた一般化性能を有することを示す。

関連論文リスト

• AUC Optimization from Multiple Unlabeled Datasets [14.318887072787938]
  U$m$-AUCは、U$m$データを多ラベルAUC最適化問題に変換するAUC最適化手法である。 提案したU$m$-AUCは理論的および実験的に有効であることを示す。
  論文  参考訳（メタデータ） (2023-05-25T06:43:42Z)
• Federated Compositional Deep AUC Maximization [58.25078060952361]
  本研究では,曲線(AUC)のスコアを直接最適化することにより,不均衡なデータに対する新しいフェデレート学習法を開発した。 私たちの知る限りでは、このような好ましい理論的な結果を達成した最初の作品である。
  論文  参考訳（メタデータ） (2023-04-20T05:49:41Z)
• Stochastic Methods for AUC Optimization subject to AUC-based Fairness Constraints [51.12047280149546]
  公正な予測モデルを得るための直接的なアプローチは、公正な制約の下で予測性能を最適化することでモデルを訓練することである。 フェアネスを考慮した機械学習モデルのトレーニング問題を,AUCに基づくフェアネス制約のクラスを対象とする最適化問題として定式化する。 フェアネス測定値の異なる実世界のデータに対するアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2022-12-23T22:29:08Z)
• Asymptotically Unbiased Instance-wise Regularized Partial AUC Optimization: Theory and Algorithm [101.44676036551537]
  One-way partial AUC (OPAUC) と Two-way partial AUC (TPAUC) はバイナリ分類器の平均性能を測定する。 既存の手法のほとんどはPAUCをほぼ最適化するしかなく、制御不能なバイアスにつながる。 本稿では,分散ロバスト最適化AUCによるPAUC問題の簡易化について述べる。
  論文  参考訳（メタデータ） (2022-10-08T08:26:22Z)
• Learning with Multiclass AUC: Theory and Algorithms [141.63211412386283]
  ROC曲線 (AUC) の下の領域は、不均衡学習やレコメンダシステムといった問題に対するよく知られたランキング基準である。 本稿では,マルチクラスAUCメトリクスを最適化することで,多クラススコアリング関数を学習する問題について検討する。
  論文  参考訳（メタデータ） (2021-07-28T05:18:10Z)
• Stochastic Hard Thresholding Algorithms for AUC Maximization [49.00683387735522]
  分散分類におけるAUCのためのハードしきい値決定アルゴリズムを開発した。 提案アルゴリズムの有効性と有効性を示す実験を行った。
  論文  参考訳（メタデータ） (2020-11-04T16:49:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。