論文の概要: A Generalized Unbiased Risk Estimator for Learning with Augmented Classes

• arxiv url: http://arxiv.org/abs/2306.06894v1
• Date: Mon, 12 Jun 2023 06:52:04 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-13 15:46:54.951232
• Title: A Generalized Unbiased Risk Estimator for Learning with Augmented Classes
• Title（参考訳）: 拡張クラスを用いた学習のための一般化された不偏性リスク推定器
• Authors: Senlin Shu, Shuo He, Haobo Wang, Hongxin Wei, Tao Xiang, Lei Feng
• Abstract要約: ラベルなしのデータが与えられた場合、非バイアスリスク推定器(URE)が導出され、理論的保証のあるLACでは最小限にすることができる。 理論的な保証を維持しつつ任意の損失関数を装備できる一般化されたUREを提案する。
• 参考スコア（独自算出の注目度）: 70.20752731393938
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In contrast to the standard learning paradigm where all classes can be observed in training data, learning with augmented classes (LAC) tackles the problem where augmented classes unobserved in the training data may emerge in the test phase. Previous research showed that given unlabeled data, an unbiased risk estimator (URE) can be derived, which can be minimized for LAC with theoretical guarantees. However, this URE is only restricted to the specific type of one-versus-rest loss functions for multi-class classification, making it not flexible enough when the loss needs to be changed with the dataset in practice. In this paper, we propose a generalized URE that can be equipped with arbitrary loss functions while maintaining the theoretical guarantees, given unlabeled data for LAC. To alleviate the issue of negative empirical risk commonly encountered by previous studies, we further propose a novel risk-penalty regularization term. Experiments demonstrate the effectiveness of our proposed method.
• Abstract（参考訳）: トレーニングデータですべてのクラスを観察できる標準的な学習パラダイムとは対照的に、拡張クラス(lac)による学習は、トレーニングデータに観察されない拡張クラスがテストフェーズで現れる可能性がある問題に取り組む。 従来の研究では、ラベルのないデータから、非バイアスリスク推定器(URE)を導出することができ、理論的な保証でLACに対して最小化することが可能であった。 しかし、このUREは、マルチクラス分類のための特定のタイプの1-versus-rest損失関数にのみ制限されており、実際にデータセットで損失を変更する必要がある場合に十分な柔軟性がない。 本稿では,LACのラベルなしデータに対して理論的保証を維持しつつ,任意の損失関数を備えた一般化されたUREを提案する。 先行研究でよく見られる負の実証的リスクの問題を緩和するため,新たなリスクペナルティ正則化用語を提案する。 提案手法の有効性を示す実験を行った。

関連論文リスト

• An Unbiased Risk Estimator for Partial Label Learning with Augmented Classes [46.663081214928226]
  PLLACを理論的に保証した非バイアスリスク推定器を提案する。 PLLACの推定誤差の理論的解析を行う。 ベンチマーク、UCI、実世界のデータセットの実験では、提案手法の有効性が示されている。
  論文  参考訳（メタデータ） (2024-09-29T07:36:16Z)
• Hypothesis Transfer Learning with Surrogate Classification Losses: Generalization Bounds through Algorithmic Stability [3.908842679355255]
  仮説伝達学習(HTL)は、以前のタスクレバレッジを新たなターゲットにすることで、ドメイン適応と対比する。 本稿では,機械学習アルゴリズム解析のための魅力的な理論フレームワークであるアルゴリズム安定性によるHTLの学習理論について検討する。
  論文  参考訳（メタデータ） (2023-05-31T09:38:21Z)
• Adaptive Negative Evidential Deep Learning for Open-set Semi-supervised Learning [69.81438976273866]
  オープンセット半教師付き学習(Open-set SSL)は、ラベル付きデータ(inliers)で観測されない新しいカテゴリ(outliers)を含むラベル付きデータとテストデータを含む、より実践的なシナリオである。 本研究では,様々な不確かさを定量化するための外乱検出器として顕在的深層学習(EDL)を導入し,自己学習と推論のための異なる不確実性指標を設計する。 Inlierとoutlierの両方を含むラベルなしデータセットに適合するように、新しい適応的負の最適化戦略を提案する。
  論文  参考訳（メタデータ） (2023-03-21T09:07:15Z)
• Learning from Positive and Unlabeled Data with Augmented Classes [17.97372291914351]
  Augmented Classes (PUAC) を用いたPU学習のための非バイアスリスク推定器を提案する。 提案手法は,最適解への収束を理論的に保証する推定誤差を導出する。
  論文  参考訳（メタデータ） (2022-07-27T03:40:50Z)
• Learning from Multiple Unlabeled Datasets with Partial Risk Regularization [80.54710259664698]
  本稿では,クラスラベルを使わずに正確な分類器を学習することを目的とする。 まず、与えられたラベルのない集合から推定できる分類リスクの偏りのない推定器を導出する。 その結果、経験的リスクがトレーニング中に負になるにつれて、分類器が過度に適合する傾向があることが判明した。 実験により,本手法は,複数の未ラベル集合から学習する最先端の手法を効果的に緩和し,性能を向上することを示した。
  論文  参考訳（メタデータ） (2022-07-04T16:22:44Z)
• Risk Minimization from Adaptively Collected Data: Guarantees for Supervised and Policy Learning [57.88785630755165]
  経験的リスク最小化(Empirical Risk Minimization, ERM)は、機械学習のワークホースであるが、適応的に収集されたデータを使用すると、そのモデルに依存しない保証が失敗する可能性がある。 本研究では,仮説クラス上での損失関数の平均値を最小限に抑えるため,適応的に収集したデータを用いた一般的な重み付きERMアルゴリズムについて検討する。 政策学習では、探索がゼロになるたびに既存の文献のオープンギャップを埋める率-最適後悔保証を提供する。
  論文  参考訳（メタデータ） (2021-06-03T09:50:13Z)
• RATT: Leveraging Unlabeled Data to Guarantee Generalization [96.08979093738024]
  ラベルのないデータを利用して一般化境界を生成する手法を紹介します。 境界が0-1経験的リスク最小化に有効であることを証明します。 この作業は、見えないラベル付きデータが利用できない場合でも、ディープネットの一般化を証明するためのオプションを実践者に提供します。
  論文  参考訳（メタデータ） (2021-05-01T17:05:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。