論文の概要: Online Label Shift: Optimal Dynamic Regret meets Practical Algorithms

• arxiv url: http://arxiv.org/abs/2305.19570v1
• Date: Wed, 31 May 2023 05:39:52 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-01 18:18:15.330498
• Title: Online Label Shift: Optimal Dynamic Regret meets Practical Algorithms
• Title（参考訳）: オンラインラベルシフト:最適な動的後悔は実用的なアルゴリズムを満たす
• Authors: Dheeraj Baby, Saurabh Garg, Tzu-Ching Yen, Sivaraman Balakrishnan, Zachary Chase Lipton, Yu-Xiang Wang
• Abstract要約: 本稿では、教師付きおよび教師なしのオンラインラベルシフトに焦点を当て、クラス境界の$Q(y)$は異なるが、クラス条件の$Q(x|y)$は不変である。 教師なしの環境では、オフラインラベル付きデータに基づいてトレーニングされた学習者を、ラベルなしのオンラインデータに対してラベル分布を変更するように適応させることが目的です。 我々は,オンライン回帰への適応問題を低減し,ラベル分布のドリフトの程度を事前に知ることなく,最適な動的後悔を保証する新しいアルゴリズムを開発した。
• 参考スコア（独自算出の注目度）: 33.61487362513345
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper focuses on supervised and unsupervised online label shift, where the class marginals $Q(y)$ varies but the class-conditionals $Q(x|y)$ remain invariant. In the unsupervised setting, our goal is to adapt a learner, trained on some offline labeled data, to changing label distributions given unlabeled online data. In the supervised setting, we must both learn a classifier and adapt to the dynamically evolving class marginals given only labeled online data. We develop novel algorithms that reduce the adaptation problem to online regression and guarantee optimal dynamic regret without any prior knowledge of the extent of drift in the label distribution. Our solution is based on bootstrapping the estimates of \emph{online regression oracles} that track the drifting proportions. Experiments across numerous simulated and real-world online label shift scenarios demonstrate the superior performance of our proposed approaches, often achieving 1-3\% improvement in accuracy while being sample and computationally efficient. Code is publicly available at https://github.com/acmi-lab/OnlineLabelShift.
• Abstract（参考訳）: 本稿では、教師付きおよび教師なしのオンラインラベルシフトに焦点を当て、クラス境界の$Q(y)$は異なるが、クラス条件の$Q(x|y)$は不変である。 教師なしの環境では、オフラインのラベル付きデータでトレーニングされた学習者を、ラベルなしオンラインデータに対するラベルの分布変更に適応させることが目標です。 教師付き設定では、分類器を学習し、ラベル付きオンラインデータのみを与えられた動的に進化するクラス限界に適応する必要がある。 ラベル分布のドリフトの程度を事前に知ることなく,適応問題をオンライン回帰に還元し,最適な動的後悔を保証する新しいアルゴリズムを開発した。 私たちのソリューションは、漂流の割合を追跡する \emph{online regression oracles} の推定値のブートストラップに基づいている。 多くのシミュレーションおよび実世界のオンラインラベルシフトシナリオにおける実験は、提案手法の優れた性能を示し、サンプルと計算効率を保ちながら精度が1-3\%向上することが多い。 コードはhttps://github.com/acmi-lab/OnlineLabelShiftで公開されている。

関連論文リスト

• Active Generalized Category Discovery [60.69060965936214]
  GCD(Generalized Category Discovery)は、新しいクラスと古いクラスの未ラベルのサンプルをクラスタ化するための取り組みである。 我々は,能動的学習の精神を取り入れて,能動的一般化カテゴリー発見(AGCD)という新たな設定を提案する。 提案手法は, 汎用および微粒なデータセット上での最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-03-07T07:12:24Z)
• Online Feature Updates Improve Online (Generalized) Label Shift Adaptation [51.328801874640675]
  オンライン特徴更新を用いたオンラインラベルシフト適応法(OLS-OFU)は,自己教師付き学習を利用して特徴抽出プロセスを洗練する。 アルゴリズムを慎重に設計することで、OLS-OFUは改善された特徴を考慮しつつ、文献の結果に類似したオンライン後悔の収束を維持している。
  論文  参考訳（メタデータ） (2024-02-05T22:03:25Z)
• Adapting to Online Label Shift with Provable Guarantees [137.89382409682233]
  オンラインラベルシフトの問題を定式化し,検討する。 非定常性と監督の欠如は、この問題に取り組むことを困難にしている。 我々のアルゴリズムは最適な動的後悔を享受しており、性能が透かしの性質と競合していることを示している。
  論文  参考訳（メタデータ） (2022-07-05T15:43:14Z)
• Active learning for online training in imbalanced data streams under cold start [0.8155575318208631]
  本稿では,クラス不均衡の桁数を持つデータセットに対するアクティブラーニング(AL)アノテーションシステムを提案する。 本稿では,計算効率のよい Outlier-based Discriminative AL approach (ODAL) を提案する。 その結果,提案手法は標準ALポリシーよりも高速に高性能なモデルに到達できることが示唆された。
  論文  参考訳（メタデータ） (2021-07-16T06:49:20Z)
• Online Adaptation to Label Distribution Shift [37.91472909652585]
  我々は、FTL(Follow The Leader)やOGD(Online Gradient Descent)といった古典的なオンライン学習手法にインスパイアされた適応アルゴリズムを提案する。 シミュレーションと実世界におけるラベルの分布変化の両面から得られた知見を実証的に検証し、OGDが様々な難解なラベルのシフトシナリオに対して特に効果的で堅牢であることを示す。
  論文  参考訳（メタデータ） (2021-07-09T16:12:19Z)
• Online Continual Adaptation with Active Self-Training [69.5815645379945]
  本研究では,ラベルなしサンプルと限定ラベルのアクティブクエリの両方を用いて,学習者が変化に継続的に適応することを目的としたオンライン環境を提案する。 Online Self-Adaptive Mirror Descent (OSAMD)は、未ラベルのデータからオンラインの自己学習を可能にするオンライン教師学生構造を採用している。 我々は,OSAMDが実世界とシミュレーションデータの両方に限定されたラベルを持つ環境変化下で,好意的な後悔を達成していることを示す。
  論文  参考訳（メタデータ） (2021-06-11T17:51:25Z)
• Coping with Label Shift via Distributionally Robust Optimisation [72.80971421083937]
  分散ロバスト最適化(DRO)に基づく目的最小化モデルを提案する。 そこで我々は,提案した目的を最適化するために,大規模問題に適した勾配降下近位ミラー上昇アルゴリズムを設計し,解析する。
  論文  参考訳（メタデータ） (2020-10-23T08:33:04Z)
• Active Online Learning with Hidden Shifting Domains [64.75186088512034]
  本稿では,その後悔度とラベルクエリ数とを適応的にバランスさせる,驚くほど単純なアルゴリズムを提案する。 我々のアルゴリズムは、異なる領域からの入力のインターリービングスパンを適応的に処理できる。
  論文  参考訳（メタデータ） (2020-06-25T15:23:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。