論文の概要: RLSbench: Domain Adaptation Under Relaxed Label Shift

• arxiv url: http://arxiv.org/abs/2302.03020v1
• Date: Mon, 6 Feb 2023 18:57:14 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-07 15:15:21.452909
• Title: RLSbench: Domain Adaptation Under Relaxed Label Shift
• Title（参考訳）: RLSbench: 緩和ラベルシフトによるドメイン適応
• Authors: Saurabh Garg, Nick Erickson, James Sharpnack, Alex Smola, Sivaraman Balakrishnan, Zachary C. Lipton
• Abstract要約: 本稿では,大規模な緩和ラベルシフトベンチマークであるRSbenchを紹介する。 まず,13の一般的なドメイン適応手法を評価し,ラベル比のシフトにより,従来よりも広範な障害を示す。 次に、ほとんどの深層ドメイン適応手法と互換性のある効果的な2段階メタアルゴリズムを開発する。
• 参考スコア（独自算出の注目度）: 39.845383643588356
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Despite the emergence of principled methods for domain adaptation under label shift, the sensitivity of these methods for minor shifts in the class conditional distributions remains precariously under explored. Meanwhile, popular deep domain adaptation heuristics tend to falter when faced with shifts in label proportions. While several papers attempt to adapt these heuristics to accommodate shifts in label proportions, inconsistencies in evaluation criteria, datasets, and baselines, make it hard to assess the state of the art. In this paper, we introduce RLSbench, a large-scale relaxed label shift benchmark, consisting of >500 distribution shift pairs that draw on 14 datasets across vision, tabular, and language modalities and compose them with varying label proportions. First, we evaluate 13 popular domain adaptation methods, demonstrating more widespread failures under label proportion shifts than were previously known. Next, we develop an effective two-step meta-algorithm that is compatible with most deep domain adaptation heuristics: (i) pseudo-balance the data at each epoch; and (ii) adjust the final classifier with (an estimate of) target label distribution. The meta-algorithm improves existing domain adaptation heuristics often by 2--10\% accuracy points under extreme label proportion shifts and has little (i.e., <0.5\%) effect when label proportions do not shift. We hope that these findings and the availability of RLSbench will encourage researchers to rigorously evaluate proposed methods in relaxed label shift settings. Code is publicly available at https://github.com/acmi-lab/RLSbench.
• Abstract（参考訳）: ラベルシフトの下でのドメイン適応の原則的手法の出現にもかかわらず、これらの手法のクラス条件分布における微妙なシフトに対する感度は、いまだに調査中である。 一方、人気のある深層ドメイン適応ヒューリスティックスはラベル比率の変動に直面した時に混乱する傾向にある。 いくつかの論文では、これらのヒューリスティックをラベル比率の変化に対応させようと試みているが、評価基準、データセット、ベースラインの不整合は、技術の現状を評価するのを困難にしている。 本稿では,大規模に緩和されたラベルシフトベンチマークであるRSbenchを紹介する。500以上の分散シフトペアは,視覚,表,言語モダリティの14のデータセット上に描画され,異なるラベル比で構成される。 まず,13の一般的なドメイン適応手法を評価し,ラベル比のシフトにより,従来よりも広範な障害を示す。 次に、最も深い領域適応ヒューリスティックと互換性のある効果的な2段階のメタアルゴリズムを開発する。 (i)各時代におけるデータの擬似バランス (ii)最終分類器を目標ラベル分布で調整する(推定)。 meta-algorithmは既存のドメイン適応ヒューリスティックを、極端なラベル比率シフトの下で2〜10〜10\%精度で改善し、ラベル比率が変化しない場合にはほとんど(例えば <0.5\%)効果を持たない。 これらの知見と RLSbench の利用可能性により、研究者は緩和ラベルシフト設定における提案手法を厳格に評価できることを期待している。 コードはhttps://github.com/acmi-lab/rlsbenchで公開されている。

関連論文リスト

• Channel-Selective Normalization for Label-Shift Robust Test-Time Adaptation [16.657929958093824]
  テスト時間適応は、推論中にモデルを新しいデータ分布に調整するアプローチである。 テスト時のバッチ正規化は、ドメインシフトベンチマークで魅力的なパフォーマンスを達成した、シンプルで一般的な方法である。 本稿では、ディープネットワークにおけるチャネルのみを選択的に適応させ、ラベルシフトに敏感な劇的な適応を最小化することで、この問題に対処することを提案する。
  論文  参考訳（メタデータ） (2024-02-07T15:41:01Z)
• Generating Unbiased Pseudo-labels via a Theoretically Guaranteed Chebyshev Constraint to Unify Semi-supervised Classification and Regression [57.17120203327993]
  分類におけるしきい値と擬似ラベルプロセス(T2L)は、ラベルの品質を決定するために信頼性を使用する。 本質的には、レグレッションは高品質なラベルを生成するためにバイアスのない方法も必要である。 チェビシェフの不等式に基づく不偏ラベルを生成するための理論的に保証された制約を提案する。
  論文  参考訳（メタデータ） (2023-11-03T08:39:35Z)
• Label Shift Adapter for Test-Time Adaptation under Covariate and Label Shifts [48.83127071288469]
  テスト時間適応(TTA)は、推論中にバッチ・バイ・バッチ方式で、事前訓練されたモデルをターゲットドメインに適応することを目的としている。 これまでのほとんどのTTAアプローチは、ソースとターゲットのドメインのデータセットがバランスの取れたラベルの分布を持っていると仮定している。 本稿では,ラベルシフトを効果的に扱うために,既存のTTAアプローチに組み込む新しいラベルシフトアダプタを提案する。
  論文  参考訳（メタデータ） (2023-08-17T06:37:37Z)
• Domain Adaptation under Open Set Label Shift [39.424134505152544]
  オープンセットラベルシフト(OSLS)におけるドメイン適応問題について紹介する。 OSLSはラベルシフトとポジティブアンラベル(PU)学習の下でドメイン適応を仮定する。 ブラックボックス予測器を利用する両方のタスクに対して,実用的な手法を提案する。
  論文  参考訳（メタデータ） (2022-07-26T17:09:48Z)
• Distribution-Aware Semantics-Oriented Pseudo-label for Imbalanced Semi-Supervised Learning [80.05441565830726]
  本稿では,疑似ラベルの重み付けがモデル性能に悪影響を及ぼすような,不均衡な半教師付き学習に対処する。 本稿では,この観測の動機となるバイアスに対処する,一般的な擬似ラベルフレームワークを提案する。 不均衡SSLのための新しい擬似ラベルフレームワークを、DASO(Distributed-Aware Semantics-Oriented Pseudo-label)と呼ぶ。
  論文  参考訳（メタデータ） (2021-06-10T11:58:25Z)
• Rethinking Pseudo Labels for Semi-Supervised Object Detection [84.697097472401]
  物体検出に適した確実な擬似ラベルを導入する。 我々は,クラス不均衡問題を緩和するために,各カテゴリの擬似ラベルと再重み付き損失関数を生成するために使用する閾値を動的に調整する。 提案手法では,COCOのラベル付きデータのみを用いて,教師付きベースラインを最大10%改善する。
  論文  参考訳（メタデータ） (2021-06-01T01:32:03Z)
• Coping with Label Shift via Distributionally Robust Optimisation [72.80971421083937]
  分散ロバスト最適化(DRO)に基づく目的最小化モデルを提案する。 そこで我々は,提案した目的を最適化するために,大規模問題に適した勾配降下近位ミラー上昇アルゴリズムを設計し,解析する。
  論文  参考訳（メタデータ） (2020-10-23T08:33:04Z)
• Domain Adaptation with Conditional Distribution Matching and Generalized Label Shift [20.533804144992207]
  相互学習は教師なし領域適応設定において優れた性能を示した。 本稿では,ラベル分布の不一致に対するロバスト性を改善するために,新たな仮定である一般化ラベルシフト(GLS$)を提案する。 我々のアルゴリズムは、大きなラベルの分布ミスマッチに対して大幅に改善され、ベースバージョンよりも優れています。
  論文  参考訳（メタデータ） (2020-03-10T00:35:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。