論文の概要: Coping with Label Shift via Distributionally Robust Optimisation

• arxiv url: http://arxiv.org/abs/2010.12230v3
• Date: Tue, 17 Aug 2021 05:36:25 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-03 22:26:44.720061
• Title: Coping with Label Shift via Distributionally Robust Optimisation
• Title（参考訳）: 分布ロバスト最適化によるラベルシフトの符号化
• Authors: Jingzhao Zhang, Aditya Menon, Andreas Veit, Srinadh Bhojanapalli, Sanjiv Kumar, Suvrit Sra
• Abstract要約: 分散ロバスト最適化(DRO)に基づく目的最小化モデルを提案する。 そこで我々は,提案した目的を最適化するために,大規模問題に適した勾配降下近位ミラー上昇アルゴリズムを設計し,解析する。
• 参考スコア（独自算出の注目度）: 72.80971421083937
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The label shift problem refers to the supervised learning setting where the train and test label distributions do not match. Existing work addressing label shift usually assumes access to an \emph{unlabelled} test sample. This sample may be used to estimate the test label distribution, and to then train a suitably re-weighted classifier. While approaches using this idea have proven effective, their scope is limited as it is not always feasible to access the target domain; further, they require repeated retraining if the model is to be deployed in \emph{multiple} test environments. Can one instead learn a \emph{single} classifier that is robust to arbitrary label shifts from a broad family? In this paper, we answer this question by proposing a model that minimises an objective based on distributionally robust optimisation (DRO). We then design and analyse a gradient descent-proximal mirror ascent algorithm tailored for large-scale problems to optimise the proposed objective. %, and establish its convergence. Finally, through experiments on CIFAR-100 and ImageNet, we show that our technique can significantly improve performance over a number of baselines in settings where label shift is present.
• Abstract（参考訳）: ラベルシフト問題は、列車とテストラベルの分布が一致しない教師付き学習設定を指す。 既存のワークアドレッシングラベルシフトは、通常 \emph{unlabelled} テストサンプルへのアクセスを前提としている。 このサンプルはテストラベルの分布を推定し、適切に再重み付けされた分類器を訓練するために使うことができる。 このアイデアを用いたアプローチは有効であることが証明されているが、対象ドメインにアクセスすることが常に可能であるとは限らないため、そのスコープは制限されている。 代わりに、広い家族からの任意のラベルシフトに対して堅牢な \emph{single} 分類器を学べるだろうか? 本稿では,分散的ロバスト最適化(dro)に基づく目標を最小化するモデルを提案することで,この問題に答える。 次に,提案する目標を最適化するために,大規模問題に適した勾配降下-近距離ミラーアセンシングアルゴリズムを設計し,解析する。 %となり,収束性が確立した。 最後に, CIFAR-100 と ImageNet の実験により, ラベルシフトのある設定において, 多数のベースライン上での性能を著しく向上させることができることを示す。

関連論文リスト

• Decoupled Prototype Learning for Reliable Test-Time Adaptation [50.779896759106784]
  テスト時間適応(TTA)は、推論中にトレーニング済みのソースモデルをターゲットドメインに継続的に適応させるタスクである。 1つの一般的なアプローチは、推定擬似ラベルによるクロスエントロピー損失を伴う微調整モデルである。 本研究は, 各試料の分類誤差を最小化することで, クロスエントロピー損失の脆弱性がラベルノイズを引き起こすことを明らかにした。 本稿では,プロトタイプ中心の損失計算を特徴とする新しいDPL法を提案する。
  論文  参考訳（メタデータ） (2024-01-15T03:33:39Z)
• Exploiting Counter-Examples for Active Learning with Partial labels [45.665996618836516]
  本稿では, 部分ラベルを用いたemphactive learning(ALPL)の新たな課題について検討する。 この設定では、オラクルはクエリサンプルに部分的なラベルを付加し、必要な正確なラベル付けプロセスからオラクルを緩和する。 我々は,このパターンを直接学習するために,シンプルだが効果的なWorseNetを提案する。
  論文  参考訳（メタデータ） (2023-07-14T15:41:53Z)
• All Points Matter: Entropy-Regularized Distribution Alignment for Weakly-supervised 3D Segmentation [67.30502812804271]
  擬似ラベルは、弱い教師付き3Dセグメンテーションタスクに広く使われており、学習に使えるのはスパース・グラウンド・トラス・ラベルのみである。 本稿では,生成した擬似ラベルを正規化し,擬似ラベルとモデル予測とのギャップを効果的に狭めるための新しい学習戦略を提案する。
  論文  参考訳（メタデータ） (2023-05-25T08:19:31Z)
• Robust Target Training for Multi-Source Domain Adaptation [110.77704026569499]
  両レベル最適化に基づく新しいMSDAのためのロバスト目標訓練法(BORT$2$)を提案する。 提案手法は,大規模なDomainNetデータセットを含む3つのMSDAベンチマークにおいて,アートパフォーマンスの状態を達成している。
  論文  参考訳（メタデータ） (2022-10-04T15:20:01Z)
• Domain Adaptation under Open Set Label Shift [39.424134505152544]
  オープンセットラベルシフト(OSLS)におけるドメイン適応問題について紹介する。 OSLSはラベルシフトとポジティブアンラベル(PU)学習の下でドメイン適応を仮定する。 ブラックボックス予測器を利用する両方のタスクに対して,実用的な手法を提案する。
  論文  参考訳（メタデータ） (2022-07-26T17:09:48Z)
• Self-Adaptive Label Augmentation for Semi-supervised Few-shot Classification [121.63992191386502]
  Few-shotの分類は、ラベル付きサンプルがわずかにあれば、新しいタスクをうまく一般化できるモデルを学ぶことを目的としている。 そこで本研究では,手動で定義した指標を用いて,ラベルのない各サンプルに適切なラベルを割り当てる半教師付き小ショット分類手法を提案する。 SALAの目新しいところは、タスク適応計量であり、エンドツーエンドの方法で異なるタスクに対するメトリックを適応的に学習することができる。
  論文  参考訳（メタデータ） (2022-06-16T13:14:03Z)
• Undoing the Damage of Label Shift for Cross-domain Semantic Segmentation [27.44765822956167]
  本研究では,データ条件分布を整列し,後続確率を補正することにより,ラベルシフトの損傷を克服できることを示す。 GTA5,Cityscapes,SynTHIA,Cityscapesなど,都市景観のベンチマークデータセットについて広範な実験を行った。 GTA5上の59.3% mIoUからCityscapesに到達し、新たな最先端技術へと押し上げました。
  論文  参考訳（メタデータ） (2022-04-12T06:18:50Z)
• Semi-Supervised Domain Adaptation with Prototypical Alignment and Consistency Learning [86.6929930921905]
  本稿では,いくつかの対象サンプルがラベル付けされていれば,ドメインシフトに対処するのにどの程度役立つか検討する。 ランドマークの可能性を最大限に追求するために、ランドマークから各クラスのターゲットプロトタイプを計算するプロトタイプアライメント(PA)モジュールを組み込んでいます。 具体的には,ラベル付き画像に深刻な摂動を生じさせ,PAを非自明にし,モデル一般化性を促進する。
  論文  参考訳（メタデータ） (2021-04-19T08:46:08Z)
• PAL : Pretext-based Active Learning [2.869739951301252]
  提案手法は,従来の提案手法よりも,誤ラベルに頑健な深層ニューラルネットワークの能動的学習手法を提案する。 ラベルのないサンプルを選別するために、別ネットワークを使用します。 その結果,ラベルノイズの欠如による競合精度も向上した。
  論文  参考訳（メタデータ） (2020-10-29T21:16:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。