論文の概要: Leveraging an Alignment Set in Tackling Instance-Dependent Label Noise

• arxiv url: http://arxiv.org/abs/2307.04868v1
• Date: Mon, 10 Jul 2023 19:32:52 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-12 17:11:29.451212
• Title: Leveraging an Alignment Set in Tackling Instance-Dependent Label Noise
• Title（参考訳）: インスタンス依存ラベル雑音に対するアライメントセットの活用
• Authors: Donna Tjandra and Jenna Wiens
• Abstract要約: 本稿では、インスタンス依存ラベルノイズを学習するための2段階のアプローチを提案する。 当社のアプローチは、差別的パフォーマンスにおける最先端技術よりも一貫した改善につながります。
• 参考スコア（独自算出の注目度）: 12.762298148425796
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Noisy training labels can hurt model performance. Most approaches that aim to address label noise assume label noise is independent from the input features. In practice, however, label noise is often feature or \textit{instance-dependent}, and therefore biased (i.e., some instances are more likely to be mislabeled than others). E.g., in clinical care, female patients are more likely to be under-diagnosed for cardiovascular disease compared to male patients. Approaches that ignore this dependence can produce models with poor discriminative performance, and in many healthcare settings, can exacerbate issues around health disparities. In light of these limitations, we propose a two-stage approach to learn in the presence instance-dependent label noise. Our approach utilizes \textit{\anchor points}, a small subset of data for which we know the observed and ground truth labels. On several tasks, our approach leads to consistent improvements over the state-of-the-art in discriminative performance (AUROC) while mitigating bias (area under the equalized odds curve, AUEOC). For example, when predicting acute respiratory failure onset on the MIMIC-III dataset, our approach achieves a harmonic mean (AUROC and AUEOC) of 0.84 (SD [standard deviation] 0.01) while that of the next best baseline is 0.81 (SD 0.01). Overall, our approach improves accuracy while mitigating potential bias compared to existing approaches in the presence of instance-dependent label noise.
• Abstract（参考訳）: ノイズの多いトレーニングラベルは、モデルパフォーマンスを傷つけます。 ラベルノイズに対処するほとんどのアプローチでは、ラベルノイズは入力特徴とは独立である。 しかし実際には、ラベルノイズはしばしばフィーチャーまたは \textit{instance-dependent} であり、偏りがある(例えば、いくつかのインスタンスは他のインスタンスよりも誤ラベルが多い)。 例えば、臨床医療では、女性患者は男性患者に比べて心血管疾患の診断下にあることが多い。 この依存を無視するアプローチは、識別性能の低いモデルを生み出す可能性があり、多くの医療環境では、健康格差に関する問題を悪化させる可能性がある。 これらの制約を踏まえ、インスタンス依存のラベルノイズを学習するための2段階のアプローチを提案する。 提案手法では,観測された真理ラベルと地上の真理ラベルを識別するデータの小さなサブセットである「textit{\anchor Point」を利用する。 いくつかの課題において,本手法は偏差(等化奇数曲線,AUEOC)を緩和しながら,最先端の識別性能(AUROC)に対して一貫した改善をもたらす。 例えば,MIMIC-IIIデータセットで急性呼吸不全の発症を予測した場合,次の最良基準値である0.81(SD 0.01)に対して,AUROCとAUEOCの0.84(SD[標準偏差]0.01)の調和平均値が得られる。 全体として,本手法は,既存手法と比較して,潜在的なバイアスを緩和しながら精度を向上する。

関連論文リスト

• Learning under Label Noise through Few-Shot Human-in-the-Loop Refinement [37.4838454216137]
  FHLR(Few-Shot Human-in-the-Loop Refinement)は、雑音ラベル学習のための新しいソリューションである。 雑音ラベルから学習するとFHLRの性能が著しく向上することを示す。 我々の研究は、ハイテイクなヘルスセンシングベンチマークでより良い一般化を達成するだけでなく、ノイズが一般的に使われているモデルにどのように影響するかにも光を当てています。
  論文  参考訳（メタデータ） (2024-01-25T11:43:35Z)
• Instance-dependent Label Distribution Estimation for Learning with Label Noise [20.479674500893303]
  雑音遷移行列(NTM)推定はラベル雑音による学習に有望な手法である。 本稿では、画像分類のためのノイズラベルから学習するためのインスタンス依存ラベル分布推定(ILDE)手法を提案する。 提案手法は, 合成ノイズであっても実雑音であっても, 競合する全ての手法より優れていることを示す。
  論文  参考訳（メタデータ） (2022-12-16T10:13:25Z)
• Neighborhood Collective Estimation for Noisy Label Identification and Correction [92.20697827784426]
  ノイズラベルを用いた学習(LNL)は,ノイズラベルに対するモデルオーバーフィットの効果を軽減し,モデル性能と一般化を改善するための戦略を設計することを目的としている。 近年の進歩は、個々のサンプルのラベル分布を予測し、ノイズ検証とノイズラベル補正を行い、容易に確認バイアスを生じさせる。 提案手法では, 候補サンプルの予測信頼性を, 特徴空間近傍と対比することにより再推定する。
  論文  参考訳（メタデータ） (2022-08-05T14:47:22Z)
• Open-set Label Noise Can Improve Robustness Against Inherent Label Noise [27.885927200376386]
  オープンセットノイズラベルは非毒性であり, 固有ノイズラベルに対するロバスト性にも寄与することを示した。 本研究では,動的雑音ラベル(ODNL)を用いたオープンセットサンプルをトレーニングに導入することで,シンプルかつ効果的な正規化を提案する。
  論文  参考訳（メタデータ） (2021-06-21T07:15:50Z)
• Approximating Instance-Dependent Noise via Instance-Confidence Embedding [87.65718705642819]
  マルチクラス分類におけるラベルノイズは、学習システムの展開にとって大きな障害である。 インスタンス依存ノイズ(IDN)モデルを調査し、IDNの効率的な近似を提案し、インスタンス固有のラベル破損を捕捉する。
  論文  参考訳（メタデータ） (2021-03-25T02:33:30Z)
• Improving Medical Image Classification with Label Noise Using Dual-uncertainty Estimation [72.0276067144762]
  医用画像における2種類のラベルノイズについて論じ,定義する。 医用画像分類作業中にこれら2つのラベルノイズを処理する不確実性推定に基づくフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-02-28T14:56:45Z)
• Tackling Instance-Dependent Label Noise via a Universal Probabilistic Model [80.91927573604438]
  本稿では,ノイズラベルをインスタンスに明示的に関連付ける,単純かつ普遍的な確率モデルを提案する。 合成および実世界のラベルノイズを用いたデータセット実験により,提案手法がロバスト性に大きな改善をもたらすことを確認した。
  論文  参考訳（メタデータ） (2021-01-14T05:43:51Z)
• A Second-Order Approach to Learning with Instance-Dependent Label Noise [58.555527517928596]
  ラベルノイズの存在は、しばしばディープニューラルネットワークのトレーニングを誤解させる。 人間による注釈付きラベルのエラーは、タスクの難易度レベルに依存する可能性が高いことを示しています。
  論文  参考訳（メタデータ） (2020-12-22T06:36:58Z)
• NoiseRank: Unsupervised Label Noise Reduction with Dependence Models [11.08987870095179]
  マルコフランダム場(MRF)を用いた教師なしラベル雑音低減のためのノイズRankを提案する。 本研究では,データセットに誤ってラベル付けされたインスタンスの後方確率と,その推定確率に基づいてランク付けされたインスタンスを推定する依存性モデルを構築した。 NORankはFood101-N(20%ノイズ)の最先端分類を改善し、高雑音クローティング-1M(40%ノイズ)に有効である
  論文  参考訳（メタデータ） (2020-03-15T01:10:25Z)
• Confidence Scores Make Instance-dependent Label-noise Learning Possible [129.84497190791103]
  ノイズのあるラベルで学習する際、そのラベルはノイズモデルと呼ばれる遷移分布に従ってランダムに他のクラスに移動することができる。 我々は、各インスタンスラベル対に信頼スコアを付与する、信頼スコア付きインスタンス依存ノイズ(CSIDN)を導入する。 信頼性スコアの助けを借りて、各インスタンスの遷移分布を推定できる。
  論文  参考訳（メタデータ） (2020-01-11T16:15:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。