論文の概要: Hierarchical Class-Based Curriculum Loss

• arxiv url: http://arxiv.org/abs/2006.03629v1
• Date: Fri, 5 Jun 2020 18:48:57 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-25 02:31:33.012099
• Title: Hierarchical Class-Based Curriculum Loss
• Title（参考訳）: 階層型クラスベースカリキュラムロス
• Authors: Palash Goyal and Shalini Ghosh
• Abstract要約: ほとんどの実世界のデータにはラベル間の依存関係があり、階層構造を使ってキャプチャできる。 i) ラベル空間に存在する階層的制約を満たすことと, (ii) 階層のレベルに基づいてラベルに一様でない重みを与えるという2つの特性を持つ損失関数, 階層的カリキュラム損失を提案する。
• 参考スコア（独自算出の注目度）: 18.941207332233805
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Classification algorithms in machine learning often assume a flat label space. However, most real world data have dependencies between the labels, which can often be captured by using a hierarchy. Utilizing this relation can help develop a model capable of satisfying the dependencies and improving model accuracy and interpretability. Further, as different levels in the hierarchy correspond to different granularities, penalizing each label equally can be detrimental to model learning. In this paper, we propose a loss function, hierarchical curriculum loss, with two properties: (i) satisfy hierarchical constraints present in the label space, and (ii) provide non-uniform weights to labels based on their levels in the hierarchy, learned implicitly by the training paradigm. We theoretically show that the proposed loss function is a tighter bound of 0-1 loss compared to any other loss satisfying the hierarchical constraints. We test our loss function on real world image data sets, and show that it significantly substantially outperforms multiple baselines.
• Abstract（参考訳）: 機械学習における分類アルゴリズムは、しばしばフラットラベル空間を仮定する。 しかし、現実世界のほとんどのデータにはラベル間の依存関係があり、階層構造を使ってキャプチャできることが多い。 この関係を利用することで、依存関係を満足し、モデルの正確性と解釈性を向上させることができるモデルの開発に役立つ。 さらに、階層の異なるレベルが異なる粒度に対応するため、各ラベルを等しくペナル化することはモデル学習に有害である。 本稿では,2つの特性を持つ損失関数,階層型カリキュラム損失を提案する。 (i)ラベル空間に存在する階層的な制約を満たすこと、 (ii)学習パラダイムによって暗黙的に学習された階層のレベルに基づいてラベルに非一様重みを与える。 理論上,提案する損失関数は,階層的制約を満たす他の損失関数と比較して,0-1 の狭い値であることを示す。 我々は実世界の画像データセット上で損失関数をテストし、複数のベースラインを大きく上回っていることを示す。

関連論文リスト

• Losses over Labels: Weakly Supervised Learning via Direct Loss Construction [71.11337906077483]
  プログラム可能な弱い監視は、機械学習のパラダイムとして成長している。 ラベルの中間ステップを経由することなく,直接損失を発生させるため,ラベルのロバスト・オーバー・ラベル(Losses over Labels, LoL)を提案する。 いくつかのベンチマークテキストおよび画像分類タスクにおいて、LoLは既存の弱い監督手法を改善していることを示す。
  論文  参考訳（メタデータ） (2022-12-13T22:29:14Z)
• Learning Hierarchy Aware Features for Reducing Mistake Severity [3.704832909610283]
  階層認識機能(HAF)を学習するための新しいアプローチを提案する。 HAFは、トップ1エラーを維持しながらミスを改善するトレーニングタイムアプローチであり、すべてのミスを平等に扱うクロスエントロピー損失の問題に対処する。 我々は,3つの階層的データセット上でHAFを評価し,iNaturalist-19およびCIFAR-100データセットの最先端結果を得た。
  論文  参考訳（メタデータ） (2022-07-26T04:24:47Z)
• Use All The Labels: A Hierarchical Multi-Label Contrastive Learning Framework [75.79736930414715]
  本稿では,すべての利用可能なラベルを活用でき,クラス間の階層的関係を維持できる階層型多言語表現学習フレームワークを提案する。 比較損失に階層的ペナルティを併用し,その階層的制約を強制する。
  論文  参考訳（メタデータ） (2022-04-27T21:41:44Z)
• Label Hierarchy Transition: Delving into Class Hierarchies to Enhance Deep Classifiers [40.993137740456014]
  本稿では,階層型分類の課題に対処するために,ディープラーニングに基づく統一確率的フレームワークを提案する。 提案するフレームワークは、わずかに修正するだけで、既存のディープネットワークに容易に適応できる。 提案するLHTフレームワークを皮膚病変診断タスクに拡張し,コンピュータ支援診断におけるその大きな可能性を検証した。
  論文  参考訳（メタデータ） (2021-12-04T14:58:36Z)
• Rank-based loss for learning hierarchical representations [7.421724671710886]
  機械学習では、"extra"情報を使用するメソッドのファミリーを階層分類(hierarchical classification)と呼ぶ。 ここでは、階層的関係を表す埋め込みを学習するために、問題の階層的情報を統合する方法に焦点を当てる。 ランクに基づく損失はデータの階層的表現を学習するのに適していることを示す。
  論文  参考訳（メタデータ） (2021-10-11T10:32:45Z)
• Hierarchical Proxy-based Loss for Deep Metric Learning [32.10423536428467]
  プロキシベースのメトリック学習の損失は、高速収束とトレーニングの複雑さが低いため、ペアベースの損失よりも優れている。 我々は,この暗黙の階層を,プロキシに階層構造を課すことで活用するフレームワークを提案する。 その結果、階層型プロキシベースの損失フレームワークは、既存のプロキシベースの損失のパフォーマンスを改善します。
  論文  参考訳（メタデータ） (2021-03-25T00:38:33Z)
• Learning by Minimizing the Sum of Ranked Range [58.24935359348289]
  本稿では,学習目標を定式化するための一般的なアプローチとして,ランキング範囲(SoRR)の和を紹介した。 ランク付き範囲は、実数の集合のソートされた値の連続的なシーケンスである。 我々は,SoRRフレームワークの最小化のための機械学習における2つの応用,すなわち,バイナリ分類のためのAoRR集約損失とマルチラベル/マルチクラス分類のためのTKML個人損失について検討する。
  論文  参考訳（メタデータ） (2020-10-05T01:58:32Z)
• Exploring the Hierarchy in Relation Labels for Scene Graph Generation [75.88758055269948]
  提案手法は,Recall@50において,複数の最先端ベースラインを大きなマージン(最大33%の相対利得)で改善することができる。 実験により,提案手法により,最先端のベースラインを大きなマージンで改善できることが示された。
  論文  参考訳（メタデータ） (2020-09-12T17:36:53Z)
• Self-Learning with Rectification Strategy for Human Parsing [73.06197841003048]
  擬似ラベルの2つの典型的な誤りを補正する訓練可能なグラフ推論法を提案する。 再構成された特徴は、人体のトポロジー構造を表現する能力が強い。 本手法は、教師付き人間の解析作業において、他の最先端手法よりも優れている。
  論文  参考訳（メタデータ） (2020-04-17T03:51:30Z)
• Structured Prediction with Partial Labelling through the Infimum Loss [85.4940853372503]
  弱い監督の目標は、収集コストの安いラベル付け形式のみを使用してモデルを学習できるようにすることである。 これは、各データポイントに対して、実際のものを含むラベルのセットとして、監督がキャストされる不完全なアノテーションの一種です。 本稿では、構造化された予測と、部分的なラベリングを扱うための無限損失の概念に基づく統一的なフレームワークを提供する。
  論文  参考訳（メタデータ） (2020-03-02T13:59:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。