論文の概要: Hybrid Losses for Hierarchical Embedding Learning
- arxiv url: http://arxiv.org/abs/2501.12796v1
- Date: Wed, 22 Jan 2025 10:58:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-23 13:29:58.252826
- Title: Hybrid Losses for Hierarchical Embedding Learning
- Title(参考訳): 階層型埋め込み学習のためのハイブリッド損失
- Authors: Haokun Tian, Stefan Lattner, Brian McFee, Charalampos Saitis,
- Abstract要約: マルチタスク学習フレームワークにおいて,一般化三重項やクロスエントロピー損失などのハイブリッド損失について検討する。
従来の分類, 検索, 組込み空間構造, 一般化において, 提案されたハイブリッド損失は, 従来よりも優れていたことが実証された。
- 参考スコア(独自算出の注目度): 4.2525210928495625
- License:
- Abstract: In traditional supervised learning, the cross-entropy loss treats all incorrect predictions equally, ignoring the relevance or proximity of wrong labels to the correct answer. By leveraging a tree hierarchy for fine-grained labels, we investigate hybrid losses, such as generalised triplet and cross-entropy losses, to enforce similarity between labels within a multi-task learning framework. We propose metrics to evaluate the embedding space structure and assess the model's ability to generalise to unseen classes, that is, to infer similar classes for data belonging to unseen categories. Our experiments on OrchideaSOL, a four-level hierarchical instrument sound dataset with nearly 200 detailed categories, demonstrate that the proposed hybrid losses outperform previous works in classification, retrieval, embedding space structure, and generalisation.
- Abstract(参考訳): 従来の教師付き学習では、クロスエントロピー損失はすべての誤った予測を平等に扱い、間違ったラベルの正解との関連性や近接性を無視する。
木階層を細粒度ラベルに活用することにより、一般化三重項やクロスエントロピー損失などのハイブリッド損失を調査し、マルチタスク学習フレームワーク内でラベル間の類似性を強制する。
本研究では、埋め込み空間構造の評価と、モデルが未確認のクラス、すなわち、未確認のカテゴリに属するデータに対して類似したクラスを推論する能力を評価するためのメトリクスを提案する。
約200の詳細なカテゴリを持つ4段階階層型楽器音響データセットOrchideaSOLに関する実験により,提案したハイブリッド損失が,従来の分類,検索,埋め込み空間構造,一般化よりも優れていたことを示す。
関連論文リスト
- Harnessing Superclasses for Learning from Hierarchical Databases [1.835004446596942]
多くの大規模分類問題において、クラスは既知の階層に整理され、通常木として表される。
この種の教師付き階層分類の損失について紹介する。
提案手法では,クロスエントロピーの損失に比較して,計算コストの大幅な増大は伴わない。
論文 参考訳(メタデータ) (2024-11-25T14:39:52Z) - Balanced Classification: A Unified Framework for Long-Tailed Object
Detection [74.94216414011326]
従来の検出器は、分類バイアスによる長期データを扱う際の性能劣化に悩まされる。
本稿では,カテゴリ分布の格差に起因する不平等の適応的是正を可能にする,BAlanced CLassification (BACL) と呼ばれる統一フレームワークを提案する。
BACLは、さまざまなバックボーンとアーキテクチャを持つさまざまなデータセット間で、一貫してパフォーマンス改善を実現している。
論文 参考訳(メタデータ) (2023-08-04T09:11:07Z) - Hierarchical confusion matrix for classification performance evaluation [0.0]
階層的混乱行列の概念を開発し、階層的分類問題にその適用性を証明する。
我々は,3つの実世界の階層的分類のベンチマークにおけるモデルを評価するために,新しい混乱行列に基づく測度を用いる。
その結果、このアプローチの理性とその階層的分類問題を評価するための有用性について概説した。
論文 参考訳(メタデータ) (2023-06-15T19:31:59Z) - Weakly-supervised Action Localization via Hierarchical Mining [76.00021423700497]
弱教師付きアクションローカライゼーションは、ビデオレベルの分類ラベルだけで、与えられたビデオ内のアクションインスタンスを時間的にローカライズし、分類することを目的としている。
ビデオレベルおよびスニペットレベルでの階層的マイニング戦略,すなわち階層的監視と階層的一貫性マイニングを提案する。
我々は、HiM-NetがTHUMOS14とActivityNet1.3データセットの既存の手法よりも、階層的に監督と一貫性をマイニングすることで、大きなマージンを持つことを示す。
論文 参考訳(メタデータ) (2022-06-22T12:19:09Z) - Use All The Labels: A Hierarchical Multi-Label Contrastive Learning
Framework [75.79736930414715]
本稿では,すべての利用可能なラベルを活用でき,クラス間の階層的関係を維持できる階層型多言語表現学習フレームワークを提案する。
比較損失に階層的ペナルティを併用し,その階層的制約を強制する。
論文 参考訳(メタデータ) (2022-04-27T21:41:44Z) - Resolving label uncertainty with implicit posterior models [71.62113762278963]
本稿では,データサンプルのコレクション間でラベルを共同で推論する手法を提案する。
異なる予測子を後部とする生成モデルの存在を暗黙的に仮定することにより、弱い信念の下での学習を可能にする訓練目標を導出する。
論文 参考訳(メタデータ) (2022-02-28T18:09:44Z) - Inducing a hierarchy for multi-class classification problems [11.58041597483471]
分類的ラベルが自然な階層に従ったアプリケーションでは、ラベル構造を利用する分類方法は、そうでないものをしばしば上回る。
本稿では,フラット分類器に対する分類性能を向上できる階層構造を誘導する手法のクラスについて検討する。
原理シミュレーションと3つの実データアプリケーションにおいて、潜入階層の発見と精度向上のためのメソッドのクラスの有効性を実証する。
論文 参考訳(メタデータ) (2021-02-20T05:40:42Z) - Revisiting LSTM Networks for Semi-Supervised Text Classification via
Mixed Objective Function [106.69643619725652]
我々は,単純なBiLSTMモデルであっても,クロスエントロピー損失でトレーニングした場合に,競争的な結果が得られるようなトレーニング戦略を開発する。
いくつかのベンチマークデータセット上で,テキスト分類タスクの最先端結果について報告する。
論文 参考訳(メタデータ) (2020-09-08T21:55:22Z) - Rethinking preventing class-collapsing in metric learning with
margin-based losses [81.22825616879936]
メトリクス学習は、視覚的に類似したインスタンスが近接し、異なるインスタンスが分離した埋め込みを求める。
マージンベースの損失は、クラスの全サンプルを埋め込み空間の単一点に投影する傾向がある。
そこで本研究では,各サンプルが最寄りの同一クラスをバッチで選択するように,埋め込み損失の簡易な修正を提案する。
論文 参考訳(メタデータ) (2020-06-09T09:59:25Z) - Hierarchical Class-Based Curriculum Loss [18.941207332233805]
ほとんどの実世界のデータにはラベル間の依存関係があり、階層構造を使ってキャプチャできる。
i) ラベル空間に存在する階層的制約を満たすことと, (ii) 階層のレベルに基づいてラベルに一様でない重みを与えるという2つの特性を持つ損失関数, 階層的カリキュラム損失を提案する。
論文 参考訳(メタデータ) (2020-06-05T18:48:57Z) - Hierarchical Entity Typing via Multi-level Learning to Rank [38.509244927293715]
本稿では,学習と予測の両方において,存在論的構造を取り入れた階層的実体分類手法を提案する。
また,本学習では,正の正の正の型と正の正の正の型を比較した。
予測中、既に予測されている親タイプに基づいて、オントロジーの各レベルで実行可能な候補を制限する粗大なデコーダを定義する。
論文 参考訳(メタデータ) (2020-04-05T19:27:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。