論文の概要: Online Metric Learning for Multi-Label Classification
- arxiv url: http://arxiv.org/abs/2006.07092v1
- Date: Fri, 12 Jun 2020 11:33:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-22 02:50:42.139235
- Title: Online Metric Learning for Multi-Label Classification
- Title(参考訳): 複数ラベル分類のためのオンラインメトリック学習
- Authors: Xiuwen Gong, Jiahui Yang, Dong Yuan, Wei Bao
- Abstract要約: マルチラベル分類のための新しいオンラインメトリック学習パラダイムを提案する。
我々はまず,$k$-Nearest Neighbour(k$NN)に基づくマルチラベル分類のための新しい指標を提案する。
- 参考スコア(独自算出の注目度): 22.484707213499714
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Existing research into online multi-label classification, such as online
sequential multi-label extreme learning machine (OSML-ELM) and stochastic
gradient descent (SGD), has achieved promising performance. However, these
works do not take label dependencies into consideration and lack a theoretical
analysis of loss functions. Accordingly, we propose a novel online metric
learning paradigm for multi-label classification to fill the current research
gap. Generally, we first propose a new metric for multi-label classification
which is based on $k$-Nearest Neighbour ($k$NN) and combined with large margin
principle. Then, we adapt it to the online settting to derive our model which
deals with massive volume ofstreaming data at a higher speed online.
Specifically, in order to learn the new $k$NN-based metric, we first project
instances in the training dataset into the label space, which make it possible
for the comparisons of instances and labels in the same dimension. After that,
we project both of them into a new lower dimension space simultaneously, which
enables us to extract the structure of dependencies between instances and
labels. Finally, we leverage the large margin and $k$NN principle to learn the
metric with an efficient optimization algorithm. Moreover, we provide
theoretical analysis on the upper bound of the cumulative loss for our method.
Comprehensive experiments on a number of benchmark multi-label datasets
validate our theoretical approach and illustrate that our proposed online
metric learning (OML) algorithm outperforms state-of-the-art methods.
- Abstract(参考訳): オンライン・シーケンシャル・マルチラベル・エクストリーム・ラーニング・マシン(OSML-ELM)や確率勾配降下(SGD)といったオンライン・マルチラベル分類の研究は、有望な性能を達成した。
しかし、これらの研究はラベル依存を考慮に入れず、損失関数の理論解析を欠いている。
そこで本稿では,現在の研究ギャップを埋めるために,多ラベル分類のための新しいオンラインメトリック学習パラダイムを提案する。
一般に、我々はまず、$k$-Nearest Neighbour(k$NN)に基づいて、大きなマージン原理と組み合わせたマルチラベル分類のための新しい指標を提案する。
そして、オンラインのセッティングに適応して、オンラインの高速で大量のデータストリーミングを扱う私たちのモデルを導出します。
具体的には、新しい$k$NNベースのメトリクスを学ぶために、トレーニングデータセットのインスタンスをラベル空間に最初にプロジェクトし、同じ次元のインスタンスとラベルの比較を可能にする。
その後、両方を同時に新しい低次元空間に投影し、インスタンスとラベル間の依存関係の構造を抽出することができます。
最後に,パラメータを最適化アルゴリズムで学習するために,大きなマージンと$k$NNの原理を利用する。
さらに,本手法の累積損失上限に関する理論的解析を行った。
複数のベンチマークのマルチラベルデータセットに関する総合的な実験は、我々の理論的アプローチを検証し、提案したオンラインメトリックラーニング(OML)アルゴリズムが最先端の手法より優れていることを示す。
関連論文リスト
- Dual-Decoupling Learning and Metric-Adaptive Thresholding for Semi-Supervised Multi-Label Learning [81.83013974171364]
半教師付きマルチラベル学習(SSMLL)は、正確なマルチラベルアノテーションを収集するコストを削減するために、ラベルのないデータを活用する強力なフレームワークである。
半教師付き学習とは異なり、インスタンスに含まれる複数のセマンティクスのため、SSMLLの擬似ラベルとして最も確率の高いラベルを選択することはできない。
本稿では,高品質な擬似ラベルを生成するための二重パースペクティブ手法を提案する。
論文 参考訳(メタデータ) (2024-07-26T09:33:53Z) - Minimally Supervised Learning using Topological Projections in
Self-Organizing Maps [55.31182147885694]
自己組織化マップ(SOM)におけるトポロジカルプロジェクションに基づく半教師付き学習手法を提案する。
提案手法は,まずラベル付きデータ上でSOMを訓練し,最小限のラベル付きデータポイントをキーベストマッチングユニット(BMU)に割り当てる。
提案した最小教師付きモデルが従来の回帰手法を大幅に上回ることを示す。
論文 参考訳(メタデータ) (2024-01-12T22:51:48Z) - Compare learning: bi-attention network for few-shot learning [6.559037166322981]
距離学習と呼ばれる数ショットの学習手法の1つは、画像のペアが同じカテゴリに属しているかどうかを判断するために、まず遠距離計量を学習することで、この課題に対処する。
本稿では, インスタンスの埋め込みの類似性を正確に, グローバルかつ効率的に測定できる, Bi-attention Network という新しい手法を提案する。
論文 参考訳(メタデータ) (2022-03-25T07:39:10Z) - Adaptive label thresholding methods for online multi-label
classification [4.028101568570768]
既存のオンラインマルチラベル分類作業は、オンラインラベルのしきい値設定問題に対処できない。
本稿では,オンラインマルチラベル分類のための適応ラベル閾値アルゴリズムの新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2021-12-04T10:34:09Z) - Fewer is More: A Deep Graph Metric Learning Perspective Using Fewer
Proxies [65.92826041406802]
本稿では,グラフ分類の観点から,プロキシベースのディープグラフメトリックラーニング手法を提案する。
複数のグローバルプロキシを利用して、各クラスの元のデータポイントを総括的に近似する。
本研究では, 近接関係を接地トラス・ラベルに従って調整する, 新たな逆ラベル伝搬アルゴリズムを設計する。
論文 参考訳(メタデータ) (2020-10-26T14:52:42Z) - Positive semidefinite support vector regression metric learning [0.0]
これらのシナリオにおけるメートル法学習問題に対処するためにRAMLフレームワークが提案されている。
計量学習に必要な正の半定距離メートル法を学習することはできない。
弱さを克服するために2つのメソドを提案する。
論文 参考訳(メタデータ) (2020-08-18T04:45:59Z) - Semi-Supervised Learning with Meta-Gradient [123.26748223837802]
半教師付き学習における簡単なメタ学習アルゴリズムを提案する。
その結果,提案アルゴリズムは最先端の手法に対して良好に動作することがわかった。
論文 参考訳(メタデータ) (2020-07-08T08:48:56Z) - Progressive Identification of True Labels for Partial-Label Learning [112.94467491335611]
部分ラベル学習(Partial-label Learning, PLL)は、典型的な弱教師付き学習問題であり、各トレーニングインスタンスには、真のラベルである候補ラベルのセットが設けられている。
既存のほとんどの手法は、特定の方法で解決しなければならない制約付き最適化として精巧に設計されており、計算複雑性をビッグデータにスケールアップするボトルネックにしている。
本稿では,モデルと最適化アルゴリズムの柔軟性を備えた分類器の新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2020-02-19T08:35:15Z) - A Multilayer Framework for Online Metric Learning [71.31889711244739]
本稿では,インスタンス間の非線形類似性を捉えるために,オンラインメトリック学習のための多層フレームワークを提案する。
マハラノビスをベースとした新しいオンラインメトリックラーニング(MOML)アルゴリズムは、受動攻撃戦略とワンパス三重項構築戦略に基づいて提案される。
提案したMLOMLは、いくつかの優れた特性を享受し、実際にメトリクスを漸進的に学習し、ベンチマークデータセットでより良いパフォーマンスを発揮する。
論文 参考訳(メタデータ) (2018-05-15T01:10:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。