論文の概要: Label Attention Network for sequential multi-label classification
- arxiv url: http://arxiv.org/abs/2303.00280v1
- Date: Wed, 1 Mar 2023 07:02:09 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-02 15:53:54.858913
- Title: Label Attention Network for sequential multi-label classification
- Title(参考訳): シーケンシャルマルチラベル分類のためのラベル注意ネットワーク
- Authors: Elizaveta Kovtun, Galina Boeva, Artem Zabolotnyi, Evgeny Burnaev,
Martin Spindler and Alexey Zaytsev
- Abstract要約: マルチラベル分類は、シーケンシャルデータに対する自然な問題ステートメントである。
予測ステップに先立ってラベルに自己注意機構を適用することを提案する。
- 参考スコア(独自算出の注目度): 10.915951588703303
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-label classification is a natural problem statement for sequential
data. We might be interested in the items of the next order by a customer, or
types of financial transactions that will occur tomorrow. Most modern
approaches focus on transformer architecture for multi-label classification,
introducing self-attention for the elements of a sequence with each element
being a multi-label vector and supplementary information. However, in this way
we loose local information related to interconnections between particular
labels. We propose instead to use a self-attention mechanism over labels
preceding the predicted step. Conducted experiments suggest that such
architecture improves the model performance and provides meaningful attention
between labels. The metric such as micro-AUC of our label attention network is
$0.9847$ compared to $0.7390$ for vanilla transformers benchmark.
- Abstract(参考訳): マルチラベル分類は、シーケンシャルデータに対する自然な問題ステートメントである。
私たちは、顧客による次の注文のアイテムや、明日起きる金融取引の種類に興味があるかもしれません。
現代のほとんどのアプローチは、マルチラベル分類のためのトランスフォーマーアーキテクチャに焦点を当て、各要素がマルチラベルベクトルおよび補足情報であるシーケンスの要素に対して自己アテンションを導入する。
しかし、この方法では、特定のラベル間の相互接続に関連するローカル情報を緩める。
予測ステップに先立ってラベルに自己注意機構を適用することを提案する。
実験によって、そのようなアーキテクチャはモデルの性能を改善し、ラベル間で有意義な注意を払うことが示唆される。
ラベルアテンションネットワークのmicro-AUCは0.9847ドル、バニラ変換器のベンチマークは0.7390ドルである。
関連論文リスト
- Exploring Structured Semantic Prior for Multi Label Recognition with
Incomplete Labels [60.675714333081466]
不完全なラベルを持つマルチラベル認識(MLR)は非常に難しい。
最近の研究は、視覚言語モデルであるCLIPにおける画像とラベルの対応を探り、不十分なアノテーションを補うことを目指している。
我々は,MLRにおけるラベル管理の欠如を,構造化されたセマンティクスを導出することにより,不完全なラベルで修復することを提唱する。
論文 参考訳(メタデータ) (2023-03-23T12:39:20Z) - Complementary to Multiple Labels: A Correlation-Aware Correction
Approach [65.59584909436259]
理論上, マルチクラスCLLにおける遷移行列が, 複数ラベルの場合どのように歪むかを示す。
候補ラベルから遷移行列を推定する2段階の手法を提案する。
論文 参考訳(メタデータ) (2023-02-25T04:48:48Z) - Group is better than individual: Exploiting Label Topologies and Label
Relations for Joint Multiple Intent Detection and Slot Filling [39.76268402567324]
我々は2種類のトポロジーを含む異種ラベルグラフ(HLG)を構築した。
ラベル相関を利用してセマンティック・ラベルの相互作用を強化する。
また,ラベルに依存しないデコード機構を提案し,デコードのためのラベル相関をさらに活用する。
論文 参考訳(メタデータ) (2022-10-19T08:21:43Z) - Large Loss Matters in Weakly Supervised Multi-Label Classification [50.262533546999045]
まず、観測されていないラベルを負のラベルとみなし、Wタスクをノイズの多いマルチラベル分類にキャストする。
ノイズラベルを記憶しないために,大規模な損失サンプルを拒絶または補正する新しいW法を提案する。
提案手法は, 弱教師付きマルチラベル分類において, 大きな損失を適切に処理することが重要であることを検証した。
論文 参考訳(メタデータ) (2022-06-08T08:30:24Z) - Enhancing Label Correlation Feedback in Multi-Label Text Classification
via Multi-Task Learning [6.1538971100140145]
ラベル相関フィードバックを高めるために,マルチタスク学習を用いた新しい手法を提案する。
本稿では,ラベル相関学習を強化するための2つの補助ラベル共起予測タスクを提案する。
論文 参考訳(メタデータ) (2021-06-06T12:26:14Z) - Group-aware Label Transfer for Domain Adaptive Person Re-identification [179.816105255584]
Unsupervised Adaptive Domain (UDA) Person Re-identification (ReID) は、ラベル付きソースドメインデータセットで訓練されたモデルを、さらなるアノテーションなしでターゲットドメインデータセットに適応することを目的としている。
最も成功したUDA-ReIDアプローチは、クラスタリングに基づく擬似ラベル予測と表現学習を組み合わせて、2つのステップを交互に実行する。
疑似ラベル予測と表現学習のオンラインインタラクションと相互促進を可能にするグループ認識ラベル転送(GLT)アルゴリズムを提案します。
論文 参考訳(メタデータ) (2021-03-23T07:57:39Z) - A Study on the Autoregressive and non-Autoregressive Multi-label
Learning [77.11075863067131]
本稿では,ラベルとラベルの依存関係を共同で抽出する自己アテンションに基づく変分エンコーダモデルを提案する。
したがって、ラベルラベルとラベル機能の両方の依存関係を保ちながら、すべてのラベルを並列に予測することができる。
論文 参考訳(メタデータ) (2020-12-03T05:41:44Z) - Multi-label Zero-shot Classification by Learning to Transfer from
External Knowledge [36.04579549557464]
マルチラベルゼロショット分類は、入力画像に対する複数の未知のクラスラベルを予測することを目的としている。
本稿では,外部知識の伝達を学習することで,新たなゼロショット分類フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-30T17:26:46Z) - Unsupervised Person Re-identification via Multi-label Classification [55.65870468861157]
本稿では,教師なしのReIDを多ラベル分類タスクとして定式化し,段階的に真のラベルを求める。
提案手法は,まず,各人物画像に単一クラスラベルを割り当てることから始まり,ラベル予測のために更新されたReIDモデルを活用することで,多ラベル分類へと進化する。
マルチラベル分類におけるReIDモデルのトレーニング効率を高めるために,メモリベースマルチラベル分類損失(MMCL)を提案する。
論文 参考訳(メタデータ) (2020-04-20T12:13:43Z) - Multi-Label Text Classification using Attention-based Graph Neural
Network [0.0]
ラベル間の注意的依存構造を捉えるために,グラフアテンションネットワークに基づくモデルを提案する。
提案モデルでは, 従来の最先端モデルと比較して, 類似あるいは良好な性能が得られた。
論文 参考訳(メタデータ) (2020-03-22T17:12:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。