論文の概要: LA-HCN: Label-based Attention for Hierarchical Multi-label
TextClassification Neural Network
- arxiv url: http://arxiv.org/abs/2009.10938v3
- Date: Sat, 10 Apr 2021 12:20:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-15 15:16:20.929894
- Title: LA-HCN: Label-based Attention for Hierarchical Multi-label
TextClassification Neural Network
- Title(参考訳): LA-HCN:階層型多ラベルテキスト分類ニューラルネットワークにおけるラベルに基づく注意
- Authors: Xinyi Zhang and Jiahao Xu and Charlie Soh and Lihui Chen
- Abstract要約: 階層型Mutlti-label Text Classification Neural Network (LA-HCN) のためのラベルベースアテンションを提案する。
LA-HCNは、異なる階層レベルからラベルに基づいて、テキストから重要な情報を階層的に抽出するように設計されている。
個別の局所的およびグローバルな文書埋め込みが得られ、各局所的およびグローバルな分類を容易にするために使用される。
- 参考スコア(独自算出の注目度): 16.12197413284402
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Hierarchical multi-label text classification (HMTC) has been gaining
popularity in recent years thanks to its applicability to a plethora of
real-world applications. The existing HMTC algorithms largely focus on the
design of classifiers, such as the local, global, or a combination of them.
However, very few studies have focused on hierarchical feature extraction and
explore the association between the hierarchical labels and the text. In this
paper, we propose a Label-based Attention for Hierarchical Mutlti-label Text
Classification Neural Network (LA-HCN), where the novel label-based attention
module is designed to hierarchically extract important information from the
text based on the labels from different hierarchy levels. Besides, hierarchical
information is shared across levels while preserving the hierarchical
label-based information. Separate local and global document embeddings are
obtained and used to facilitate the respective local and global
classifications. In our experiments, LA-HCN outperforms other state-of-the-art
neural network-based HMTC algorithms on four public HMTC datasets. The ablation
study also demonstrates the effectiveness of the proposed label-based attention
module as well as the novel local and global embeddings and classifications. By
visualizing the learned attention (words), we find that LA-HCN is able to
extract meaningful information corresponding to the different labels which
provides explainability that may be helpful for the human analyst.
- Abstract(参考訳): 階層型マルチラベルテキスト分類 (HMTC) は, 多数の実世界のアプリケーションに適用可能であることから近年普及している。
既存のHMTCアルゴリズムは主に、ローカル、グローバル、またはそれらの組み合わせのような分類器の設計に焦点を当てている。
しかし,階層的特徴抽出に焦点をあてた研究は少なく,階層的ラベルとテキストの関係を探究している。
本稿では,階層的メタルティラベル・テキスト分類ニューラルネットワーク(la-hcn)のためのラベルベース・アテンションを提案し,新しいラベルベースのアテンションモジュールを用いて,異なる階層レベルのラベルに基づいて,テキストから重要な情報を階層的に抽出する。
さらに階層的な情報は階層的なラベルベースの情報を保持しながらレベル間で共有される。
個別のローカルおよびグローバルな文書埋め込みが得られ、各ローカルおよびグローバルな分類を容易にするために使用される。
我々の実験では、LA-HCNは4つの公開HMTCデータセット上で、最先端のニューラルネットワークベースのHMTCアルゴリズムより優れています。
アブレーション研究では,ラベルに基づくアテンションモジュールの有効性と,新たな局所的およびグローバルな埋め込みと分類の有効性も示した。
学習された注意(単語)を視覚化することで、la-hcnは異なるラベルに対応する有意義な情報を抽出でき、人間の分析に役に立つかもしれない説明可能性を提供する。
関連論文リスト
- Text2Tree: Aligning Text Representation to the Label Tree Hierarchy for
Imbalanced Medical Classification [9.391704905671476]
本稿では、医療用テキストにおけるデータ課題を再考し、Text2Treeと呼ばれるフレームワークに依存しない新しいアルゴリズムを提案する。
ラベルのICDコードツリー構造をカスケードアテンションモジュールに組み込んで階層型ラベル表現を学習する。
異なるラベルのサンプルを再利用・識別することでテキスト分類を向上させるために,2つの新しい学習手法であるSimisity Surrogate Learning (SSL) とDissimilarity Mixup Learning (DML) が考案された。
論文 参考訳(メタデータ) (2023-11-28T10:02:08Z) - Description-Enhanced Label Embedding Contrastive Learning for Text
Classification [65.01077813330559]
モデル学習プロセスにおける自己監督型学習(SSL)と新しい自己監督型関係関係(R2)分類タスクの設計
テキスト分類とR2分類を最適化対象として扱うテキスト分類のための関係学習ネットワーク(R2-Net)の関係について検討する。
ラベルセマンティックラーニングのためのマルチアスペクト記述を得るためのWordNetからの外部知識。
論文 参考訳(メタデータ) (2023-06-15T02:19:34Z) - SEAL: Simultaneous Label Hierarchy Exploration And Learning [9.701914280306118]
本稿では,従来の階層構造に従う潜在ラベルでラベルを増大させることにより,ラベル階層を探索する新しいフレームワークを提案する。
本手法では,木間距離空間上の1-ワッサーシュタイン計量を客観的関数として用いて,データ駆動型ラベル階層を同時に学習し,半教師付き学習を行う。
論文 参考訳(メタデータ) (2023-04-26T08:31:59Z) - Exploiting Global and Local Hierarchies for Hierarchical Text
Classification [34.624922210257125]
既存の手法は、ラベル階層を全てのラベルを含む静的階層構造として扱うグローバルビューでラベル階層をエンコードする。
我々は,グローバル階層とローカル階層の両方をモデル化するために,グローバル階層とローカル階層(HBGL)を用いた階層誘導BERTを提案する。
提案手法は,最先端のHGCLRと比較して,3つのベンチマークデータセットにおいて大幅な改善を実現している。
論文 参考訳(メタデータ) (2022-05-05T12:48:41Z) - Deep Hierarchical Semantic Segmentation [76.40565872257709]
階層的セマンティックセマンティックセグメンテーション(HSS)は、クラス階層の観点で視覚的観察を構造化、ピクセル単位で記述することを目的としている。
HSSNは、HSSを画素単位のマルチラベル分類タスクとしてキャストし、現在のセグメンテーションモデルに最小限のアーキテクチャ変更をもたらすだけである。
階層構造によって引き起こされるマージンの制約により、HSSNはピクセル埋め込み空間を再評価し、よく構造化されたピクセル表現を生成する。
論文 参考訳(メタデータ) (2022-03-27T15:47:44Z) - MATCH: Metadata-Aware Text Classification in A Large Hierarchy [60.59183151617578]
MATCHはメタデータと階層情報の両方を利用するエンドツーエンドのフレームワークである。
親による各子ラベルのパラメータと出力確率を正規化するさまざまな方法を提案します。
大規模なラベル階層を持つ2つの大規模なテキストデータセットの実験は、MATCHの有効性を示しています。
論文 参考訳(メタデータ) (2021-02-15T05:23:08Z) - An Empirical Study on Large-Scale Multi-Label Text Classification
Including Few and Zero-Shot Labels [49.036212158261215]
大規模なMulti-label Text Classification (LMTC) は、幅広い自然言語処理 (NLP) アプリケーションを持つ。
Label-Wise Attention Networks (LWANs) を用いた最新のLMTCモデル
確率的ラベル木(PLT)に基づく階層的手法がLWANより優れていることを示す。
BERTとLWANを組み合わせた最先端手法を提案する。
論文 参考訳(メタデータ) (2020-10-04T18:55:47Z) - Knowledge-Guided Multi-Label Few-Shot Learning for General Image
Recognition [75.44233392355711]
KGGRフレームワークは、ディープニューラルネットワークと統計ラベル相関の事前知識を利用する。
まず、統計ラベルの共起に基づいて異なるラベルを相関させる構造化知識グラフを構築する。
次に、ラベルセマンティクスを導入し、学習セマンティクス固有の特徴をガイドする。
グラフノードの相互作用を探索するためにグラフ伝搬ネットワークを利用する。
論文 参考訳(メタデータ) (2020-09-20T15:05:29Z) - Multi-Level Graph Convolutional Network with Automatic Graph Learning
for Hyperspectral Image Classification [63.56018768401328]
HSI分類のための自動グラフ学習法(MGCN-AGL)を用いたマルチレベルグラフ畳み込みネットワーク(GCN)を提案する。
空間的に隣接する領域における重要度を特徴付けるために注意機構を利用することで、最も関連性の高い情報を適応的に組み込んで意思決定を行うことができる。
MGCN-AGLは局所的に生成した表現表現に基づいて画像領域間の長距離依存性を符号化する。
論文 参考訳(メタデータ) (2020-09-19T09:26:20Z) - Joint Embedding of Words and Category Labels for Hierarchical
Multi-label Text Classification [4.2750700546937335]
階層的テキスト分類(HTC)は広く注目されており、幅広い応用の見通しがある。
本稿では,HTC の階層的微調整順序ニューロン LSTM (HFT-ONLSTM) に基づくテキストと親カテゴリの結合埋め込みを提案する。
論文 参考訳(メタデータ) (2020-04-06T11:06:08Z) - An Ontology-Aware Framework for Audio Event Classification [19.11706899266862]
近年の音声イベント分類の進歩は、先行情報として利用可能なラベルクラスの構造と関係を無視していることが多い。
フィードフォワードオントロジー層とグラフ畳み込みネットワーク(GCN)の2つのコンポーネントを含むオントロジー対応ニューラルネットワークを提案する。
このフレームワークは、シングルラベルとマルチラベルオーディオイベント分類タスクのための2つのベンチマークデータセットで評価される。
論文 参考訳(メタデータ) (2020-01-27T20:07:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。