論文の概要: Hierarchical Classification of Financial Transactions Through
Context-Fusion of Transformer-based Embeddings and Taxonomy-aware Attention
Layer
- arxiv url: http://arxiv.org/abs/2312.07730v1
- Date: Tue, 12 Dec 2023 20:51:41 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-14 17:20:10.854633
- Title: Hierarchical Classification of Financial Transactions Through
Context-Fusion of Transformer-based Embeddings and Taxonomy-aware Attention
Layer
- Title(参考訳): 変圧器を用いた埋め込みと分類対応アテンション層による金融取引の階層的分類
- Authors: Antonio J. G. Busson, Rafael Rocha, Rennan Gaio, Rafael Miceli, Ivan
Pereira, Daniel de S. Moraes, S\'ergio Colcher, Alvaro Veiga, Bruno Rizzi,
Francisco Evangelista, Leandro Santos, Fellipe Marques, Marcos Rabaioli,
Diego Feldberg, Debora Mattos, Jo\~ao Pasqua, Diogo Dias
- Abstract要約: Two-headed DragoNetは、金融取引の階層的マルチラベル分類のためのTransformerベースのモデルである。
提案手法は,マクロカテゴリー分類実験において,従来の機械学習手法よりも優れている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work proposes the Two-headed DragoNet, a Transformer-based model for
hierarchical multi-label classification of financial transactions. Our model is
based on a stack of Transformers encoder layers that generate contextual
embeddings from two short textual descriptors (merchant name and business
activity), followed by a Context Fusion layer and two output heads that
classify transactions according to a hierarchical two-level taxonomy (macro and
micro categories). Finally, our proposed Taxonomy-aware Attention Layer
corrects predictions that break categorical hierarchy rules defined in the
given taxonomy. Our proposal outperforms classical machine learning methods in
experiments of macro-category classification by achieving an F1-score of 93\%
on a card dataset and 95% on a current account dataset.
- Abstract(参考訳): 本研究は,金融取引の階層的マルチラベル分類のためのトランスフォーマーベースモデルであるTwo-headed DragoNetを提案する。
我々のモデルは,2つの短いテキスト記述子(商号と事業活動)からコンテキスト埋め込みを生成するトランスフォーマーエンコーダレイヤのスタックに基づいており,次いで,階層的な2段階の分類(マクロとマイクロカテゴリ)に従ってトランザクションを分類するContext Fusionレイヤと2つの出力ヘッドが続く。
最後に,提案した分類学対応注意層は,与えられた分類学で定義された分類階層規則を破る予測を補正する。
提案手法は,F1スコアをカードデータセットで93 %,現在のアカウントデータセットで95%,マクロカテゴリ分類実験において,従来の機械学習手法よりも優れていた。
関連論文リスト
- Hierarchical Query Classification in E-commerce Search [38.67034103433015]
電子商取引プラットフォームは通常、製品情報と検索データを階層構造に保存し、構造化する。
ユーザ検索クエリを同様の階層構造に効果的に分類することは,eコマースプラットフォーム上でのユーザエクスペリエンスの向上,ニュースキュレーションや学術研究において最重要である。
階層的問合せ分類の本質的な複雑さは,(1)支配的カテゴリに傾倒する顕著なクラス不均衡,(2)正確な分類を妨げる検索クエリの本質的簡潔さとあいまいさの2つの課題によって複雑化されている。
論文 参考訳(メタデータ) (2024-03-09T21:55:55Z) - Using Zero-shot Prompting in the Automatic Creation and Expansion of
Topic Taxonomies for Tagging Retail Banking Transactions [0.0]
本研究は、命令ベース微調整LDMを用いたトピックの構築と拡張のための教師なし手法を提案する(大規模言語モデル)。
既存の分類を新しい用語で拡張するために、ゼロショットプロンプトを使用して、新しいノードを追加する場所を見つける。
得られたタグを使って、小売銀行のデータセットから商人を特徴づけるタグを割り当てます。
論文 参考訳(メタデータ) (2024-01-08T00:27:16Z) - TaxoKnow: Taxonomy as Prior Knowledge in the Loss Function of
Multi-class Classification [1.130757825611188]
本稿では,学習アルゴリズムの損失関数に,階層型分類を明示的正規化器として統合する2つの方法を紹介する。
階層的な分類法により、ニューラルネットワークはクラス上の出力分布を緩和し、少数クラスの上位概念を条件付けする。
論文 参考訳(メタデータ) (2023-05-24T08:08:56Z) - Weakly-supervised Action Localization via Hierarchical Mining [76.00021423700497]
弱教師付きアクションローカライゼーションは、ビデオレベルの分類ラベルだけで、与えられたビデオ内のアクションインスタンスを時間的にローカライズし、分類することを目的としている。
ビデオレベルおよびスニペットレベルでの階層的マイニング戦略,すなわち階層的監視と階層的一貫性マイニングを提案する。
我々は、HiM-NetがTHUMOS14とActivityNet1.3データセットの既存の手法よりも、階層的に監督と一貫性をマイニングすることで、大きなマージンを持つことを示す。
論文 参考訳(メタデータ) (2022-06-22T12:19:09Z) - HFT-ONLSTM: Hierarchical and Fine-Tuning Multi-label Text Classification [7.176984223240199]
階層型マルチラベルテキスト分類(HMTC)は,近縁なカテゴリの大規模集合よりも高精度である。
本稿では,HFT-ONLSTMと略される順序付きニューラルLSTMニューラルネットワークをベースとした階層的・微調整手法を提案し,より正確なレベル・バイ・レベルHMTCを提案する。
論文 参考訳(メタデータ) (2022-04-18T00:57:46Z) - TaxoCom: Topic Taxonomy Completion with Hierarchical Discovery of Novel
Topic Clusters [57.59286394188025]
我々はTaxoComというトピック分類の完成のための新しい枠組みを提案する。
TaxoComは、用語と文書の新たなサブトピッククラスタを発見する。
2つの実世界のデータセットに関する包括的実験により、TaxoComは、用語の一貫性とトピックカバレッジの観点から、高品質なトピック分類を生成するだけでなく、高品質なトピック分類を生成することを実証した。
論文 参考訳(メタデータ) (2022-01-18T07:07:38Z) - CoPHE: A Count-Preserving Hierarchical Evaluation Metric in Large-Scale
Multi-Label Text Classification [70.554573538777]
ニューラルLMTCモデルの予測の階層的評価について論じる。
先行技術における構造化ラベル空間の表現における構造的問題について述べる。
深度に基づく表現を用いた階層的評価のための指標セットを提案する。
論文 参考訳(メタデータ) (2021-09-10T13:09:12Z) - Inducing a hierarchy for multi-class classification problems [11.58041597483471]
分類的ラベルが自然な階層に従ったアプリケーションでは、ラベル構造を利用する分類方法は、そうでないものをしばしば上回る。
本稿では,フラット分類器に対する分類性能を向上できる階層構造を誘導する手法のクラスについて検討する。
原理シミュレーションと3つの実データアプリケーションにおいて、潜入階層の発見と精度向上のためのメソッドのクラスの有効性を実証する。
論文 参考訳(メタデータ) (2021-02-20T05:40:42Z) - An Empirical Study on Large-Scale Multi-Label Text Classification
Including Few and Zero-Shot Labels [49.036212158261215]
大規模なMulti-label Text Classification (LMTC) は、幅広い自然言語処理 (NLP) アプリケーションを持つ。
Label-Wise Attention Networks (LWANs) を用いた最新のLMTCモデル
確率的ラベル木(PLT)に基づく階層的手法がLWANより優れていることを示す。
BERTとLWANを組み合わせた最先端手法を提案する。
論文 参考訳(メタデータ) (2020-10-04T18:55:47Z) - Equivalent Classification Mapping for Weakly Supervised Temporal Action
Localization [92.58946210982411]
微弱に監督された時間的行動の局所化は近年、新しく広く研究されているトピックである。
事前分類パイプラインは、まず、各ビデオスニペットの分類を行い、次いで、スニペットレベルの分類スコアを集約して、ビデオレベルの分類スコアを得る。
後分類パイプラインは、まずスニペットレベルの特徴を集約し、集約された特徴に基づいてビデオレベルの分類スコアを予測する。
論文 参考訳(メタデータ) (2020-08-18T03:54:56Z) - Octet: Online Catalog Taxonomy Enrichment with Self-Supervision [67.26804972901952]
オンラインカタログエンリッチメンTのための自己教師型エンドツーエンドフレームワークOctopを提案する。
本稿では,用語抽出のためのシーケンスラベリングモデルをトレーニングし,分類構造を捉えるためにグラフニューラルネットワーク(GNN)を用いることを提案する。
Octetは、オンラインカタログを、オープンワールド評価の2倍に強化する。
論文 参考訳(メタデータ) (2020-06-18T04:53:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。