論文の概要: Enhancing Pashto Text Classification using Language Processing
Techniques for Single And Multi-Label Analysis
- arxiv url: http://arxiv.org/abs/2305.03201v1
- Date: Thu, 4 May 2023 23:11:31 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-08 15:58:16.669151
- Title: Enhancing Pashto Text Classification using Language Processing
Techniques for Single And Multi-Label Analysis
- Title（参考訳）: 単一・複数ラベル解析のための言語処理技術を用いたパシュトテキスト分類の強化
- Authors: Mursal Dawodi and Jawid Ahmad Baktash
- Abstract要約: 本研究では,Pashtoテキストの自動分類システムの構築を目的とする。
平均テスト精度は94%だった。
DistilBERTのような事前訓練された言語表現モデルの使用は、有望な結果を示した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Text classification has become a crucial task in various fields, leading to a
significant amount of research on developing automated text classification
systems for national and international languages. However, there is a growing
need for automated text classification systems that can handle local languages.
This study aims to establish an automated classification system for Pashto
text. To achieve this goal, we constructed a dataset of Pashto documents and
applied various models, including statistical and neural machine learning
models such as DistilBERT-base-multilingual-cased, Multilayer Perceptron,
Support Vector Machine, K Nearest Neighbor, decision tree, Gaussian na\"ive
Bayes, multinomial na\"ive Bayes, random forest, and logistic regression, to
identify the most effective approach. We also evaluated two different feature
extraction methods, bag of words and Term Frequency Inverse Document Frequency.
The study achieved an average testing accuracy rate of 94% using the MLP
classification algorithm and TFIDF feature extraction method in single-label
multiclass classification. Similarly, MLP+TFIDF yielded the best results, with
an F1-measure of 0.81. Furthermore, the use of pre-trained language
representation models, such as DistilBERT, showed promising results for Pashto
text classification; however, the study highlights the importance of developing
a specific tokenizer for a particular language to achieve reasonable results.
- Abstract（参考訳）: テキスト分類は様々な分野において重要な課題となり、国語・国際言語の自動テキスト分類システムの開発に多大な研究が加えられている。
しかし、ローカル言語を処理できる自動テキスト分類システムの必要性が高まっている。
本研究の目的は,パシュトテキストの自動分類システムの構築である。
この目的を達成するため、我々はPashto文書のデータセットを構築し、DisttilBERT-base-multilingual-cased, Multilayer Perceptron, Support Vector Machine, K Nearest Neighbor, decision tree, Gaussian na\"ive Bayes, multinomial na\"ive Bayes, random forest, logistic regressionなどの統計およびニューラルネットワークモデルを適用し、最も効果的なアプローチを特定した。
また, 2つの特徴抽出法, 単語の袋, 項頻度逆文書の頻度を評価した。
本研究は,mlp分類法とtfidf特徴抽出法を用いて,単層マルチクラス分類において平均試験精度94%を達成した。
同様に、MLP+TFIDFはF1測定値0.81で最良の結果を得た。
さらに、DistilBERTなどの事前学習言語表現モデルを使用することで、Pashtoテキスト分類に有望な結果が得られたが、本研究では、妥当な結果を得るために特定の言語に対して特定のトークン化ツールを開発することの重要性を強調した。
関連論文リスト
- Language Models for Text Classification: Is In-Context Learning Enough? [54.869097980761595]
最近の基礎言語モデルでは、ゼロショットや少数ショットの設定で多くのNLPタスクで最先端のパフォーマンスが示されている。
より標準的なアプローチよりもこれらのモデルの利点は、自然言語(prompts)で書かれた命令を理解する能力である。
これにより、アノテーション付きインスタンスが限られているドメインのテキスト分類問題に対処するのに適している。
論文 参考訳（メタデータ） (2024-03-26T12:47:39Z) - KInIT at SemEval-2024 Task 8: Fine-tuned LLMs for Multilingual Machine-Generated Text Detection [0.0]
SemEval-2024 Task 8は、マルチジェネレータ、マルチドメイン、マルチランガルブラックボックスマシン生成テキスト検出に重点を置いている。
提案手法は,第4位にランクインし,勝者のわずか1ポイント未満の競争結果を得た。
論文 参考訳（メタデータ） (2024-02-21T10:09:56Z) - A Comparative Study on TF-IDF feature Weighting Method and its Analysis
using Unstructured Dataset [0.5156484100374058]
用語周波数-逆文書周波数(TF-IDF)と自然言語処理(NLP)は、テキスト分類において最もよく用いられる情報検索手法である。
本研究では,非構造化データのテキスト分類における特徴重み付け手法の検討と解析を行った。
提案モデルは、IMDB映画レビューにおけるN-GramsとTF-IDFと、感情分析のためのAmazon Alexaレビューデータセットの2つの特徴を検討した。
論文 参考訳（メタデータ） (2023-08-08T04:27:34Z) - T3L: Translate-and-Test Transfer Learning for Cross-Lingual Text
Classification [50.675552118811]
言語間テキスト分類は通常、様々な言語で事前訓練された大規模多言語言語モデル(LM)に基づいて構築される。
本稿では,古典的な「翻訳とテスト」パイプラインを再考し,翻訳と分類の段階を適切に分離することを提案する。
論文 参考訳（メタデータ） (2023-06-08T07:33:22Z) - Tuning Traditional Language Processing Approaches for Pashto Text
Classification [0.0]
本研究の目的は,Pashto自動テキスト分類システムの構築である。
本研究は、統計的およびニューラルネットワーク機械学習技術の両方を含む複数のモデルを比較する。
本研究では,分類アルゴリズムとTFIDF特徴抽出法を用いて,平均試験精度94%を得た。
論文 参考訳（メタデータ） (2023-05-04T22:57:45Z) - Detecting Text Formality: A Study of Text Classification Approaches [78.11745751651708]
本研究は,統計的,ニューラルベース,トランスフォーマーベースの機械学習手法に基づく形式性検出手法の体系的研究を初めて行う。
単言語,多言語,言語横断の3種類の実験を行った。
本研究は,モノリンガルおよび多言語形式分類タスクのためのトランスフォーマーベースモデルに対するChar BiLSTMモデルの克服を示す。
論文 参考訳（メタデータ） (2022-04-19T16:23:07Z) - Revisiting Self-Training for Few-Shot Learning of Language Model [61.173976954360334]
ラベル付きデータにはタスク関連情報が豊富に含まれており、言語モデルの素早い学習に有用であることが証明されている。
本研究では,言語モデルファインチューニングのための自己学習手法を再検討し,最先端のプロンプトベースの少ショット学習者,SFLMを提案する。
論文 参考訳（メタデータ） (2021-10-04T08:51:36Z) - TextFlint: Unified Multilingual Robustness Evaluation Toolkit for
Natural Language Processing [73.16475763422446]
NLPタスク(TextFlint)のための多言語ロバスト性評価プラットフォームを提案する。
普遍的なテキスト変換、タスク固有の変換、敵攻撃、サブポピュレーション、およびそれらの組み合わせを取り入れ、包括的な堅牢性分析を提供する。
TextFlintは、モデルの堅牢性の欠点に対処するために、完全な分析レポートとターゲットとした拡張データを生成します。
論文 参考訳（メタデータ） (2021-03-21T17:20:38Z) - An Attention Ensemble Approach for Efficient Text Classification of
Indian Languages [0.0]
本稿では,インド・デヴァナガリ文字を母語とするマラーティー語における短文文書の細かな技術領域識別について述べる。
畳み込みニューラルネットワークが生成する中間文表現と双方向の長期記憶とを合体させ,効率的なテキスト分類を実現するcnn-bilstm注意アンサンブルモデルを提案する。
実験結果から,提案モデルが与えられたタスクにおける各種ベースライン機械学習および深層学習モデルより優れ,89.57%,f1スコア0.8875の検証精度が得られた。
論文 参考訳（メタデータ） (2021-02-20T07:31:38Z) - Unsupervised Domain Adaptation of a Pretrained Cross-Lingual Language
Model [58.27176041092891]
最近の研究は、大規模未ラベルテキストに対する言語間言語モデルの事前学習が、大幅な性能向上をもたらすことを示唆している。
本稿では,絡み合った事前学習した言語間表現からドメイン固有の特徴を自動的に抽出する,教師なし特徴分解手法を提案する。
提案モデルでは、相互情報推定を利用して、言語間モデルによって計算された表現をドメイン不変部分とドメイン固有部分に分解する。
論文 参考訳（メタデータ） (2020-11-23T16:00:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。