論文の概要: Enhancing BiGRU with a KAN Block for Legal Document Classification and Summarization
- arxiv url: http://arxiv.org/abs/2606.00116v1
- Date: Wed, 27 May 2026 14:59:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:27.972975
- Title: Enhancing BiGRU with a KAN Block for Legal Document Classification and Summarization
- Title(参考訳): 法的文書分類と要約のためのkanブロックによるBiGRUの強化
- Authors: Ahmed Faizul Haque Dhrubo, Souvik Pramanik, Most. Aysha Siddika Sumona, Shahnewaz Siddique, Mohammad Ashrafuzzaman Khan, Mohammad Abdul Qayum, Mohsin Sajjad,
- Abstract要約: 本研究では,法律文書の分類と要約を行うために,Kan-based BiGRUモデルの新しいアーキテクチャを提案する。
分類作業は, BiGRU モデルと Kolmogorov-Arnold Network (KAN) モジュールを併用して行う。
- 参考スコア(独自算出の注目度): 0.2303463009749888
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This study introduces a novel architecture of KAN-based BiGRU model for the task of classification and summarization of legal documents in a low-resource multilingual setup. In order to tackle problems associated with domain language, the usage of different languages, long dependencies within context, and class imbalance, we employ the dataset composed of legal documents from Bangladesh and taken from Manupatra, which include Bengali, English, and transliterated Bengali languages. Our classification task involves BiGRU model, along with Kolmogorov-Arnold Network (KAN) module, while the summarization part utilizes attention-based GRU, combined with a KAN model head. Classification model yields 67.96% of accuracy and 0.65 F1 score; while ROUGE-1, ROUGE-2, and ROUGE-L measures for summarization yield 0.38, 0.23, and 0.31 F1 scores, correspondingly. Ablation study shows that the use of KAN increases classification accuracy from 57.34% to 67.96%. Moreover, our proposed technique is compared to several baselines, including classical ML algorithms and pretrained language models.
- Abstract(参考訳): 本研究では,低リソース多言語構成における法律文書の分類と要約を行うために,kan-based BiGRUモデルの新しいアーキテクチャを提案する。
バングラデシュの法律文書からなり、ベンガル語、英語、翻訳されたベンガル語を含むマヌパトラ語から抽出されたデータセットを用いて、ドメイン言語、異なる言語の使用、文脈内の長い依存関係、クラス不均衡に対処する。
分類作業は, BiGRU モデルと Kolmogorov-Arnold Network (KAN) モジュールを併用して行う。
分類モデルの精度は67.96%、F1スコアは0.65で、和算のROUGE-1、ROUGE-2、ROUGE-Lは0.38、0.23、0.31である。
アブレーション研究では、kanの使用は分類精度を57.34%から67.96%に向上している。
さらに,提案手法は,古典的MLアルゴリズムや事前学習言語モデルなど,いくつかのベースラインと比較される。
関連論文リスト
- Bengali Text Classification: An Evaluation of Large Language Model Approaches [0.0]
英語とは異なり、Bengaliは広範な注釈付きデータセットと事前訓練された言語モデルがないため、課題に直面している。
本研究では,ベンガル語新聞記事の分類における大規模言語モデル(LLM)の有効性について検討する。
論文 参考訳(メタデータ) (2026-01-17T18:25:19Z) - Optimized Text Embedding Models and Benchmarks for Amharic Passage Retrieval [49.1574468325115]
トレーニング済みのAmharic BERTとRoBERTaのバックボーンをベースとした,Amharic固有の高密度検索モデルを提案する。
提案したRoBERTa-Base-Amharic-Embedモデル(110Mパラメータ)は,MRR@10の相対的な改善を17.6%達成する。
RoBERTa-Medium-Amharic-Embed (42M)のようなよりコンパクトな派生型は13倍以上小さいまま競争力を維持している。
論文 参考訳(メタデータ) (2025-05-25T23:06:20Z) - TriSum: Learning Summarization Ability from Large Language Models with Structured Rationale [66.01943465390548]
本稿では,大規模言語モデルのテキスト要約能力を,コンパクトで局所的なモデルに抽出するフレームワークであるTriSumを紹介する。
本手法は,様々なベンチマーク上での局所モデル性能を向上させる。
また、要約の合理性に関する洞察を提供することで、解釈可能性も向上する。
論文 参考訳(メタデータ) (2024-03-15T14:36:38Z) - Cross-Lingual NER for Financial Transaction Data in Low-Resource
Languages [70.25418443146435]
半構造化テキストデータにおける言語間名前認識のための効率的なモデリングフレームワークを提案する。
我々は2つの独立したSMSデータセットを英語とアラビア語で使用し、それぞれが半構造化された銀行取引情報を持っている。
わずか30のラベル付きサンプルにアクセスすることで、我々のモデルは、英語からアラビア語までの商人、金額、その他の分野の認識を一般化することができる。
論文 参考訳(メタデータ) (2023-07-16T00:45:42Z) - Ensemble Transfer Learning for Multilingual Coreference Resolution [60.409789753164944]
非英語で作業する場合に頻繁に発生する問題は、注釈付きトレーニングデータの不足である。
我々は,様々なトランスファー学習技術を組み合わせた,シンプルだが効果的なアンサンブルベースのフレームワークを設計する。
また、ウィキペディアアンカーテキストを利用して、コア参照解決モデルをブートストラップする低コストのTL手法を提案する。
論文 参考訳(メタデータ) (2023-01-22T18:22:55Z) - An Attention Ensemble Approach for Efficient Text Classification of
Indian Languages [0.0]
本稿では,インド・デヴァナガリ文字を母語とするマラーティー語における短文文書の細かな技術領域識別について述べる。
畳み込みニューラルネットワークが生成する中間文表現と双方向の長期記憶とを合体させ,効率的なテキスト分類を実現するcnn-bilstm注意アンサンブルモデルを提案する。
実験結果から,提案モデルが与えられたタスクにおける各種ベースライン機械学習および深層学習モデルより優れ,89.57%,f1スコア0.8875の検証精度が得られた。
論文 参考訳(メタデータ) (2021-02-20T07:31:38Z) - Clustering Word Embeddings with Self-Organizing Maps. Application on
LaRoSeDa -- A Large Romanian Sentiment Data Set [15.877673959068455]
ルーマニア語は、計算言語学の下位言語の一つである。
ルーマニアの大規模な感情データセットであるLaRoSeDaを紹介します。
k平均クラスタリングアルゴリズムを自己組織化マップに置き換える。
論文 参考訳(メタデータ) (2021-01-11T21:19:22Z) - Large Scale Legal Text Classification Using Transformer Models [0.0]
本研究では, トランスフォーマーモデルの性能と, 生成前訓練, 段階的凍結, 差別的学習率などの戦略を組み合わせて検討した。
WeLEXは、アブレーション研究において、言語モデルの微調整や段階的凍結といった個々のステップの影響を定量化する。
論文 参考訳(メタデータ) (2020-10-24T11:03:01Z) - Mixed-Lingual Pre-training for Cross-lingual Summarization [54.4823498438831]
言語間の要約は、ソース言語の記事に対する対象言語の要約を作成することを目的としている。
本稿では,翻訳のような言語間タスクと,マスク付き言語モデルのようなモノリンガルタスクの両方を活用する混合言語事前学習に基づくソリューションを提案する。
本モデルでは,2.82(中国語)と1.15(中国語,英語)のROUGE-1スコアを最先端の結果に対して改善する。
論文 参考訳(メタデータ) (2020-10-18T00:21:53Z) - A Continuous Space Neural Language Model for Bengali Language [0.4799822253865053]
本稿では, 連続空間ニューラル言語モデル, より具体的にはASGD重量減少型LSTM言語モデル, およびベンガル語で効率的に学習する手法を提案する。
提案したアーキテクチャは、ベンガルの保持されたデータセットにおいて、推論の難易度を51.2まで低くすることで、それよりも優れている。
論文 参考訳(メタデータ) (2020-01-11T14:50:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。