論文の概要: MARRO: Multi-headed Attention for Rhetorical Role Labeling in Legal Documents

• arxiv url: http://arxiv.org/abs/2503.10659v1
• Date: Sat, 08 Mar 2025 08:05:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-23 06:38:26.115344
• Title: MARRO: Multi-headed Attention for Rhetorical Role Labeling in Legal Documents
• Title（参考訳）: MARRO: 法的文書における修辞的役割ラベルの多面的注意
• Authors: Purbid Bambroo, Subinay Adhikary, Paheli Bhattacharya, Abhijnan Chakraborty, Saptarshi Ghosh, Kripabandhu Ghosh,
• Abstract要約: 事実、議論、最終判断といった修辞的な役割の特定は、訴訟文書の理解の中心である。 法律文書は、しばしば非構造化されており、特別な語彙を含んでいるため、従来のトランスフォーマーモデルでは理解が難しい。 本稿では,トランスフォーマーにインスパイアされたマルチヘッドアテンションを用いたマルチタスク学習モデルであるMARROを提案する。
• 参考スコア（独自算出の注目度）: 8.596233578884162
• License:
• Abstract: Identification of rhetorical roles like facts, arguments, and final judgments is central to understanding a legal case document and can lend power to other downstream tasks like legal case summarization and judgment prediction. However, there are several challenges to this task. Legal documents are often unstructured and contain a specialized vocabulary, making it hard for conventional transformer models to understand them. Additionally, these documents run into several pages, which makes it difficult for neural models to capture the entire context at once. Lastly, there is a dearth of annotated legal documents to train deep learning models. Previous state-of-the-art approaches for this task have focused on using neural models like BiLSTM-CRF or have explored different embedding techniques to achieve decent results. While such techniques have shown that better embedding can result in improved model performance, not many models have focused on utilizing attention for learning better embeddings in sentences of a document. Additionally, it has been recently shown that advanced techniques like multi-task learning can help the models learn better representations, thereby improving performance. In this paper, we combine these two aspects by proposing a novel family of multi-task learning-based models for rhetorical role labeling, named MARRO, that uses transformer-inspired multi-headed attention. Using label shift as an auxiliary task, we show that models from the MARRO family achieve state-of-the-art results on two labeled datasets for rhetorical role labeling, from the Indian and UK Supreme Courts.
• Abstract（参考訳）: 事実、議論、最終判断のような修辞的な役割の同定は、訴訟文書を理解することの中心であり、訴訟要約や判断予測のような下流の他のタスクに力を与えることができる。 しかし、この課題にはいくつかの課題がある。 法律文書は、しばしば非構造化されており、特別な語彙を含んでいるため、従来のトランスフォーマーモデルでは理解が難しい。 さらに、これらのドキュメントは複数のページにまたがるため、ニューラルネットワークがコンテキスト全体を一度にキャプチャすることが難しくなる。 最後に、ディープラーニングモデルをトレーニングするための注釈付き法的文書が不足している。 このタスクのこれまでの最先端のアプローチは、BiLSTM-CRFのようなニューラルモデルの使用に焦点を当てるか、あるいは適切な結果を得るために異なる埋め込み技術を模索してきた。 このような手法は、より良い埋め込みによりモデルの性能が向上することを示しているが、文書の文により良い埋め込みを学習するために注意を払っているモデルはほとんどない。 さらに、マルチタスク学習のような高度な技術は、モデルがより良い表現を学習し、パフォーマンスを向上させるのに役立つことが最近示されている。 本稿では,この2つの側面を,トランスフォーマーに着想を得たマルチヘッドアテンションを用いた多タスク学習モデルであるMARROを提案する。 ラベルシフトを補助課題として,インドおよび英国最高裁判所の2つのラベル付きラベル付きラベル付きデータセットに対して,MARROファミリーのモデルが最先端の結果を得ることを示す。

関連論文リスト

• LegalSeg: Unlocking the Structure of Indian Legal Judgments Through Rhetorical Role Classification [6.549338652948716]
  7000以上の文書と140万の文で構成され、7つの修辞的な役割をラベル付けした、このタスクのための最大の注釈付きデータセットであるLegalSegを紹介します。 以上の結果から,より広義の文脈,構造的関係,逐次的な文情報を含むモデルが,文レベルの特徴にのみ依存するモデルよりも優れていることが示された。
  論文  参考訳（メタデータ） (2025-02-09T10:07:05Z)
• VEGA: Learning Interleaved Image-Text Comprehension in Vision-Language Large Models [76.94378391979228]
  我々は、Interleaved Image-Text (IITC) と呼ばれる、より要求の多い新しいタスクを導入する。 この課題は、画像とテキストの両方の過剰な要素を識別・無視し、質問に正確に答えるためにモデルに挑戦する。 このタスクを支援するために、科学コンテンツに関するIITCタスクに適した新しいVEGAデータセットを構築し、サブタスクである画像テキストアソシエーション(ITA)を考案した。
  論文  参考訳（メタデータ） (2024-06-14T17:59:40Z)
• Resources for Brewing BEIR: Reproducible Reference Models and an Official Leaderboard [47.73060223236792]
  BEIRは18種類のドメイン/タスクの組み合わせで情報検索モデルを評価するためのベンチマークデータセットである。 我々の研究は、ベンチマークが完全な潜在能力を達成できない2つの欠点に対処しています。
  論文  参考訳（メタデータ） (2023-06-13T00:26:18Z)
• Rhetorical Role Labeling of Legal Documents using Transformers and Graph Neural Networks [1.290382979353427]
  本稿では,SemEval Task 6の一部として,インドの裁判所判決における修辞的役割のラベル付け作業を行うためのアプローチについて述べる。
  論文  参考訳（メタデータ） (2023-05-06T17:04:51Z)
• Long Document Summarization with Top-down and Bottom-up Inference [113.29319668246407]
  本稿では、2つの側面の要約モデルを改善するための原則的推論フレームワークを提案する。 我々のフレームワークは、トップレベルが長距離依存性をキャプチャするドキュメントの階層的な潜在構造を前提としています。 本稿では,様々な要約データセットに対して提案手法の有効性を示す。
  論文  参考訳（メタデータ） (2022-03-15T01:24:51Z)
• Semantic Segmentation of Legal Documents via Rhetorical Roles [3.285073688021526]
  本稿では,法的文書を意味的に一貫性のある単位に分割する修辞的役割 (RR) システムを提案する。 我々は,法的文書をセグメント化するための補助的タスクとして,文書の修辞的役割ラベルシフトを用いたマルチタスク学習に基づくディープラーニングモデルを開発した。
  論文  参考訳（メタデータ） (2021-12-03T10:49:19Z)
• TAN-NTM: Topic Attention Networks for Neural Topic Modeling [8.631228373008478]
  本稿では,入力層におけるBoWの代わりに,文書をトークンのシーケンスとしてモデル化する新しいフレームワークであるTAN-NTMを提案する。 我々はLSTM出力に注意を払って、トピックに関連する手がかりを伝達する関連単語への参加をモデルに与える。 TAN-NTMは、NPMIコヒーレンスメトリックにおける既存のSOTAトピックモデルのスコアよりも9～15パーセント向上した最先端結果を達成する。
  論文  参考訳（メタデータ） (2020-12-02T20:58:04Z)
• Topic Adaptation and Prototype Encoding for Few-Shot Visual Storytelling [81.33107307509718]
  トピック間一般化の能力をモデル化するためのトピック適応型ストーリーテラを提案する。 また,アトピー内導出能力のモデル化を目的とした符号化手法の試作も提案する。 実験結果から,トピック適応とプロトタイプ符号化構造が相互に利益をもたらすことが明らかとなった。
  論文  参考訳（メタデータ） (2020-08-11T03:55:11Z)
• Document Modeling with Graph Attention Networks for Multi-grained Machine Reading Comprehension [127.3341842928421]
  Natural Questionsは、新しい挑戦的な機械読解ベンチマークである。 解答は2つあり、長解(典型的には1段落)と短解(長解の内にある1つ以上の実体)である。 既存の方法は、これらの2つのサブタスクをトレーニング中に個別に扱い、依存関係を無視します。 本稿では,文書を階層的にモデル化する多層機械読解フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-05-12T14:20:09Z)
• SPECTER: Document-level Representation Learning using Citation-informed Transformers [51.048515757909215]
  SPECTERは、Transformer言語モデルの事前学習に基づいて、科学文書の文書レベルの埋め込みを生成する。 SciDocsは、引用予測から文書分類、レコメンデーションまでの7つの文書レベルのタスクからなる新しい評価ベンチマークである。
  論文  参考訳（メタデータ） (2020-04-15T16:05:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。