論文の概要: Enhancing Pre-Trained Language Models with Sentence Position Embeddings
for Rhetorical Roles Recognition in Legal Opinions
- arxiv url: http://arxiv.org/abs/2310.05276v1
- Date: Sun, 8 Oct 2023 20:33:55 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-12 08:51:11.690986
- Title: Enhancing Pre-Trained Language Models with Sentence Position Embeddings
for Rhetorical Roles Recognition in Legal Opinions
- Title(参考訳): 法的意見における修辞的役割認識のための文位置埋め込みによる事前学習言語モデルの拡張
- Authors: Anas Belfathi, Nicolas Hernandez and Laura Monceaux
- Abstract要約: 法的意見の規模は増え続けており、法的意見の修辞的役割を正確に予測できるモデルを開発することはますます困難になっている。
本稿では,文の位置情報に関する知識によって強化された事前学習言語モデル(PLM)を用いて,修辞的役割を自動的に予測する新しいモデルアーキテクチャを提案する。
LegalEval@SemEval2023コンペティションの注釈付きコーパスに基づいて、我々のアプローチではパラメータが少なく、計算コストが低下することを示した。
- 参考スコア(独自算出の注目度): 0.16385815610837165
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: The legal domain is a vast and complex field that involves a considerable
amount of text analysis, including laws, legal arguments, and legal opinions.
Legal practitioners must analyze these texts to understand legal cases,
research legal precedents, and prepare legal documents. The size of legal
opinions continues to grow, making it increasingly challenging to develop a
model that can accurately predict the rhetorical roles of legal opinions given
their complexity and diversity. In this research paper, we propose a novel
model architecture for automatically predicting rhetorical roles using
pre-trained language models (PLMs) enhanced with knowledge of sentence position
information within a document. Based on an annotated corpus from the
LegalEval@SemEval2023 competition, we demonstrate that our approach requires
fewer parameters, resulting in lower computational costs when compared to
complex architectures employing a hierarchical model in a global-context, yet
it achieves great performance. Moreover, we show that adding more attention to
a hierarchical model based only on BERT in the local-context, along with
incorporating sentence position information, enhances the results.
- Abstract(参考訳): 法領域は、法、法的議論、法的な意見を含む、かなりの量のテキスト分析を含む、巨大で複雑な分野である。
法律実務者は、これらのテキストを分析して、訴訟を理解し、判例を調査し、法的文書を作成する必要がある。
法的意見の規模は増え続けており、その複雑さと多様性から法的な意見の修辞的役割を正確に予測できるモデルを開発することはますます困難になっている。
本稿では,文書内の文位置情報の知識によって強化された事前学習言語モデル(PLM)を用いて,修辞的役割を自動的に予測する新しいモデルアーキテクチャを提案する。
LegalEval@SemEval2023コンペティションの注釈付きコーパスに基づいて、我々のアプローチはパラメータが少なく、結果として、グローバルコンテキストにおける階層モデルを用いた複雑なアーキテクチャと比較して計算コストが低いことが実証された。
さらに,局所文脈におけるBERTのみに基づく階層モデルにさらに注意を加えることで,文の位置情報を組み込んだ結果が向上することを示す。
関連論文リスト
- How Well Do Text Embedding Models Understand Syntax? [50.440590035493074]
テキスト埋め込みモデルが幅広い構文的文脈にまたがって一般化する能力は、まだ解明されていない。
その結果,既存のテキスト埋め込みモデルは,これらの構文的理解課題に十分対応していないことが明らかとなった。
多様な構文シナリオにおけるテキスト埋め込みモデルの一般化能力を高めるための戦略を提案する。
論文 参考訳(メタデータ) (2023-11-14T08:51:00Z) - Precedent-Enhanced Legal Judgment Prediction with LLM and Domain-Model
Collaboration [52.57055162778548]
法的判断予測(LJP)は、法律AIにおいてますます重要な課題となっている。
先行は、同様の事実を持つ以前の訴訟であり、国家法制度におけるその後の事件の判断の基礎となっている。
近年のディープラーニングの進歩により、LJPタスクの解決に様々なテクニックが使えるようになった。
論文 参考訳(メタデータ) (2023-10-13T16:47:20Z) - Prototype-Based Interpretability for Legal Citation Prediction [16.660004925391842]
我々は、前例と立法規定の両方に関して、弁護士の思考過程と平行してタスクを設計する。
最初の実験結果から,法の専門家のフィードバックを得て,対象の引用予測を洗練する。
我々は,弁護士が使用する決定パラメータに固執しながら,高い性能を達成し,解釈可能性を高めるためのプロトタイプアーキテクチャを導入する。
論文 参考訳(メタデータ) (2023-05-25T21:40:58Z) - Unlocking Practical Applications in Legal Domain: Evaluation of GPT for
Zero-Shot Semantic Annotation of Legal Texts [0.0]
我々は、短いテキストスニペットのセマンティックアノテーションを実行するための、最先端の生成事前学習トランスフォーマ(GPT)モデルの有効性を評価する。
その結果、GPTモデルは様々な種類の文書のゼロショット設定において驚くほどよく機能することがわかった。
論文 参考訳(メタデータ) (2023-05-08T01:55:53Z) - SAILER: Structure-aware Pre-trained Language Model for Legal Case
Retrieval [75.05173891207214]
判例検索は知的法体系において中心的な役割を果たす。
既存の言語モデルの多くは、異なる構造間の長距離依存関係を理解するのが難しい。
本稿では, LEgal ケース検索のための構造対応プレトランザクショナル言語モデルを提案する。
論文 参考訳(メタデータ) (2023-04-22T10:47:01Z) - The Legal Argument Reasoning Task in Civil Procedure [2.079168053329397]
我々は,米国民事訴訟の領域から新たなNLPタスクとデータセットを提示する。
データセットの各インスタンスは、ケースの一般的な導入、特定の質問、可能な解決策引数で構成されている。
論文 参考訳(メタデータ) (2022-11-05T17:41:00Z) - Revise and Resubmit: An Intertextual Model of Text-based Collaboration
in Peer Review [52.359007622096684]
ピアレビューは、ほとんどの科学分野における出版プロセスの重要な要素である。
既存のNLP研究は個々のテキストの分析に重点を置いている。
編集補助は、しばしばテキストのペア間の相互作用をモデル化する必要がある。
論文 参考訳(メタデータ) (2022-04-22T16:39:38Z) - Corpus for Automatic Structuring of Legal Documents [1.8025738207124173]
本稿では,トピックとコヒーレントな部分に分けられる法的判断文書のコーパスを英語で紹介する。
注釈付きコーパスに基づく法文書における修辞的役割を自動的に予測するベースラインモデルを開発した。
要約および法的判断予測のタスクにおける性能向上のための修辞的役割の応用について述べる。
論文 参考訳(メタデータ) (2022-01-31T11:12:44Z) - Semantic Segmentation of Legal Documents via Rhetorical Roles [3.285073688021526]
本稿では,法的文書を意味的に一貫性のある単位に分割する修辞的役割 (RR) システムを提案する。
我々は,法的文書をセグメント化するための補助的タスクとして,文書の修辞的役割ラベルシフトを用いたマルチタスク学習に基づくディープラーニングモデルを開発した。
論文 参考訳(メタデータ) (2021-12-03T10:49:19Z) - Lawformer: A Pre-trained Language Model for Chinese Legal Long Documents [56.40163943394202]
我々は,中国法定長文理解のためのLongformerベースの事前学習言語モデル,Lawformerをリリースする。
判決の予測,類似事例の検索,法的読解,法的質問の回答など,さまざまな法務上の課題について法務担当者を評価した。
論文 参考訳(メタデータ) (2021-05-09T09:39:25Z) - Towards Making the Most of Context in Neural Machine Translation [112.9845226123306]
我々は、これまでの研究がグローバルな文脈をはっきりと利用しなかったと論じている。
本研究では,各文の局所的文脈を意図的にモデル化する文書レベルNMTフレームワークを提案する。
論文 参考訳(メタデータ) (2020-02-19T03:30:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。