論文の概要: HUE: Pretrained Model and Dataset for Understanding Hanja Documents of Ancient Korea

• arxiv url: http://arxiv.org/abs/2210.05112v1
• Date: Tue, 11 Oct 2022 03:04:28 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-12 15:38:01.890634
• Title: HUE: Pretrained Model and Dataset for Understanding Hanja Documents of Ancient Korea
• Title（参考訳）: HUE:古代朝鮮の漢書理解のための事前学習モデルとデータセット
• Authors: Haneul Yoo, Jiho Jin, Juhee Son, JinYeong Bak, Kyunghyun Cho, Alice Oh
• Abstract要約: 我々は、時系列属性、トピック分類、名前付きエンティティ認識、要約検索タスクからなるハンハ理解評価データセットをリリースする。 また、本研究では、14世紀から19世紀にかけての2つの主要なコーパスについて、ヨセオン王朝のアンナスと王立事務局の日記のトレーニングを継続したBERTベースのモデルについても紹介する。
• 参考スコア（独自算出の注目度）: 59.35609710776603
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Historical records in Korea before the 20th century were primarily written in Hanja, an extinct language based on Chinese characters and not understood by modern Korean or Chinese speakers. Historians with expertise in this time period have been analyzing the documents, but that process is very difficult and time-consuming, and language models would significantly speed up the process. Toward building and evaluating language models for Hanja, we release the Hanja Understanding Evaluation dataset consisting of chronological attribution, topic classification, named entity recognition, and summary retrieval tasks. We also present BERT-based models continued training on the two major corpora from the 14th to the 19th centuries: the Annals of the Joseon Dynasty and Diaries of the Royal Secretariats. We compare the models with several baselines on all tasks and show there are significant improvements gained by training on the two corpora. Additionally, we run zero-shot experiments on the Daily Records of the Royal Court and Important Officials (DRRI). The DRRI dataset has not been studied much by the historians, and not at all by the NLP community.
• Abstract（参考訳）: 20世紀以前の朝鮮の歴史記録は、主に漢字に基づく絶滅した言語であるハンジャで書かれており、現代の朝鮮語や中国語話者には理解されていない。 この期間に専門的な歴史学者が文書を分析してきたが、その過程は非常に困難で時間がかかり、言語モデルによって処理が大幅にスピードアップする。 ハンジャのための言語モデルの構築と評価に向けて,時系列属性,トピック分類,名前付きエンティティ認識,要約検索タスクからなるハンジャ理解評価データセットをリリースする。 また,14世紀から19世紀にかけて,朝鮮王朝の年代記と大蔵省の日記の2つの主要なコーポラについて,バートをモデルとしたトレーニングを継続した。 モデルと各タスクのベースラインを比較し,2つのコーパスのトレーニングによって得られた大幅な改善を示す。 さらに、我々は、王立裁判所および重要公務員(DRRI)のデイリー・レコードでゼロショット実験を行った。 DRRIデータセットは歴史家によってあまり研究されておらず、NLPコミュニティからは研究されていない。

関連論文リスト

• When Does Classical Chinese Help? Quantifying Cross-Lingual Transfer in Hanja and Kanbun [48.07219104902607]
  古典中国語から漢語・漢文への言語間移動可能性の仮定を疑問視する。 実験の結果,漢文で書かれた古代朝鮮語文書の言語モデル性能に対する古典中国語データセットの影響は最小限であった。
  論文  参考訳（メタデータ） (2024-11-07T15:59:54Z)
• Dolma: an Open Corpus of Three Trillion Tokens for Language Model Pretraining Research [139.69207791947738]
  ドルマ (Dolma) は、ウェブコンテンツ、科学論文、コード、パブリックドメインの書籍、ソーシャルメディア、百科事典の素材を多用した3トリルの英語コーパスである。 我々はDolmaの設計原則、その構築の詳細、内容の要約を含む、Dolmaを文書化します。 我々は、重要なデータキュレーションの実践について学んだことを共有するために、Dolmaの中間状態の分析と実験結果を示す。
  論文  参考訳（メタデータ） (2024-01-31T20:29:50Z)
• Skywork: A More Open Bilingual Foundation Model [55.927396986873816]
  英語と中国語の両方のテキストから引き出された3.2兆以上のトークンのコーパスをトレーニングした,大規模言語モデル(LLM)のファミリーであるSkywork-13Bを紹介する。 我々のモデルは,一般的なベンチマークに優れるだけでなく,さまざまなドメインにおける中国語のモデリングにおける芸術的パフォーマンスの即興性も達成できることを示す。
  論文  参考訳（メタデータ） (2023-10-30T08:31:47Z)
• HistRED: A Historical Document-Level Relation Extraction Dataset [32.96963890713529]
  HistREDは、漢漢の古文書集「Yeonhaengnok」から造られたものである。 HistREDは、韓国語と漢語でREを実行できるようなバイリンガルアノテーションを提供している。 本稿では,韓国語と漢語の両方の文脈を利用してエンティティ間の関係を予測するバイリンガルREモデルを提案する。
  論文  参考訳（メタデータ） (2023-07-10T00:24:27Z)
• Transfer Learning across Several Centuries: Machine and Historian Integrated Method to Decipher Royal Secretary's Diary [1.105375732595832]
  歴史的テキストにおけるNERは、注釈付きコーパスの不足、多言語多様さ、様々なノイズ、現代の言語モデルとは全く異なる慣習といった課題に直面している。 本稿では,何世紀にもわたって記録された韓国の歴史的コーパス(SeungJeongWonと名づけられた王立書記官日記)を紹介する。
  論文  参考訳（メタデータ） (2023-06-26T11:00:35Z)
• Translating Hanja Historical Documents to Contemporary Korean and English [52.625998002213585]
  李氏朝鮮のアナルスには、朝鮮の近代国家に先立つ500年の王国である李氏朝鮮の日記がある。 アナル文字はもともとは古代朝鮮の文体「ハンジャ」で書かれ、1968年から1993年にかけて朝鮮語に翻訳された。 以後、10年間に1人の王の記録が完成した。 本稿では,ハンハの歴史的文書を韓国語や英語に翻訳するニューラルネットワーク翻訳モデルH2KEを提案する。
  論文  参考訳（メタデータ） (2022-05-20T08:25:11Z)
• LOT: A Benchmark for Evaluating Chinese Long Text Understanding and Generation [49.57366550980932]
  ロングテキストモデリングは、長距離コモンセンスや談話関係のモデリングのような多くの機能を必要とする。 中国語長文モデリング評価のための2つの理解と2つの世代タスクを含むベンチマークであるLOTを提案する。 我々は、最大10億のパラメータを持つLongLMという、エンコーダ-デコーダ中国の長文事前学習モデルをリリースする。
  論文  参考訳（メタデータ） (2021-08-30T02:38:32Z)
• Restoring and Mining the Records of the Joseon Dynasty via Neural Language Modeling and Machine Translation [20.497110880878544]
  本論文では,自己保持機構に基づく履歴文書の復元と翻訳のためのマルチタスク学習手法を提案する。 提案手法は,マルチタスク学習を使わずに,翻訳作業の精度をベースラインよりも大幅に向上させる。
  論文  参考訳（メタデータ） (2021-04-13T06:40:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。