論文の概要: Does Incomplete Syntax Influence Korean Language Model? Focusing on Word Order and Case Markers

• arxiv url: http://arxiv.org/abs/2407.09184v1
• Date: Fri, 12 Jul 2024 11:33:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-07-15 23:47:49.943941
• Title: Does Incomplete Syntax Influence Korean Language Model? Focusing on Word Order and Case Markers
• Title（参考訳）: 不完全構文は韓国語モデルに影響を及ぼすか? 語順と事例マーカに着目して
• Authors: Jong Myoung Kim, Young-Jun Lee, Yong-jin Han, Sangkeun Jung, Ho-Jin Choi,
• Abstract要約: 語順やケースマーカーなどの構文要素は自然言語処理において基本的なものである。 本研究は,韓国語モデルがこの柔軟性を正確に捉えることができるかどうかを考察する。
• 参考スコア（独自算出の注目度）: 7.275938266030414
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Syntactic elements, such as word order and case markers, are fundamental in natural language processing. Recent studies show that syntactic information boosts language model performance and offers clues for people to understand their learning mechanisms. Unlike languages with a fixed word order such as English, Korean allows for varied word sequences, despite its canonical structure, due to case markers that indicate the functions of sentence components. This study explores whether Korean language models can accurately capture this flexibility. We note that incomplete word orders and omitted case markers frequently appear in ordinary Korean communication. To investigate this further, we introduce the Syntactically Incomplete Korean (SIKO) dataset. Through SIKO, we assessed Korean language models' flexibility with incomplete syntax and confirmed the dataset's training value. Results indicate these models reflect Korean's inherent flexibility, accurately handling incomplete inputs. Moreover, fine-tuning with SIKO enhances the ability to handle common incomplete Korean syntactic forms. The dataset's simple construction process, coupled with significant performance enhancements, solidifies its standing as an effective data augmentation technique.
• Abstract（参考訳）: 語順やケースマーカーなどの構文要素は自然言語処理において基本的なものである。 近年の研究では、構文情報によって言語モデルの性能が向上し、学習メカニズムを理解するための手がかりが提示されている。 英語のような固定語順を持つ言語とは異なり、韓国語はその標準的構造にもかかわらず、文成分の機能を示すケースマーカーのため、様々な単語列を許容する。 本研究は,韓国語モデルがこの柔軟性を正確に捉えることができるかどうかを考察する。 通常の韓国語通信では,不完全語順や省略例マーカーが頻繁に現れることに留意する。 これをさらに調査するため,Syntactically Incomplete Korean(SIKO)データセットを導入した。 SIKOを用いて、韓国語モデルの柔軟性を不完全な構文で評価し、データセットのトレーニング値を確認した。 結果は、これらのモデルが韓国固有の柔軟性を反映し、不完全な入力を正確に処理していることを示している。 さらに、SIKOによる微調整により、共通不完全韓国構文形式を扱う能力が向上する。 データセットの単純な構築プロセスは、大幅なパフォーマンス向上と相まって、効果的なデータ拡張技術としての地位を固めている。

関連論文リスト

• Enhancing Korean Dependency Parsing with Morphosyntactic Features [5.985682224542601]
  本稿では,Universal Dependencies(UD)とUniversal Morphology(UniMorph)をブリッジする統合フレームワークであるUniDive for Koreanを紹介する。 韓国の豊かな屈折形態と柔軟な語順は、既存のフレームワークに課題をもたらす。
  論文  参考訳（メタデータ） (2025-03-26T22:27:26Z)
• HyperCLOVA X Technical Report [119.94633129762133]
  韓国語と文化に合わせた大型言語モデル(LLM)のファミリーであるHyperCLOVA Xを紹介する。 HyperCLOVA Xは韓国語、英語、コードデータのバランスの取れた混合でトレーニングされ、その後、高品質な人間アノテーション付きデータセットによる命令チューニングが行われた。 このモデルは、韓国語と英語の両方で、包括的な推論、知識、常識、事実性、コーディング、数学、チャット、指示追従、無害など、様々なベンチマークで評価されている。
  論文  参考訳（メタデータ） (2024-04-02T13:48:49Z)
• Improving Korean NLP Tasks with Linguistically Informed Subword Tokenization and Sub-character Decomposition [6.767341847275751]
  本稿では, Byte Pairの適用課題に対処するために, サブ文字分解を利用した形態素認識サブワードトークン化手法を提案する。 我々のアプローチは、事前学習言語モデル(PLM)における言語精度と計算効率のバランスをとる 本手法は, NIKL-CoLAの構文的タスクにおいて, 総合的に優れた性能を発揮することを示す。
  論文  参考訳（メタデータ） (2023-11-07T12:08:21Z)
• Word segmentation granularity in Korean [1.0619039878979954]
  韓国語では、単語のセグメンテーションの粒度には複数のレベルがある。 特定の言語処理やコーパスアノテーションタスクでは、いくつかの異なる粒度レベルが提案され、利用されている。 興味深いことに、機能的形態素のみを分離した粒度は、句構造解析の最適性能をもたらす。
  論文  参考訳（メタデータ） (2023-09-07T13:42:05Z)
• Korean Named Entity Recognition Based on Language-Specific Features [3.1884260020646265]
  本稿では,その言語固有の特徴を用いて,韓国語で名前付きエンティティ認識を改善する新しい手法を提案する。 提案手法は韓国語を形態素に分解し,名前のあいまいさを低減させる。 統計モデルとニューラルモデルの結果から、提案された形態素ベースのフォーマットが実現可能であることが分かる。
  論文  参考訳（メタデータ） (2023-05-10T17:34:52Z)
• Prompting Language Models for Linguistic Structure [73.11488464916668]
  本稿では,言語構造予測タスクに対する構造化プロンプト手法を提案する。 提案手法は, 音声タグ付け, 名前付きエンティティ認識, 文チャンキングについて評価する。 PLMはタスクラベルの事前知識を事前学習コーパスに漏えいすることで有意な事前知識を含むが、構造化プロンプトは任意のラベルで言語構造を復元することも可能である。
  論文  参考訳（メタデータ） (2022-11-15T01:13:39Z)
• Transparency Helps Reveal When Language Models Learn Meaning [71.96920839263457]
  合成データを用いた体系的な実験により,すべての表現が文脈に依存しない意味を持つ言語では,自己回帰型とマスキング型の両方の言語モデルが,表現間の意味的関係をエミュレートする。 自然言語に目を向けると、特定の現象(参照不透明さ)による実験は、現在の言語モデルが自然言語の意味論をうまく表現していないという証拠を増大させる。
  論文  参考訳（メタデータ） (2022-10-14T02:35:19Z)
• Compositional Evaluation on Japanese Textual Entailment and Similarity [20.864082353441685]
  自然言語推論(NLI)とセマンティックテキスト類似性(STS)は、事前訓練された言語モデルの合成評価に広く用いられている。 言語普遍論への関心が高まりつつあるにもかかわらず、ほとんどのNLI/STS研究は英語にのみ焦点を絞っている。 日本語で利用可能な多言語NLI/STSデータセットは存在しない。
  論文  参考訳（メタデータ） (2022-08-09T15:10:56Z)
• Building Korean Sign Language Augmentation (KoSLA) Corpus with Data Augmentation Technique [0.0]
  我々は手話翻訳のためのコーパスの効率的なフレームワークを提案する。 手話の言語的特徴を考慮することで,提案するフレームワークは,マルチモーダル手話拡張コーパスを構築するための最初の,ユニークな試みである。
  論文  参考訳（メタデータ） (2022-07-12T02:12:36Z)
• Multilingual Extraction and Categorization of Lexical Collocations with Graph-aware Transformers [86.64972552583941]
  我々は,グラフ対応トランスフォーマアーキテクチャにより拡張されたBERTに基づくシーケンスタグ付けモデルを提案し,コンテキストにおけるコロケーション認識の課題について評価した。 以上の結果から, モデルアーキテクチャにおける構文的依存関係を明示的に符号化することは有用であり, 英語, スペイン語, フランス語におけるコロケーションのタイプ化の差異について考察する。
  論文  参考訳（メタデータ） (2022-05-23T16:47:37Z)
• GATE: Graph Attention Transformer Encoder for Cross-lingual Relation and Event Extraction [107.8262586956778]
  言語に依存しない文表現を学習するために、普遍的な依存解析を伴うグラフ畳み込みネットワーク(GCN)を導入する。 GCNは、長い範囲の依存関係を持つ単語をモデル化するのに苦労する。 そこで本研究では,構文的距離の異なる単語間の依存関係を学習するための自己認識機構を提案する。
  論文  参考訳（メタデータ） (2020-10-06T20:30:35Z)
• On the Importance of Word Order Information in Cross-lingual Sequence Labeling [80.65425412067464]
  ソース言語の単語順に適合する言語間モデルでは、ターゲット言語を処理できない可能性がある。 本研究では,ソース言語の単語順序に敏感なモデルを作成することで,対象言語の適応性能が向上するかどうかを検討する。
  論文  参考訳（メタデータ） (2020-01-30T03:35:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。