論文の概要: Hierarchical Curriculum Learning for AMR Parsing

• arxiv url: http://arxiv.org/abs/2110.07855v1
• Date: Fri, 15 Oct 2021 04:45:15 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-18 13:13:38.809361
• Title: Hierarchical Curriculum Learning for AMR Parsing
• Title（参考訳）: AMR解析のための階層型カリキュラム学習
• Authors: Peiyi Wang, Liang Chen, Tianyu Liu, Baobao Chang, Zhifang Sui
• Abstract要約: フラット文からAMRへのトレーニングは、より深いAMRサブグラフにおける概念と関係の表現学習を妨げる。 構造レベルカリキュラム(SC)とインスタンスレベルカリキュラム(IC)からなる階層型カリキュラム学習(HCL)を提案する。
• 参考スコア（独自算出の注目度）: 29.356258263403646
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Abstract Meaning Representation (AMR) parsing translates sentences to the semantic representation with a hierarchical structure, which is recently empowered by pretrained encoder-decoder models. However, the flat sentence-to-AMR training paradigm impedes the representation learning of concepts and relations in the deeper AMR sub-graph. To make the sequence-to-sequence models better adapt to the inherent AMR structure, we propose a hierarchical curriculum learning (HCL) which consists of (1) structure-level curriculum (SC) and (2) instance-level curriculum (IC). SC switches progressively from shallow to deep AMR sub-graphs while IC transits from easy to hard AMR instances during training. Extensive experiments show that BART trained with HCL achieves the state-of-the-art performance on the AMR-2.0 and AMR-3.0 benchmark, and significantly outperforms baselines on the structure-dependent evaluation metrics and hard instances.
• Abstract（参考訳）: 抽象意味表現 (abstract meaning representation, amr) 構文解析は、最近事前学習されたエンコーダ・デコーダモデルによって強化された階層構造を持つ意味表現に文を翻訳する。 しかし、フラットな文対AMR訓練パラダイムは、より深いAMRサブグラフにおける概念と関係の表現学習を妨げる。 本研究では,(1)構造レベルのカリキュラム(SC)と(2)インスタンスレベルのカリキュラム(IC)から構成される階層型カリキュラム学習(HCL)を提案する。 SCは浅いAMRサブグラフから深いAMRサブグラフへ徐々に切り替え、ICは訓練中のAMRインスタンスから硬いAMRインスタンスへ移行する。 HCLでトレーニングされたBARTは、AMR-2.0とAMR-3.0ベンチマークで最先端のパフォーマンスを実現し、構造に依存した評価指標とハードインスタンスのベースラインを大幅に上回っている。

関連論文リスト

• MSRS: Training Multimodal Speech Recognition Models from Scratch with Sparse Mask Optimization [49.00754561435518]
  MSRSは、RS3ベンチマークで21.1%と0.9%のWERでVSRとAVSRの競争結果を達成し、トレーニング時間を少なくとも2倍に短縮した。 我々は、他のスパースアプローチを探索し、MSRSだけが、消失する勾配によって影響を受ける重量を暗黙的に隠蔽することで、スクラッチからトレーニングできることを示す。
  論文  参考訳（メタデータ） (2024-06-25T15:00:43Z)
• Enhancing In-Context Learning with Semantic Representations for Relation Extraction [9.12646853282321]
  本稿では,RE 上の ICL に 2 つの AMR 強化意味表現を用いる。 どちらの場合も、すべての設定が粒度の細かいAMRのセマンティック構造から恩恵を受けることを示す。 我々は,このモデルを4つのREデータセットで評価した。
  論文  参考訳（メタデータ） (2024-06-14T22:36:08Z)
• Sequential Visual and Semantic Consistency for Semi-supervised Text Recognition [56.968108142307976]
  Scene Text Recognition (STR) は、大規模なアノテートデータを必要とする課題である。 既存のSTR法の多くは、STRモデルの性能を低下させ、ドメイン差を生じさせる合成データに頼っている。 本稿では,視覚的・意味的両面から単語レベルの整合性正則化を取り入れたSTRの半教師付き学習手法を提案する。
  論文  参考訳（メタデータ） (2024-02-24T13:00:54Z)
• AMR Parsing with Causal Hierarchical Attention and Pointers [54.382865897298046]
  因果的階層的注意とポインタ機構を備えた新しいAMR解析と新しいモデルCHAPを導入する。 実験の結果, 5つのベンチマークのうち4つのベースラインモデルでは, 追加データがない場合に, ベースラインモデルよりも優れた結果が得られた。
  論文  参考訳（メタデータ） (2023-10-18T13:44:26Z)
• An AMR-based Link Prediction Approach for Document-level Event Argument Extraction [51.77733454436013]
  文書レベルのイベント調停抽出(文書レベルEAE)のための抽象的意味表現(AMR)を導入した最近の研究動向 本研究では,AEをAMRグラフ上のリンク予測問題として再検討する。 本稿では,より少ない情報量のサブグラフやエッジタイプを圧縮し,スパン情報を統合し,同じ文書内の事象をハイライトする新たなグラフ構造であるTalored AMR Graph(TAG)を提案する。
  論文  参考訳（メタデータ） (2023-05-30T16:07:48Z)
• Structure-CLIP: Towards Scene Graph Knowledge to Enhance Multi-modal Structured Representations [70.41385310930846]
  マルチモーダルな構造表現を強化するためのエンドツーエンドフレームワークであるStructure-CLIPを提案する。 シーングラフを用いてセマンティックなネガティブな例の構築をガイドし、その結果、構造化された表現の学習に重点を置いている。 知識エンハンス(KEE)は、SGKを入力として活用し、構造化表現をさらに強化するために提案される。
  論文  参考訳（メタデータ） (2023-05-06T03:57:05Z)
• A Survey : Neural Networks for AMR-to-Text [2.3924114046608627]
  AMR-to-Textは、抽象的意味表現(AMR)グラフから文を生成することを目的とした、NLPコミュニティの重要なテクニックの1つである。 2013年にAMRが提案されて以来、AMR-to-Textの研究は、構造化データのテキストへの必須の分岐として、ますます広まりつつある。
  論文  参考訳（メタデータ） (2022-06-15T07:20:28Z)
• ATP: AMRize Then Parse! Enhancing AMR Parsing with PseudoAMRs [34.55175412186001]
  意味的あるいは形式的に関連付けられた補助タスクは、AMR解析をより強化する。 実証的な観点から,AMR解析を促進するための補助的タスクを含む原理的手法を提案する。
  論文  参考訳（メタデータ） (2022-04-19T13:15:59Z)
• CoPHE: A Count-Preserving Hierarchical Evaluation Metric in Large-Scale Multi-Label Text Classification [70.554573538777]
  ニューラルLMTCモデルの予測の階層的評価について論じる。 先行技術における構造化ラベル空間の表現における構造的問題について述べる。 深度に基づく表現を用いた階層的評価のための指標セットを提案する。
  論文  参考訳（メタデータ） (2021-09-10T13:09:12Z)
• Probabilistic, Structure-Aware Algorithms for Improved Variety, Accuracy, and Coverage of AMR Alignments [9.74672460306765]
  本稿では,抽象的意味表現(AMR)の成分を英文で並べるアルゴリズムを提案する。 教師なし学習をグラフと組み合わせて活用し、前回のAMRから両世界を最大限に活用する。 提案手法は,従来考えられていたより多様なAMRサブ構造を網羅し,ノードとエッジのより高いカバレッジを実現し,精度の高いAMRサブ構造を実現する。
  論文  参考訳（メタデータ） (2021-06-10T18:46:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。