論文の概要: AMPERE: AMR-Aware Prefix for Generation-Based Event Argument Extraction Model

• arxiv url: http://arxiv.org/abs/2305.16734v1
• Date: Fri, 26 May 2023 08:38:25 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-29 16:11:06.976928
• Title: AMPERE: AMR-Aware Prefix for Generation-Based Event Argument Extraction Model
• Title（参考訳）: ampere: 生成型イベント引数抽出モデルのためのamr対応プレフィックス
• Authors: I-Hung Hsu, Zhiyu Xie, Kuan-Hao Huang, Prem Natarajan, Nanyun Peng
• Abstract要約: イベント引数抽出(EAE)は、あるイベントに対するイベント引数とその特定の役割を特定する。 世代ベースAEモデルの最近の進歩は、分類ベースモデルよりも優れた性能と一般化性を示している。 生成モデルのすべての層に対してAMR対応プレフィックスを生成するAMPEREを提案する。
• 参考スコア（独自算出の注目度）: 38.390078345679214
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Event argument extraction (EAE) identifies event arguments and their specific roles for a given event. Recent advancement in generation-based EAE models has shown great performance and generalizability over classification-based models. However, existing generation-based EAE models mostly focus on problem re-formulation and prompt design, without incorporating additional information that has been shown to be effective for classification-based models, such as the abstract meaning representation (AMR) of the input passages. Incorporating such information into generation-based models is challenging due to the heterogeneous nature of the natural language form prevalently used in generation-based models and the structured form of AMRs. In this work, we study strategies to incorporate AMR into generation-based EAE models. We propose AMPERE, which generates AMR-aware prefixes for every layer of the generation model. Thus, the prefix introduces AMR information to the generation-based EAE model and then improves the generation. We also introduce an adjusted copy mechanism to AMPERE to help overcome potential noises brought by the AMR graph. Comprehensive experiments and analyses on ACE2005 and ERE datasets show that AMPERE can get 4% - 10% absolute F1 score improvements with reduced training data and it is in general powerful across different training sizes.
• Abstract（参考訳）: イベント引数抽出(EAE)は、イベント引数とその特定のイベントに対する役割を特定する。 世代ベースAEモデルの最近の進歩は、分類ベースモデルよりも優れた性能と一般化性を示している。 しかし、既存の世代ベースEAEモデルは、入力パスの抽象的意味表現(AMR)のような分類ベースモデルに有効であることが示されている追加情報を導入することなく、主に問題再定式化と迅速な設計に焦点を当てている。 このような情報を生成ベースモデルに組み込むことは、生成ベースモデルやAMRの構造形式で広く使われている自然言語形式の異種性のために困難である。 本研究では,AMRを世代ベースEAEモデルに組み込む戦略について検討する。 生成モデルのすべての層に対してAMR対応プレフィックスを生成するAMPEREを提案する。 これにより、プレフィックスは、AMR情報を生成ベースEAEモデルに導入し、生成を改善する。 また、AMPEREに調整されたコピー機構を導入し、AMRグラフによる潜在的なノイズを克服する。 ACE2005とEREデータセットに関する総合的な実験と分析により、AMPEREはトレーニングデータを減らすことで、4%から10%の絶対的なF1スコアの改善が可能であり、一般的にはトレーニングサイズによって強力であることが示された。

関連論文リスト

• Steering Masked Discrete Diffusion Models via Discrete Denoising Posterior Prediction [88.65168366064061]
  本稿では,確率論的推論の課題として,事前学習したMDMを操る作業を行う新しいフレームワークであるDDPPを紹介する。 私たちのフレームワークは、3つの新しい目標のファミリーにつながります。 Wet-lab Validation(ウェット・ラブ・バリデーション)を用いて,報酬最適化タンパク質配列の過渡的発現を観察する。
  論文  参考訳（メタデータ） (2024-10-10T17:18:30Z)
• A Structure-aware Generative Model for Biomedical Event Extraction [6.282854894433099]
  GenBEEという名前のイベント構造を意識した生成モデルは、バイオメディカルテキストで複雑なイベント構造をキャプチャできる。 我々は3つのバイオメディカルイベント抽出ベンチマークを用いて提案したGenBEEモデルを評価した。
  論文  参考訳（メタデータ） (2024-08-13T02:43:19Z)
• Synthesizing Multimodal Electronic Health Records via Predictive Diffusion Models [69.06149482021071]
  EHRPDと呼ばれる新しいEHRデータ生成モデルを提案する。 時間間隔推定を組み込んだ拡散モデルである。 我々は2つの公開データセットで実験を行い、忠実さ、プライバシー、実用性の観点からEPHPDを評価する。
  論文  参考訳（メタデータ） (2024-06-20T02:20:23Z)
• Comprehensive Exploration of Synthetic Data Generation: A Survey [4.485401662312072]
  この研究は、過去10年間で417のSynthetic Data Generationモデルを調査します。 その結果、ニューラルネットワークベースのアプローチが普及し、モデルのパフォーマンスと複雑性が向上したことが明らかになった。 コンピュータビジョンが支配的であり、GANが主要な生成モデルであり、拡散モデル、トランスフォーマー、RNNが競合する。
  論文  参考訳（メタデータ） (2024-01-04T20:23:51Z)
• AMR Parsing with Causal Hierarchical Attention and Pointers [54.382865897298046]
  因果的階層的注意とポインタ機構を備えた新しいAMR解析と新しいモデルCHAPを導入する。 実験の結果, 5つのベンチマークのうち4つのベースラインモデルでは, 追加データがない場合に, ベースラインモデルよりも優れた結果が得られた。
  論文  参考訳（メタデータ） (2023-10-18T13:44:26Z)
• A Probabilistic Fluctuation based Membership Inference Attack for Diffusion Models [32.15773300068426]
  メンバーシップ推論攻撃(MIA)は、機械学習モデルのトレーニングセットに、モデルをクエリすることでレコードが存在するかどうかを特定する。 PFAMI(Probabilistic Fluctuation Assessing Membership Inference Attack)を提案する。 PFAMIは最高のベースラインと比較して攻撃成功率(ASR)を約27.9%向上させることができる。
  論文  参考訳（メタデータ） (2023-08-23T14:00:58Z)
• End-to-End Speech Recognition: A Survey [68.35707678386949]
  本調査の目的は、E2E ASRモデルの分類とそれに対応する改善を提供することである。 E2E ASRのすべての関連する側面は、パフォーマンスとデプロイメントの機会に関する議論を伴う、この作業でカバーされている。
  論文  参考訳（メタデータ） (2023-03-03T01:46:41Z)
• GENEVA: Benchmarking Generalizability for Event Argument Extraction with Hundreds of Event Types and Argument Roles [77.05288144035056]
  Event Argument extract (EAE)は、新しいイベントやドメインに対応するためのモデルの一般化性の改善に重点を置いている。 ACEやEREといった標準的なベンチマークデータセットは、40のイベントタイプと25のエンティティ中心の引数ロールをカバーする。
  論文  参考訳（メタデータ） (2022-05-25T05:46:28Z)
• Reconstructing Training Data from Diverse ML Models by Ensemble Inversion [8.414622657659168]
  モデルインバージョン(MI)は、学習された機械学習(ML)モデルへのアクセスを敵が悪用するものであり、研究の注目を集めている。 本研究では,訓練されたモデルのアンサンブルに制約されたジェネレータを訓練することにより,元のトレーニングデータの分布を推定するアンサンブル変換手法を提案する。 データセットを使わずに高品質な結果が得られ、想定されるトレーニングデータに類似した補助データセットを利用することで、結果がどう改善されるかを示す。
  論文  参考訳（メタデータ） (2021-11-05T18:59:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。