論文の概要: Structural Bias for Aspect Sentiment Triplet Extraction
- arxiv url: http://arxiv.org/abs/2209.00820v1
- Date: Fri, 2 Sep 2022 05:02:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-05 12:19:55.974859
- Title: Structural Bias for Aspect Sentiment Triplet Extraction
- Title(参考訳): アスペクト感情三重項抽出のための構造バイアス
- Authors: Chen Zhang, Lei Ren, Fang Ma, Jingang Wang, Wei Wu, Dawei Song
- Abstract要約: アスペクト感情三重項抽出(ASTE)には構造バイアスが利用され,性能が向上した。
構造バイアスを明示的に組み込むことは効率に悪影響を及ぼすが、事前訓練された言語モデル(PLM)はすでに暗黙的な構造を捉えることができる。
そこで本研究では,PLMにおける構造バイアスを統合するためのアダプタと,低コストで計算可能な相対的位置構造を用いて,効率上の問題に対処することを提案する。
- 参考スコア(独自算出の注目度): 15.273669042985883
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Structural bias has recently been exploited for aspect sentiment triplet
extraction (ASTE) and led to improved performance. On the other hand, it is
recognized that explicitly incorporating structural bias would have a negative
impact on efficiency, whereas pretrained language models (PLMs) can already
capture implicit structures. Thus, a natural question arises: Is structural
bias still a necessity in the context of PLMs? To answer the question, we
propose to address the efficiency issues by using an adapter to integrate
structural bias in the PLM and using a cheap-to-compute relative position
structure in place of the syntactic dependency structure. Benchmarking
evaluation is conducted on the SemEval datasets. The results show that our
proposed structural adapter is beneficial to PLMs and achieves state-of-the-art
performance over a range of strong baselines, yet with a light parameter demand
and low latency. Meanwhile, we give rise to the concern that the current
evaluation default with data of small scale is under-confident. Consequently,
we release a large-scale dataset for ASTE. The results on the new dataset hint
that the structural adapter is confidently effective and efficient to a large
scale. Overall, we draw the conclusion that structural bias shall still be a
necessity even with PLMs.
- Abstract(参考訳): 最近、構造バイアスがアスペクト感情三重項抽出(ASTE)に利用され、性能が向上した。
一方、構造バイアスを明示的に組み込むことは効率に悪影響を及ぼすが、事前訓練された言語モデル(PLM)は暗黙的な構造を捉えることができる。
構造バイアスは依然としてplmのコンテキストにおいて必要か?
そこで本研究では,plmの構造バイアスをアダプタを用いて統合し,構文依存構造に代えて,安価に計算可能な相対位置構造を用いることにより,効率問題に対処することを提案する。
SemEvalデータセット上でベンチマーク評価を行う。
その結果,提案する構造アダプタはPLMに有益であり,強力なベースラインにまたがる最先端性能を実現するが,軽量なパラメータ要求と低レイテンシで実現可能であることがわかった。
一方で、小規模のデータによる現在の評価基準が信頼できないという懸念も浮き彫りにしている。
その結果,ASTEの大規模データセットが得られた。
新しいデータセットの結果は、構造的アダプタは自信深く有効で、大規模に効率的であることを示唆している。
全体として、構造バイアスはplmでも依然として必要である、という結論を導きます。
関連論文リスト
- Exploring Optimal Substructure for Out-of-distribution Generalization
via Feature-targeted Model Pruning [23.938392334438582]
本研究では,不均一な部分構造を自動探索するために,SFPと呼ばれる新しいSpurious Feature-targeted Model Pruningフレームワークを提案する。
SFP は構造ベースおよび非構造 OOD 一般化 SOTA をそれぞれ4.72% と 23.35% に向上させることができる。
論文 参考訳(メタデータ) (2022-12-19T13:51:06Z) - Autoregressive Structured Prediction with Language Models [73.11519625765301]
本稿では, PLM を用いた自己回帰的手法を用いて, モデル構造を行動列として記述する。
我々のアプローチは、私たちが見てきた全ての構造化予測タスクにおいて、新しい最先端を実現する。
論文 参考訳(メタデータ) (2022-10-26T13:27:26Z) - CAFE: Learning to Condense Dataset by Aligning Features [72.99394941348757]
本稿ではCAFE(Aligning features)によるCondenseデータセットの新しいスキームを提案する。
このアプローチの核心は、さまざまなスケールにわたる実データと合成データから機能を整合させる効果的な戦略です。
提案したCAFEを様々なデータセットで検証し,概ね最先端技術であることを示す。
論文 参考訳(メタデータ) (2022-03-03T05:58:49Z) - Robust Self-Supervised LiDAR Odometry via Representative Structure
Discovery and 3D Inherent Error Modeling [67.75095378830694]
そこで我々は,2段階のオドメトリ推定ネットワークを構築し,一連の部分領域変換を推定してエゴモーメントを求める。
本稿では,トレーニング,推論,マッピングフェーズにおける信頼できない構造の影響を軽減することを目的とする。
我々の2フレームのオードメトリーは、翻訳/回転誤差の点で、過去の芸術の状態を16%/12%上回っている。
論文 参考訳(メタデータ) (2022-02-27T12:52:27Z) - ISTR: End-to-End Instance Segmentation with Transformers [147.14073165997846]
ISTRと呼ばれるインスタンスセグメンテーショントランスフォーマーを提案します。これは、その種類の最初のエンドツーエンドフレームワークです。
ISTRは低次元マスクの埋め込みを予測し、それらのマスクの埋め込みと一致する。
ISTRは、提案されたエンドツーエンドのメカニズムにより、近似ベースのサブオプティマティック埋め込みでも最先端のパフォーマンスを発揮します。
論文 参考訳(メタデータ) (2021-05-03T06:00:09Z) - Entity Structure Within and Throughout: Modeling Mention Dependencies
for Document-Level Relation Extraction [17.653025734439616]
このような構造を言及対間の独特の依存関係として定式化する。
次に,これらの構造的依存関係を標準自己認識機構に組み込んだSSANを提案する。
本実験では,提案された実体構造の有用性およびSSANの有効性を示す。
論文 参考訳(メタデータ) (2021-02-20T03:47:46Z) - Demystifying Inductive Biases for $\beta$-VAE Based Architectures [19.53632220171481]
私たちは、VAEベースのアーキテクチャの成功に責任を持つ帰納バイアスに光を当てました。
古典的なデータセットでは, 生成因子によって誘導される分散構造は, VAEの目的によって促進される潜伏方向と都合よく一致していることを示す。
論文 参考訳(メタデータ) (2021-02-12T23:57:20Z) - Improving Robustness by Augmenting Training Sentences with
Predicate-Argument Structures [62.562760228942054]
データセットバイアスに対するロバスト性を改善する既存のアプローチは、主にトレーニング目標の変更に焦点を当てている。
本稿では,学習データ中の入力文に対応する述語句構造を付加することを提案する。
特定のバイアスを対象とせずに、文の増大は、複数のバイアスに対してトランスフォーマーモデルの堅牢性を向上することを示す。
論文 参考訳(メタデータ) (2020-10-23T16:22:05Z) - Augmented Parallel-Pyramid Net for Attention Guided Pose-Estimation [90.28365183660438]
本稿では、注意部分モジュールと微分可能な自動データ拡張を備えた拡張並列ピラミドネットを提案する。
我々は、データ拡張のシーケンスをトレーニング可能なCNNコンポーネントとして定式化する新しいポーズ検索空間を定義する。
特に,本手法は,挑戦的なCOCOキーポイントベンチマークとMPIIデータセットの最先端結果において,トップ1の精度を実現する。
論文 参考訳(メタデータ) (2020-03-17T03:52:17Z) - Neighborhood Structure Assisted Non-negative Matrix Factorization and
its Application in Unsupervised Point-wise Anomaly Detection [6.859284479314336]
そこで本研究では,NMFフレームワークに近傍構造情報を組み込むため,最小分散木を用いてデータをモデル化する。
得られた手法をNMFの近傍構造としてラベル付けする。
20のベンチマークデータセットと水力発電所から抽出された工業用データセットを用いた実証的な比較は、近隣構造がNMFを補助していることを示す。
論文 参考訳(メタデータ) (2020-01-17T21:43:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。