論文の概要: SKEP: Sentiment Knowledge Enhanced Pre-training for Sentiment Analysis
- arxiv url: http://arxiv.org/abs/2005.05635v2
- Date: Wed, 20 May 2020 08:12:22 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-03 18:59:43.215213
- Title: SKEP: Sentiment Knowledge Enhanced Pre-training for Sentiment Analysis
- Title(参考訳): SKEP:感覚分析のための事前学習の強化
- Authors: Hao Tian, Can Gao, Xinyan Xiao, Hao Liu, Bolei He, Hua Wu, Haifeng
Wang, Feng Wu
- Abstract要約: 本稿では,複数の感情分析タスクに対する統一的な感情表現を学習するために,感覚知識強化事前学習(SKEP)を導入する。
自動的な知識の助けを借りて、SKEPは感情マスキングを行い、3つの感情知識予測目標を構築する。
3種類の感情タスクの実験では、SKEPはトレーニング前ベースラインよりも有意に優れていた。
- 参考スコア(独自算出の注目度): 69.80296394461149
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recently, sentiment analysis has seen remarkable advance with the help of
pre-training approaches. However, sentiment knowledge, such as sentiment words
and aspect-sentiment pairs, is ignored in the process of pre-training, despite
the fact that they are widely used in traditional sentiment analysis
approaches. In this paper, we introduce Sentiment Knowledge Enhanced
Pre-training (SKEP) in order to learn a unified sentiment representation for
multiple sentiment analysis tasks. With the help of automatically-mined
knowledge, SKEP conducts sentiment masking and constructs three sentiment
knowledge prediction objectives, so as to embed sentiment information at the
word, polarity and aspect level into pre-trained sentiment representation. In
particular, the prediction of aspect-sentiment pairs is converted into
multi-label classification, aiming to capture the dependency between words in a
pair. Experiments on three kinds of sentiment tasks show that SKEP
significantly outperforms strong pre-training baseline, and achieves new
state-of-the-art results on most of the test datasets. We release our code at
https://github.com/baidu/Senta.
- Abstract(参考訳): 近年,プレトレーニングアプローチの助けを借りて感情分析が著しく進歩している。
しかし、従来の感情分析手法で広く使われているにもかかわらず、感情語やアスペクト知覚ペアのような感情知識は事前学習の過程で無視される。
本稿では,複数の感情分析タスクに対する統一的な感情表現を学習するために,感覚知識強化事前学習(SKEP)を導入する。
SKEPは、自動的な知識の助けを借りて、感情マスキングを行い、3つの感情知識予測目標を構築し、感情情報を単語、極性、アスペクトレベルに組み込む。
特に、アスペクト強調ペアの予測は、ペア内の単語間の依存性を捉えることを目的として、マルチラベル分類に変換される。
3種類の感情タスクの実験では、SKEPはトレーニング前のベースラインを著しく上回り、テストデータセットのほとんどで新たな最先端結果が得られる。
コードはhttps://github.com/baidu/sentaでリリースします。
関連論文リスト
- You Shall Know a Tool by the Traces it Leaves: The Predictability of Sentiment Analysis Tools [74.98850427240464]
感情分析ツールが同じデータセットで一致しないことを示す。
感傷的アノテーションに使用される感情ツールは,その結果から予測できることを示す。
論文 参考訳(メタデータ) (2024-10-18T17:27:38Z) - How are Prompts Different in Terms of Sensitivity? [50.67313477651395]
本稿では,関数の感度に基づく包括的即時解析を提案する。
出力に対する入力トークンの関連性に異なるプロンプトがどう影響するかを実証的に示すために、勾配に基づく唾液度スコアを使用する。
本稿では, 感度推定をペナルティ項として組み込んだ感度認識復号法を標準グリーディ復号法で導入する。
論文 参考訳(メタデータ) (2023-11-13T10:52:01Z) - Sentiment-Aware Word and Sentence Level Pre-training for Sentiment
Analysis [64.70116276295609]
SentiWSPは、WordレベルとSentenceレベルの事前トレーニングタスクを組み合わせた、Sentiment対応の事前トレーニング言語モデルである。
SentiWSPは、様々な文レベルおよびアスペクトレベルの感情分類ベンチマーク上で、最先端のパフォーマンスを新たに達成する。
論文 参考訳(メタデータ) (2022-10-18T12:25:29Z) - KESA: A Knowledge Enhanced Approach For Sentiment Analysis [13.937274761540925]
文レベルの感情分析について検討し、感情語クローゼと条件付き感情予測という2つの感情認識補助課題を提案する。
実験結果から,本手法はトレーニング済みモデルよりも一貫して優れていることが示された。
論文 参考訳(メタデータ) (2022-02-24T13:21:27Z) - Learning Implicit Sentiment in Aspect-based Sentiment Analysis with
Supervised Contrastive Pre-Training [18.711698114617526]
大規模感情アノテートコーパスを用いた教師付きコントラスト事前学習を提案する。
暗黙の感情表現を同一の感情ラベルを持つものと整合させることで、事前学習プロセスは、レビューの側面に対する暗黙の感情指向と明示的な感情指向の両方をよりよく捉えます。
論文 参考訳(メタデータ) (2021-11-03T13:03:17Z) - SentiPrompt: Sentiment Knowledge Enhanced Prompt-Tuning for Aspect-Based
Sentiment Analysis [22.758661494710047]
統一されたフレームワークで言語モデルをチューニングするためにSentiPromptを提案する。
側面、意見、極性に関する感情知識を、迅速かつ明示的に項関係をモデル化する。
提案手法は,三重項抽出,ペア抽出,および知覚分類によるアスペクト項抽出において,強いベースラインを達成できる。
論文 参考訳(メタデータ) (2021-09-17T01:56:06Z) - Enhanced Aspect-Based Sentiment Analysis Models with Progressive
Self-supervised Attention Learning [103.0064298630794]
アスペクトベース感情分析(absa)では、多くのニューラルモデルに感情予測に対する各文脈単語の寄与を定量化するための注意機構が備わっている。
注目ABSAモデルに対する自己監督型注意学習の進歩的アプローチを提案する。
提案手法を3つの最先端の神経ABSAモデルに統合する。
論文 参考訳(メタデータ) (2021-03-05T02:50:05Z) - From Sentiment Annotations to Sentiment Prediction through Discourse
Augmentation [30.615883375573432]
本稿では,感情分析の課題にタスク関連談話を利用する新しい枠組みを提案する。
具体的には、大規模で感情に依存したMEGA-DTツリーバンクと、感情予測のための新しいニューラルアーキテクチャを組み合わせています。
実験により,感情関連談話拡張を用いた感情予測により,長期文書の全体的な性能が向上することが確認された。
論文 参考訳(メタデータ) (2020-11-05T18:28:13Z) - Weakly-Supervised Aspect-Based Sentiment Analysis via Joint
Aspect-Sentiment Topic Embedding [71.2260967797055]
アスペクトベース感情分析のための弱教師付きアプローチを提案する。
We learn sentiment, aspects> joint topic embeddeds in the word embedding space。
次に、ニューラルネットワークを用いて単語レベルの識別情報を一般化する。
論文 参考訳(メタデータ) (2020-10-13T21:33:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。