論文の概要: Variational Weakly Supervised Sentiment Analysis with Posterior
Regularization
- arxiv url: http://arxiv.org/abs/2104.08779v1
- Date: Sun, 18 Apr 2021 09:05:31 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-22 08:22:38.498221
- Title: Variational Weakly Supervised Sentiment Analysis with Posterior
Regularization
- Title(参考訳): 後方規則化を用いた変分弱修正感度解析
- Authors: Ziqian Zeng, Yangqiu Song
- Abstract要約: 弱教師付き感情分析に対する変動的アプローチのための後続正規化フレームワークを提案する。
実験の結果, 後方正則化は, 弱教師付き感情分析に対する元の変分的アプローチを改善できることがわかった。
- 参考スコア(独自算出の注目度): 41.7901695397377
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sentiment analysis is an important task in natural language processing (NLP).
Most of existing state-of-the-art methods are under the supervised learning
paradigm. However, human annotations can be scarce. Thus, we should leverage
more weak supervision for sentiment analysis. In this paper, we propose a
posterior regularization framework for the variational approach to the weakly
supervised sentiment analysis to better control the posterior distribution of
the label assignment. The intuition behind the posterior regularization is that
if extracted opinion words from two documents are semantically similar, the
posterior distributions of two documents should be similar. Our experimental
results show that the posterior regularization can improve the original
variational approach to the weakly supervised sentiment analysis and the
performance is more stable with smaller prediction variance.
- Abstract(参考訳): 感性分析は自然言語処理(NLP)において重要な課題である。
既存の最先端の手法のほとんどは、教師付き学習パラダイムの下にある。
しかし、人間のアノテーションは乏しい。
したがって、感情分析の弱さを活用すべきである。
本稿では,ラベル配置の後方分布をよりよく制御するために,弱い教師付き感情分析に対する変分的アプローチのための後方正則化フレームワークを提案する。
後続正則化の背後にある直感は、2つの文書から抽出された意見語が意味的に類似しているならば、2つの文書の後続分布は類似しているはずである。
実験の結果, 後方正則化は, 弱教師付き感情分析に対する元の変分アプローチを改善でき, 予測ばらつきを小さくすることで, より安定な性能が得られることがわかった。
関連論文リスト
- Interpretable multimodal sentiment analysis based on textual modality
descriptions by using large-scale language models [1.4213973379473654]
マルチモーダル感情分析は、ユーザの内部状態を理解する上で重要な領域である。
従来の研究は、注意重みやベクトル分布を使って解釈性を提供しようと試みてきた。
本研究では,非言語的モダリティをテキスト記述に変換することによって解釈可能性を実現する手法を提案する。
論文 参考訳(メタデータ) (2023-05-07T06:48:06Z) - Why Does Surprisal From Larger Transformer-Based Language Models Provide
a Poorer Fit to Human Reading Times? [9.909170013118775]
トレーニング中にシーケンスを「記憶する」ためにトランスフォーマーをベースとした大規模モデルの妥当性は、その前提推定を人間的な期待から逸脱させる。
これらの結果から,大規模トランスフォーマーモデルがトレーニング中にシーケンスを「記憶する」ことの妥当性は,人為的な予測から逸脱することが示唆された。
論文 参考訳(メタデータ) (2022-12-23T03:57:54Z) - In and Out-of-Domain Text Adversarial Robustness via Label Smoothing [64.66809713499576]
多様なNLPタスクの基本モデルにおいて,ラベルの平滑化戦略によって提供される対角的ロバスト性について検討する。
実験の結果,ラベルのスムース化は,BERTなどの事前学習モデルにおいて,様々な攻撃に対して,逆方向の堅牢性を大幅に向上させることがわかった。
また,予測信頼度とロバスト性の関係を解析し,ラベルの平滑化が敵の例に対する過度な信頼誤差を減少させることを示した。
論文 参考訳(メタデータ) (2022-12-20T14:06:50Z) - Regularizing Variational Autoencoder with Diversity and Uncertainty
Awareness [61.827054365139645]
変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。
よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
論文 参考訳(メタデータ) (2021-10-24T07:58:13Z) - Contextualized Semantic Distance between Highly Overlapped Texts [85.1541170468617]
テキスト編集や意味的類似性評価といった自然言語処理タスクにおいて、ペア化されたテキストに重複が頻繁に発生する。
本稿では,マスク・アンド・予測戦略を用いてこの問題に対処することを目的とする。
本稿では,最も長い単語列の単語を隣接する単語とみなし,その位置の分布を予測するためにマスク付き言語モデリング(MLM)を用いる。
セマンティックテキスト類似性の実験では、NDDは様々な意味的差異、特に高い重なり合うペアテキストに対してより敏感であることが示されている。
論文 参考訳(メタデータ) (2021-10-04T03:59:15Z) - Sparse Fuzzy Attention for Structured Sentiment Analysis [48.69930912510414]
本研究では,プール層を有するスパース・ファジィアテンションスコアラを提案する。
さらに,2次解析を用いた構造化感情分析における解析モデルについて検討し,解析性能を著しく向上させる新しい2次エッジ構築手法を提案する。
論文 参考訳(メタデータ) (2021-09-14T14:37:56Z) - On the benefits of representation regularization in invariance based
domain generalization [6.197602794925773]
ドメインの一般化は、観測された環境と見えない環境の間のこのような予測ギャップを軽減することを目的としている。
本稿では、単に不変表現の学習が、目に見えない環境に対して脆弱であることを明らかにする。
さらに, 領域一般化におけるロバスト性向上のための効率的な正則化手法を考案した。
論文 参考訳(メタデータ) (2021-05-30T13:13:55Z) - Multilingual Alignment of Contextual Word Representations [49.42244463346612]
BERTはXNLIのゼロショット性能をベースモデルに比べて大幅に改善した。
単語検索の文脈バージョンを導入し、下流のゼロショット転送とよく相関していることを示す。
これらの結果は、大規模多言語事前学習モデルの理解に有用な概念としてコンテキストアライメントをサポートする。
論文 参考訳(メタデータ) (2020-02-10T03:27:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。