論文の概要: Polarity and Subjectivity Detection with Multitask Learning and BERT
Embedding
- arxiv url: http://arxiv.org/abs/2201.05363v1
- Date: Fri, 14 Jan 2022 09:52:15 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-17 20:06:23.080051
- Title: Polarity and Subjectivity Detection with Multitask Learning and BERT
Embedding
- Title(参考訳): マルチタスク学習とBERT埋め込みによる極性と主観性検出
- Authors: Ranjan Satapathy, Shweta Pardeshi, Erik Cambria
- Abstract要約: 極性と主観的検出を共同で行う深層マルチタスク学習フレームワークを提案する。
極性と主観性を予測するために,注目に基づくマルチタスクモデルを提案する。
提案手法を,主観的・極性的に分類された単一タスクとマルチタスクの両フレームワークにおける最先端モデルと比較する。
- 参考スコア(独自算出の注目度): 12.7978001322121
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multitask learning often helps improve the performance of related tasks as
these often have inter-dependence on each other and perform better when solved
in a joint framework. In this paper, we present a deep multitask learning
framework that jointly performs polarity and subjective detection. We propose
an attention-based multitask model for predicting polarity and subjectivity.
The input sentences are transformed into vectors using pre-trained BERT and
Glove embeddings, and the results depict that BERT embedding based model works
better than the Glove based model. We compare our approach with
state-of-the-art models in both subjective and polarity classification
single-task and multitask frameworks. The proposed approach reports baseline
performances for both polarity detection and subjectivity detection.
- Abstract(参考訳): マルチタスク学習は、互いに依存することが多く、ジョイントフレームワークで解決した場合にパフォーマンスが向上するので、関連するタスクのパフォーマンスを改善するのに役立つ。
本稿では,極性と主観的検出を共同で行う深層マルチタスク学習フレームワークを提案する。
極性と主観性を予測するための注意に基づくマルチタスクモデルを提案する。
入力文は、事前訓練されたBERTとGlove埋め込みを用いてベクトルに変換し、BERT埋め込みベースのモデルはGloveベースモデルよりもうまく動作することを示す。
本手法を主観的および極性分類シングルタスクおよびマルチタスクフレームワークの最先端モデルと比較した。
提案手法は,極性検出と主観性検出の両方において基礎的性能を示す。
関連論文リスト
- Improving General Text Embedding Model: Tackling Task Conflict and Data Imbalance through Model Merging [33.23758947497205]
高度な埋め込みモデルは、通常、大規模マルチタスクデータと複数のタスクをまたいだ共同トレーニングを用いて開発される。
これらの課題を克服するために、独立に訓練されたモデルを組み合わせて勾配の衝突を緩和し、データ分散のバランスをとるモデルマージングについて検討する。
本稿では,勾配降下を用いたタスクベクトル空間内の最適モデル組合せを効率的に探索する新たな手法であるSelf Positioningを提案する。
論文 参考訳(メタデータ) (2024-10-19T08:39:21Z) - A Multi-Task, Multi-Modal Approach for Predicting Categorical and
Dimensional Emotions [0.0]
分類的・次元的な感情を予測するマルチタスク・マルチモーダルシステムを提案する。
その結果,2種類の感情の相互規則化の重要性が強調された。
論文 参考訳(メタデータ) (2023-12-31T16:48:03Z) - Exploiting Modality-Specific Features For Multi-Modal Manipulation
Detection And Grounding [54.49214267905562]
マルチモーダルな操作検出とグラウンド処理のためのトランスフォーマーベースのフレームワークを構築する。
本フレームワークは,マルチモーダルアライメントの能力を維持しながら,モダリティ特有の特徴を同時に探求する。
本稿では,グローバルな文脈的キューを各モーダル内に適応的に集約する暗黙的操作クエリ(IMQ)を提案する。
論文 参考訳(メタデータ) (2023-09-22T06:55:41Z) - Derivative Free Weight-space Ensembling [0.0]
本稿では,オープンドメイン対話のための数サンプルタスク転送手法であるDFWEを紹介する。
対象タスクのエキスパートモデルをそれぞれ微調整し、複数の異なる知識ベースから目標タスクにアプローチする。
勾配自由度最適化アルゴリズムを用いてモデルの重み付けを線形に補間し,より効率的な重み付けを求める。
論文 参考訳(メタデータ) (2023-07-07T10:42:44Z) - Visual Exemplar Driven Task-Prompting for Unified Perception in
Autonomous Driving [100.3848723827869]
本稿では,タスク固有のプロンプトを通じて視覚的見本を提示する,効果的なマルチタスクフレームワークVE-Promptを提案する。
具体的には、境界ボックスと色に基づくマーカーに基づいて視覚的な例を生成し、ターゲットカテゴリの正確な視覚的外観を提供する。
我々は変圧器をベースとしたエンコーダと畳み込み層を橋渡しし、自律運転における効率的かつ正確な統合認識を実現する。
論文 参考訳(メタデータ) (2023-03-03T08:54:06Z) - Composite Learning for Robust and Effective Dense Predictions [81.2055761433725]
マルチタスク学習は、目標タスクを補助タスクと協調的に最適化することで、より優れたモデル一般化を約束する。
自己監督型(補助的)タスクと密接な予測(目標)タスクを共同でトレーニングすることで、目標タスクの性能を継続的に向上し、補助タスクのラベル付けの必要性を排除できることが判明した。
論文 参考訳(メタデータ) (2022-10-13T17:59:16Z) - VLCDoC: Vision-Language Contrastive Pre-Training Model for Cross-Modal
Document Classification [3.7798600249187295]
文書データからのマルチモーダル学習は、前もって意味論的に意味のある機能を学習可能な下流タスクに事前学習可能にすることで、近年大きな成功を収めている。
本稿では,言語と視覚の手がかりを通したクロスモーダル表現の学習により,文書分類問題にアプローチする。
提案手法は,ハイレベルなインタラクションを利用して,モダリティ内外における効果的な注意の流れから関連する意味情報を学習する。
論文 参考訳(メタデータ) (2022-05-24T12:28:12Z) - A Generative Language Model for Few-shot Aspect-Based Sentiment Analysis [90.24921443175514]
我々は、アスペクト項、カテゴリを抽出し、対応する極性を予測するアスペクトベースの感情分析に焦点を当てる。
本稿では,一方向の注意を伴う生成言語モデルを用いて,抽出タスクと予測タスクをシーケンス生成タスクに再構成することを提案する。
提案手法は,従来の最先端(BERTをベースとした)の性能を,数ショットとフルショットの設定において,大きなマージンで上回ります。
論文 参考訳(メタデータ) (2022-04-11T18:31:53Z) - On Modality Bias Recognition and Reduction [70.69194431713825]
マルチモーダル分類の文脈におけるモダリティバイアス問題について検討する。
本稿では,各ラベルの特徴空間を適応的に学習するプラグアンドプレイ損失関数法を提案する。
本手法は, ベースラインに比べ, 顕著な性能向上を実現している。
論文 参考訳(メタデータ) (2022-02-25T13:47:09Z) - Task-Feature Collaborative Learning with Application to Personalized
Attribute Prediction [166.87111665908333]
本稿では,TFCL(Task-Feature Collaborative Learning)と呼ばれる新しいマルチタスク学習手法を提案する。
具体的には、まず、特徴とタスクの協調的なグループ化を活用するために、不均一なブロック対角構造正規化器を用いたベースモデルを提案する。
実際の拡張として,重なり合う機能と難易度を区別することで,基本モデルを拡張します。
論文 参考訳(メタデータ) (2020-04-29T02:32:04Z) - Related Tasks can Share! A Multi-task Framework for Affective language [46.33453414805304]
本稿では,マルチタスク学習フレームワークにおける複数のタスクの関連性を活用することを提案する。
我々のマルチタスクモデルは畳み込み型リカレントユニット(GRU)フレームワークに基づいている。
評価と分析は、マルチタスクフレームワークにおける関連タスクの共同学習が、シングルタスクフレームワークにおける個々のタスクよりも優れていることを示唆している。
論文 参考訳(メタデータ) (2020-02-06T08:36:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。