論文の概要: Zero-shot Entity and Tweet Characterization with Designed Conditional
Prompts and Contexts
- arxiv url: http://arxiv.org/abs/2204.08405v1
- Date: Mon, 18 Apr 2022 17:01:49 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-19 17:37:04.207943
- Title: Zero-shot Entity and Tweet Characterization with Designed Conditional
Prompts and Contexts
- Title(参考訳): 条件付きプロンプトとコンテキストを考慮したゼロショットエンティティとツイートキャラクタリゼーション
- Authors: Sharath Srivatsa, Tushar Mohan, Kumari Neha, Nishchay Malakar,
Ponnurangam Kumaraguru, and Srinath Srinivasa
- Abstract要約: 我々は,生成事前学習型トランスフォーマー2(GPT-2)のゼロショット言語モデル機能を評価し,主観的な特徴付けとつぶやきを行う。
我々は、いくつかの人気のあるハッシュタグからツイートコーパスを付したGPT-2を微調整し、プレフィックス、質問、文脈合成プロンプトで言語モデルをプリミレーションすることで、ツイートを特徴付ける。
- 参考スコア(独自算出の注目度): 6.38674533060275
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Online news and social media have been the de facto mediums to disseminate
information globally from the beginning of the last decade. However, bias in
content and purpose of intentions are not regulated, and managing bias is the
responsibility of content consumers. In this regard, understanding the stances
and biases of news sources towards specific entities becomes important. To
address this problem, we use pretrained language models, which have been shown
to bring about good results with no task-specific training or few-shot
training. In this work, we approach the problem of characterizing Named
Entities and Tweets as an open-ended text classification and open-ended fact
probing problem.We evaluate the zero-shot language model capabilities of
Generative Pretrained Transformer 2 (GPT-2) to characterize Entities and Tweets
subjectively with human psychology-inspired and logical conditional prefixes
and contexts. First, we fine-tune the GPT-2 model on a sufficiently large news
corpus and evaluate subjective characterization of popular entities in the
corpus by priming with prefixes. Second, we fine-tune GPT-2 with a Tweets
corpus from a few popular hashtags and evaluate characterizing tweets by
priming the language model with prefixes, questions, and contextual synopsis
prompts. Entity characterization results were positive across measures and
human evaluation.
- Abstract(参考訳): オンラインニュースとソーシャルメディアは、過去10年初めから世界中の情報を広めるデファクトメディアとなっている。
しかし、コンテンツと意図のバイアスは規制されておらず、コンテンツ消費者の責任はバイアスを管理することである。
この点において、ニュースソースの特定のエンティティに対するスタンスやバイアスを理解することが重要となる。
この問題に対処するために、事前訓練された言語モデルを使用し、タスク固有のトレーニングや少数ショットトレーニングなしで良い結果をもたらすことが示されている。
本研究では,名前付きエンティティとつぶやきをオープンなテキスト分類とオープンな事実探索問題として特徴づける問題にアプローチし,生成事前学習型トランスフォーマー2(GPT-2)のゼロショット言語モデル機能を評価し,人間の心理学的・論理的条件付き接頭辞と文脈を主観的に特徴付ける。
まず,十分に大きなニュースコーパス上でgpt-2モデルを微調整し,プレフィックスを用いたプライミングにより,コーパス内の人気エンティティの主観的特徴評価を行う。
第2に、いくつかのハッシュタグからツイートコーパスを付加したGPT-2を微調整し、プレフィックス、質問、文脈合成のプロンプトで言語モデルを予備し、ツイートを特徴付ける。
実体的特徴は測定値と人的評価で正であった。
関連論文リスト
- Fine-tuning Language Models for Factuality [96.5203774943198]
大規模な事前訓練型言語モデル(LLM)は、しばしば伝統的な検索エンジンの代替として、広く使われるようになった。
しかし、言語モデルは説得力のあるが事実的に不正確な主張をしがちである(しばしば「幻覚」と呼ばれる)。
本研究では,人間のラベル付けなしに,より現実的な言語モデルを微調整する。
論文 参考訳(メタデータ) (2023-11-14T18:59:15Z) - SOUL: Towards Sentiment and Opinion Understanding of Language [96.74878032417054]
我々は、言語感覚とオピニオン理解(SOUL)と呼ばれる新しいタスクを提案する。
SOULは2つのサブタスクを通して感情理解を評価することを目的としている:レビュー(RC)と正当化生成(JG)。
論文 参考訳(メタデータ) (2023-10-27T06:48:48Z) - Characterizing Latent Perspectives of Media Houses Towards Public
Figures [0.0]
本研究は,GPT-2を用いたコーパスからの人物の非抽出的・生成的特徴評価のためのゼロショットアプローチを提案する。
我々は、このアプローチの健全な議論を構築するためのコーパスとして、いくつかの有名なニュースメディアハウスから、よく認識された記事を使用します。
論文 参考訳(メタデータ) (2023-09-12T10:27:39Z) - Analyzing Vietnamese Legal Questions Using Deep Neural Networks with
Biaffine Classifiers [3.116035935327534]
我々は深層ニューラルネットワークを用いてベトナムの法的問題から重要な情報を抽出することを提案する。
自然言語で法的疑問が与えられた場合、その疑問に答えるために必要な情報を含む全てのセグメントを抽出することが目的である。
論文 参考訳(メタデータ) (2023-04-27T18:19:24Z) - Bias at a Second Glance: A Deep Dive into Bias for German Educational
Peer-Review Data Modeling [10.080007569933331]
我々は5年間で9,165人のドイツのピアレビューのコーパスで、テキストと複数のアーキテクチャ間のバイアスを分析します。
収集したコーパスは, 共起解析やGloVe埋め込みにおいて多くのバイアスを示さない。
事前訓練されたドイツの言語モデルは、実質的な概念的、人種的、性別的偏見を見出す。
論文 参考訳(メタデータ) (2022-09-21T13:08:16Z) - Leveraging Pre-trained Language Model for Speech Sentiment Analysis [58.78839114092951]
本研究では、事前学習された言語モデルを用いて、文章の感情情報を学習し、音声の感情分析を行う。
本稿では,言語モデルを用いた擬似ラベルに基づく半教師付き訓練戦略を提案する。
論文 参考訳(メタデータ) (2021-06-11T20:15:21Z) - Sentiment analysis in tweets: an assessment study from classical to
modern text representation models [59.107260266206445]
Twitterで公開された短いテキストは、豊富な情報源として大きな注目を集めている。
非公式な言語スタイルや騒々しい言語スタイルといったそれらの固有の特徴は、多くの自然言語処理(NLP)タスクに挑戦し続けている。
本研究では,22データセットの豊富なコレクションを用いて,ツイートに表される感情を識別する既存言語モデルの評価を行った。
論文 参考訳(メタデータ) (2021-05-29T21:05:28Z) - TweetEval: Unified Benchmark and Comparative Evaluation for Tweet
Classification [22.265865542786084]
異種Twitter固有の7つの分類タスクからなる新しい評価フレームワーク(TweetEval)を提案する。
最初の実験では、既存の訓練済みの汎用言語モデルから始めることの有効性を示した。
論文 参考訳(メタデータ) (2020-10-23T14:11:04Z) - Weakly-Supervised Aspect-Based Sentiment Analysis via Joint
Aspect-Sentiment Topic Embedding [71.2260967797055]
アスペクトベース感情分析のための弱教師付きアプローチを提案する。
We learn sentiment, aspects> joint topic embeddeds in the word embedding space。
次に、ニューラルネットワークを用いて単語レベルの識別情報を一般化する。
論文 参考訳(メタデータ) (2020-10-13T21:33:24Z) - Abstractive Summarization of Spoken and Written Instructions with BERT [66.14755043607776]
本稿では,BERTSumモデルの最初の対話型言語への応用について述べる。
我々は多種多様な話題にまたがるナレーションビデオの抽象要約を生成する。
我々は、これをインテリジェントな仮想アシスタントの機能として統合し、要求に応じて文字と音声の両方の指導内容の要約を可能にすることを想定する。
論文 参考訳(メタデータ) (2020-08-21T20:59:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。