論文の概要: CrisisBERT: a Robust Transformer for Crisis Classification and
Contextual Crisis Embedding
- arxiv url: http://arxiv.org/abs/2005.06627v2
- Date: Mon, 18 May 2020 07:58:23 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-04 19:44:56.098371
- Title: CrisisBERT: a Robust Transformer for Crisis Classification and
Contextual Crisis Embedding
- Title（参考訳）: CrisisBERT: 危機分類とコンテキスト危機埋め込みのためのロバスト変換器
- Authors: Junhua Liu, Trisha Singhal, Lucienne T.M. Blessing, Kristin L. Wood
and Kwan Hui Lim
- Abstract要約: 本稿では,危機検出と危機認識という2つの危機分類タスクのためのエンドツーエンドトランスフォーマーモデルを提案する。
私たちはまた、危機埋め込みのための注意ベースの文書レベルのコンテキスト埋め込みアーキテクチャであるCrisis2Vecを提案しました。
- 参考スコア（独自算出の注目度）: 2.7718973516070684
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Classification of crisis events, such as natural disasters, terrorist attacks
and pandemics, is a crucial task to create early signals and inform relevant
parties for spontaneous actions to reduce overall damage. Despite crisis such
as natural disasters can be predicted by professional institutions, certain
events are first signaled by civilians, such as the recent COVID-19 pandemics.
Social media platforms such as Twitter often exposes firsthand signals on such
crises through high volume information exchange over half a billion tweets
posted daily. Prior works proposed various crisis embeddings and classification
using conventional Machine Learning and Neural Network models. However, none of
the works perform crisis embedding and classification using state of the art
attention-based deep neural networks models, such as Transformers and
document-level contextual embeddings. This work proposes CrisisBERT, an
end-to-end transformer-based model for two crisis classification tasks, namely
crisis detection and crisis recognition, which shows promising results across
accuracy and f1 scores. The proposed model also demonstrates superior
robustness over benchmark, as it shows marginal performance compromise while
extending from 6 to 36 events with only 51.4% additional data points. We also
proposed Crisis2Vec, an attention-based, document-level contextual embedding
architecture for crisis embedding, which achieve better performance than
conventional crisis embedding methods such as Word2Vec and GloVe. To the best
of our knowledge, our works are first to propose using transformer-based crisis
classification and document-level contextual crisis embedding in the
literature.
- Abstract（参考訳）: 自然災害、テロ攻撃、パンデミックなどの危機イベントの分類は、早期の信号を作成し、関連する当事者に全体的被害を減らすために自発的な行動を知らせる重要なタスクである。
自然災害などの危機は専門機関によって予測できるが、特定の出来事は、新型コロナウイルス(covid-19)のパンデミックのような民間人によって最初に示唆される。
twitterのようなソーシャルメディアプラットフォームは、毎日50億以上のツイートが投稿された大量の情報交換を通じて、そのような危機に対して直接のシグナルを発信することが多い。
以前の研究は、従来の機械学習とニューラルネットワークモデルを使用して、さまざまな危機の埋め込みと分類を提案した。
しかしながら、これらの作品は、トランスフォーマーや文書レベルのコンテキスト埋め込みといった、最先端の注意に基づくディープニューラルネットワークモデルを使用して、危機的埋め込みと分類を行うものではない。
本研究は、危機検出と危機認識という2つの危機分類タスクのためのエンドツーエンドのトランスフォーマーベースモデルであるCrisisBERTを提案する。
提案モデルはベンチマークよりも優れたロバスト性を示し、51.4%のデータポイントしか持たない6から36のイベントに限界的なパフォーマンス上の妥協を示す。
我々はまた、危機埋め込みのための注意ベースの文書レベルのコンテキスト埋め込みアーキテクチャであるCrisis2Vecを提案し、Word2VecやGloVeのような従来の危機埋め込み手法よりも優れた性能を実現した。
私たちの知る限りでは,本研究はまず,トランスフォーマティブに基づく危機分類と文書レベルの文脈的危機を文献に埋め込む手法を提案する。
関連論文リスト
- CrisisSense-LLM: Instruction Fine-Tuned Large Language Model for Multi-label Social Media Text Classification in Disaster Informatics [49.2719253711215]
本研究では,事前学習型大規模言語モデル(LLM)の強化による災害テキスト分類への新たなアプローチを提案する。
本手法では,災害関連ツイートから包括的インストラクションデータセットを作成し,それをオープンソース LLM の微調整に用いる。
この微調整モデルでは,災害関連情報の種類,情報化,人的援助の関与など,複数の側面を同時に分類することができる。
論文 参考訳（メタデータ） (2024-06-16T23:01:10Z) - CrisisViT: A Robust Vision Transformer for Crisis Image Classification [5.14879510106258]
本稿では,画像の自動分類・タグ付けに最先端のディープニューラルモデルを用いることを提案する。
我々は、新しいインシデント1M危機画像データセットを活用し、新しいトランスフォーマーベースの画像分類モデルを開発する。
論文 参考訳（メタデータ） (2024-01-05T14:45:45Z) - CrisisMatch: Semi-Supervised Few-Shot Learning for Fine-Grained Disaster
Tweet Classification [51.58605842457186]
半教師付き, 少数ショットの学習環境下で, 微粒な災害ツイート分類モデルを提案する。
私たちのモデルであるCrisisMatchは、ラベルなしデータと大量のラベルなしデータを用いて、ツイートを関心の細かいクラスに効果的に分類する。
論文 参考訳（メタデータ） (2023-10-23T07:01:09Z) - DeCrisisMB: Debiased Semi-Supervised Learning for Crisis Tweet
Classification via Memory Bank [52.20298962359658]
危機イベントにおいて、人々は、状況、警告、アドバイス、サポートに関する情報を広めるために、Twitterのようなソーシャルメディアプラットフォームを使うことが多い。
完全に教師されたアプローチでは、大量のデータを注釈付けする必要があります。
半教師付きモデルは偏りがあり、特定のクラスでは適度に機能し、他のクラスでは極めて貧弱である。
本稿では,メモリバンクを用いて,各学習クラスから生成された擬似ラベルを等しくサンプリングする,単純かつ効果的なデバイアス処理手法であるDeCrisisMBを提案する。
論文 参考訳（メタデータ） (2023-10-23T05:25:51Z) - CrisisTransformers: Pre-trained language models and sentence encoders for crisis-related social media texts [3.690904966341072]
ソーシャルメディアプラットフォームは危機コミュニケーションにおいて重要な役割を担っているが、危機に関連するソーシャルメディアのテキストを分析することは、その非公式な性質のため困難である。
本研究では,事前訓練された言語モデルと文エンコーダのアンサンブルであるCrisisTransformersを紹介した。
論文 参考訳（メタデータ） (2023-09-11T14:36:16Z) - CrisisLTLSum: A Benchmark for Local Crisis Event Timeline Extraction and
Summarization [62.77066949111921]
本稿では,現在までに利用可能な地域危機イベントタイムラインの最大のデータセットであるCrisisLTLSumについて述べる。
CrisisLTLSumには、山火事、地元の火災、交通、嵐の4つの領域にわたる1000の危機イベントタイムラインが含まれている。
最初の実験では, 両タスクの人的性能と比較して, 強いベースライン性能の間に有意な差があることが示唆された。
論文 参考訳（メタデータ） (2022-10-25T17:32:40Z) - Introducing the ICBe Dataset: Very High Recall and Precision Event
Extraction from Narratives about International Crises [0.0]
我々は、国際情勢を敵同士の戦略的チェスゲームとして考え、駒、動き、ギャンビットを測定する体系的な方法を必要としている。
我々は,危機行動と相互作用のオントロジーを用いたこのような測定戦略を開発し,国際危機行動(ICB)プロジェクトによって記録された危機物語の質の高いコーパスに適用する。
ICBイベントデータセット(ICBe)を導入し、ICBeは、他のよく認識されたイベントや危機データセットよりも正確で粒度の高い危機の過程を捉えている。
論文 参考訳（メタデータ） (2022-02-14T23:03:52Z) - Bridging the gap between supervised classification and unsupervised
topic modelling for social-media assisted crisis management [0.5249805590164902]
Twitterなどのソーシャルメディアは、自然災害時に危機管理者や被災者に貴重な情報を提供します。
機械学習は、危機時に共有される大量のメッセージから情報を構造化および抽出するのに役立ちます。
bertembedsが危機関連ツイートの分類を微調整することで,新たな危機に効果的に対応できることを示す。
論文 参考訳（メタデータ） (2021-03-22T13:30:39Z) - Event-Related Bias Removal for Real-time Disaster Events [67.2965372987723]
ソーシャルメディアは、自然災害や大量攻撃などの危機事象に関する情報を共有する重要なツールとなっている。
有用な情報を含む実行可能なポストを検出するには、大量のデータをリアルタイムに高速に分析する必要がある。
我々は、潜在事象固有のバイアスを除去し、ツイート重要度分類の性能を向上させるために、敵対的ニューラルモデルを訓練する。
論文 参考訳（メタデータ） (2020-11-02T02:03:07Z) - Clustering of Social Media Messages for Humanitarian Aid Response during
Crisis [47.187609203210705]
近年のDeep Learning and Natural Language Processingの進歩は,情報度を分類する作業において,事前のアプローチよりも優れていることを示す。
本稿では,これらの手法を2つのサブタスクに拡張し,Deep Learning法も有効であることを示す。
論文 参考訳（メタデータ） (2020-07-23T02:18:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。