論文の概要: Transformer-based Multi-task Learning for Disaster Tweet Categorisation

• arxiv url: http://arxiv.org/abs/2110.08010v1
• Date: Fri, 15 Oct 2021 11:13:46 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-18 13:12:08.358776
• Title: Transformer-based Multi-task Learning for Disaster Tweet Categorisation
• Title（参考訳）: 災害ツイート分類のためのトランスフォーマティブ型マルチタスク学習
• Authors: Congcong Wang, Paul Nulty, David Lillis
• Abstract要約: ソーシャルメディアは、人々がタイムリーな方法で情報を流すことを可能にし、危機時に助けを求めるメッセージを投稿する動機となった。 これらのメッセージは、情報タイプに応じて分類される必要がある緊急対応者の状況認識に寄与する。 情報型を分類し,これらのメッセージの優先度を推定するトランスフォーマーベースのマルチタスク学習(MTL)手法を提案する。
• 参考スコア（独自算出の注目度）: 2.9112649816695204
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Social media has enabled people to circulate information in a timely fashion, thus motivating people to post messages seeking help during crisis situations. These messages can contribute to the situational awareness of emergency responders, who have a need for them to be categorised according to information types (i.e. the type of aid services the messages are requesting). We introduce a transformer-based multi-task learning (MTL) technique for classifying information types and estimating the priority of these messages. We evaluate the effectiveness of our approach with a variety of metrics by submitting runs to the TREC Incident Streams (IS) track: a research initiative specifically designed for disaster tweet classification and prioritisation. The results demonstrate that our approach achieves competitive performance in most metrics as compared to other participating runs. Subsequently, we find that an ensemble approach combining disparate transformer encoders within our approach helps to improve the overall effectiveness to a significant extent, achieving state-of-the-art performance in almost every metric. We make the code publicly available so that our work can be reproduced and used as a baseline for the community for future work in this domain.
• Abstract（参考訳）: ソーシャルメディアは、人々がタイムリーに情報を流すことを可能にし、危機時に助けを求めるメッセージを投稿する動機となった。 これらのメッセージは、情報タイプ(すなわち、メッセージが要求している援助サービスのタイプ)に応じて分類される必要がある緊急対応者の状況認識に寄与する。 情報型を分類し,これらのメッセージの優先度を推定するトランスフォーマーベースのマルチタスク学習(MTL)手法を提案する。 我々は,災害時ツイートの分類と優先順位付けに特化して設計された研究イニシアチブであるTRECインシデントストリーム(IS)のトラックに実行を提出することで,様々な指標によるアプローチの有効性を評価する。 その結果,我々のアプローチは,他の実行方法と比較して,ほとんどの指標で競争力のあるパフォーマンスを達成できることがわかった。 その後, 異種トランスフォーマーエンコーダを組み込んだアンサンブル手法は, 全体の有効性を大幅に向上させ, ほぼすべての測定値において最先端の性能を実現する。 このドメインにおける今後の作業のベースラインとして、私たちの作業を再現し、使用できるように、コードを公開しています。

関連論文リスト

• Communication Learning in Multi-Agent Systems from Graph Modeling Perspective [62.13508281188895]
  本稿では,エージェント間の通信アーキテクチャを学習可能なグラフとして概念化する手法を提案する。 本稿では,各エージェントに対して時間的ゲーティング機構を導入し,ある時間に共有情報を受信するかどうかの動的決定を可能にする。
  論文  参考訳（メタデータ） (2024-11-01T05:56:51Z)
• CrisisSense-LLM: Instruction Fine-Tuned Large Language Model for Multi-label Social Media Text Classification in Disaster Informatics [49.2719253711215]
  本研究では,事前学習型大規模言語モデル(LLM)の強化による災害テキスト分類への新たなアプローチを提案する。 本手法では,災害関連ツイートから包括的インストラクションデータセットを作成し,それをオープンソース LLM の微調整に用いる。 この微調整モデルでは,災害関連情報の種類,情報化,人的援助の関与など,複数の側面を同時に分類することができる。
  論文  参考訳（メタデータ） (2024-06-16T23:01:10Z)
• Learning Multi-Agent Communication from Graph Modeling Perspective [62.13508281188895]
  本稿では,エージェント間の通信アーキテクチャを学習可能なグラフとして概念化する手法を提案する。 提案手法であるCommFormerは,通信グラフを効率よく最適化し,勾配降下によるアーキテクチャパラメータをエンドツーエンドで並列に洗練する。
  論文  参考訳（メタデータ） (2024-05-14T12:40:25Z)
• Context-aware Communication for Multi-agent Reinforcement Learning [6.109127175562235]
  マルチエージェント強化学習(MARL)のための文脈認識型コミュニケーション手法を開発した。 第1段階では、エージェントは放送方式で粗い表現を交換し、第2段階のコンテキストを提供する。 その後、エージェントは第2段階の注意機構を利用し、受信機用にパーソナライズされたメッセージを選択的に生成する。 CACOMの有効性を評価するため,アクタ批判型と値に基づくMARLアルゴリズムを併用する。
  論文  参考訳（メタデータ） (2023-12-25T03:33:08Z)
• MASTER: Multi-task Pre-trained Bottlenecked Masked Autoencoders are Better Dense Retrievers [140.0479479231558]
  本研究では,様々な事前学習タスクをマルチタスク事前学習モデル(MASTER)に統合することを目的とする。 MASTERは共有エンコーダのマルチデコーダアーキテクチャを利用して、タスク全体にわたる豊富なセマンティック情報を高密度ベクトルに圧縮する表現ボトルネックを構築することができる。
  論文  参考訳（メタデータ） (2022-12-15T13:57:07Z)
• Enhancing Crisis-Related Tweet Classification with Entity-Masked Language Modeling and Multi-Task Learning [0.30458514384586394]
  本稿では,マルチタスク学習問題として,エンティティ・マスク言語モデリングと階層型マルチラベル分類の組み合わせを提案する。 我々は,TREC-ISデータセットからのつぶやきに対する評価を行い,動作可能な情報型に対して最大10%のF1スコアの絶対的なパフォーマンス向上を示す。
  論文  参考訳（メタデータ） (2022-11-21T13:54:10Z)
• UCD-CS at TREC 2021 Incident Streams Track [3.4392739159262145]
  TRECインシデントストリーム(IS)トラックは、この目的で編成された研究課題である。 このトラックは参加するシステムに対して、危機に関連するツイートのストリームを人道支援関連の情報タイプに分類するよう求めている。 TREC-IS 2021におけるUCD-CS(University College Dublin School of Computer Science)の参加について報告する。
  論文  参考訳（メタデータ） (2021-12-07T14:47:27Z)
• Multi-task transfer learning for finding actionable information from crisis-related messages on social media [3.4392739159262145]
  インシデントストリーム(IS)トラックは、緊急対応のために危機時にソーシャルメディアから重要な情報を見つけることを目的とした研究課題です。 危機関連ツイートのストリームが与えられると、isチャレンジは参加システムに対して、各ツイートにおけるユーザの関心やニーズのタイプを分類するように要求する。 本稿では,この課題に対するマルチタスク転送学習手法について述べる。
  論文  参考訳（メタデータ） (2021-02-26T11:11:33Z)
• Dif-MAML: Decentralized Multi-Agent Meta-Learning [54.39661018886268]
  我々は,MAML や Dif-MAML と呼ばれる協調型マルチエージェントメタ学習アルゴリズムを提案する。 提案手法により, エージェントの集合が線形速度で合意に達し, 集約MAMLの定常点に収束できることを示す。 シミュレーションの結果は従来の非協調的な環境と比較して理論的な結果と優れた性能を示している。
  論文  参考訳（メタデータ） (2020-10-06T16:51:09Z)
• Multimodal Categorization of Crisis Events in Social Media [81.07061295887172]
  本稿では,画像とテキストの両方を入力として利用するマルチモーダル融合法を提案する。 特に、弱モダリティから非形式的および誤解を招くコンポーネントをフィルタリングできるクロスアテンションモジュールを導入する。 本手法は,3つの危機関連タスクにおいて,一様アプローチと強いマルチモーダルベースラインを大きなマージンで上回ることを示す。
  論文  参考訳（メタデータ） (2020-04-10T06:31:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。