論文の概要: Crowd Intelligence for Early Misinformation Prediction on Social Media
- arxiv url: http://arxiv.org/abs/2408.04463v1
- Date: Thu, 8 Aug 2024 13:45:23 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-09 15:28:24.613297
- Title: Crowd Intelligence for Early Misinformation Prediction on Social Media
- Title（参考訳）: ソーシャルメディアにおける誤情報予測のためのクラウドインテリジェンス
- Authors: Megha Sundriyal, Harshit Choudhary, Tanmoy Chakraborty, Md Shad Akhtar,
- Abstract要約: 本稿では,クラウドインテリジェンスに基づく早期誤報予測手法であるCROWDSHIELDを紹介する。
私たちは2つの次元(スタンスとクレーム)を捉えるためにQラーニングを採用しています。
我々は手動で誤情報検出を行うTwitterコーパスであるMISTを提案する。
- 参考スコア（独自算出の注目度）: 29.494819549803772
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Misinformation spreads rapidly on social media, causing serious damage by influencing public opinion, promoting dangerous behavior, or eroding trust in reliable sources. It spreads too fast for traditional fact-checking, stressing the need for predictive methods. We introduce CROWDSHIELD, a crowd intelligence-based method for early misinformation prediction. We hypothesize that the crowd's reactions to misinformation reveal its accuracy. Furthermore, we hinge upon exaggerated assertions/claims and replies with particular positions/stances on the source post within a conversation thread. We employ Q-learning to capture the two dimensions -- stances and claims. We utilize deep Q-learning due to its proficiency in navigating complex decision spaces and effectively learning network properties. Additionally, we use a transformer-based encoder to develop a comprehensive understanding of both content and context. This multifaceted approach helps ensure the model pays attention to user interaction and stays anchored in the communication's content. We propose MIST, a manually annotated misinformation detection Twitter corpus comprising nearly 200 conversation threads with more than 14K replies. In experiments, CROWDSHIELD outperformed ten baseline systems, achieving an improvement of ~4% macro-F1 score. We conduct an ablation study and error analysis to validate our proposed model's performance. The source code and dataset are available at https://github.com/LCS2-IIITD/CrowdShield.git.
- Abstract（参考訳）: 誤報はソーシャルメディアに急速に広まり、世論に影響を与え、危険な行動を奨励したり、信頼できる情報源の信頼を損なうなど、深刻な被害をもたらす。
従来のファクトチェックにはあまりにも速く広がり、予測方法の必要性を強調します。
本稿では,クラウドインテリジェンスに基づく早期誤報予測手法であるCROWDSHIELDを紹介する。
我々は、誤報に対する群衆の反応がその正確さを明らかにしていると仮定する。
さらに、会話スレッド内のソースポストに、誇張されたアサーション/ステートメントと、特定の位置/スタンスに対する返信をヒンジする。
私たちは2つの次元(スタンスとクレーム)を捉えるためにQラーニングを採用しています。
我々は、複雑な決定空間をナビゲートし、ネットワーク特性を効果的に学習する能力により、深いQ-ラーニングを利用する。
さらに,コンテントとコンテキストの両方を包括的に理解するために,トランスフォーマーベースのエンコーダを使用する。
この多面的アプローチは、モデルがユーザのインタラクションに注意を払い、コミュニケーションの内容に固定されていることを確実にするのに役立つ。
約200の会話スレッドと14K以上の応答からなるTwitterコーパスを手動で注釈付き誤報検出するMISTを提案する。
実験では、CROWDSHIELDは10のベースラインシステムより優れ、約4%のマクロF1スコアが向上した。
我々は,提案モデルの性能を評価するために,アブレーション研究と誤り解析を行う。
ソースコードとデータセットはhttps://github.com/LCS2-IIITD/CrowdShield.gitで公開されている。
関連論文リスト
- MisinfoEval: Generative AI in the Era of "Alternative Facts" [50.069577397751175]
本稿では,大規模言語モデル(LLM)に基づく誤情報介入の生成と評価を行うフレームワークを提案する。
本研究では,(1)誤情報介入の効果を測定するための模擬ソーシャルメディア環境の実験,(2)ユーザの人口動態や信念に合わせたパーソナライズされた説明を用いた第2の実験について述べる。
以上の結果から,LSMによる介入はユーザの行動の修正に極めて有効であることが確認された。
論文 参考訳（メタデータ） (2024-10-13T18:16:50Z) - InfoLossQA: Characterizing and Recovering Information Loss in Text Simplification [60.10193972862099]
本研究は, 簡易化による情報損失を問合せ・問合せ形式で特徴づけ, 回復する枠組みを提案する。
QAペアは、読者がテキストの知識を深めるのに役立つように設計されている。
論文 参考訳（メタデータ） (2024-01-29T19:00:01Z) - Countering Misinformation via Emotional Response Generation [15.383062216223971]
ソーシャルメディアプラットフォーム(SMP)における誤情報拡散は、公衆衛生、社会的結束、民主主義に重大な危険をもたらす。
これまでの研究では、社会的訂正が誤情報を抑制する効果的な方法であることが示された。
約1万のクレーム応答対からなる最初の大規模データセットであるVerMouthを提案する。
論文 参考訳（メタデータ） (2023-11-17T15:37:18Z) - ManiTweet: A New Benchmark for Identifying Manipulation of News on Social Media [74.93847489218008]
ソーシャルメディア上でのニュースの操作を識別し,ソーシャルメディア投稿の操作を検出し,操作された情報や挿入された情報を特定することを目的とした,新しいタスクを提案する。
この課題を研究するために,データ収集スキーマを提案し,3.6K対のツイートとそれに対応する記事からなるManiTweetと呼ばれるデータセットをキュレートした。
我々の分析では、このタスクは非常に難しいことを示し、大きな言語モデル(LLM)は不満足なパフォーマンスをもたらす。
論文 参考訳（メタデータ） (2023-05-23T16:40:07Z) - Leveraging Social Interactions to Detect Misinformation on Social Media [25.017602051478768]
新型コロナウイルスのパンデミックで生成されたデータセットを使って、この問題に対処する。
情報ソースの以前の評価に基づいて、信頼性または信頼性が低いとラベル付けされた情報を議論するツイートのカスケードを含む。
我々は、ネットワーク情報にも活用する。ホモフィリ原理に従えば、対話するユーザは、一般的に同様の話題に興味を持ち、同様の種類のニュースを拡散する、という仮説を立てる。
論文 参考訳（メタデータ） (2023-04-06T10:30:04Z) - Verifying the Robustness of Automatic Credibility Assessment [50.55687778699995]
入力テキストにおける意味保存的変化がモデルを誤解させる可能性があることを示す。
また、誤情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAについても紹介する。
我々の実験結果によると、現代の大規模言語モデルは、以前のより小さなソリューションよりも攻撃に対して脆弱であることが多い。
論文 参考訳（メタデータ） (2023-03-14T16:11:47Z) - Reinforcement Learning-based Counter-Misinformation Response Generation:
A Case Study of COVID-19 Vaccine Misinformation [19.245814221211415]
非熟練の一般ユーザーは、偽情報に対して積極的に対応している。
本研究では、誤情報と反誤情報応答のペアの2つの新しいデータセットを作成する。
我々は,反情報応答を学習する強化学習に基づくフレームワークであるMisinfoCorrectを提案する。
論文 参考訳（メタデータ） (2023-03-11T15:55:01Z) - Machine Learning-based Automatic Annotation and Detection of COVID-19
Fake News [8.020736472947581]
新型コロナウイルス(COVID-19)は世界のあらゆる地域に影響を与えるが、感染の誤報はウイルスよりも速く移動した。
既存の作業は、拡散の触媒として働くボットの存在を無視する。
そこで本稿では,Twitterデータセット上で事実確認文をラベル付けする手法を提案する。
論文 参考訳（メタデータ） (2022-09-07T13:55:59Z) - Attacking Open-domain Question Answering by Injecting Misinformation [116.25434773461465]
質問応答モデル(QA)に対する誤報のリスクについて,オープンドメインQAモデルの誤報文書に対する感度について検討した。
実験により、QAモデルは誤情報による少量の証拠汚染に対して脆弱であることが示されている。
質問応答と誤情報検出を統合した誤情報認識型QAシステムの構築の必要性について論じる。
論文 参考訳（メタデータ） (2021-10-15T01:55:18Z) - Evaluating Deep Learning Approaches for Covid19 Fake News Detection [0.0]
データマイニングの観点から、偽ニュース検出の自動化技術を検討します。
Contraint@AAAI 2021 Covid-19 Fakeニュース検出データセットで異なる教師付きテキスト分類アルゴリズムを評価します。
Covid-19 Fakeニュース検出データセットで98.41%の最高の精度を報告する。
論文 参考訳（メタデータ） (2021-01-11T16:39:03Z) - Machine Learning Explanations to Prevent Overtrust in Fake News
Detection [64.46876057393703]
本研究では、ニュースレビュープラットフォームに組み込んだ説明可能なAIアシスタントが、フェイクニュースの拡散と戦う効果について検討する。
我々は、ニュースレビューと共有インターフェースを設計し、ニュース記事のデータセットを作成し、4つの解釈可能なフェイクニュース検出アルゴリズムを訓練する。
説明可能なAIシステムについてより深く理解するために、説明プロセスにおけるユーザエンゲージメント、メンタルモデル、信頼、パフォーマンス対策の相互作用について議論する。
論文 参考訳（メタデータ） (2020-07-24T05:42:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。