論文の概要: Quantifying the Vulnerabilities of the Online Public Square to Adversarial Manipulation Tactics
- arxiv url: http://arxiv.org/abs/1907.06130v5
- Date: Wed, 12 Jun 2024 00:43:02 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-17 22:09:03.021425
- Title: Quantifying the Vulnerabilities of the Online Public Square to Adversarial Manipulation Tactics
- Title（参考訳）: 逆操作戦術に対するオンライン公共広場の脆弱性の定量化
- Authors: Bao Tran Truong, Xiaodan Lou, Alessandro Flammini, Filippo Menczer,
- Abstract要約: ソーシャルメディアモデルを用いて、コンテンツの品質に対するいくつかの敵の操作戦術の影響を定量化する。
ソーシャルメディアの目印である影響力のあるアカウントの存在は、操作するオンラインコミュニティの脆弱性を悪化させる。
これらの知見は、プラットフォームがソーシャルメディアユーザーによる操作のレジリエンスを高めるために使われる可能性があることを示唆している。
- 参考スコア（独自算出の注目度）: 43.98568073610101
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Social media, seen by some as the modern public square, is vulnerable to manipulation. By controlling inauthentic accounts impersonating humans, malicious actors can amplify disinformation within target communities. The consequences of such operations are difficult to evaluate due to the challenges posed by collecting data and carrying out ethical experiments that would influence online communities. Here we use a social media model that simulates information diffusion in an empirical network to quantify the impacts of several adversarial manipulation tactics on the quality of content. We find that the presence of influential accounts, a hallmark of social media, exacerbates the vulnerabilities of online communities to manipulation. Among the explored tactics that bad actors can employ, infiltrating a community is the most likely to make low-quality content go viral. Such harm can be further compounded by inauthentic agents flooding the network with low-quality, yet appealing content, but is mitigated when bad actors focus on specific targets, such as influential or vulnerable individuals. These insights suggest countermeasures that platforms could employ to increase the resilience of social media users to manipulation.
- Abstract（参考訳）: 現代の公共広場と見なされるソーシャルメディアは、操作に弱い。
人間を偽装する不正なアカウントを制御することで、悪意のあるアクターは標的とするコミュニティ内の偽情報を増幅することができる。
こうした活動の結果は、データ収集や、オンラインコミュニティに影響を与える倫理的実験によってもたらされる課題から、評価が難しい。
ここでは、経験的ネットワークにおける情報拡散をシミュレートするソーシャルメディアモデルを用いて、コンテンツの品質に対する敵対的操作戦術の影響を定量化する。
ソーシャルメディアの目印である影響力のあるアカウントの存在は、操作するオンラインコミュニティの脆弱性を悪化させる。
悪役が採用できる探索的な戦術の中で、コミュニティに侵入することは、低品質コンテンツがバイラルに広まる可能性が高い。
このような害は、悪役が影響力のある個人や脆弱な個人など特定の標的に焦点を合わせると軽減されるが、低品質で魅力的なコンテンツでネットワークを浸水させることによってさらに複雑になる。
これらの知見は、プラットフォームがソーシャルメディアユーザーによる操作のレジリエンスを高めるために使われる可能性があることを示唆している。
関連論文リスト
- The Illusion of Anonymity: Uncovering the Impact of User Actions on Privacy in Web3 Social Ecosystems [11.501563549824466]
本稿では,Web3ソーシャルプラットフォームにおけるユーザエンゲージメントと,それに伴うプライバシー問題との相違点について検討する。
我々は,人気を模したボグスアカウントの確立を含む,製造活動の広範な現象を精査する。
我々は、社会交流の複雑なウェブをナビゲートする、より厳格なプライバシー対策と倫理的プロトコルの緊急的必要性を強調します。
論文 参考訳（メタデータ） (2024-05-22T06:26:15Z) - Carthago Delenda Est: Co-opetitive Indirect Information Diffusion Model
for Influence Operations on Online Social Media [6.236019068888737]
DluvsionはTwitterのようなソーシャルメディア上で、競合する情報伝達活動のためのエージェントベースモデルである。
我々は、スタンス導入に影響を与えるエンゲージメント指標、情報の非社会的結びつき、拡散可能なスタンスとしての中立性、およびメディアのフレーミング効果に類似し、スタンス伝播に関して共生的なテーマについて説明する。
論文 参考訳（メタデータ） (2024-02-02T21:15:24Z) - Social Media Influence Operations [0.0]
本稿では、LLM(Large Language Models)とインフルエンス・オペレーションの交差点における開発状況についてレビューする。
LLMは、ターゲットと説得力のあるテキストを生成することができる。
近い将来 緩和策が強調されます
論文 参考訳（メタデータ） (2023-09-07T12:18:07Z) - ManiTweet: A New Benchmark for Identifying Manipulation of News on Social Media [74.93847489218008]
ソーシャルメディア上でのニュースの操作を識別し,ソーシャルメディア投稿の操作を検出し,操作された情報や挿入された情報を特定することを目的とした,新しいタスクを提案する。
この課題を研究するために,データ収集スキーマを提案し,3.6K対のツイートとそれに対応する記事からなるManiTweetと呼ばれるデータセットをキュレートした。
我々の分析では、このタスクは非常に難しいことを示し、大きな言語モデル(LLM)は不満足なパフォーマンスをもたらす。
論文 参考訳（メタデータ） (2023-05-23T16:40:07Z) - Countering Malicious Content Moderation Evasion in Online Social
Networks: Simulation and Detection of Word Camouflage [64.78260098263489]
ツイストとカモフラージュキーワードは、プラットフォームコンテンツモデレーションシステムを回避する最もよく使われるテクニックである。
本稿では,コンテンツ回避の新たな手法をシミュレートし,検出する多言語ツールを開発することにより,悪意ある情報に対する対処に大きく貢献する。
論文 参考訳（メタデータ） (2022-12-27T16:08:49Z) - Trust and Believe -- Should We? Evaluating the Trustworthiness of
Twitter Users [5.695742189917657]
ソーシャルメディア上のフェイクニュースは、個人と社会の両方に悪影響を及ぼす大きな問題である。
この作業において、私たちは、ソーシャルネットワークコミュニティに信頼を喚起するソリューションを提供したいと考えている。
本モデルでは,Twitter上で5万人の政治家の行動を分析し,評価されたユーザ毎に影響スコアを割り当てる。
論文 参考訳（メタデータ） (2022-10-27T06:57:19Z) - The Impact of Disinformation on a Controversial Debate on Social Media [1.299941371793082]
われわれは、移民に関するイタリアの議論において、Twitter上での偽情報の存在がいかに広まっているかを研究する。
TwitterユーザーをtextitUntrustworthinessスコアで特徴付けることで、このような悪い情報消費習慣がユーザー間で均等に分散されていないことが分かる。
論文 参考訳（メタデータ） (2021-06-30T10:29:07Z) - News consumption and social media regulations policy [70.31753171707005]
我々は、ニュース消費とコンテンツ規制の間の相互作用を評価するために、反対のモデレーション手法であるTwitterとGabを強制した2つのソーシャルメディアを分析した。
以上の結果から,Twitterが追求するモデレーションの存在は,疑わしいコンテンツを著しく減少させることがわかった。
Gabに対する明確な規制の欠如は、ユーザが両方のタイプのコンテンツを扱う傾向を生じさせ、ディスカウント/エンドレスメントの振る舞いを考慮に入れた疑わしいコンテンツに対してわずかに好みを示す。
論文 参考訳（メタデータ） (2021-06-07T19:26:32Z) - Causal Understanding of Fake News Dissemination on Social Media [50.4854427067898]
我々は、ユーザーがフェイクニュースを共有するのに、ユーザー属性が何をもたらすかを理解することが重要だと論じている。
偽ニュース拡散において、共同創設者は、本質的にユーザー属性やオンライン活動に関連する偽ニュース共有行動によって特徴づけられる。
本稿では,偽ニュース拡散における選択バイアスを軽減するための原則的アプローチを提案する。
論文 参考訳（メタデータ） (2020-10-20T19:37:04Z) - Leveraging Multi-Source Weak Social Supervision for Early Detection of
Fake News [67.53424807783414]
ソーシャルメディアは、人々が前例のない速度でオンライン活動に参加することを可能にする。
この制限のないアクセスは、誤情報や偽ニュースの拡散を悪化させ、その緩和のために早期に検出されない限り混乱と混乱を引き起こす可能性がある。
ソーシャルエンゲージメントからの弱い信号とともに、限られた量のクリーンデータを活用して、メタラーニングフレームワークでディープニューラルネットワークをトレーニングし、さまざまな弱いインスタンスの品質を推定します。
実世界のデータセットの実験では、提案されたフレームワークは、予測時にユーザーエンゲージメントを使わずに、フェイクニュースを早期に検出するための最先端のベースラインを上回っている。
論文 参考訳（メタデータ） (2020-04-03T18:26:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。