論文の概要: TrendSim: Simulating Trending Topics in Social Media Under Poisoning Attacks with LLM-based Multi-agent System

• arxiv url: http://arxiv.org/abs/2412.12196v1
• Date: Sat, 14 Dec 2024 12:04:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-18 13:57:42.801059
• Title: TrendSim: Simulating Trending Topics in Social Media Under Poisoning Attacks with LLM-based Multi-agent System
• Title（参考訳）: トレンドSim: LLMベースのマルチエージェントシステムによる中毒攻撃によるソーシャルメディアのトレンドトピックのシミュレーション
• Authors: Zeyu Zhang, Jianxun Lian, Chen Ma, Yaning Qu, Ye Luo, Lei Wang, Rui Li, Xu Chen, Yankai Lin, Le Wu, Xing Xie, Ji-Rong Wen,
• Abstract要約: 本研究では, LLMをベースとしたマルチエージェントシステムであるTrendSimを提案する。 具体的には、タイムアウェアなインタラクション機構、集中型メッセージ配信、対話型システムを含むトレンドトピックのシミュレーション環境を作成する。 ソーシャルメディア上でユーザをシミュレートするLLMベースのヒューマンライクエージェントを開発し,プロトタイプベースの攻撃者による毒殺攻撃の再現を提案する。
• 参考スコア（独自算出の注目度）: 90.09422823129961
• License:
• Abstract: Trending topics have become a significant part of modern social media, attracting users to participate in discussions of breaking events. However, they also bring in a new channel for poisoning attacks, resulting in negative impacts on society. Therefore, it is urgent to study this critical problem and develop effective strategies for defense. In this paper, we propose TrendSim, an LLM-based multi-agent system to simulate trending topics in social media under poisoning attacks. Specifically, we create a simulation environment for trending topics that incorporates a time-aware interaction mechanism, centralized message dissemination, and an interactive system. Moreover, we develop LLM-based human-like agents to simulate users in social media, and propose prototype-based attackers to replicate poisoning attacks. Besides, we evaluate TrendSim from multiple aspects to validate its effectiveness. Based on TrendSim, we conduct simulation experiments to study four critical problems about poisoning attacks on trending topics for social benefit.
• Abstract（参考訳）: トレンドトピックは、現代のソーシャルメディアにおいて重要な部分を占めており、突破イベントの議論に参加するユーザーを惹きつけている。 しかし、彼らはまた、新たな毒の流路をもたらし、社会に悪影響を及ぼす。 そのため、この重要な問題を研究し、防衛のための効果的な戦略を開発することが急務である。 本稿では, LLMに基づくマルチエージェントシステムであるTrendSimを提案する。 具体的には、タイムアウェアなインタラクション機構、集中型メッセージ配信、対話型システムを含むトレンドトピックのシミュレーション環境を作成する。 さらに,ソーシャルメディアのユーザをシミュレートするLLMベースのヒューマンライクエージェントを開発し,プロトタイプベースの攻撃者による毒殺攻撃の再現を提案する。 また,複数の側面からTrendSimを評価し,その有効性を検証した。 TrendSimをベースとしたシミュレーション実験を行い、社会福祉のためのトレンドトピックに対する中毒攻撃に関する4つの重要な問題について検討した。

関連論文リスト

• Can LLMs Simulate Social Media Engagement? A Study on Action-Guided Response Generation [51.44040615856536]
  本稿では、行動誘導応答生成によるソーシャルメディアのエンゲージメントをシミュレートする大規模言語モデルの能力について分析する。 GPT-4o-mini,O1-mini,DeepSeek-R1をソーシャルメディアエンゲージメントシミュレーションで評価した。
  論文  参考訳（メタデータ） (2025-02-17T17:43:08Z)
• AgentSociety: Large-Scale Simulation of LLM-Driven Generative Agents Advances Understanding of Human Behaviors and Society [32.849311155921264]
  本稿では,現実的な社会環境を統合した大規模社会シミュレータであるAgentSocietyを提案する。 提案したシミュレーターに基づいて,500万件のインタラクションをシミュレートし,10万件以上のエージェントの社会生活を生成する。 偏極、炎症性メッセージの普及、普遍的ベーシック・インカム・ポリシーの効果、ハリケーンなどの外部ショックの影響の4つに焦点をあてる。
  論文  参考訳（メタデータ） (2025-02-12T15:27:07Z)
• From Individual to Society: A Survey on Social Simulation Driven by Large Language Model-based Agents [47.935533238820334]
  伝統的な社会学研究は、しばしば人間の参加に頼っているが、それは効果的だが、高価であり、スケールが困難であり、倫理的な懸念がある。 大規模言語モデル(LLM)の最近の進歩は、人間の振る舞いをシミュレートし、個々の反応の複製を可能にし、多くの学際的な研究を容易にする可能性を強調している。 シミュレーションは,(1)特定の個人や人口集団を模倣する個人シミュレーション,(2)複数のエージェントが協調して特定の状況における目標を達成するシナリオシミュレーション,(3)エージェント社会内の相互作用をモデル化して実世界のダイナミクスの複雑さや多様性を反映するシミュレーション社会の3種類に分類される。
  論文  参考訳（メタデータ） (2024-12-04T18:56:37Z)
• OASIS: Open Agent Social Interaction Simulations with One Million Agents [147.00696959981173]
  実世界のソーシャルメディアプラットフォームに基づくスケーラブルなソーシャルメディアシミュレータを提案する。 OASISは最大100万人のユーザをモデリングできる大規模なユーザシミュレーションをサポートする。 我々は、情報拡散、グループ分極、XプラットフォームとRedditプラットフォーム間の群れ効果など、様々な社会現象を再現する。
  論文  参考訳（メタデータ） (2024-11-18T13:57:35Z)
• GenSim: A General Social Simulation Platform with Large Language Model based Agents [111.00666003559324]
  我々はtextitGenSim と呼ばれる新しい大規模言語モデル (LLM) ベースのシミュレーションプラットフォームを提案する。 我々のプラットフォームは10万のエージェントをサポートし、現実世界のコンテキストで大規模人口をシミュレートする。 我々の知る限り、GenSimは汎用的で大規模で修正可能な社会シミュレーションプラットフォームに向けた最初の一歩である。
  論文  参考訳（メタデータ） (2024-10-06T05:02:23Z)
• Decoding Echo Chambers: LLM-Powered Simulations Revealing Polarization in Social Networks [12.812531689189065]
  ソーシャルメディアがエコーチャンバーなどの重要な問題に与える影響に対処する必要がある。 伝統的な研究はしばしば感情的な傾向や意見の進化を数字や公式に単純化する。 偏光現象の評価と対策を行うために, LLM を用いた社会意見ネットワークのシミュレーションを提案する。
  論文  参考訳（メタデータ） (2024-09-28T12:49:02Z)
• From Skepticism to Acceptance: Simulating the Attitude Dynamics Toward Fake News [38.990330255607276]
  大規模言語モデル(LLM)に基づくフェイクニュース伝搬シミュレーションフレームワークを提案する。 シミュレーションの結果,話題の関連性や個々の特徴に関連する偽ニュースの伝播パターンが,実世界の観測と一致していることがわかった。
  論文  参考訳（メタデータ） (2024-03-14T15:40:13Z)
• Unveiling the Truth and Facilitating Change: Towards Agent-based Large-scale Social Movement Simulation [43.46328146533669]
  ソーシャルメディアは社会運動の基盤として現れ、社会変革の推進に大きな影響を与えている。 ソーシャルメディアユーザシミュレーションのためのハイブリッドフレームワークHiSimを導入し、ユーザを2つのタイプに分類する。 我々は、トリガーイベントに続く応答ダイナミクスを再現するために、Twitterのような環境を構築します。
  論文  参考訳（メタデータ） (2024-02-26T06:28:54Z)
• MetaAID 2.5: A Secure Framework for Developing Metaverse Applications via Large Language Models [0.9463895540925061]
  大規模言語モデル(LLM)は、動的で現実的なコンテンツを生成するために、メタバース環境でますます使われている。 本稿では,LLMとのユーザインタラクションのシミュレーションによるサイバーセキュリティ向上手法を提案する。
  論文  参考訳（メタデータ） (2023-12-22T07:15:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。