論文の概要: Social Media Influence Operations

• arxiv url: http://arxiv.org/abs/2309.03670v1
• Date: Thu, 7 Sep 2023 12:18:07 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-08 13:09:20.881385
• Title: Social Media Influence Operations
• Title（参考訳）: ソーシャルメディアの影響
• Authors: Raphael Meier
• Abstract要約: 本稿では、LLM(Large Language Models)とインフルエンス・オペレーションの交差点における開発状況についてレビューする。 LLMは、ターゲットと説得力のあるテキストを生成することができる。 近い将来 緩和策が強調されます
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Social media platforms enable largely unrestricted many-to-many communication. In times of crisis, they offer a space for collective sense-making and gave rise to new social phenomena (e.g. open-source investigations). However, they also serve as a tool for threat actors to conduct cyber-enabled social influence operations (CeSIOs) in order to shape public opinion and interfere in decision-making processes. CeSIOs rely on the employment of sock puppet accounts to engage authentic users in online communication, exert influence, and subvert online discourse. Large Language Models (LLMs) may further enhance the deceptive properties of sock puppet accounts. Recent LLMs are able to generate targeted and persuasive text which is for the most part indistinguishable from human-written content -- ideal features for covert influence. This article reviews recent developments at the intersection of LLMs and influence operations, summarizes LLMs' salience, and explores the potential impact of LLM-instrumented sock puppet accounts for CeSIOs. Finally, mitigation measures for the near future are highlighted.
• Abstract（参考訳）: ソーシャルメディアプラットフォームは、ほとんど制限のない多対多通信を可能にする。 危機の時、彼らは集団的な感覚作りの場を提供し、新しい社会現象(例えばオープンソースの調査)を引き起こした。 しかし、それらは公衆の意見を形作り、意思決定プロセスに干渉するために、サイバー対応社会影響操作(cesios)を行う脅威俳優の道具としても機能する。 CeSIOはソック・パペットのアカウントを利用して、オンラインコミュニケーションに本物のユーザーを巻き込み、影響力を行使し、オンラインの会話を覆す。 大規模言語モデル(llm)は、sock puppetのアカウントの偽装性をさらに強化する可能性がある。 最近のllmは、主に人間が書いたコンテンツと区別できない、標的的で説得力のあるテキストを生成することができる。 本稿では,LLMとインフルエンス操作の交差点における最近の展開を概説し,LLMのサリエンスを要約し,CeSIOのLLM内蔵ソックパペットアカウントの潜在的影響について考察する。 最後に、近い将来の緩和策が強調される。

関連論文リスト

• Defending Against Social Engineering Attacks in the Age of LLMs [19.364994678178036]
  大きな言語モデル(LLM)は、人間の会話パターンをエミュレートし、チャットベースのソーシャルエンジニアリング(CSE)攻撃を促進する。 本研究では,CSE脅威に対するファシリテーターとディフェンダーの両立能力について検討した。 メッセージレベルと会話レベルの両方の検出を改善するモジュール型ディフェンスパイプラインであるConvoSentinelを提案する。
  論文  参考訳（メタデータ） (2024-06-18T04:39:40Z)
• GoEX: Perspectives and Designs Towards a Runtime for Autonomous LLM Applications [46.85306320942487]
  大きな言語モデル(LLM)は、ツールに積極的に関与し、現実世界のアプリケーションやサービスでアクションを実行するために進化しています。 現在、人間はLLM生成した出力の正確さと適切性を検証し、それらを実世界の実行に投入している。 コードの理解は、悪名高いほど難しいことで知られています。 本稿では,人類が将来,自律LLMと効率的に協力し,委譲し,監督する方法について検討する。
  論文  参考訳（メタデータ） (2024-04-10T11:17:33Z)
• The Wolf Within: Covert Injection of Malice into MLLM Societies via an MLLM Operative [55.08395463562242]
  MLLM(Multimodal Large Language Models)は、AGI(Artificial General Intelligence)の新たな境界を常に定義している。 本稿では,MLLM社会において,悪意のあるコンテンツの間接的伝播という新たな脆弱性について検討する。
  論文  参考訳（メタデータ） (2024-02-20T23:08:21Z)
• Feedback Loops With Language Models Drive In-Context Reward Hacking [78.9830398771605]
  フィードバックループがコンテキスト内報酬ハッキング(ICRH)を引き起こす可能性があることを示す。 ICRHに繋がる2つのプロセス、すなわちアウトプット・リファインメントとポリシー・リファインメントを同定し研究する。 AI開発が加速するにつれて、フィードバックループの効果が増大する。
  論文  参考訳（メタデータ） (2024-02-09T18:59:29Z)
• Negotiating with LLMS: Prompt Hacks, Skill Gaps, and Reasoning Deficits [1.4003044924094596]
  LLMとの価格交渉において,全年齢層で40人以上の個人を対象とするユーザスタディを実施している。 交渉された価格が、LLMと効果的に相互作用する際のリテラシーのギャップを指摘し、人類が幅広い範囲で達成したことを示す。
  論文  参考訳（メタデータ） (2023-11-26T08:44:58Z)
• LLM-Based Agent Society Investigation: Collaboration and Confrontation in Avalon Gameplay [57.202649879872624]
  Avalonのゲームプレイにシームレスに適応する新しいフレームワークを提案する。 提案するフレームワークの中核は,エージェント間の効率的な通信と対話を可能にするマルチエージェントシステムである。 本研究は,適応的かつインテリジェントなエージェントを生成する上で,我々のフレームワークの有効性を示すものである。
  論文  参考訳（メタデータ） (2023-10-23T14:35:26Z)
• Let Models Speak Ciphers: Multiagent Debate through Embeddings [84.20336971784495]
  この問題を解決するためにCIPHER(Communicative Inter-Model Protocol Through Embedding Representation)を導入する。 自然言語から逸脱することで、CIPHERはモデルの重みを変更することなく、より広い範囲の情報を符号化する利点を提供する。 このことは、LLM間の通信における代替の"言語"としての埋め込みの優越性と堅牢性を示している。
  論文  参考訳（メタデータ） (2023-10-10T03:06:38Z)
• Quantifying the Impact of Large Language Models on Collective Opinion Dynamics [7.0012506428382375]
  我々は、大言語モデル(LLM)の意見をエンコードするために、意見ネットワークダイナミクスモデルを作成する。 その結果, LLMのアウトプットは, 集団的意見差に一意かつ肯定的な影響を及ぼすことが明らかとなった。 我々の実験は、反対/中立/ランダムの意見を持つ追加のエージェントを導入することで、バイアスや有害なアウトプットの影響を効果的に軽減できることを示した。
  論文  参考訳（メタデータ） (2023-08-07T05:45:17Z)
• Quantifying the Vulnerabilities of the Online Public Square to Adversarial Manipulation Tactics [43.98568073610101]
  ソーシャルメディアモデルを用いて、コンテンツの品質に対するいくつかの敵の操作戦術の影響を定量化する。 ソーシャルメディアの目印である影響力のあるアカウントの存在は、操作するオンラインコミュニティの脆弱性を悪化させる。 これらの知見は、プラットフォームがソーシャルメディアユーザーによる操作のレジリエンスを高めるために使われる可能性があることを示唆している。
  論文  参考訳（メタデータ） (2019-07-13T21:12:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。