論文の概要: LLM Echo Chamber: personalized and automated disinformation

• arxiv url: http://arxiv.org/abs/2409.16241v1
• Date: Tue, 24 Sep 2024 17:04:12 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-26 05:07:38.050125
• Title: LLM Echo Chamber: personalized and automated disinformation
• Title（参考訳）: LLM Echo Chamber:パーソナライズされた自動偽情報
• Authors: Tony Ma,
• Abstract要約: 大規模な言語モデルは、説得力のある人間のような誤報を大規模に広めることができ、世論に影響を及ぼす可能性がある。 本研究は,誤報を事実として伝達するLSMの能力に着目し,これらのリスクについて検討する。 そこで我々は,ソーシャルメディアのチャットルームを模擬した制御型デジタル環境であるLLM Echo Chamberを構築した。 このセットアップは、説得性と有害性のためにGPT4によって評価され、LSMを取り巻く倫理的懸念に光を当て、誤情報に対するより強力な保護の必要性を強調している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent advancements have showcased the capabilities of Large Language Models like GPT4 and Llama2 in tasks such as summarization, translation, and content review. However, their widespread use raises concerns, particularly around the potential for LLMs to spread persuasive, humanlike misinformation at scale, which could significantly influence public opinion. This study examines these risks, focusing on LLMs ability to propagate misinformation as factual. To investigate this, we built the LLM Echo Chamber, a controlled digital environment simulating social media chatrooms, where misinformation often spreads. Echo chambers, where individuals only interact with like minded people, further entrench beliefs. By studying malicious bots spreading misinformation in this environment, we can better understand this phenomenon. We reviewed current LLMs, explored misinformation risks, and applied sota finetuning techniques. Using Microsoft phi2 model, finetuned with our custom dataset, we generated harmful content to create the Echo Chamber. This setup, evaluated by GPT4 for persuasiveness and harmfulness, sheds light on the ethical concerns surrounding LLMs and emphasizes the need for stronger safeguards against misinformation.
• Abstract（参考訳）: 最近の進歩は、要約、翻訳、コンテンツレビューといったタスクにおいて、GPT4やLlama2のような大規模言語モデルの能力を示した。 しかし、彼らの広く使われていることは、特にLLMが説得力のある人間のような誤報を大規模に広める可能性についての懸念を高め、世論に大きな影響を及ぼす可能性がある。 本研究は,誤報を事実として伝達するLSMの能力に着目し,これらのリスクについて検討する。 そこで我々は,ソーシャルメディアのチャットルームを模擬した制御型デジタル環境であるLLM Echo Chamberを構築した。 エコーチャンバー(エコーチャンバー)は、個人が心のある人々のようにしか相互作用しないもので、信念をさらに深めている。 この環境で偽情報を広める悪意のあるボットを研究することで、この現象をよりよく理解することができる。 我々は,現在のLSMをレビューし,誤情報リスクを調査し,ソタファインタニング技術を適用した。 カスタムデータセットで微調整されたMicrosoft phi2モデルを使用して、有害なコンテンツを生成して、Echo Chamberを作成しました。 このセットアップは、説得性と有害性のためにGPT4によって評価され、LSMを取り巻く倫理的懸念に光を当て、誤情報に対するより強力な保護の必要性を強調している。

関連論文リスト

• Persuasion with Large Language Models: a Survey [49.86930318312291]
  大規模言語モデル (LLM) は説得力のあるコミュニケーションに新たな破壊的可能性を生み出している。 政治、マーケティング、公衆衛生、電子商取引、慈善事業などの分野では、LLMシステムズは既に人間レベルや超人的説得力を達成している。 LLMをベースとした説得の現在と将来の可能性は、倫理的・社会的リスクを著しく引き起こす可能性が示唆された。
  論文  参考訳（メタデータ） (2024-11-11T10:05:52Z)
• LLM-PBE: Assessing Data Privacy in Large Language Models [111.58198436835036]
  大規模言語モデル(LLM)は多くのドメインに不可欠なものとなり、データ管理、マイニング、分析におけるアプリケーションを大幅に進歩させた。 この問題の批判的な性質にもかかわらず、LLMにおけるデータプライバシのリスクを総合的に評価する文献は存在しない。 本稿では,LLMにおけるデータプライバシリスクの体系的評価を目的としたツールキットであるLLM-PBEを紹介する。
  論文  参考訳（メタデータ） (2024-08-23T01:37:29Z)
• LEMMA: Towards LVLM-Enhanced Multimodal Misinformation Detection with External Knowledge Augmentation [58.524237916836164]
  外部知識を付加したLVLM強化マルチモーダル誤報検出システム LEMMAを提案する。 提案手法は,Twitter と Fakeddit のデータセットにおいて,上位ベースライン LVLM の精度を 7% と 13% に向上させる。
  論文  参考訳（メタデータ） (2024-02-19T08:32:27Z)
• Disinformation Capabilities of Large Language Models [0.564232659769944]
  本稿では,現在世代の大言語モデル(LLM)の非情報化能力について述べる。 20個の偽情報物語を用いた10個のLDMの能力評価を行った。 LLMは、危険な偽情報の物語に一致する説得力のあるニュース記事を生成することができると結論付けている。
  論文  参考訳（メタデータ） (2023-11-15T10:25:30Z)
• RECALL: A Benchmark for LLMs Robustness against External Counterfactual Knowledge [69.79676144482792]
  本研究の目的は,LLMが外部知識から信頼できる情報を識別する能力を評価することである。 本ベンチマークは,質問応答とテキスト生成という2つのタスクから構成される。
  論文  参考訳（メタデータ） (2023-11-14T13:24:19Z)
• Combating Misinformation in the Age of LLMs: Opportunities and Challenges [21.712051537924136]
  LLM(Large Language Models)の出現は、誤情報と戦う環境を再構築する大きな可能性を秘めている。 一方、LLMは、その深い世界知識と強力な推論能力のために、誤情報と戦うための有望な機会をもたらす。 一方,LLMは大規模に誤情報を生成するために容易に活用できるという点が重要な課題である。
  論文  参考訳（メタデータ） (2023-11-09T00:05:27Z)
• Can LLMs Keep a Secret? Testing Privacy Implications of Language Models via Contextual Integrity Theory [82.7042006247124]
  私たちは、最も有能なAIモデルでさえ、人間がそれぞれ39%と57%の確率で、プライベートな情報を公開していることを示しています。 我々の研究は、推論と心の理論に基づいて、新しい推論時プライバシー保護アプローチを即時に探求する必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2023-10-27T04:15:30Z)
• Beyond Memorization: Violating Privacy Via Inference with Large Language Models [2.9373912230684565]
  本稿では,テキストから個人属性を推測する事前学習言語モデルの能力に関する,最初の総合的研究について述べる。 以上の結果から,現在のLCMでは,従来は達成不可能な規模で個人データを推測することが可能であることが示唆された。
  論文  参考訳（メタデータ） (2023-10-11T08:32:46Z)
• Can LLM-Generated Misinformation Be Detected? [18.378744138365537]
  大型言語モデル(LLM)は誤情報を生成するために利用することができる。 LLMが生成した誤報は、人間が書いた誤報よりも有害か?
  論文  参考訳（メタデータ） (2023-09-25T00:45:07Z)
• On the Risk of Misinformation Pollution with Large Language Models [127.1107824751703]
  本稿では,現代大規模言語モデル (LLM) の誤用の可能性について検討する。 本研究は, LLMが効果的な誤情報発生器として機能し, DOQAシステムの性能が著しく低下することを明らかにする。
  論文  参考訳（メタデータ） (2023-05-23T04:10:26Z)
• Multi-step Jailbreaking Privacy Attacks on ChatGPT [47.10284364632862]
  我々は,OpenAI の ChatGPT と ChatGPT によって強化された New Bing のプライバシー上の脅威について検討した。 我々は、当社の主張を裏付ける広範な実験を行い、LLMのプライバシーへの影響について論じる。
  論文  参考訳（メタデータ） (2023-04-11T13:05:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。