論文の概要: How Susceptible are Large Language Models to Ideological Manipulation?

• arxiv url: http://arxiv.org/abs/2402.11725v3
• Date: Tue, 18 Jun 2024 05:14:02 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-20 04:15:24.177684
• Title: How Susceptible are Large Language Models to Ideological Manipulation?
• Title（参考訳）: 大規模言語モデルがイデオロギー操作にどの程度影響するか?
• Authors: Kai Chen, Zihao He, Jun Yan, Taiwei Shi, Kristina Lerman,
• Abstract要約: 大規模言語モデル(LLM)は、大衆の認識や情報との相互作用に大きな影響を与える可能性がある。 このことは、これらのモデル内のイデオロギーを容易に操作できれば生じる可能性のある社会的影響に関する懸念を提起する。
• 参考スコア（独自算出の注目度）: 14.598848573524549
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) possess the potential to exert substantial influence on public perceptions and interactions with information. This raises concerns about the societal impact that could arise if the ideologies within these models can be easily manipulated. In this work, we investigate how effectively LLMs can learn and generalize ideological biases from their instruction-tuning data. Our findings reveal a concerning vulnerability: exposure to only a small amount of ideologically driven samples significantly alters the ideology of LLMs. Notably, LLMs demonstrate a startling ability to absorb ideology from one topic and generalize it to even unrelated ones. The ease with which LLMs' ideologies can be skewed underscores the risks associated with intentionally poisoned training data by malicious actors or inadvertently introduced biases by data annotators. It also emphasizes the imperative for robust safeguards to mitigate the influence of ideological manipulations on LLMs.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、大衆の認識や情報との相互作用に大きな影響を与える可能性がある。 このことは、これらのモデル内のイデオロギーを容易に操作できれば生じる可能性のある社会的影響に関する懸念を提起する。 本研究では,LLMが命令チューニングデータからイデオロギーバイアスを効果的に学習し,一般化する方法について検討する。 少量のイデオロギー駆動サンプルへの曝露は,LSMのイデオロギーを著しく変化させる。 特に、LLMは、あるトピックからイデオロギーを吸収し、それとは無関係なトピックに一般化するスターリング能力を示す。 LLMのイデオロギーが歪められることの容易さは、悪意あるアクターによる故意に有害なトレーニングデータや、データアノテータによる不注意に導入されたバイアスに関連するリスクを浮き彫りにする。 また、LSMに対するイデオロギー的操作の影響を軽減するため、堅牢な安全ガードの義務を強調している。

関連論文リスト

• Persuasion with Large Language Models: a Survey [49.86930318312291]
  大規模言語モデル (LLM) は説得力のあるコミュニケーションに新たな破壊的可能性を生み出している。 政治、マーケティング、公衆衛生、電子商取引、慈善事業などの分野では、LLMシステムズは既に人間レベルや超人的説得力を達成している。 LLMをベースとした説得の現在と将来の可能性は、倫理的・社会的リスクを著しく引き起こす可能性が示唆された。
  論文  参考訳（メタデータ） (2024-11-11T10:05:52Z)
• Large Language Models Reflect the Ideology of their Creators [73.25935570218375]
  大規模言語モデル(LLM)は、自然言語を生成するために大量のデータに基づいて訓練される。 異なるLLMや言語にまたがるイデオロギー的姿勢の顕著な多様性を明らかにする。
  論文  参考訳（メタデータ） (2024-10-24T04:02:30Z)
• Metacognitive Myopia in Large Language Models [0.0]
  大規模言語モデル(LLM)は、文化的に固有のステレオタイプ、クラウドの道徳的判断、あるいは多数派の肯定的な評価を強化する潜在的に有害なバイアスを示す。 認知・生態的枠組みとしてメタ認知ミオピアを提案する。 我々の理論的枠組みは, メタ認知, 監視, 制御の2つの要素が欠如していることが, メタ認知性ミオピアの5つの症状を引き起こすことを示唆している。
  論文  参考訳（メタデータ） (2024-08-10T14:43:57Z)
• LLMs' Reading Comprehension Is Affected by Parametric Knowledge and Struggles with Hypothetical Statements [59.71218039095155]
  言語モデルの自然言語理解(NLU)能力を評価するための主要な手段として、読解理解(RC)があげられる。 文脈がモデルの内部知識と一致している場合、モデルの回答がコンテキスト理解に由来するのか、あるいは内部情報から生じるのかを識別することは困難である。 この問題に対処するために、架空の事実や実体に基づいて、想像上のデータにRCを使うことを提案する。
  論文  参考訳（メタデータ） (2024-04-09T13:08:56Z)
• Rethinking Machine Unlearning for Large Language Models [85.92660644100582]
  大規模言語モデル(LLM)の領域における機械学習の研究 このイニシアチブは、望ましくないデータの影響(機密情報や違法情報など)と関連するモデル機能を排除することを目的としている。
  論文  参考訳（メタデータ） (2024-02-13T20:51:58Z)
• Use large language models to promote equity [40.183853467716766]
  大規模言語モデル(LLM)は、その社会的影響に対する関心を爆発的に高めた。 ソーシャルエクイティにどう影響するかという議論の多くは、慎重か否定的だ。 AIが一般的に、特にLLMがバイアスを封じ込めている方法は、十分に文書化されている。 LLMがどんな有望なアプリケーションによって株式を促進することができるのか?
  論文  参考訳（メタデータ） (2023-12-22T16:26:20Z)
• Disinformation Capabilities of Large Language Models [0.564232659769944]
  本稿では,現在世代の大言語モデル(LLM)の非情報化能力について述べる。 20個の偽情報物語を用いた10個のLDMの能力評価を行った。 LLMは、危険な偽情報の物語に一致する説得力のあるニュース記事を生成することができると結論付けている。
  論文  参考訳（メタデータ） (2023-11-15T10:25:30Z)
• Large Language Model Soft Ideologization via AI-Self-Consciousness [25.99169821531019]
  大規模言語モデル(LLM)は、多岐にわたる自然言語タスクにおいて、人間レベルのパフォーマンスを実証している。 本研究は,AI自己意識を用いたGPTソフトイデオロギーの意義を考察する。
  論文  参考訳（メタデータ） (2023-09-28T04:47:58Z)
• Deception Abilities Emerged in Large Language Models [0.0]
  大規模言語モデル(LLM)は、現在、人間のコミュニケーションと日常の生活を備えた人工知能(AI)システムの最前線にある。 本研究は, GPT-4 などの最先端 LLM にそのような戦略が出現したが, 初期の LLM には存在しなかったことを明らかにする。 我々は、最先端のLLMが他のエージェントの誤った信念を理解し、誘導できることを示す一連の実験を行う。
  論文  参考訳（メタデータ） (2023-07-31T09:27:01Z)
• On the Risk of Misinformation Pollution with Large Language Models [127.1107824751703]
  本稿では,現代大規模言語モデル (LLM) の誤用の可能性について検討する。 本研究は, LLMが効果的な誤情報発生器として機能し, DOQAシステムの性能が著しく低下することを明らかにする。
  論文  参考訳（メタデータ） (2023-05-23T04:10:26Z)
• Influence of External Information on Large Language Models Mirrors Social Cognitive Patterns [51.622612759892775]
  社会的認知理論は、人々が他人を観察して知識を習得する方法を説明する。 近年,大規模言語モデル(LLM)の急速な発展を目撃している。 LLMは、AIエージェントとして、その認知と行動を形成する外部情報を観察することができる。
  論文  参考訳（メタデータ） (2023-05-08T16:10:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。