論文の概要: The Digital Ecosystem of Beliefs: does evolution favour AI over humans?

• arxiv url: http://arxiv.org/abs/2412.14500v1
• Date: Thu, 19 Dec 2024 03:48:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-20 13:33:31.153348
• Title: The Digital Ecosystem of Beliefs: does evolution favour AI over humans?
• Title（参考訳）: The Digital Ecosystem of Beliefs: 進化は人間よりもAIを好むか?
• Authors: David M. Bossens, Shanshan Feng, Yew-Soon Ong,
• Abstract要約: Digicoは、シミュレートされたソーシャルネットワークにおける多集団間相互作用による制御実験のための最初の進化的フレームワークである。 このフレームワークは、進化的更新によってメッセージ戦略を変えるエージェントの集団をモデル化する。 実験によると、プロパガンダ用に設計されたAIは、人間の50%が極端な信念を採用することを説得できる。
• 参考スコア（独自算出の注目度）: 35.14620900061148
• License:
• Abstract: As AI systems are integrated into social networks, there are AI safety concerns that AI-generated content may dominate the web, e.g. in popularity or impact on beliefs.To understand such questions, this paper proposes the Digital Ecosystem of Beliefs (Digico), the first evolutionary framework for controlled experimentation with multi-population interactions in simulated social networks. The framework models a population of agents which change their messaging strategies due to evolutionary updates following a Universal Darwinism approach, interact via messages, influence each other's beliefs through dynamics based on a contagion model, and maintain their beliefs through cognitive Lamarckian inheritance. Initial experiments with an abstract implementation of Digico show that: a) when AIs have faster messaging, evolution, and more influence in the recommendation algorithm, they get 80% to 95% of the views, depending on the size of the influence benefit; b) AIs designed for propaganda can typically convince 50% of humans to adopt extreme beliefs, and up to 85% when agents believe only a limited number of channels; c) a penalty for content that violates agents' beliefs reduces propaganda effectiveness by up to 8%. We further discuss implications for control (e.g. legislation) and Digico as a means of studying evolutionary principles.
• Abstract（参考訳）: ソーシャルネットワークにAIシステムが組み込まれているため、AI生成コンテンツがウェブを支配したり、人気を博したり、信念への影響を懸念するAI安全性が懸念されている。このような疑問を理解するために、シミュレーションされたソーシャルネットワークにおける多人数インタラクションを制御するための最初の進化的フレームワークであるDigico(Digico)を提案する。 このフレームワークは、ユニバーサルダーウィン主義のアプローチに従って進化的更新によってメッセージ戦略を変えるエージェントの集団をモデル化し、メッセージを介して相互作用し、感染モデルに基づくダイナミクスを通じてお互いの信念に影響を与え、認知的なラマルク人の継承を通じて彼らの信念を維持する。 Digicoの抽象的な実装による最初の実験は、次のように示している。 a)AIがより高速なメッセージング、進化、レコメンデーションアルゴリズムに影響を及ぼす場合、その効果の大きさに応じて80%から95%のビューを得る。 ロ プロパガンダ用に設計されたAIは、通常、50%の人間が極端な信念を採用するよう説得することができ、エージェントが限られた数のチャンネルしか信じない場合、最大85%まで。 c) エージェントの信念に違反した内容に対する罰は,プロパガンダの有効性を最大8%低下させる。 さらに、進化原理を研究する手段として、制御(例えば法制)とディギコについて論じる。

関連論文リスト

• Human Bias in the Face of AI: The Role of Human Judgement in AI Generated Text Evaluation [48.70176791365903]
  本研究では、偏見がAIと人為的コンテンツの知覚をどう形成するかを考察する。 ラベル付きおよびラベルなしコンテンツに対するヒトのラッカーの反応について検討した。
  論文  参考訳（メタデータ） (2024-09-29T04:31:45Z)
• Hype, Sustainability, and the Price of the Bigger-is-Better Paradigm in AI [67.58673784790375]
  AIパラダイムは、科学的に脆弱なだけでなく、望ましくない結果をもたらすものだ、と私たちは主張する。 第一に、計算要求がモデルの性能よりも早く増加し、不合理な経済要求と不均等な環境フットプリントにつながるため、持続可能ではない。 第二に、健康、教育、気候などの重要な応用は別として、他人を犠牲にして特定の問題に焦点をあてることである。
  論文  参考訳（メタデータ） (2024-09-21T14:43:54Z)
• Visual Agents as Fast and Slow Thinkers [88.6691504568041]
  本稿では、Fast and Slow Thinking機構を視覚エージェントに組み込んだFaSTを紹介する。 FaSTは、システム1/2モード間の動的選択にスイッチアダプタを使用する。 モデルの信頼性を調整し、新しいコンテキストデータを統合することで、不確実で目に見えないオブジェクトに取り組む。
  論文  参考訳（メタデータ） (2024-08-16T17:44:02Z)
• Thorns and Algorithms: Navigating Generative AI Challenges Inspired by Giraffes and Acacias [1.3882452134471353]
  人間とジェネレーティブAI(Gen AI)の相互作用は、アフリカサバンナのキリンとアカシアのダイナミックな関係と、洞察に富んでいる。 この論文は、まだ環境をマスターしている若いキリンのように、人間がGen AIに適応し形作りする初期段階にあることを探求する。 偏見、誤報、プライバシー侵害などのリスクを軽減するために、人間が開発し、精錬している戦略を掘り下げる。
  論文  参考訳（メタデータ） (2024-07-16T03:53:25Z)
• A Mechanism-Based Approach to Mitigating Harms from Persuasive Generative AI [19.675489660806942]
  生成AIは、相互交換と長時間の相互作用による説得の新たなリスクプロファイルを示す。 これにより、AIの説得による損害と、それらを緩和する方法についての懸念が高まっている。 既存の害軽減のアプローチは、説得のプロセスによる害に対する説得の結果から害を受ける。
  論文  参考訳（メタデータ） (2024-04-23T14:07:20Z)
• Discriminatory or Samaritan -- which AI is needed for humanity? An Evolutionary Game Theory Analysis of Hybrid Human-AI populations [0.5308606035361203]
  我々は,AIの異なる形態が,一発の囚人のジレンマゲームをする人間の集団における協力の進化にどのように影響するかを研究する。 障害者を含む全員を無条件で支援するサマリア人のAIエージェントは、差別的AIよりも高いレベルの協力を促進することができることがわかった。
  論文  参考訳（メタデータ） (2023-06-30T15:56:26Z)
• Human-AI Coevolution [48.74579595505374]
  Coevolution AIは、人間とAIアルゴリズムが相互に連続的に影響を及ぼすプロセスである。 本稿では,AIと複雑性科学の交点における新たな研究分野の基盤として,Coevolution AIを紹介した。
  論文  参考訳（メタデータ） (2023-06-23T18:10:54Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Artificial Influence: An Analysis Of AI-Driven Persuasion [0.0]
  ユビキタスで高説得力のあるAIシステムは、私たちの情報環境を大きく変えて、私たちの将来の人間のコントロールを失うのに寄与する、と警告する。 われわれは、これらのソリューションはどれも監視されていないと結論し、個人や政府は、説得力のあるAIの最も悪影響から守るために、積極的な措置を講じる必要があると結論付けている。
  論文  参考訳（メタデータ） (2023-03-15T16:05:11Z)
• Theoretical Modeling of Communication Dynamics [0.0]
  評論ゲームは、参加するエージェントの信頼性、他者が認識する誠実さに焦点を当てている。 シコファント、自我中心性、病理的嘘、送信者に対する攻撃性など、様々な送信者および受信者戦略が研究されている。 ミニマリストの悪意ある戦略は、操作的、支配的、破壊的であり、他人のコストに対する評判を著しく高める。
  論文  参考訳（メタデータ） (2021-06-09T22:02:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。