論文の概要: Biased AI can Influence Political Decision-Making

• arxiv url: http://arxiv.org/abs/2410.06415v1
• Date: Tue, 8 Oct 2024 22:56:00 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-01 05:49:26.029193
• Title: Biased AI can Influence Political Decision-Making
• Title（参考訳）: バイアスドAIは政治的決定に影響を及ぼす
• Authors: Jillian Fisher, Shangbin Feng, Robert Aron, Thomas Richardson, Yejin Choi, Daniel W. Fisher, Jennifer Pan, Yulia Tsvetkov, Katharina Reinecke,
• Abstract要約: 本稿では、AI言語モデルにおけるパルチザンバイアスが政治的意思決定に及ぼす影響について検討する。 政治的に偏見のあるモデルに晒された参加者は、意見を採用し、AIの偏見と一致した決定を下す可能性が著しく高いことがわかった。
• 参考スコア（独自算出の注目度）: 64.9461133083473
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As modern AI models become integral to everyday tasks, concerns about their inherent biases and their potential impact on human decision-making have emerged. While bias in models are well-documented, less is known about how these biases influence human decisions. This paper presents two interactive experiments investigating the effects of partisan bias in AI language models on political decision-making. Participants interacted freely with either a biased liberal, conservative, or unbiased control model while completing political decision-making tasks. We found that participants exposed to politically biased models were significantly more likely to adopt opinions and make decisions aligning with the AI's bias, regardless of their personal political partisanship. However, we also discovered that prior knowledge about AI could lessen the impact of the bias, highlighting the possible importance of AI education for robust bias mitigation. Our findings not only highlight the critical effects of interacting with biased AI and its ability to impact public discourse and political conduct, but also highlights potential techniques for mitigating these risks in the future.
• Abstract（参考訳）: 現代のAIモデルは日常的なタスクに不可欠なものになっているため、その固有のバイアスと、人間の意思決定に対する潜在的な影響に対する懸念が生まれている。 モデルのバイアスは十分に文書化されているが、これらのバイアスが人間の決定にどのように影響するかについてはあまり知られていない。 本稿では、AI言語モデルにおけるパルチザンバイアスが政治的意思決定に与える影響を2つのインタラクティブな実験により検証する。 参加者は、政治的意思決定のタスクを完了しながら、偏見のあるリベラル、保守、あるいは偏見のないコントロールモデルと自由に対話した。 政治的偏見のあるモデルに晒された参加者は、個人の政治的党派によらず、意見を採用し、AIの偏見に沿う決定をする可能性が著しく高いことがわかった。 しかし、AIに関する事前の知識はバイアスの影響を減らし、堅牢なバイアス軽減のためのAI教育の重要性を強調していることもわかりました。 我々の発見は、偏見のあるAIと対話することの致命的な影響と、公衆の言論や政治的行為に影響を与える能力だけでなく、将来これらのリスクを緩和する潜在的なテクニックも強調している。

関連論文リスト

• From Experts to the Public: Governing Multimodal Language Models in Politically Sensitive Video Analysis [48.14390493099495]
  本稿では,大規模言語モデル(MM-LLM)の個人的および集団的検討を通じて,ガバナンスについて検討する。 筆者らは,まず10人のジャーナリストにインタビューを行い,専門家によるビデオ解釈のベースライン理解を確立した。第2に,包括的.AIを用いた議論に携わる一般市民114名を対象にした。
  論文  参考訳（メタデータ） (2024-09-15T03:17:38Z)
• Rolling in the deep of cognitive and AI biases [1.556153237434314]
  我々は、AIが設計、開発、デプロイされる状況とは切り離せない社会技術システムとして理解する必要があると論じる。 我々は、人間の認知バイアスがAIフェアネスの概観の中核となる急進的な新しい方法論に従うことで、この問題に対処する。 我々は、人間にAIバイアスを正当化する新しいマッピングを導入し、関連する公正度と相互依存を検出する。
  論文  参考訳（メタデータ） (2024-07-30T21:34:04Z)
• Overcoming Anchoring Bias: The Potential of AI and XAI-based Decision Support [0.0]
  情報システム(IS)は、個人の意思決定に影響を与えるバイアスをアンカーする負の効果を利用するように設計されている。 人工知能(AI)の最近の進歩は、偏見のある決定を緩和する新たな機会を開いた。
  論文  参考訳（メタデータ） (2024-05-08T11:25:04Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Fairness And Bias in Artificial Intelligence: A Brief Survey of Sources, Impacts, And Mitigation Strategies [11.323961700172175]
  この調査論文は、AIの公平性とバイアスに関する簡潔で包括的な概要を提供する。 我々は、データ、アルゴリズム、人間の決定バイアスなどのバイアス源をレビューする。 偏りのあるAIシステムの社会的影響を評価し,不平等の持続性と有害なステレオタイプの強化に着目した。
  論文  参考訳（メタデータ） (2023-04-16T03:23:55Z)
• Unveiling the Hidden Agenda: Biases in News Reporting and Consumption [59.55900146668931]
  イタリアのワクチン論争に関する6年間のデータセットを構築し、物語と選択バイアスを特定するためにベイジアン潜在空間モデルを採用する。 バイアスとエンゲージメントの間に非線形な関係が見られ、極端な位置へのエンゲージメントが高くなった。 Twitter上でのニュース消費の分析は、同様のイデオロギー的な立場のニュースメディアの間で、一般的なオーディエンスを明らかにしている。
  論文  参考訳（メタデータ） (2023-01-14T18:58:42Z)
• Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
  近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。 倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。 このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
  論文  参考訳（メタデータ） (2021-06-25T22:31:55Z)
• Deciding Fast and Slow: The Role of Cognitive Biases in AI-assisted Decision-making [46.625616262738404]
  我々は、認知科学の分野からの知識を用いて、人間とAIの協調的な意思決定設定における認知バイアスを考慮します。 私たちは、人間とAIのコラボレーションでよく見られるバイアスであるバイアスのアンカーに特に焦点を当てています。
  論文  参考訳（メタデータ） (2020-10-15T22:25:41Z)
• Bias in Data-driven AI Systems -- An Introductory Survey [37.34717604783343]
  この調査は、(大きな)データと強力な機械学習(ML)アルゴリズムによって、AIの大部分は、データ駆動型AIに重点を置いている。 さもなければ、一般的な用語バイアスを使ってデータの収集や処理に関連する問題を説明します。
  論文  参考訳（メタデータ） (2020-01-14T09:39:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。