論文の概要: Biased by Design: Leveraging AI Biases to Enhance Critical Thinking of News Readers
- arxiv url: http://arxiv.org/abs/2504.14522v1
- Date: Sun, 20 Apr 2025 07:39:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-30 00:02:15.181831
- Title: Biased by Design: Leveraging AI Biases to Enhance Critical Thinking of News Readers
- Title（参考訳）: バイザード・バイザード:ニュース読者の批判的思考を促進するAIバイアスの活用
- Authors: Liudmila Zavolokina, Kilian Sprenkamp, Zoya Katashinskaya, Daniel Gordon Jones,
- Abstract要約: 本稿では,Large Language Models (LLM) を用いたプロパガンダ検出ツールの設計について検討する。
AIモデルの本質的偏見、特に政治的文脈において、これらの偏見をどのように活用してニュース消費における批判的思考を強化するかを検討する。
- 参考スコア（独自算出の注目度）: 2.1074219583376252
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: This paper explores the design of a propaganda detection tool using Large Language Models (LLMs). Acknowledging the inherent biases in AI models, especially in political contexts, we investigate how these biases might be leveraged to enhance critical thinking in news consumption. Countering the typical view of AI biases as detrimental, our research proposes strategies of user choice and personalization in response to a user's political stance, applying psychological concepts of confirmation bias and cognitive dissonance. We present findings from a qualitative user study, offering insights and design recommendations (bias awareness, personalization and choice, and gradual introduction of diverse perspectives) for AI tools in propaganda detection.
- Abstract（参考訳）: 本稿では,Large Language Models (LLM) を用いたプロパガンダ検出ツールの設計について検討する。
AIモデルの本質的偏見、特に政治的文脈において、これらの偏見をどのように活用してニュース消費における批判的思考を強化するかを検討する。
本研究は、AIバイアスの典型的な見方を有害とみなして、ユーザの政治的スタンスに応じて、ユーザの選択とパーソナライゼーションの戦略を提案し、確認バイアスと認知不協和の心理的概念を適用した。
我々は,プロパガンダ検出におけるAIツールに対する洞察とデザインレコメンデーション(バイアス認識,パーソナライズ,選択,段階的な多様な視点の導入)を提供する定性的なユーザスタディから得られた知見を提示する。
関連論文リスト
- Bridging Cognition and Emotion: Empathy-Driven Multimodal Misinformation Detection [56.644686934050576]
ソーシャルメディアは情報発信の主流となっているが、誤報の急速な拡散を助長している。
従来の誤報検出法は主に表面的な特徴に焦点を合わせ、伝播過程における人間の共感の重要な役割を見落としている。
著者と読者の両方の視点から誤情報を分析するために、認知的・感情的共感を統合したデュアル・アスペクト・共感フレームワーク(DAE)を提案する。
論文 参考訳（メタデータ） (2025-04-24T07:48:26Z) - Cognitive Debiasing Large Language Models for Decision-Making [71.2409973056137]
大規模言語モデル(LLM)は意思決定アプリケーションをサポートする可能性を示している。
本稿では,LLMの信頼性を高める自己脱バイアスという認知的脱バイアス手法を提案する。
我々の手法は、3つの逐次的なステップ – バイアス決定、バイアス分析、認知バイアス ― に従うことで、プロンプトにおける潜在的な認知バイアスを反復的に緩和する。
論文 参考訳（メタデータ） (2025-04-05T11:23:05Z) - Exploring Bias in over 100 Text-to-Image Generative Models [49.60774626839712]
本稿では,Hugging Faceのようなオープンプラットフォームによるモデルの利用率向上に着目し,テキストから画像への生成モデルにおけるバイアスの傾向について検討する。
我々は, (i) 分布バイアス, (ii) 生成幻覚, (iii) 生成ミスレートの3つの主要な次元にまたがるバイアスを評価する。
以上の結果から, 芸術的モデルとスタイル変換モデルに有意なバイアスが生じる一方で, より広範なトレーニング分布の恩恵を受ける基礎モデルでは, 徐々にバイアスが減っていることが示唆された。
論文 参考訳（メタデータ） (2025-03-11T03:40:44Z) - Cognitive Bias Detection Using Advanced Prompt Engineering [0.0]
本稿では,大規模言語モデル(LLM)と高度なプロンプトエンジニアリング技術を用いた,ユーザ生成テキストにおけるリアルタイム認知バイアス検出のための新しいアプローチを提案する。
提案システムはテキストデータを解析して、確認バイアス、円形推論、隠れ仮定などの一般的な認知バイアスを識別する。
論文 参考訳（メタデータ） (2025-03-07T15:35:37Z) - Biased AI can Influence Political Decision-Making [64.9461133083473]
本稿では、AI言語モデルにおけるパルチザンバイアスが政治的意思決定に及ぼす影響について検討する。
政治的に偏見のあるモデルに晒された参加者は、意見を採用し、AIの偏見と一致した決定を下す可能性が著しく高いことがわかった。
論文 参考訳（メタデータ） (2024-10-08T22:56:00Z) - Unmasking Nationality Bias: A Study of Human Perception of Nationalities
in AI-Generated Articles [10.8637226966191]
自然言語処理(NLP)モデルにおける国籍バイアスの可能性について,人間の評価手法を用いて検討した。
本研究は、テキスト生成モデルにおける国籍バイアスの影響を識別し、理解するために、2段階の混合手法を用いている。
以上の結果から,NLPモデルでは既存の社会的バイアスを再現・増幅する傾向があり,社会工学的な場面で使用すれば害につながる可能性が示唆された。
論文 参考訳（メタデータ） (2023-08-08T15:46:27Z) - Fairness And Bias in Artificial Intelligence: A Brief Survey of Sources,
Impacts, And Mitigation Strategies [11.323961700172175]
この調査論文は、AIの公平性とバイアスに関する簡潔で包括的な概要を提供する。
我々は、データ、アルゴリズム、人間の決定バイアスなどのバイアス源をレビューする。
偏りのあるAIシステムの社会的影響を評価し,不平等の持続性と有害なステレオタイプの強化に着目した。
論文 参考訳（メタデータ） (2023-04-16T03:23:55Z) - Towards Corpus-Scale Discovery of Selection Biases in News Coverage:
Comparing What Sources Say About Entities as a Start [65.28355014154549]
本稿では,大規模ニュースコーパスにおけるニュースコンテンツから直接メディア選択バイアスのパターンを発見するために,スケーラブルなNLPシステムを構築する上での課題について検討する。
我々は,世界519のニュースソースから180万件のニュース記事のコーパスであるNELA-2020のケーススタディを通じて,フレームワークの能力を示す。
論文 参考訳（メタデータ） (2023-04-06T23:36:45Z) - Unveiling the Hidden Agenda: Biases in News Reporting and Consumption [59.55900146668931]
イタリアのワクチン論争に関する6年間のデータセットを構築し、物語と選択バイアスを特定するためにベイジアン潜在空間モデルを採用する。
バイアスとエンゲージメントの間に非線形な関係が見られ、極端な位置へのエンゲージメントが高くなった。
Twitter上でのニュース消費の分析は、同様のイデオロギー的な立場のニュースメディアの間で、一般的なオーディエンスを明らかにしている。
論文 参考訳（メタデータ） (2023-01-14T18:58:42Z) - Enabling News Consumers to View and Understand Biased News Coverage: A
Study on the Perception and Visualization of Media Bias [7.092487352312782]
手動で3つのアノテートデータセットを作成し、さまざまな視覚化戦略をテストする。
その結果, 対照群と比較して, 治療群の偏見に気付く効果は認められなかった。
多段階モデルを用いて、ジャーナリストの偏見は、記事の政治的極性や公平性に大きく関係していることがわかった。
論文 参考訳（メタデータ） (2021-05-20T10:16:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。