論文の概要: Impacts of Racial Bias in Historical Training Data for News AI

• arxiv url: http://arxiv.org/abs/2512.16901v1
• Date: Thu, 18 Dec 2025 18:56:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-19 18:10:32.240932
• Title: Impacts of Racial Bias in Historical Training Data for News AI
• Title（参考訳）: ニュースAIの歴史的トレーニングデータにおける顔面バイアスの影響
• Authors: Rahul Bhargava, Malene Hornstrup Jespersen, Emily Boardman Ndulue, Vivica Dsouza,
• Abstract要約: 本稿では,ニューヨーク・タイムズ・アノテート・コーパス(New York Times Annotated Corpus)で訓練された複数ラベルの分類器の作成について検討する。 ブラックス」ラベルは、一部のマイノリティ化されたグループにまたがる一般的な「人種差別検知器」として部分的に機能していることがわかった。 しかし、新型コロナウイルス時代の反アジア的ヘイトストーリーやブラック・ライブ・マター運動の報道など、現代の事例では期待に反する効果がある。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: AI technologies have rapidly moved into business and research applications that involve large text corpora, including computational journalism research and newsroom settings. These models, trained on extant data from various sources, can be conceptualized as historical artifacts that encode decades-old attitudes and stereotypes. This paper investigates one such example trained on the broadly-used New York Times Annotated Corpus to create a multi-label classifier. Our use in research settings surfaced the concerning "blacks" thematic topic label. Through quantitative and qualitative means we investigate this label's use in the training corpus, what concepts it might be encoding in the trained classifier, and how those concepts impact our model use. Via the application of explainable AI methods, we find that the "blacks" label operates partially as a general "racism detector" across some minoritized groups. However, it performs poorly against expectations on modern examples such as COVID-19 era anti-Asian hate stories, and reporting on the Black Lives Matter movement. This case study of interrogating embedded biases in a model reveals how similar applications in newsroom settings can lead to unexpected outputs that could impact a wide variety of potential uses of any large language model-story discovery, audience targeting, summarization, etc. The fundamental tension this exposes for newsrooms is how to adopt AI-enabled workflow tools while reducing the risk of reproducing historical biases in news coverage.
• Abstract（参考訳）: AI技術は、計算ジャーナリズムの研究やニュースルームの設定を含む大きなテキストコーパスを含むビジネスや研究アプリケーションに急速に移行してきた。 これらのモデルは、様々な情報源からの既存のデータに基づいて訓練され、数十年前の態度やステレオタイプを符号化する歴史的アーティファクトとして概念化することができる。 本稿では,ニューヨーク・タイムズ・アノテート・コーパス(New York Times Annotated Corpus)で訓練された複数ラベルの分類器の作成について検討する。 研究環境における「黒」テーマラベルの活用について検討した。 量的および質的な手段を通じて、このラベルがトレーニングコーパスで使用すること、訓練された分類器でエンコードしているかもしれない概念、そしてそれらの概念がモデルの使用に与える影響を調査する。 説明可能なAI手法の適用により、「ブラックス」ラベルが一部のマイノリティ化されたグループにまたがる一般的な「人種差別検知」として部分的に機能していることが分かる。 しかし、新型コロナウイルス時代の反アジア的ヘイトストーリーやブラック・ライブ・マター運動の報道など、現代の事例では期待に反する効果がある。 モデルに埋め込まれたバイアスを問うケーススタディでは、ニューズルームの設定に類似したアプリケーションが、予期せぬアウトプットをもたらし、大きな言語モデル-ストーリーの発見、オーディエンスターゲティング、要約など、幅広い可能性に影響を及ぼす可能性があることを明らかにする。 ニュースルームに露呈する基本的な緊張は、AI対応のワークフローツールを採用する方法であり、ニュース報道における過去のバイアスを再現するリスクを低減している。

関連論文リスト

• Profiling News Media for Factuality and Bias Using LLMs and the Fact-Checking Methodology of Human Experts [29.95198868148809]
  本稿では,プロのファクトチェッカーがアウトレット全体の事実と政治的偏見を評価するために使用する基準をエミュレートする新しい手法を提案する。 メディアの人気と地域がモデル性能に与える影響を詳細に分析する。
  論文  参考訳（メタデータ） (2025-06-14T15:49:20Z)
• Spoken Stereoset: On Evaluating Social Bias Toward Speaker in Speech Large Language Models [50.40276881893513]
  本研究では,音声大言語モデル(SLLM)における社会的バイアスの評価を目的としたデータセットであるSpken Stereosetを紹介する。 多様な人口集団の発話に対して異なるモデルがどのように反応するかを調べることで、これらのバイアスを特定することを目指している。 これらの結果から,ほとんどのモデルではバイアスが最小であるが,ステレオタイプや反ステレオタイプ傾向がわずかにみられた。
  論文  参考訳（メタデータ） (2024-08-14T16:55:06Z)
• Data-Augmented and Retrieval-Augmented Context Enrichment in Chinese Media Bias Detection [16.343223974292908]
  我々は、新たに設計されたシステムによって注釈付けされた新型コロナウイルスに関する中国のニュースと共にデータセットを構築します。 データ拡張コンテキストエンリッチメント(DACE)では、トレーニングデータを拡大し、Retrieval-Augmentedコンテキストエンリッチメント(RACE)では、貴重な情報を選択するための情報検索方法を改善する。 以上の結果から, RACE法の方が効率が高く, 可能性も高いことがわかった。
  論文  参考訳（メタデータ） (2023-11-02T16:29:49Z)
• CBBQ: A Chinese Bias Benchmark Dataset Curated with Human-AI Collaboration for Large Language Models [52.25049362267279]
  本稿では,人的専門家と生成言語モデルによって共同で構築された100万以上の質問からなる中国語バイアスベンチマークデータセットを提案する。 データセットのテストインスタンスは、手作業による厳格な品質管理を備えた3K以上の高品質テンプレートから自動的に抽出される。 大規模な実験により、データセットがモデルバイアスを検出することの有効性が実証された。
  論文  参考訳（メタデータ） (2023-06-28T14:14:44Z)
• Verifying the Robustness of Automatic Credibility Assessment [50.55687778699995]
  入力テキストにおける意味保存的変化がモデルを誤解させる可能性があることを示す。 また、誤情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAについても紹介する。 我々の実験結果によると、現代の大規模言語モデルは、以前のより小さなソリューションよりも攻撃に対して脆弱であることが多い。
  論文  参考訳（メタデータ） (2023-03-14T16:11:47Z)
• NeuS: Neutral Multi-News Summarization for Mitigating Framing Bias [54.89737992911079]
  様々な政治スペクトルの複数のニュース見出しから中立的な要約を生成する新しい課題を提案する。 最も興味深い観察の1つは、生成モデルは、事実的に不正確なコンテンツや検証不可能なコンテンツだけでなく、政治的に偏ったコンテンツにも幻覚を与えることができることである。
  論文  参考訳（メタデータ） (2022-04-11T07:06:01Z)
• Detecting Cross-Modal Inconsistency to Defend Against Neural Fake News [57.9843300852526]
  我々は、画像やキャプションを含む機械生成ニュースに対して、より現実的で挑戦的な対策を導入する。 敵が悪用できる可能性のある弱点を特定するために、4つの異なる種類の生成された記事からなるNeuralNewsデータセットを作成します。 ユーザ実験から得られた貴重な知見に加えて,視覚的意味的不整合の検出にもとづく比較的効果的なアプローチを提案する。
  論文  参考訳（メタデータ） (2020-09-16T14:13:15Z)
• TextDecepter: Hard Label Black Box Attack on Text Classifiers [0.0]
  自然言語処理(NLP)分類器に対するハードラベルブラックボックス攻撃に対する新しいアプローチを提案する。 このような攻撃シナリオは、感情分析や有害なコンテンツ検出といったセキュリティに敏感なアプリケーションに使われている現実世界のブラックボックスモデルにも適用される。
  論文  参考訳（メタデータ） (2020-08-16T08:57:01Z)
• Hate Speech Detection and Racial Bias Mitigation in Social Media based on BERT model [1.9336815376402716]
  本稿では,既存の学習済み言語モデルであるBERTに基づくヘイトスピーチ検出のための伝達学習手法を提案する。 提案したモデルは、人種差別、セクシズム、憎悪、攻撃的なコンテンツをTwitter上で注釈付けした2つの公開データセット上で評価する。
  論文  参考訳（メタデータ） (2020-08-14T16:47:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。