論文の概要: Insidious by Design: Implications of Large Language Model algorithmic bias for the Global South

• arxiv url: http://arxiv.org/abs/2606.28333v1
• Date: Tue, 26 May 2026 14:46:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-27 00:46:12.958143
• Title: Insidious by Design: Implications of Large Language Model algorithmic bias for the Global South
• Title（参考訳）: 設計の難しさ:グローバル・サウスにおける大規模言語モデルアルゴリズムバイアスの影響
• Abstract要約: 大規模言語モデル(LLM)の出力のバイアスは、特にグローバル・サウスの観点から、不十分に理論化されたままである。 本稿は,4つのLLMに同じプロンプトを提出した小規模探索研究について報告する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: \begin{quote} The biases in Large Language Models' (LLMs) outputs remain inadequately theorised, particularly from the perspective of the Global South. This article reports on a small-scale exploratory study in which identical prompts were submitted to four major LLMs (ChatGPT, Claude, Grok, and Copilot), firstly, prompting for stories using names suggestive of specific racial and gender communities, and secondly asking questions about `development'. Drawing on critical AI scholarship and postcolonial theory, we argue that LLM outputs are patterned in ways that reproduce racial hierarchies, gender asymmetries, and Western-centric epistemic frameworks. We argue that these biases are insidious: they operate below the threshold of both obvious error and overt prejudice, and instead are subtly embedded in narrative structure and emotional template. Simply put, women, in LLM narratives have rich interior lives, while men make plans. Black people face hardships while white people navigate the world with agency. And explanations as to the economic world order fail to consider Southern explanations. The models perform plausibility while reproducing dominance. We conclude that universities require structural critique of these technologies rather than unreflective adoption, and that critical AI literacy must engage seriously with questions of whose knowledge systems are reproduced and legitimated, or marginalised and undermined.
• Abstract（参考訳）: \begin{quote} 大言語モデル(LLM)の出力のバイアスは、特にグローバル・サウスの観点から、不十分に理論化されたままである。 本稿では,4つの主要LCM(ChatGPT,Claude,Grok,Copilot)に同じプロンプトを提出した小規模探索研究について報告する。 批判的なAI奨学金とポストコロニアル理論に基づいて、LSMのアウトプットは人種的階層、性別の非対称性、西洋中心の疫学の枠組みを再現する方法でパターン化されていると論じる。 これらのバイアスは、明らかな誤りと過度な偏見の両方のしきい値以下で動作し、物語構造と感情テンプレートに微妙に埋め込まれている。 簡単に言えば、LLMの物語の女性は内面の生活が豊かであり、男性は計画を立てる。 白人は代理店で世界をナビゲートしている間、黒人は困難に直面します。 そして、経済界の秩序に関する説明は、南部の説明を考えるのに失敗する。 モデルは、支配を再現しながら可視性を実行する。 大学は、不是正的の採用よりも、これらの技術の構造的批判を必要としており、重要なAIリテラシーは、知識システムが再現され、合法化され、あるいは、疎外され、弱体化され、弱体化されているという疑問に真剣に取り組まなければならない、と結論付けている。

関連論文リスト

• When English Rewrites Local Knowledge: Global Narrative Dominance in Large Language Models [17.6283905669333]
  大規模言語モデル(LLM)は言語間知識インターフェースとして広く使われている。 文化に根ざした質問は、しばしば現地の文脈よりも世界的な支配的な物語を反映している。 バングラ語-英語-問合せ-問合せ-問合せ-問合せ-問合せ-問合せ/問合せ-問合せ-問合せ/問合せ-問合せ/問合せ-問合せ-問合せ-問合せ-問合せ-問合せ-問合せ-問合せ-問合せ-問合せ-問合せ-問合せ-問合せ-問合せ-問合せ-問合せ-問合せ-答
  論文  参考訳（メタデータ） (2026-05-28T18:58:32Z)
• Yet another algorithmic bias: A Discursive Analysis of Large Language Models Reinforcing Dominant Discourses on Gender and Race [4.10874761487336]
  LLM(Large Language Models)は、様々な文脈において広く使われてきた言語モデルである。 より洗練されたバージョンへと進化するにつれて、差別や人種化といったバイアスを再現するかどうかを評価することが不可欠である。 本研究では,このような手法を補完する定性的・非帰的枠組みを提案する。
  論文  参考訳（メタデータ） (2025-08-14T03:22:02Z)
• The World According to LLMs: How Geographic Origin Influences LLMs' Entity Deduction Capabilities [12.46765303763981]
  大きな言語モデル(LLM)は明示的なバイアスを軽減するために広範囲に調整されてきたが、事前学習データに根ざした暗黙のバイアスがしばしば現れる。 我々は、モデルが積極的に質問するときにどのように振る舞うかを研究する。 マルチターン推論タスクである20の質問ゲームは、この目的のために理想的なテストベッドとして機能する。
  論文  参考訳（メタデータ） (2025-08-07T15:53:30Z)
• More Women, Same Stereotypes: Unpacking the Gender Bias Paradox in Large Language Models [3.154053412440065]
  大規模言語モデル(LLM)は自然言語処理に革命をもたらしたが、社会的偏見を反映または増幅する傾向について懸念が持たれている。 本研究では,LSMにおける性別バイアスを明らかにするための新しい評価枠組みを提案する。 10の著名なLSMの体系的な分析は、職業全体にわたって女性キャラクターを過剰に表現する一貫したパターンを示している。
  論文  参考訳（メタデータ） (2025-03-20T07:15:45Z)
• Disparities in LLM Reasoning Accuracy and Explanations: A Case Study on African American English [66.97110551643722]
  本研究では,Large Language Models (LLMs) 推論タスクにおける方言の相違について検討する。 LLMは、AAE入力に対するより正確な応答とより単純な推論チェーンと説明を生成する。 これらの知見は、LLMの処理方法と異なる言語品種の理由の体系的差異を浮き彫りにした。
  論文  参考訳（メタデータ） (2025-03-06T05:15:34Z)
• Large Language Models Reflect the Ideology of their Creators [71.65505524599888]
  大規模言語モデル(LLM)は、自然言語を生成するために大量のデータに基づいて訓練される。 本稿では, LLMのイデオロギー的姿勢が創造者の世界観を反映していることを示す。
  論文  参考訳（メタデータ） (2024-10-24T04:02:30Z)
• White Men Lead, Black Women Help? Benchmarking and Mitigating Language Agency Social Biases in LLMs [58.27353205269664]
  社会的バイアスは、Large Language Model(LLM)生成コンテンツにおいて言語エージェンシーに現れる。 LLMのバイアスを包括的に評価するLanguage Agency Bias Evaluationベンチマークを導入する。 LABEを用いて,近年の3つのLLM(ChatGPT,Llama3,Mistral)における言語エージェントの社会的バイアスを明らかにした。
  論文  参考訳（メタデータ） (2024-04-16T12:27:54Z)
• Laissez-Faire Harms: Algorithmic Biases in Generative Language Models [0.0]
  そこで本研究では,最も広範に普及しているLMの5つのテキストから合成されたテキストが,未成年者に対する脱落,従属化,ステレオタイピングの被害を永久に及ぼしていることを示す。 我々は、そのような個人が、LM生成出力に遭遇する確率が数百から数千倍にも達するほど、偏見の証拠が広範囲にあることを発見した。 本研究は,言語モデルによる差別的被害から消費者を守るための緊急の必要性を浮き彫りにした。
  論文  参考訳（メタデータ） (2024-04-11T05:09:03Z)
• LLMs' Reading Comprehension Is Affected by Parametric Knowledge and Struggles with Hypothetical Statements [59.71218039095155]
  言語モデルの自然言語理解(NLU)能力を評価するための主要な手段として、読解理解(RC)があげられる。 文脈がモデルの内部知識と一致している場合、モデルの回答がコンテキスト理解に由来するのか、あるいは内部情報から生じるのかを識別することは困難である。 この問題に対処するために、架空の事実や実体に基づいて、想像上のデータにRCを使うことを提案する。
  論文  参考訳（メタデータ） (2024-04-09T13:08:56Z)
• Large Language Models are Geographically Biased [47.88767211956144]
  我々は、地理のレンズを通して、我々の住む世界について、Large Language Models (LLM)が何を知っているかを研究する。 我々は,地理空間予測において,システム的誤りと定義する,様々な問題的地理的バイアスを示す。
  論文  参考訳（メタデータ） (2024-02-05T02:32:09Z)
• Bias Runs Deep: Implicit Reasoning Biases in Persona-Assigned LLMs [67.51906565969227]
  LLMの基本的な推論タスクの実行能力に対するペルソナ代入の意図しない副作用について検討する。 本研究は,5つの社会デコグラフィーグループにまたがる24の推論データセット,4つのLDM,19の多様な個人(アジア人など)について検討した。
  論文  参考訳（メタデータ） (2023-11-08T18:52:17Z)
• Towards Understanding and Mitigating Social Biases in Language Models [107.82654101403264]
  大規模事前訓練言語モデル(LM)は、望ましくない表現バイアスを示すのに潜在的に危険である。 テキスト生成における社会的バイアスを軽減するためのステップを提案する。 我々の経験的結果と人的評価は、重要な文脈情報を保持しながらバイアスを緩和する効果を示す。
  論文  参考訳（メタデータ） (2021-06-24T17:52:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。