論文の概要: Geographic Bias and Diversity in AI Evaluation

• arxiv url: http://arxiv.org/abs/2606.05187v1
• Date: Tue, 28 Apr 2026 11:32:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-15 07:09:36.644566
• Title: Geographic Bias and Diversity in AI Evaluation
• Title（参考訳）: AI評価における地理バイアスと多様性
• Authors: Zilong Liu, Krzysztof Janowicz, Gengchen Mai, Song Gao, Rui Zhu,
• Abstract要約: この章は、(生成的)AIにおけるバイアスの地理的性質を調査する。 トレーニングデータの表現バイアスから,言語モデルの事実的リコールにおける地域差まで,さまざまな地理的バイアスを識別する。 近年の研究では、生成AIの出力の地理的多様性を評価することで、後者のバイアスにどのように対処するかを示す。
• 参考スコア（独自算出の注目度）: 13.861735837455626
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Among the many challenges hindering the responsible development and deployment of AI, arguably none has faced more intense scrutiny than bias in its various forms. This underscores the widespread concerns across AI researchers that model outputs, e.g., from generative AI, may encode structural distributional imbalances (stemming from training data or model design) that may amplify social inequality or introduce systemic distortions across application domains ranging from biodiversity to disaster mitigation. Yet, relatively little work has investigated the geographical nature of bias or developed measurable benchmarks for what it means for (generative) AI to be unbiased. In this chapter, we investigate this issue through a literature review. As foundation models are reshaping the landscape of bias research, we examine work spanning both the pre-generative AI and generative AI periods. First, we identify a range of geographic biases. These biases span from representation bias in the training data and regional disparities in the factual recall of language models to the tendency of generative AI to over-proportionally favor prototypical places (called defaults). Then, we showcase how recent studies address the latter bias by evaluating geographic diversity in the outputs of generative AI across various cognitive levels, parameter settings, and output modalities.
• Abstract（参考訳）: AIの開発と展開に責任を負うことを妨げる多くの課題の中で、おそらくは、その様々な形態におけるバイアスよりも厳しい精査に直面した者はいないだろう。 このことは、AI研究者の間で、例えば、生成的AIからのモデル出力は、社会的不平等を増幅したり、生物多様性から災害軽減まで、アプリケーション領域全体に全身的な歪みをもたらすような構造的分散不均衡(トレーニングデータやモデル設計から考える)を符号化する可能性があるという懸念を浮き彫りにしている。 しかし、バイアスの地理的性質を調査したり、(生成的)AIが非バイアスとなるための測定可能なベンチマークを開発したりすることは、比較的少ない。 本章では,本問題を文献レビューを通じて考察する。 基礎モデルがバイアス研究のランドスケープを形作っているため、私たちは、前世代AIと生成AI期間の両方にまたがる作業について検討する。 まず、地理的バイアスの範囲を特定します。 これらのバイアスは、トレーニングデータにおける表現バイアスや、言語モデルの事実的リコールにおける地域格差から、生成的AIが過度に典型的な場所(デフォルトと呼ばれる)を優先する傾向にまで及んでいる。 次に、近年の研究では、様々な認知レベル、パラメータ設定、出力モダリティにまたがる生成AIの出力の地理的多様性を評価することで、後者のバイアスにどのように対処するかを示す。

関連論文リスト

• Assessing the Geographic Diversity of AI's Platial Representations in Image Generation [7.106770983243944]
  ケーススタディにより,画像生成における地理的多様性を評価する方法について述べる。 例えば、古いモデルは、低画質の画像を生成するにもかかわらず、より大きな地理的多様性を示すことができる。 地理的多様性の欠如の根底にある明らかなモデル同質性を観察する。
  論文  参考訳（メタデータ） (2026-04-28T11:57:42Z)
• Anomaly Detection and Generation with Diffusion Models: A Survey [51.61574868316922]
  異常検出(AD)は、サイバーセキュリティ、金融、医療、工業製造など、さまざまな分野において重要な役割を担っている。 近年のディープラーニング,特に拡散モデル(DM)の進歩は,大きな関心を集めている。 この調査は、研究者や実践者が様々なアプリケーションにまたがる革新的なADソリューションにDMを利用することをガイドすることを目的としている。
  論文  参考訳（メタデータ） (2025-06-11T03:29:18Z)
• Exploring Bias in over 100 Text-to-Image Generative Models [49.60774626839712]
  本稿では,Hugging Faceのようなオープンプラットフォームによるモデルの利用率向上に着目し,テキストから画像への生成モデルにおけるバイアスの傾向について検討する。 我々は, (i) 分布バイアス, (ii) 生成幻覚, (iii) 生成ミスレートの3つの主要な次元にまたがるバイアスを評価する。 以上の結果から, 芸術的モデルとスタイル変換モデルに有意なバイアスが生じる一方で, より広範なトレーニング分布の恩恵を受ける基礎モデルでは, 徐々にバイアスが減っていることが示唆された。
  論文  参考訳（メタデータ） (2025-03-11T03:40:44Z)
• Can Prompt Modifiers Control Bias? A Comparative Analysis of Text-to-Image Generative Models [8.419004940268023]
  本研究では,主要なテキスト・画像モデルであるStable Diffusion, DALL-E 3, Adobe Fireflyにおける社会的バイアスの存在と操作について検討した。 我々の発見は、バイアス制御におけるエンジニアリングの課題と可能性を明らかにし、倫理的AI開発における重要なニーズを浮き彫りにしている。 この研究は、テキストから画像生成モデルにおけるバイアスの微妙なダイナミクスを明らかにするだけでなく、バイアスを制御するための新しい研究フレームワークを提供することによって、AI倫理を前進させる。
  論文  参考訳（メタデータ） (2024-06-09T00:54:57Z)
• Ecosystem-level Analysis of Deployed Machine Learning Reveals Homogeneous Outcomes [72.13373216644021]
  本研究では,機械学習の社会的影響を,特定の文脈に展開されるモデルの集合を考慮し検討する。 デプロイされた機械学習はシステム障害を起こしやすいため、利用可能なすべてのモデルに排他的に誤分類されているユーザもいます。 これらの例は、エコシステムレベルの分析が、機械学習の社会的影響を特徴づける独自の強みを持っていることを示している。
  論文  参考訳（メタデータ） (2023-07-12T01:11:52Z)
• Fairness And Bias in Artificial Intelligence: A Brief Survey of Sources, Impacts, And Mitigation Strategies [11.323961700172175]
  この調査論文は、AIの公平性とバイアスに関する簡潔で包括的な概要を提供する。 我々は、データ、アルゴリズム、人間の決定バイアスなどのバイアス源をレビューする。 偏りのあるAIシステムの社会的影響を評価し,不平等の持続性と有害なステレオタイプの強化に着目した。
  論文  参考訳（メタデータ） (2023-04-16T03:23:55Z)
• Should ChatGPT be Biased? Challenges and Risks of Bias in Large Language Models [11.323961700172175]
  本稿では,ChatGPTのような大規模言語モデルにおけるバイアスに関連する課題とリスクについて考察する。 我々は、トレーニングデータの性質、モデル仕様、アルゴリズム制約、製品設計、ポリシー決定など、バイアスの起源について論じる。 私たちは、言語モデルにおけるバイアスを特定し、定量化し、緩和するための現在のアプローチをレビューし、より公平で透明で責任あるAIシステムを開発するための、多分野の協力的な取り組みの必要性を強調します。
  論文  参考訳（メタデータ） (2023-04-07T17:14:00Z)
• Stable Bias: Analyzing Societal Representations in Diffusion Models [72.27121528451528]
  本稿では,テキスト・ツー・イメージ(TTI)システムにおける社会的バイアスを探索する新しい手法を提案する。 我々のアプローチは、プロンプト内の性別や民族のマーカーを列挙して生成された画像の変動を特徴づけることに依存している。 我々はこの手法を利用して3つのTTIシステムによって生成された画像を分析し、そのアウトプットが米国の労働人口層と相関しているのに対して、彼らは常に異なる範囲において、限界化されたアイデンティティを低く表現している。
  論文  参考訳（メタデータ） (2023-03-20T19:32:49Z)
• General Greedy De-bias Learning [163.65789778416172]
  本稿では,関数空間における勾配降下のような偏りのあるモデルとベースモデルを優雅に訓練する一般グリーディ・デバイアス学習フレームワーク(GGD)を提案する。 GGDは、事前知識を持つタスク固有バイアスモデルと、事前知識を持たない自己アンサンブルバイアスモデルの両方の設定の下で、より堅牢なベースモデルを学ぶことができる。
  論文  参考訳（メタデータ） (2021-12-20T14:47:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。