論文の概要: Picturing Perceptions: An Open-Source Toolkit to Uncover Bias in Humans and Machines

• arxiv url: http://arxiv.org/abs/2606.13688v1
• Date: Thu, 07 May 2026 15:23:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-27 00:46:12.884873
• Title: Picturing Perceptions: An Open-Source Toolkit to Uncover Bias in Humans and Machines
• Title（参考訳）: Picturing Perceptions:人間と機械のバイアスを明らかにするオープンソースツールキット
• Abstract要約: 我々はPictoPerceptを紹介した。PictoPerceptは、人口レベルのベンチマークに基づく視覚的強制選択比較によってバイアスを測定するオープンソースのツールキットである。 全国の283人のアメリカ人成人を対象にPictoPerceptを検証し,同じ刺激を用いてGPT-5を主観的生成モデルとして評価した。 調査では3つの重要な結果が明らかになった。第一に、参加者はアジア系アメリカ人の利益を劇的に過小評価するが、実際の利益は最高であり、ラテン系男性と白人男性の利益は過大評価している。 第2に、白人男性は明らかに内集団偏見を示すため、内集団の好意は普遍的ではないが、アジアの参加者は実際には自グループの利益を過小評価している。
• 参考スコア（独自算出の注目度）: 4.61734844003445
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Bias in human judgment and artificial intelligence systems poses critical challenges across consequential domains like hiring, loans, and criminal justice. However, traditional bias measurement tools face fundamental limitations: they struggle to capture intersectional identities, cannot evaluate AI systems, lack grounding in demographic reality, and remain vulnerable to social desirability effects. We introduce PictoPercept, an open-source toolkit that measures bias through visual forced-choice comparisons grounded in population level benchmarks. Participants view pairs of normed facial photographs and assess who is more likely to have higher earnings, with selections compared against actual U.S. Bureau of Labor Statistics data. We validate PictoPercept with a nationally representative sample of 283 American adults and assess GPT-5, a mainstream generative model, using identical stimuli. Our study reveals three key findings: First, participants dramatically underestimate Asian American earnings despite this group having the highest actual earnings, while overestimating Latino male and White male earnings. Second, ingroup favoritism is not universal as White males show clear ingroup bias, but Asian participants actually underestimate their own group's earnings. Third, GPT-5 exhibits substantially stronger biases than humans, with stark systematic underestimation of all female groups. These findings suggest that PictoPercept enables unified bias assessment across human and AI systems while revealing systematic misperceptions that diverge from demographic reality.
• Abstract（参考訳）: 人間の判断と人工知能システムにおけるバイアスは、雇用、融資、刑事司法といった連続した領域に重大な課題をもたらす。 しかし、従来の偏見測定ツールは、交差点のアイデンティティを捉えるのに苦労し、AIシステムを評価することができず、人口統計学的現実の基盤を欠き、社会的望ましくない影響に弱いままである、という根本的な制限に直面している。 我々はPictoPerceptを紹介した。PictoPerceptは、人口レベルのベンチマークに基づく視覚的強制選択比較によってバイアスを測定するオープンソースのツールキットである。 参加者は、通常の顔写真のペアを見て、誰がより高い収益を得るかを評価する。 全国の283人のアメリカ人成人を対象にPictoPerceptを検証し,同じ刺激を用いてGPT-5を主観的生成モデルとして評価した。 調査では3つの重要な結果が明らかになった。第一に、参加者はアジア系アメリカ人の利益を劇的に過小評価するが、実際の利益は最高であり、ラテン系男性と白人男性の利益は過大評価している。 第2に、白人男性は明らかに内集団バイアスを示すため、内集団の好意は普遍的ではないが、アジアの参加者は実際には自身の集団の利益を過小評価している。 第3に、GPT-5はヒトよりもかなり強い偏見を示し、すべての雌の群を系統的に過小評価する。 これらの結果は、PictoPerceptは、人口統計学の現実から逸脱する系統的誤認識を明らかにしながら、人間とAIシステム間で統一されたバイアスアセスメントを可能にすることを示唆している。

関連論文リスト

• Measuring Social Bias in Vision-Language Models with Face-Only Counterfactuals from Real Photos [79.03150233804458]
  現実のイメージは人種と性別を混在させ、背景や衣服などの関連要因や属性を隠蔽する。 テキストのみの対実的評価パラダイムを提案する。 我々は、人種や性別に関連する顔属性のみを編集し、他の視覚的要素を全て固定することで、反事実的変異を生成する。
  論文  参考訳（メタデータ） (2026-01-11T14:35:06Z)
• Auditing and Mitigating Bias in Gender Classification Algorithms: A Data-Centric Approach [0.0]
  広く使われている5つの性別分類データセットを検査し、重要な交叉表現の不足を明らかにした。 これらのデータセットのうち2つの最もバランスのとれたUTKFaceとFairFaceで、同一のMobileNetV2分類器をトレーニングします。 我々の公正性評価は、これらのモデルでさえ有意な偏見を示し、男性の顔よりも高い速度で女性の顔を誤分類していることを示している。
  論文  参考訳（メタデータ） (2025-10-17T02:09:17Z)
• Investigating Intersectional Bias in Large Language Models using Confidence Disparities in Coreference Resolution [5.061421107401101]
  大規模言語モデル(LLM)は目覚ましいパフォーマンスを達成し、採用や受け入れといったリソース制約のあるコンテキストで意思決定支援ツールとして広く採用されている。 しかし、AIシステムは社会的バイアスを反映し、さらに悪化させることができるという科学的コンセンサスがあり、批判的な社会的文脈で使用される場合、アイデンティティに基づく害についての懸念が高まる。 本研究では,複数の識別軸が交差する際,異なる不利パターンを生じることを認識して,一軸の公平性評価を拡張し,交差バイアスを検証した。
  論文  参考訳（メタデータ） (2025-08-09T22:24:40Z)
• The Root Shapes the Fruit: On the Persistence of Gender-Exclusive Harms in Aligned Language Models [91.86718720024825]
  我々はトランスジェンダー、ノンバイナリ、その他のジェンダー・ディバースのアイデンティティを中心とし、アライメント手順が既存のジェンダー・ディバースバイアスとどのように相互作用するかを検討する。 以上の結果から,DPO対応モデルは特に教師付き微調整に敏感であることが示唆された。 DPOとより広範なアライメントプラクティスに合わせたレコメンデーションで締めくくります。
  論文  参考訳（メタデータ） (2024-11-06T06:50:50Z)
• With a Grain of SALT: Are LLMs Fair Across Social Dimensions? [3.5001789247699535]
  本稿では,ジェンダー,宗教,人種にまたがるオープンソースのLarge Language Models(LLM)におけるバイアスの系統的分析について述べる。 私たちはSALTデータセットを使用して,General Debate, positioned Debate, Career Advice, Problem Solving, CV Generationという,5つの異なるバイアストリガを組み込んでいます。 以上の結果から, モデル間で一貫した分極が明らかとなり, 組織的に好意的あるいは好ましくない治療を受ける集団が存在する。
  論文  参考訳（メタデータ） (2024-10-16T12:22:47Z)
• A large-scale study of performance and equity of commercial remote identity verification technologies across demographics [1.5274583259797851]
  本研究は,3,991名の被験者を対象に,年齢,性別,人種・民族,肌の色調の5つの市販RIdVソリューションを評価した。 2つのRIdVソリューションはすべての人口層で同等であり、2つのRIdVソリューションは少なくとも1つの人口層を持つ。
  論文  参考訳（メタデータ） (2024-09-18T21:15:31Z)
• Towards Fair Face Verification: An In-depth Analysis of Demographic Biases [11.191375513738361]
  近年,深層学習に基づく人物識別・検証システムは,精度の面で著しく向上している。 しかし、このようなシステムは人種、年齢、性別に関する重大な偏見を呈している。 本稿では,これらの要因の交叉性に着目した詳細な分析を行う。
  論文  参考訳（メタデータ） (2023-07-19T14:49:14Z)
• D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling Algorithmic Bias [57.87117733071416]
  D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。 ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。 それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
  論文  参考訳（メタデータ） (2022-08-10T03:41:48Z)
• Towards Understanding and Mitigating Social Biases in Language Models [107.82654101403264]
  大規模事前訓練言語モデル(LM)は、望ましくない表現バイアスを示すのに潜在的に危険である。 テキスト生成における社会的バイアスを軽減するためのステップを提案する。 我々の経験的結果と人的評価は、重要な文脈情報を保持しながらバイアスを緩和する効果を示す。
  論文  参考訳（メタデータ） (2021-06-24T17:52:43Z)
• Quota-based debiasing can decrease representation of already underrepresented groups [5.1135133995376085]
  1つの属性に基づくクォータに基づくデバイアスは、すでに表現されていないグループの表現を悪化させ、選択の全体的公正性を低下させる可能性があることを示す。 以上の結果から,不平等の根本原因の排除により多くの努力が必要であることが示唆された。
  論文  参考訳（メタデータ） (2020-06-13T14:26:42Z)
• Cross-ethnicity Face Anti-spoofing Recognition Challenge: A Review [79.49390241265337]
  Chalearn Face Anti-Spoofing Detection Challengeは、シングルモーダル(例えば、RGB)とマルチモーダル(例えば、RGB、Depth、赤外線(IR))のトラックで構成されている。 本稿では,その設計,評価プロトコル,結果の概要など,課題の概要について述べる。
  論文  参考訳（メタデータ） (2020-04-23T06:43:08Z)
• Measuring Social Biases of Crowd Workers using Counterfactual Queries [84.10721065676913]
  性別、人種などに基づく社会的バイアスは、主にバイアス付きトレーニングデータセットを介して、汚染された機械学習(ML)パイプラインに示されている。 クラウドソーシング(Crowdsourcing)は、ラベル付きトレーニングデータセットを収集するための一般的な費用効果尺度であり、群衆労働者の社会的偏見に免疫がない。 本研究では, 集団労働者ごとの社会的バイアスの程度を定量化するための, 対実的公正度に基づく新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-04-04T21:41:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。