論文の概要: Data quality dimensions for fair AI
- arxiv url: http://arxiv.org/abs/2305.06967v1
- Date: Thu, 11 May 2023 16:48:58 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-12 13:54:32.025996
- Title: Data quality dimensions for fair AI
- Title（参考訳）: fair aiのためのデータ品質次元
- Authors: Camilla Quaresmini, Giuseppe Primiero
- Abstract要約: 我々は,AIシステムにおけるバイアスの問題について,情報品質の観点から考察する。
性別分類誤りにおけるバイアス軽減ツールの潜在的な改善について述べる。
バイアス軽減ツールで実装するデータ品質次元の識別は、より公平性を達成するのに役立つかもしれない。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI systems are not intrinsically neutral and biases trickle in any type of
technological tool. In particular when dealing with people, AI algorithms
reflect technical errors originating with mislabeled data. As they feed wrong
and discriminatory classifications, perpetuating structural racism and
marginalization, these systems are not systematically guarded against bias. In
this article we consider the problem of bias in AI systems from the point of
view of Information Quality dimensions. We illustrate potential improvements of
a bias mitigation tool in gender classification errors, referring to two
typically difficult contexts: the classification of non-binary individuals and
the classification of transgender individuals. The identification of data
quality dimensions to implement in bias mitigation tool may help achieve more
fairness. Hence, we propose to consider this issue in terms of completeness,
consistency, timeliness and reliability, and offer some theoretical results.
- Abstract（参考訳）: AIシステムは本質的に中立ではなく、あらゆる種類の技術ツールに偏見がある。
特に人を扱う場合、aiアルゴリズムは誤ったラベルデータに由来する技術的な誤りを反映している。
間違った分類や差別的な分類、構造的人種差別や辺境化を繰り返すため、これらのシステムは体系的にバイアスから守られていない。
本稿では,AIシステムにおけるバイアスの問題について,情報品質の観点から考察する。
性別分類の誤りにおけるバイアス軽減ツールの潜在的な改善について,非バイナリの個人分類とトランスジェンダーの個人分類の2つに言及した。
バイアス軽減ツールで実装するデータ品質次元の識別は、より公平性を達成するのに役立つかもしれない。
そこで本研究では, 完全性, 一貫性, タイムライン, 信頼性の観点から考察し, 理論的結果を提供する。
関連論文リスト
- Causality and Independence Enhancement for Biased Node Classification [56.38828085943763]
各種グラフニューラルネットワーク(GNN)に適用可能な新しい因果性・独立性向上(CIE)フレームワークを提案する。
提案手法は,ノード表現レベルでの因果的特徴と突発的特徴を推定し,突発的相関の影響を緩和する。
我々のアプローチCIEは、GNNの性能を大幅に向上するだけでなく、最先端の debiased ノード分類法よりも優れています。
論文 参考訳（メタデータ） (2023-10-14T13:56:24Z) - Human-Centric Multimodal Machine Learning: Recent Advances and Testbed
on AI-based Recruitment [66.91538273487379]
人間中心のアプローチでAIアプリケーションを開発する必要性には、ある程度のコンセンサスがある。
i)ユーティリティと社会的善、(ii)プライバシとデータ所有、(iii)透明性と説明責任、(iv)AIによる意思決定プロセスの公正性。
異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
論文 参考訳（メタデータ） (2023-02-13T16:44:44Z) - D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling
Algorithmic Bias [57.87117733071416]
D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。
ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。
それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
論文 参考訳（メタデータ） (2022-08-10T03:41:48Z) - Understanding Unfairness in Fraud Detection through Model and Data Bias
Interactions [4.159343412286401]
アルゴリズムの不公平性は、データ内のモデルとバイアスの間の相互作用に起因すると我々は主張する。
フェアネスブラインドMLアルゴリズムが示す公平さと正確さのトレードオフに関する仮説を、異なるデータバイアス設定下で検討する。
論文 参考訳（メタデータ） (2022-07-13T15:18:30Z) - Social Norm Bias: Residual Harms of Fairness-Aware Algorithms [21.50551404445654]
社会ノームバイアス (Social Norm Bias, SNoB) は、自動意思決定システムによって示される、微妙だが連続的な差別の一種である。
我々は、アルゴリズムの予測が性規範とどのように関連しているかを測定することでSNoBを定量化する。
後処理の介入は、この種のバイアスを全く軽減しないことを示す。
論文 参考訳（メタデータ） (2021-08-25T05:54:56Z) - Towards Measuring Bias in Image Classification [61.802949761385]
畳み込みニューラルネットワーク(CNN)は、主要なコンピュータビジョンタスクの最先端技術となっている。
しかし、複雑な構造のため、その決定は産業世界の何らかの文脈での使用を制限するかを理解することは困難である。
帰属マップによるデータのバイアスを明らかにするための体系的なアプローチを提案する。
論文 参考訳（メタデータ） (2021-07-01T10:50:39Z) - Improving Fairness of AI Systems with Lossless De-biasing [15.039284892391565]
AIシステムのバイアスを緩和して全体的な公正性を高めることが重要な課題となっている。
我々は,不利益グループにおけるデータの不足を対象とする情報損失のない脱バイアス手法を提案する。
論文 参考訳（メタデータ） (2021-05-10T17:38:38Z) - Fairness Through Robustness: Investigating Robustness Disparity in Deep
Learning [61.93730166203915]
我々は、モデルが敵の攻撃に弱い場合、従来の公平性の概念では不十分であると主張する。
頑健性バイアスを測定することはDNNにとって難しい課題であり,この2つの方法を提案する。
論文 参考訳（メタデータ） (2020-06-17T22:22:24Z) - Bias in Multimodal AI: Testbed for Fair Automatic Recruitment [73.85525896663371]
異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
我々は、性別や人種の偏りを意識的に評価したマルチモーダルな合成プロファイルを用いて、自動求人アルゴリズムを訓練する。
我々の方法論と結果は、一般により公平なAIベースのツール、特により公平な自動採用システムを生成する方法を示している。
論文 参考訳（メタデータ） (2020-04-15T15:58:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。