論文の概要: Context matters for fairness -- a case study on the effect of spatial
distribution shifts
- arxiv url: http://arxiv.org/abs/2206.11436v2
- Date: Fri, 24 Jun 2022 21:09:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-28 10:46:18.956703
- Title: Context matters for fairness -- a case study on the effect of spatial
distribution shifts
- Title(参考訳): 公平性のための文脈問題 -空間分布シフトの影響を事例として-
- Authors: Siamak Ghodsi, Harith Alani, and Eirini Ntoutsi
- Abstract要約: 本稿では,新たに発表された米国国勢調査データセットのケーススタディについて述べる。
空間分布の変化がモデルの性能および公平性にどのように影響するかを示す。
我々の研究は、別の文脈にモデルをデプロイする前に、分散シフトに対する堅牢性が必要であることを示唆している。
- 参考スコア(独自算出の注目度): 10.351739012146378
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: With the ever growing involvement of data-driven AI-based decision making
technologies in our daily social lives, the fairness of these systems is
becoming a crucial phenomenon. However, an important and often challenging
aspect in utilizing such systems is to distinguish validity for the range of
their application especially under distribution shifts, i.e., when a model is
deployed on data with different distribution than the training set. In this
paper, we present a case study on the newly released American Census datasets,
a reconstruction of the popular Adult dataset, to illustrate the importance of
context for fairness and show how remarkably can spatial distribution shifts
affect predictive- and fairness-related performance of a model. The problem
persists for fairness-aware learning models with the effects of
context-specific fairness interventions differing across the states and
different population groups. Our study suggests that robustness to distribution
shifts is necessary before deploying a model to another context.
- Abstract(参考訳): データ駆動型AIに基づく意思決定技術が日々の社会生活にますます関与している中、これらのシステムの公正性は重要な現象になりつつある。
しかしながら、これらのシステムを利用する上で重要かつしばしば挑戦的な側面は、特に分布シフトの際のアプリケーションの範囲の妥当性、すなわち、トレーニングセットとは異なる分散データにモデルがデプロイされる場合の妥当性を区別することである。
本稿では,米国国勢調査データセット(american census datasets, a reconstruction of the popular adult dataset, a reconstruction of the popular adult dataset)について事例研究を行い,フェアネスに対する文脈の重要性を明らかにし,空間分布シフトがモデルの予測およびフェアネス関連性能にどのように影響するかを示す。
この問題は、各州と異なる集団間で異なる文脈固有の公平な介入の効果を持つフェアネス認識学習モデルに対して持続する。
本研究は,モデルを他のコンテキストにデプロイする前に,分散シフトへのロバスト性が必要であることを示唆する。
関連論文リスト
- Supervised Algorithmic Fairness in Distribution Shifts: A Survey [17.826312801085052]
現実世界のアプリケーションでは、機械学習モデルは特定のデータセットでトレーニングされることが多いが、データ分散がシフトする可能性のある環境にデプロイされる。
この変化は、人種や性別などのセンシティブな属性によって特徴づけられる特定のグループに不公平な予測をもたらす可能性がある。
論文 参考訳(メタデータ) (2024-02-02T11:26:18Z) - Enhancing Robustness of Foundation Model Representations under
Provenance-related Distribution Shifts [8.298173603769063]
分布シフト下における基礎モデルに基づくモデルの安定性について検討する。
我々は,多施設データセットの文脈に現れる分布シフトの形式である,証明によるコンバウンディングに焦点をあてる。
その結果, 基礎モデルでは, コンバウンド・バイ・プロビデンス関係の分布シフトに対して, ある程度の頑健性を示すが, 調整により改善できることがわかった。
論文 参考訳(メタデータ) (2023-12-09T02:02:45Z) - Robust Computer Vision in an Ever-Changing World: A Survey of Techniques
for Tackling Distribution Shifts [20.17397328893533]
AIアプリケーションは、ますます一般大衆に注目を集めている。
コンピュータビジョンモデルに関する理論的な仮定と、それらのモデルが現実世界に展開する際に直面する現実との間には、顕著なギャップがある。
このギャップの重要な理由の1つは、分散シフトとして知られる難しい問題である。
論文 参考訳(メタデータ) (2023-12-03T23:40:12Z) - Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。
カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。
本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
論文 参考訳(メタデータ) (2023-07-17T04:08:29Z) - Non-Invasive Fairness in Learning through the Lens of Data Drift [88.37640805363317]
データや学習アルゴリズムを変更することなく、機械学習モデルの公平性を向上する方法を示す。
異なる集団間の傾向のばらつきと、学習モデルと少数民族間の連続的な傾向は、データドリフトと類似している。
このドリフトを解決するための2つの戦略(モデル分割とリウィーディング)を探索し、基礎となるデータに対するモデル全体の適合性を改善することを目的としている。
論文 参考訳(メタデータ) (2023-03-30T17:30:42Z) - Learning Informative Representation for Fairness-aware Multivariate
Time-series Forecasting: A Group-based Perspective [50.093280002375984]
多変量時系列予測モデル(MTS)では変数間の性能不公平性が広く存在する。
フェアネスを意識したMTS予測のための新しいフレームワークであるFairForを提案する。
論文 参考訳(メタデータ) (2023-01-27T04:54:12Z) - Fair Inference for Discrete Latent Variable Models [12.558187319452657]
デュエルケアなしでデータに基づいて訓練された機械学習モデルは、特定の人口に対して不公平で差別的な行動を示すことが多い。
本研究では,変動分布に公平なペナルティを含む離散潜伏変数に対して,公平な変分推論手法を開発した。
提案手法の一般化と実世界への影響の可能性を示すため,刑事司法リスク評価のための特別目的グラフィカルモデルを構築した。
論文 参考訳(メタデータ) (2022-09-15T04:54:21Z) - Transferring Fairness under Distribution Shifts via Fair Consistency
Regularization [15.40257564187799]
本研究では,分散シフトの下でモデルフェアネスを伝達する方法について検討する。
ドメインシフトの下での転送精度の自己学習の成功に触発されて、グループフェアネスの転送に十分な条件が導出される。
論文 参考訳(メタデータ) (2022-06-26T06:19:56Z) - Learning from Heterogeneous Data Based on Social Interactions over
Graphs [58.34060409467834]
本研究では,個別のエージェントが異なる次元のストリーミング特徴を観察しながら分類問題の解決を目指す分散アーキテクチャを提案する。
私たちはそれを示します。
戦略により、エージェントはこの高度に異質な環境下で一貫して学習することができる。
私たちはそれを示します。
戦略により、エージェントはこの高度に異質な環境下で一貫して学習することができる。
論文 参考訳(メタデータ) (2021-12-17T12:47:18Z) - Supercharging Imbalanced Data Learning With Energy-based Contrastive
Representation Transfer [72.5190560787569]
コンピュータビジョンにおいて、長い尾のデータセットからの学習は、特に自然画像データセットの繰り返しのテーマである。
本稿では,データ生成機構がラベル条件と特徴分布の間で不変であるメタ分散シナリオを提案する。
これにより、因果データインフレーションの手順を利用してマイノリティクラスの表現を拡大できる。
論文 参考訳(メタデータ) (2020-11-25T00:13:11Z) - Accurate and Robust Feature Importance Estimation under Distribution
Shifts [49.58991359544005]
PRoFILEは、新しい特徴重要度推定法である。
忠実さと頑健さの両面で、最先端のアプローチよりも大幅に改善されていることを示す。
論文 参考訳(メタデータ) (2020-09-30T05:29:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。