論文の概要: Unintended Selection: Persistent Qualification Rate Disparities and Interventions

• arxiv url: http://arxiv.org/abs/2111.01201v1
• Date: Mon, 1 Nov 2021 18:53:54 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-03 14:13:31.813781
• Title: Unintended Selection: Persistent Qualification Rate Disparities and Interventions
• Title（参考訳）: 意図しない選択:持続的資格化率格差と介入
• Authors: Reilly Raab, Yang Liu
• Abstract要約: 機械学習におけるグループレベルの格差のダイナミクスについて検討する。 特に、人間の人工グループに固有の差異を仮定しないモデルを求めている。 我々は,非自明な平衡状態の集合に対して,サブポピュレーション間の資格率の差が無期限に持続可能であることを示す。
• 参考スコア（独自算出の注目度）: 6.006936459950188
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Realistically -- and equitably -- modeling the dynamics of group-level disparities in machine learning remains an open problem. In particular, we desire models that do not suppose inherent differences between artificial groups of people -- but rather endogenize disparities by appeal to unequal initial conditions of insular subpopulations. In this paper, agents each have a real-valued feature $X$ (e.g., credit score) informed by a "true" binary label $Y$ representing qualification (e.g., for a loan). Each agent alternately (1) receives a binary classification label $\hat{Y}$ (e.g., loan approval) from a Bayes-optimal machine learning classifier observing $X$ and (2) may update their qualification $Y$ by imitating successful strategies (e.g., seek a raise) within an isolated group $G$ of agents to which they belong. We consider the disparity of qualification rates $\Pr(Y=1)$ between different groups and how this disparity changes subject to a sequence of Bayes-optimal classifiers repeatedly retrained on the global population. We model the evolving qualification rates of each subpopulation (group) using the replicator equation, which derives from a class of imitation processes. We show that differences in qualification rates between subpopulations can persist indefinitely for a set of non-trivial equilibrium states due to uniformed classifier deployments, even when groups are identical in all aspects except initial qualification densities. We next simulate the effects of commonly proposed fairness interventions on this dynamical system along with a new feedback control mechanism capable of permanently eliminating group-level qualification rate disparities. We conclude by discussing the limitations of our model and findings and by outlining potential future work.
• Abstract（参考訳）: 機械学習におけるグループレベルの差異のダイナミクスを現実的に - かつ公平に - モデリングすることは、まだ未解決の問題です。 特に、人類の人工集団の間に固有の違いを仮定しないモデルを望むが、むしろ不均等な不均質なサブ集団の初期条件に訴えることで、不均質化を図っている。 この論文では、エージェントはそれぞれ、資格(例えばローン)を表す「真の」バイナリラベルである$y$によって通知される、実数値のフィーチャ$x$(例えばクレジットスコア)を持っている。 各エージェントは、(例えば、ローン承認)バイナリ分類ラベル$\hat{Y}$をベイズ最適化機械学習分類器から受信し、(X$と(2)は、それらが属するエージェントの単独グループ$G$内で成功した戦略(例えば、昇給を求める)を模倣することにより、彼らの資格を更新することができる。 我々は、異なるグループ間での資格率の格差$\Pr(Y=1)$と、この格差が、世界の人口で繰り返し再訓練されたベイズ最適分類器のシーケンスによってどのように変化するかを考える。 我々は,模倣過程のクラスから派生したレプリケータ方程式を用いて,各サブポピュレーション(グループ)の適合率の進化をモデル化する。 分類器の均一配置による非自明な平衡状態の組では,初期資格密度以外のすべての面においてグループが同一であっても,下位集団間の資格率の差が無期限に持続することを示す。 次に,提案するフェアネス介入が,グループレベルの資格率格差を永久に排除できる新しいフィードバック制御機構とともに,この力学系に与える影響をシミュレーションする。 我々は、モデルと発見の限界について議論し、将来的な仕事の可能性を概説することで締めくくります。

関連論文リスト

• Deep Imbalanced Regression via Hierarchical Classification Adjustment [50.19438850112964]
  コンピュータビジョンにおける回帰タスクは、しばしば、対象空間をクラスに定量化することで分類される。 トレーニングサンプルの大多数は目標値の先頭にあるが、少数のサンプルは通常より広い尾幅に分布する。 不均衡回帰タスクを解くために階層型分類器を構築することを提案する。 不均衡回帰のための新しい階層型分類調整(HCA)は,3つのタスクにおいて優れた結果を示す。
  論文  参考訳（メタデータ） (2023-10-26T04:54:39Z)
• Delta-AI: Local objectives for amortized inference in sparse graphical models [64.5938437823851]
  スパース確率的グラフィカルモデル(PGM)における補正推論のための新しいアルゴリズムを提案する。 提案手法は, PGMにおける変数のサンプリングをエージェントが行う一連の行動とみなす場合, エージェントのポリシー学習目的において, PGMの疎結合が局所的な信用割当を可能にするという観察に基づいている。 合成PGMからサンプリングし、スパース因子構造を持つ潜在変数モデルを訓練するための$Delta$-AIの有効性について説明する。
  論文  参考訳（メタデータ） (2023-10-03T20:37:03Z)
• DualFair: Fair Representation Learning at Both Group and Individual Levels via Contrastive Self-supervision [73.80009454050858]
  この研究は、DualFairと呼ばれる自己教師型モデルを提示し、学習された表現から性別や人種などのセンシティブな属性をデバイアスすることができる。 我々のモデルは、グループフェアネスと対実フェアネスという2つのフェアネス基準を共同で最適化する。
  論文  参考訳（メタデータ） (2023-03-15T07:13:54Z)
• False membership rate control in mixture models [1.387448620257867]
  クラスタリングタスクは、サンプルの要素を均質なグループに分割する。 教師付き設定では、このアプローチはよく知られており、禁忌オプションの分類として言及されている。 本稿では, 教師なし混合モデルフレームワークで再検討し, 偽会員率が予め定義された名目レベルを超えないことを保証する手法を開発することを目的とする。
  論文  参考訳（メタデータ） (2022-03-04T22:37:59Z)
• KL Divergence Estimation with Multi-group Attribution [25.7757954754825]
  Kullback-Leibler (KL) の2つの分布間のばらつきを推定することは、機械学習と情報理論においてよく研究されている。 マルチグループフェアネスを考慮し、サブ人口の寄与を正確に反映したKL分散推定を求める。
  論文  参考訳（メタデータ） (2022-02-28T06:54:10Z)
• Equity-Directed Bootstrapping: Examples and Analysis [3.007949058551534]
  エクイティ指向のブートストラップがテストセットの感度と特異性を、同等のオッズ基準を満たすためにいかに近づけるかを示す。 ナイーブベイズとロジスティックレグレッションの文脈で、私たちは、エクイティ指向のブートストラップを分析し、オッズ比を1に近いものにすることで機能することを示した。
  論文  参考訳（メタデータ） (2021-08-14T22:09:27Z)
• Model Transferability With Responsive Decision Subjects [11.07759054787023]
  我々は、利用可能なソース分布でトレーニングされたモデルの性能が、その誘導されたドメインのパフォーマンスにどのように変換されるかを研究することによって、モデルの転送可能性に関する議論を形式化する。 我々は、誘導されたドメインシフトによるパフォーマンスギャップの上限と、分類器がソーストレーニング分布または誘導されたターゲット分布に悩まさなければならないトレードオフの上限の両方を提供する。
  論文  参考訳（メタデータ） (2021-07-13T08:21:37Z)
• Binary Classification: Counterbalancing Class Imbalance by Applying Regression Models in Combination with One-Sided Label Shifts [0.4970364068620607]
  クラス不均衡の問題に対処する新しい手法を提案する。 我々は、対応する回帰タスクが均衡するように、負と正の目標ラベルのセットを生成する。 我々は,複数の公開データセットに対するアプローチを評価し,提案手法を最もポピュラーなオーバーサンプリング手法と比較した。
  論文  参考訳（メタデータ） (2020-11-30T13:24:47Z)
• Learning and Evaluating Representations for Deep One-class Classification [59.095144932794646]
  ディープワンクラス分類のための2段階フレームワークを提案する。 まず,一級データから自己教師付き表現を学習し,学習した表現に基づいて一級分類器を構築する。 実験では、視覚領域の1クラス分類ベンチマークで最先端の性能を示す。
  論文  参考訳（メタデータ） (2020-11-04T23:33:41Z)
• Selective Classification Can Magnify Disparities Across Groups [89.14499988774985]
  選択的分類は平均的精度を向上させることができるが、既存の精度格差を同時に増大させることができる。 禁忌の増大は、一部のグループでのアキュラシーを減少させることもある。 我々は,グループ間で類似のフルカバレッジ精度を実現する分散ロバストモデルを訓練し,選択分類が各グループを均一に改善することを示す。
  論文  参考訳（メタデータ） (2020-10-27T08:51:30Z)
• L2R2: Leveraging Ranking for Abductive Reasoning [65.40375542988416]
  学習システムの帰納的推論能力を評価するために,帰納的自然言語推論タスク(alpha$NLI)を提案する。 新たな$L2R2$アプローチは、Learning-to-rankフレームワークの下で提案されている。 ARTデータセットの実験は、公開リーダボードの最先端に到達します。
  論文  参考訳（メタデータ） (2020-05-22T15:01:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。