論文の概要: The Pursuit of Algorithmic Fairness: On "Correcting" Algorithmic
Unfairness in a Child Welfare Reunification Success Classifier
- arxiv url: http://arxiv.org/abs/2010.12089v1
- Date: Thu, 22 Oct 2020 22:07:43 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-04 08:19:59.723711
- Title: The Pursuit of Algorithmic Fairness: On "Correcting" Algorithmic
Unfairness in a Child Welfare Reunification Success Classifier
- Title（参考訳）: アルゴリズムフェアネスの追求--児童福祉統一成功分類におけるアルゴリズム不公平の是正について
- Authors: Jordan Purdy and Brian Glass
- Abstract要約: オレゴン児童福祉における再統一の成功を予測するための新しい分類アルゴリズムを提案する。
このツールの目的は、安定した再結合の数を最大化し、潜在的に不安定な再結合を特定することである。
開発された手順はアルゴリズム的公正性の様々なグループレベルの定義で一般化可能である。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The algorithmic fairness of predictive analytic tools in the public sector
has increasingly become a topic of rigorous exploration. While instruments
pertaining to criminal recidivism and academic admissions, for example, have
garnered much attention, the predictive instruments of Child Welfare
jurisdictions have received considerably less attention. This is in part
because comparatively few such instruments exist and because even fewer have
been scrutinized through the lens of algorithmic fairness. In this work, we
seek to address both of these gaps. To this end, a novel classification
algorithm for predicting reunification success within Oregon Child Welfare is
presented, including all of the relevant details associated with building such
an instrument. The purpose of this tool is to maximize the number of stable
reunifications and identify potentially unstable reunifications which may
require additional resources and scrutiny. Additionally, because the
algorithmic fairness of the resulting tool, if left unaltered, is
unquestionably lacking, the utilized procedure for mitigating such unfairness
is presented, along with the rationale behind each difficult and unavoidable
choice. This procedure, though similar to other post-processing group-specific
thresholding methods, is novel in its use of a penalized optimizer and
contextually requisite subsampling. These novel methodological components yield
a rich and informative empirical understanding of the trade-off continuum
between fairness and accuracy. As the developed procedure is generalizable
across a variety of group-level definitions of algorithmic fairness, as well as
across an arbitrary number of protected attribute levels and risk thresholds,
the approach is broadly applicable both within and beyond Child Welfare.
- Abstract（参考訳）: 公共部門における予測分析ツールのアルゴリズム的公平性は、厳格な探索の話題になりつつある。
犯罪相殺や学術的入学に関する道具が注目されている一方で、児童福祉管轄区域の予測機器は、かなりの注目を集めている。
これは、そのような楽器が比較的少ないことと、アルゴリズムの公平さのレンズを通して精査されているものも少ないためである。
本研究では,この2つのギャップに対処する。
この目的のために,オレゴン児童福祉における再統一成功を予測するための新しい分類アルゴリズムを提案する。
このツールの目的は、安定した再統一の数を最大化し、さらなる資源と精査を必要とする可能性のある潜在的に不安定な再統一を特定することである。
また、結果のツールのアルゴリズム的公平性が不当に欠如していることから、困難で避けられない選択の背後にある根拠とともに、そのような不公平を緩和するための利用手順が提示される。
この手順は、他の後処理グループ固有のしきい値決定法と似ているが、ペナル化最適化と文脈的に要求されるサブサンプリングの使用において新しいものである。
これらの新しい手法の構成要素は、公正さと正確さの間のトレードオフ連続性の豊かで情報的な理解をもたらす。
開発された手順はアルゴリズムフェアネスの様々なグループレベルの定義や、任意の数の保護された属性レベルとリスクしきい値にまたがって一般化可能であるため、児童福祉の内外においても広く適用可能である。
関連論文リスト
- Uncertainty-Aware Fairness-Adaptive Classification Trees [0.0]
本稿では,木構築プロセスに公平性調整を組み込んだ新しい分割基準を用いた新しい分類木アルゴリズムを提案する。
本手法は,従来の分類木に比べて識別予測を効果的に削減し,全体的な精度を損なわないことを示す。
論文 参考訳（メタデータ） (2024-10-08T08:42:12Z) - Inference for an Algorithmic Fairness-Accuracy Frontier [0.9147443443422864]
We provide a consistent estimator for a theoretical fairness-accuracy frontier forward by Liang, Lu and Mu (2023)
フェアネス文学で注目されている仮説を検証するための推論手法を提案する。
サンプルサイズが大きくなるにつれて, 推定された支持関数が密なプロセスに収束することを示す。
論文 参考訳（メタデータ） (2024-02-14T00:56:09Z) - Practical Approaches for Fair Learning with Multitype and Multivariate
Sensitive Attributes [70.6326967720747]
現実世界に展開された機械学習アルゴリズムが不公平さや意図しない社会的結果をもたらすことはないことを保証することが重要である。
本稿では,カーネルHilbert Spacesの相互共分散演算子上に構築されたフェアネス尺度であるFairCOCCOを紹介する。
実世界のデータセットにおける予測能力と公正性のバランスをとる上で、最先端技術に対する一貫した改善を実証的に示す。
論文 参考訳（メタデータ） (2022-11-11T11:28:46Z) - Mean-based Best Arm Identification in Stochastic Bandits under Reward
Contamination [80.53485617514707]
本稿では,ギャップベースアルゴリズムと逐次除去に基づく2つのアルゴリズムを提案する。
具体的には、ギャップベースのアルゴリズムでは、サンプルの複雑さは定数要素まで最適であり、連続的な除去では対数因子まで最適である。
論文 参考訳（メタデータ） (2021-11-14T21:49:58Z) - MURAL: Meta-Learning Uncertainty-Aware Rewards for Outcome-Driven
Reinforcement Learning [65.52675802289775]
本研究では,不確かさを意識した分類器が,強化学習の難しさを解消できることを示す。
正規化最大度(NML)分布の計算法を提案する。
得られたアルゴリズムは、カウントベースの探索法と、報酬関数を学習するための先行アルゴリズムの両方に多くの興味深い関係を持つことを示す。
論文 参考訳（メタデータ） (2021-07-15T08:19:57Z) - Can Active Learning Preemptively Mitigate Fairness Issues? [66.84854430781097]
データセットバイアスは、機械学習における不公平な原因の1つです。
不確実性に基づくALで訓練されたモデルが保護クラスの決定において公平であるかどうかを検討する。
また,勾配反転(GRAD)やBALDなどのアルゴリズム的公正性手法の相互作用についても検討する。
論文 参考訳（メタデータ） (2021-04-14T14:20:22Z) - Classification with abstention but without disparities [5.025654873456756]
我々は、異なる影響を回避しつつ、予測を棄却できる汎用的な分類アルゴリズムを構築した。
提案したアルゴリズムに対して,有限サンプルリスク,公平性,および留意保証を確立する。
本手法は, 適度な禁制率により, リスク・フェアネストレードオフを回避できることを実証的に示す。
論文 参考訳（メタデータ） (2021-02-24T12:43:55Z) - Mitigating Bias in Set Selection with Noisy Protected Attributes [16.882719401742175]
ノイズを考慮せずに公平性を高めるため,ノイズ保護属性の存在下では,実のところ,結果の公平性を低下させることができることを示す。
我々は,大規模な公正度尺度に対して機能する「認知化」の選択問題を定式化する。
提案手法は, ノイズ保護属性が存在するにもかかわらず, フェアネス指標を著しく改善するサブセットを生成できることを示す。
論文 参考訳（メタデータ） (2020-11-09T06:45:15Z) - All of the Fairness for Edge Prediction with Optimal Transport [11.51786288978429]
グラフにおけるエッジ予測の課題に対する公平性の問題について検討する。
本稿では,任意のグラフの隣接行列に対して,グループと個々の公正性のトレードオフを伴う埋め込み非依存の補修手順を提案する。
論文 参考訳（メタデータ） (2020-10-30T15:33:13Z) - Instance-Dependent Complexity of Contextual Bandits and Reinforcement
Learning: A Disagreement-Based Perspective [104.67295710363679]
古典的なマルチアームバンディット問題において、インスタンス依存アルゴリズムは、ベストとセカンドベストのアーム間のギャップで「容易」な問題のパフォーマンスを向上させる。
我々は、インスタンス依存の後悔境界を得るのに十分かつ必要である複雑性尺度のファミリーを導入する。
次に、可能な限りギャップに適応する新しいオラクル効率アルゴリズムを導入し、最悪の場合にはミニマックスレートを得る。
論文 参考訳（メタデータ） (2020-10-07T01:33:06Z) - A black-box adversarial attack for poisoning clustering [78.19784577498031]
本稿では,クラスタリングアルゴリズムのロバスト性をテストするために,ブラックボックス対逆攻撃法を提案する。
我々の攻撃は、SVM、ランダムフォレスト、ニューラルネットワークなどの教師付きアルゴリズムに対しても転送可能であることを示す。
論文 参考訳（メタデータ） (2020-09-09T18:19:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。