論文の概要: Balancing Fairness and Accuracy in Data-Restricted Binary Classification

• arxiv url: http://arxiv.org/abs/2403.07724v1
• Date: Tue, 12 Mar 2024 15:01:27 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-13 21:03:11.205255
• Title: Balancing Fairness and Accuracy in Data-Restricted Binary Classification
• Title（参考訳）: データ制限二項分類におけるバランシングフェアネスと精度
• Authors: Zachary McBride Lazri, Danial Dervovic, Antigoni Polychroniadou, Ivan Brugere, Dana Dachman-Soled, and Min Wu
• Abstract要約: 本稿では,4つの実践シナリオ下での精度と公平性のトレードオフをモデル化する枠組みを提案する。 3つのデータセットの実験では、トレードオフを定量化するためのツールとして提案されたフレームワークの有用性が示されている。
• 参考スコア（独自算出の注目度）: 14.439413517433891
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Applications that deal with sensitive information may have restrictions placed on the data available to a machine learning (ML) classifier. For example, in some applications, a classifier may not have direct access to sensitive attributes, affecting its ability to produce accurate and fair decisions. This paper proposes a framework that models the trade-off between accuracy and fairness under four practical scenarios that dictate the type of data available for analysis. Prior works examine this trade-off by analyzing the outputs of a scoring function that has been trained to implicitly learn the underlying distribution of the feature vector, class label, and sensitive attribute of a dataset. In contrast, our framework directly analyzes the behavior of the optimal Bayesian classifier on this underlying distribution by constructing a discrete approximation it from the dataset itself. This approach enables us to formulate multiple convex optimization problems, which allow us to answer the question: How is the accuracy of a Bayesian classifier affected in different data restricting scenarios when constrained to be fair? Analysis is performed on a set of fairness definitions that include group and individual fairness. Experiments on three datasets demonstrate the utility of the proposed framework as a tool for quantifying the trade-offs among different fairness notions and their distributional dependencies.
• Abstract（参考訳）: 機密情報を扱うアプリケーションは、機械学習(ML)分類器で利用可能なデータに制限を課すことがある。 例えば、あるアプリケーションでは、分類器はセンシティブな属性に直接アクセスできず、正確で公平な決定を下す能力に影響を与えることがある。 本稿では,分析可能なデータの種類を決定する4つの実践シナリオにおいて,正確性と公平性のトレードオフをモデル化する枠組みを提案する。 先行研究では、データセットの特徴ベクトル、クラスラベル、機密属性の基本的な分布を暗黙的に学習するように訓練されたスコアリング関数の出力を分析して、このトレードオフを調べている。 対照的に,我々のフレームワークは,データセット自体から離散近似を構築し,その基盤となる分布上の最適なベイズ分類器の挙動を直接解析する。 このアプローチにより、複数の凸最適化問題を定式化できるため、質問に答えることができる。 ベイズ分類器の精度は、公平であるように制約された場合のシナリオを制限する異なるデータにどのように影響するか? 分析は、グループと個別の公正を含む一組の公正定義に基づいて行われる。 3つのデータセットの実験は、異なる公正の概念とそれらの分散依存性の間のトレードオフを定量化するツールとして提案されたフレームワークの有用性を示す。

関連論文リスト

• Chasing Fairness Under Distribution Shift: A Model Weight Perturbation Approach [72.19525160912943]
  まず,分布シフト,データ摂動,モデルウェイト摂動の関連性を理論的に検証した。 次に、ターゲットデータセットの公平性を保証するのに十分な条件を分析します。 これらの十分な条件により、ロバストフェアネス正則化(RFR)を提案する。
  論文  参考訳（メタデータ） (2023-03-06T17:19:23Z)
• Supervised Feature Compression based on Counterfactual Analysis [3.2458225810390284]
  本研究は,事前学習したブラックボックスモデルの重要な決定境界を検出するために,非現実的説明を活用することを目的としている。 離散化されたデータセットを使用して、ブラックボックスモデルに似た最適な決定木をトレーニングすることができるが、解釈可能でコンパクトである。
  論文  参考訳（メタデータ） (2022-11-17T21:16:14Z)
• Explaining Cross-Domain Recognition with Interpretable Deep Classifier [100.63114424262234]
  解釈可能なDeep(IDC)は、ターゲットサンプルの最も近いソースサンプルを、分類器が決定を下す証拠として学習する。 我々のIDCは、精度の劣化がほとんどなく、最適なリジェクションオプションの分類を効果的に調整する、より説明可能なモデルに導かれる。
  論文  参考訳（メタデータ） (2022-11-15T15:58:56Z)
• Simultaneous Improvement of ML Model Fairness and Performance by Identifying Bias in Data [1.76179873429447]
  トレーニング前にデータセットから削除すべき特定の種類のバイアスを記述したインスタンスを検出できるデータ前処理手法を提案する。 特に、類似した特徴を持つインスタンスが存在するが、保護属性の変動に起因するラベルが異なる問題設定では、固有のバイアスがデータセット内で引き起こされる、と主張する。
  論文  参考訳（メタデータ） (2022-10-24T13:04:07Z)
• An Additive Instance-Wise Approach to Multi-class Model Interpretation [53.87578024052922]
  解釈可能な機械学習は、ブラックボックスシステムの特定の予測を駆動する要因に関する洞察を提供する。 既存の手法は主に、局所的な加法的あるいはインスタンス的なアプローチに従う説明的入力特徴の選択に重点を置いている。 本研究は,両手法の長所を生かし,複数の対象クラスに対する局所的な説明を同時に学習するためのグローバルフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-07T06:50:27Z)
• Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
  実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。 本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。 本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
  論文  参考訳（メタデータ） (2022-01-11T23:01:12Z)
• Selecting the suitable resampling strategy for imbalanced data classification regarding dataset properties [62.997667081978825]
  医学、情報検索、サイバーセキュリティ、ソーシャルメディアなどの多くのアプリケーションドメインでは、分類モデルの導入に使用されるデータセットは、各クラスのインスタンスの不平等な分布を持つことが多い。 この状況は不均衡データ分類と呼ばれ、少数民族の例では予測性能が低い。 オーバーサンプリングとアンダーサンプリングの技術は、各クラスの例の数とバランスをとることでこの問題に対処する、よく知られた戦略である。
  論文  参考訳（メタデータ） (2021-12-15T18:56:39Z)
• Evaluating Fairness of Machine Learning Models Under Uncertain and Incomplete Information [25.739240011015923]
  属性分類器のテスト精度は下流モデルにおけるバイアス推定の有効性と常に相関しているとは限らない。 我々の分析は,属性分類器の誤りを可能な限り不均一に分配したいという状況において,意外かつ直感的な意味を持っている。
  論文  参考訳（メタデータ） (2021-02-16T19:02:55Z)
• Robust Fairness under Covariate Shift [11.151913007808927]
  保護グループメンバーシップに関して公正な予測を行うことは、分類アルゴリズムの重要な要件となっている。 本稿では,ターゲット性能の面で最悪のケースに対して頑健な予測値を求める手法を提案する。
  論文  参考訳（メタデータ） (2020-10-11T04:42:01Z)
• Causal Feature Selection for Algorithmic Fairness [61.767399505764736]
  データ管理の統合コンポーネントにおける公平性について検討する。 本稿では,データセットの公平性を保証する特徴のサブコレクションを同定する手法を提案する。
  論文  参考訳（メタデータ） (2020-06-10T20:20:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。