論文の概要: FairX: A comprehensive benchmarking tool for model analysis using fairness, utility, and explainability

• arxiv url: http://arxiv.org/abs/2406.14281v4
• Date: Tue, 3 Sep 2024 12:38:22 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-04 17:41:09.087977
• Title: FairX: A comprehensive benchmarking tool for model analysis using fairness, utility, and explainability
• Title（参考訳）: FairX: フェアネス、ユーティリティ、説明可能性を用いたモデル解析のための総合的なベンチマークツール
• Authors: Md Fahim Sikder, Resmi Ramachandranpillai, Daniel de Leng, Fredrik Heintz,
• Abstract要約: FairXは、フェアネス、ユーティリティ、およびeXplainability(XAI)の傘の下でのモデルの包括的分析のために設計されたオープンソースのベンチマークツールである。 FairXは、ベンチマークバイアス緩和モデルをトレーニングし、さまざまな公正度メトリクス、データユーティリティメトリクスを使用して公正性を評価し、統一されたフレームワーク内でモデル予測の説明を生成することを可能にする。
• 参考スコア（独自算出の注目度）: 4.1942958779358674
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We present FairX, an open-source Python-based benchmarking tool designed for the comprehensive analysis of models under the umbrella of fairness, utility, and eXplainability (XAI). FairX enables users to train benchmarking bias-mitigation models and evaluate their fairness using a wide array of fairness metrics, data utility metrics, and generate explanations for model predictions, all within a unified framework. Existing benchmarking tools do not have the way to evaluate synthetic data generated from fair generative models, also they do not have the support for training fair generative models either. In FairX, we add fair generative models in the collection of our fair-model library (pre-processing, in-processing, post-processing) and evaluation metrics for evaluating the quality of synthetic fair data. This version of FairX supports both tabular and image datasets. It also allows users to provide their own custom datasets. The open-source FairX benchmarking package is publicly available at \url{https://github.com/fahim-sikder/FairX}.
• Abstract（参考訳）: FairXはオープンソースのPythonベースのベンチマークツールで、フェアネス、ユーティリティ、eXplainability(XAI)という傘の下で、モデルを包括的に分析するように設計されています。 FairXは、ベンチマークバイアス緩和モデルをトレーニングし、さまざまな公正度メトリクス、データユーティリティメトリクスを使用して公正性を評価し、統一されたフレームワーク内でモデル予測の説明を生成することを可能にする。 既存のベンチマークツールには、公正な生成モデルから生成された合成データを評価する方法はなく、公正な生成モデルのトレーニングもサポートしていない。 FairXでは、フェアモデルライブラリ(前処理、内処理、後処理)のコレクションに公正な生成モデルを加え、合成フェアデータの品質を評価するための評価指標を加えます。 このバージョンのFairXは、表と画像の両方のデータセットをサポートする。 また、ユーザーは独自のカスタムデータセットを提供することもできる。 オープンソースのFairXベンチマークパッケージは、 \url{https://github.com/fahim-sikder/FairX}で公開されている。

関連論文リスト

• Benchmarking the Fairness of Image Upsampling Methods [29.01986714656294]
  本研究では,条件付き生成モデルの性能と公平性を示す指標のセットを開発する。 私たちは彼らの不均衡と多様性をベンチマークします。 この研究の一環として、データセットのサブセットは、一般的な顔の人種分布を再現する。
  論文  参考訳（メタデータ） (2024-01-24T16:13:26Z)
• FairGridSearch: A Framework to Compare Fairness-Enhancing Models [0.0]
  本稿では、二項分類に焦点を当て、公平性向上モデルを比較するための新しいフレームワークであるFairGridSearchを提案する。 この研究は、FairGridSearchを3つの一般的なデータセット(Adult, COMPAS, German Credit)に適用し、計量選択、基底推定器の選択、分類しきい値がモデルフェアネスに与える影響を分析する。
  論文  参考訳（メタデータ） (2024-01-04T10:29:02Z)
• FFB: A Fair Fairness Benchmark for In-Processing Group Fairness Methods [84.1077756698332]
  本稿では,グループフェアネス手法のベンチマークフレームワークであるFair Fairness Benchmark(textsfFFB)を紹介する。 グループフェアネスの異なる概念を確実にするための最先端手法を包括的に分析する。
  論文  参考訳（メタデータ） (2023-06-15T19:51:28Z)
• DualFair: Fair Representation Learning at Both Group and Individual Levels via Contrastive Self-supervision [73.80009454050858]
  この研究は、DualFairと呼ばれる自己教師型モデルを提示し、学習された表現から性別や人種などのセンシティブな属性をデバイアスすることができる。 我々のモデルは、グループフェアネスと対実フェアネスという2つのフェアネス基準を共同で最適化する。
  論文  参考訳（メタデータ） (2023-03-15T07:13:54Z)
• Towards Algorithmic Fairness by means of Instance-level Data Re-weighting based on Shapley Values [6.752538702870792]
  本稿では,公正なアルゴリズム決定のための新しいインスタンスレベルのデータ再重み付け手法であるFairShapを提案する。 異なる性質のいくつかの最先端データセットに対して、FairShapを実証的に検証する。 ベースラインと同等の精度で、より公平なモデルを生成する方法を示す。
  論文  参考訳（メタデータ） (2023-03-03T13:53:36Z)
• Debiasing Vision-Language Models via Biased Prompts [79.04467131711775]
  本稿では,テキスト埋め込みにおけるバイアスのある方向を投影することで,視覚言語基盤モデルを疎外する一般的な手法を提案する。 偏平投影行列を組み込んだテキストのみをデバイアスすることで、ロバストな分類器と公正な生成モデルが得られることを示す。
  論文  参考訳（メタデータ） (2023-01-31T20:09:33Z)
• fairlib: A Unified Framework for Assessing and Improving Classification Fairness [66.27822109651757]
  Fairlibは、分類の公平さを評価し改善するためのオープンソースのフレームワークである。 我々は、前処理、訓練時間、後処理を含む14のデバイアス化手法を実装した。 組み込まれたメトリクスは、最も一般的に使用されるフェアネス基準をカバーし、フェアネス評価のためにさらに一般化およびカスタマイズすることができる。
  論文  参考訳（メタデータ） (2022-05-04T03:50:23Z)
• DECAF: Generating Fair Synthetic Data Using Causally-Aware Generative Networks [71.6879432974126]
  本稿では,GANに基づく表型データのための公正な合成データ生成装置であるDECAFを紹介する。 DeCAFは望ましくないバイアスを除去し,高品質な合成データを生成可能であることを示す。 下流モデルの収束と公平性に関する理論的保証を提供する。
  論文  参考訳（メタデータ） (2021-10-25T12:39:56Z)
• Improving Label Quality by Jointly Modeling Items and Annotators [68.8204255655161]
  雑音アノテータから基底真理ラベルを学習するための完全ベイズ的枠組みを提案する。 我々のフレームワークは、ラベル分布上の生成的ベイズソフトクラスタリングモデルを古典的なDavidとSkeneのジョイントアノテータデータモデルに分解することでスケーラビリティを保証する。
  論文  参考訳（メタデータ） (2021-06-20T02:15:20Z)
• Group Fairness by Probabilistic Modeling with Latent Fair Decisions [36.20281545470954]
  本稿では,隠蔽ラベルを表す潜伏変数を明示的にモデル化し,偏りのあるデータから確率分布を学習する。 我々は,学習モデルに一定の依存性を課すことで,人口統計学上の同等性を達成することを目指している。 また、これらの保証を提供するために使用される分布が実際に実世界のデータをキャプチャしている場合にのみ、グループフェアネス保証が有意義であることを示す。
  論文  参考訳（メタデータ） (2020-09-18T19:13:23Z)
• Fairness by Explicability and Adversarial SHAP Learning [0.0]
  本稿では,外部監査役の役割とモデル説明可能性を強調するフェアネスの新たな定義を提案する。 逆代理モデルのSHAP値から構築した正規化を用いてモデルバイアスを緩和するフレームワークを開発する。 合成データセット、UCIアダルト(国勢調査)データセット、実世界の信用評価データセットである。
  論文  参考訳（メタデータ） (2020-03-11T14:36:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。