論文の概要: Individual Fairness Through Reweighting and Tuning

• arxiv url: http://arxiv.org/abs/2405.01711v1
• Date: Thu, 2 May 2024 20:15:25 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-06 14:34:45.220175
• Title: Individual Fairness Through Reweighting and Tuning
• Title（参考訳）: 重み付けとチューニングによる個人フェアネス
• Authors: Abdoul Jalil Djiberou Mahamadou, Lea Goetz, Russ Altman,
• Abstract要約: 社会内の本質的なバイアスは、人工知能(AI)システムによって増幅し、永続することができる。 近年では、グラフラプラシアン正則化器(GLR)が共通リプシッツ条件の代用として使われ、個々の公正性(IF)が向上している。
• 参考スコア（独自算出の注目度）: 0.23395944472515745
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Inherent bias within society can be amplified and perpetuated by artificial intelligence (AI) systems. To address this issue, a wide range of solutions have been proposed to identify and mitigate bias and enforce fairness for individuals and groups. Recently, Graph Laplacian Regularizer (GLR), a regularization technique from the semi-supervised learning literature has been used as a substitute for the common Lipschitz condition to enhance individual fairness (IF). Notable prior work has shown that enforcing IF through a GLR can improve the transfer learning accuracy of AI models under covariate shifts. However, the prior work defines a GLR on the source and target data combined, implicitly assuming that the target data are available at train time, which might not hold in practice. In this work, we investigated whether defining a GLR independently on the train and target data could maintain similar accuracy compared to the prior work model. Furthermore, we introduced the Normalized Fairness Gain score (FGN) to measure IF for in-processing algorithmic fairness techniques. FGN quantifies the amount of gained fairness when a GLR is used versus not. We evaluated the new and original methods under FGN, the Prediction Consistency (PC), and traditional classification metrics on the German Credit Approval dataset. The results showed that the two models achieved similar statistical mean performances over five-fold cross-validation. Furthermore, the proposed metric showed that PC scores can be misleading as the scores can be high and statistically similar to fairness-enhanced models while FGN scores are small. This work therefore provides new insights into when a GLR effectively enhances IF and the pitfalls of PC.
• Abstract（参考訳）: 社会内の本質的なバイアスは、人工知能(AI)システムによって増幅し、永続することができる。 この問題に対処するために、偏見を識別し緩和し、個人やグループに対して公平さを強制する幅広い解決策が提案されている。 近年,半教師付き学習文献からの正規化手法であるGraph Laplacian Regularizer (GLR) が,一般のリプシッツ条件の代替として利用され,個人的公正性(IF)が向上している。 著名な先行研究により、GLRを介してIFを強制することは、共変量シフトの下でAIモデルの伝達学習精度を向上させることが示されている。 しかしながら、以前の作業では、ソースとターゲットデータを組み合わせたGLRを定義しており、実際には保持されないかもしれない列車時にターゲットデータが利用可能であることを暗黙的に仮定している。 本研究では,GLRを列車上で独立に定義し,目標データに先行する作業モデルと同等の精度を維持できるかどうかを検討した。 さらに,FGN(正規化フェアネスゲインスコア)を導入し,アルゴリズムフェアネス手法のIFを測定した。 FGNは、GLRを使用するか否かにかかわらず、取得した公正度を定量化する。 我々は、FGN、予測整合性(PC)、ドイツの信用承認データセットにおける従来の分類基準について、新しい手法とオリジナル手法を評価した。 その結果, 2つのモデルが5倍のクロスバリデーションで同様の統計的平均性能を達成できた。 さらに,提案手法では,FGNスコアが小さいのに対して,PCスコアは高く,統計的にフェアネス強化モデルに類似しうるため,PCスコアは誤解を招く可能性があることを示した。 この研究は、GLRがIFとPCの落とし穴を効果的に強化する際の新たな洞察を提供する。

関連論文リスト

• DualFair: Fair Representation Learning at Both Group and Individual Levels via Contrastive Self-supervision [73.80009454050858]
  この研究は、DualFairと呼ばれる自己教師型モデルを提示し、学習された表現から性別や人種などのセンシティブな属性をデバイアスすることができる。 我々のモデルは、グループフェアネスと対実フェアネスという2つのフェアネス基準を共同で最適化する。
  論文  参考訳（メタデータ） (2023-03-15T07:13:54Z)
• Chasing Fairness Under Distribution Shift: A Model Weight Perturbation Approach [72.19525160912943]
  まず,分布シフト,データ摂動,モデルウェイト摂動の関連性を理論的に検証した。 次に、ターゲットデータセットの公平性を保証するのに十分な条件を分析します。 これらの十分な条件により、ロバストフェアネス正則化(RFR)を提案する。
  論文  参考訳（メタデータ） (2023-03-06T17:19:23Z)
• Fairness Reprogramming [42.65700878967251]
  モデル再プログラミング手法を取り入れたFairRe Programと呼ばれる新しい汎用フェアネス学習パラダイムを提案する。 具体的には、FairRe Programはモデルを変更することができず、フェアネストリガと呼ばれる一連の摂動を入力に追加するケースについて検討している。 我々は,固定MLモデルの出力予測において,公平性トリガが効果的に人口統計バイアスを曖昧にすることができることを理論的および実証的に示す。
  論文  参考訳（メタデータ） (2022-09-21T09:37:00Z)
• Analyzing the Effect of Sampling in GNNs on Individual Fairness [79.28449844690566]
  グラフニューラルネットワーク(GNN)ベースの手法は、レコメンダシステムの分野を飽和させた。 我々は,GNNの学習を支援するために,グラフ上で個別の公平性を促進させる既存手法を拡張した。 本研究では,局所ニュアンスが表現学習における公平化促進の過程を導くことによって,ミニバッチトレーニングが個人の公正化を促進することを示す。
  論文  参考訳（メタデータ） (2022-09-08T16:20:25Z)
• D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling Algorithmic Bias [57.87117733071416]
  D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。 ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。 それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
  論文  参考訳（メタデータ） (2022-08-10T03:41:48Z)
• Debiasing Neural Retrieval via In-batch Balancing Regularization [25.941718123899356]
  我々は,nPRF上でのT-統計を有効活用し,公平性を向上させるために,識別可能なテキストトナー付きペアワイドランキングフェアネス(nPRF)を開発した。 nPRF を用いた手法は,ベースラインに比べてランク付け性能の低下が最小限に抑えられ,バイアスが大幅に低減される。
  論文  参考訳（メタデータ） (2022-05-18T22:57:15Z)
• Source-Free Progressive Graph Learning for Open-Set Domain Adaptation [44.63301903324783]
  オープンセットドメイン適応(OSDA)は多くの視覚認識タスクで注目されている。 目的仮説空間を共有空間と未知の部分空間に分解するプログレッシブグラフ学習(PGL)フレームワークを提案する。 また、ソースとターゲットドメインの共存を前提としない、より現実的なオープンソースフリーなオープンセットドメイン適応(SF-OSDA)に取り組みます。
  論文  参考訳（メタデータ） (2022-02-13T01:19:41Z)
• Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
  実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。 本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。 本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
  論文  参考訳（メタデータ） (2022-01-11T23:01:12Z)
• Increasing Fairness in Predictions Using Bias Parity Score Based Loss Function Regularization [0.8594140167290099]
  従来のバイナリクロスエントロピーに基づく精度損失と合わせて使用する正則化成分の公平性向上のファミリを導入する。 我々は、人口統計に基づく成人所得データセットと同様に、再分配予測タスクの文脈に展開する。
  論文  参考訳（メタデータ） (2021-11-05T17:42:33Z)
• Balancing Biases and Preserving Privacy on Balanced Faces in the Wild [50.915684171879036]
  現在の顔認識(FR)モデルには、人口統計バイアスが存在する。 さまざまな民族と性別のサブグループにまたがる偏見を測定するために、我々のバランス・フェイススをWildデータセットに導入します。 真偽と偽のサンプルペアを区別するために1点のスコアしきい値に依存すると、最適以下の結果が得られます。 本稿では,最先端ニューラルネットワークから抽出した顔特徴を用いたドメイン適応学習手法を提案する。
  論文  参考訳（メタデータ） (2021-03-16T15:05:49Z)
• Fairness by Explicability and Adversarial SHAP Learning [0.0]
  本稿では,外部監査役の役割とモデル説明可能性を強調するフェアネスの新たな定義を提案する。 逆代理モデルのSHAP値から構築した正規化を用いてモデルバイアスを緩和するフレームワークを開発する。 合成データセット、UCIアダルト(国勢調査)データセット、実世界の信用評価データセットである。
  論文  参考訳（メタデータ） (2020-03-11T14:36:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。