論文の概要: Fairness and Sparsity within Rashomon sets: Enumeration-Free Exploration and Characterization

• arxiv url: http://arxiv.org/abs/2502.05286v1
• Date: Fri, 07 Feb 2025 19:43:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-11 14:30:59.728077
• Title: Fairness and Sparsity within Rashomon sets: Enumeration-Free Exploration and Characterization
• Title（参考訳）: 羅生門集合におけるフェアネスとスパーシリティ-列挙自由探索とキャラクタリゼーション
• Authors: Lucas Langlade, Julien Ferry, Gabriel Laberge, Thibaut Vidal,
• Abstract要約: 本研究では,数理プログラミングに基づく列挙自由法を導入し,公平さや疎さなどの諸特性を特徴付ける。 提案手法を2つの仮説クラス(スコアリングシステムと決定図)に適用する。
• 参考スコア（独自算出の注目度）: 4.554831326324025
• License:
• Abstract: We introduce an enumeration-free method based on mathematical programming to precisely characterize various properties such as fairness or sparsity within the set of "good models", known as Rashomon set. This approach is generically applicable to any hypothesis class, provided that a mathematical formulation of the model learning task exists. It offers a structured framework to define the notion of business necessity and evaluate how fairness can be improved or degraded towards a specific protected group, while remaining within the Rashomon set and maintaining any desired sparsity level. We apply our approach to two hypothesis classes: scoring systems and decision diagrams, leveraging recent mathematical programming formulations for training such models. As seen in our experiments, the method comprehensively and certifiably quantifies trade-offs between predictive performance, sparsity, and fairness. We observe that a wide range of fairness values are attainable, ranging from highly favorable to significantly unfavorable for a protected group, while staying within less than 1% of the best possible training accuracy for the hypothesis class. Additionally, we observe that sparsity constraints limit these trade-offs and may disproportionately harm specific subgroups. As we evidenced, thoroughly characterizing the tensions between these key aspects is critical for an informed and accountable selection of models.
• Abstract（参考訳）: 数理計画法に基づく列挙自由法を導入し,ラーショモン集合と呼ばれる「良いモデル」の集合内での公平さや疎さなどの諸性質を正確に特徴づける。 このアプローチは、モデル学習タスクの数学的定式化が存在することを前提として、任意の仮説クラスに一般化できる。 ビジネスニーズの概念を定義し、Rashomonセット内に留まり、望まれる疎結合レベルを維持しながら、特定の保護グループに対して公正性をどのように改善または低下させるかを評価するための構造化されたフレームワークを提供する。 提案手法は,2つの仮説クラス(スコアリングシステムと決定図)に適用し,最近の数理プログラミングの定式化を利用してそのようなモデルを訓練する。 我々の実験で見られるように,本手法は予測性能,空間性,公平性のトレードオフを包括的かつ確実に定量化する。 我々は,保護群に対して非常に好ましくないものから非常に好ましくないものまで幅広いフェアネス値が達成可能である一方で,仮説クラスにおいて最高のトレーニング精度の1%未満にとどまっていることを観察した。 さらに、スパーシティ制約がこれらのトレードオフを制限し、特定のサブグループに不均等に危害を加える可能性があることを観察する。 私たちが証明したように、これらの重要な側面間の緊張を徹底的に特徴づけることは、情報的かつ説明可能なモデルの選択にとって重要である。

関連論文リスト

• Finite-Sample and Distribution-Free Fair Classification: Optimal Trade-off Between Excess Risk and Fairness, and the Cost of Group-Blindness [14.421493372559762]
  グループフェアネス制約下の二項分類におけるアルゴリズムフェアネスとグループブレンドネスの強制効果を定量化する。 制御された過剰リスクを伴う分布自由かつ有限サンプルフェアネスを保証するフェア分類のための統一的なフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-21T20:04:17Z)
• Fair Few-shot Learning with Auxiliary Sets [53.30014767684218]
  多くの機械学習(ML)タスクでは、ラベル付きデータサンプルしか収集できないため、フェアネスのパフォーマンスが低下する可能性がある。 本稿では,限定的なトレーニングサンプルを用いたフェアネス認識学習課題をemphfair few-shot Learning問題として定義する。 そこで我々は,学習した知識をメタテストタスクに一般化し,様々なメタトレーニングタスクに公平な知識を蓄積する新しいフレームワークを考案した。
  論文  参考訳（メタデータ） (2023-08-28T06:31:37Z)
• DualFair: Fair Representation Learning at Both Group and Individual Levels via Contrastive Self-supervision [73.80009454050858]
  この研究は、DualFairと呼ばれる自己教師型モデルを提示し、学習された表現から性別や人種などのセンシティブな属性をデバイアスすることができる。 我々のモデルは、グループフェアネスと対実フェアネスという2つのフェアネス基準を共同で最適化する。
  論文  参考訳（メタデータ） (2023-03-15T07:13:54Z)
• Cross-model Fairness: Empirical Study of Fairness and Ethics Under Model Multiplicity [10.144058870887061]
  1つの予測器が等しく機能するモデルのグループからアドホックに選択された場合、個人は害を受ける可能性があると我々は主張する。 これらの不公平性は実生活で容易に発見でき、技術的手段だけで緩和することは困難である可能性が示唆された。
  論文  参考訳（メタデータ） (2022-03-14T14:33:39Z)
• Contrastive Learning for Fair Representations [50.95604482330149]
  訓練された分類モデルは、意図せずバイアスのある表現や予測につながる可能性がある。 対戦訓練のような既存の分類モデルのデバイアス化手法は、訓練に高価であり、最適化が困難であることが多い。 比較学習を取り入れたバイアス軽減手法を提案し、同じクラスラベルを共有するインスタンスに類似した表現を推奨する。
  論文  参考訳（メタデータ） (2021-09-22T10:47:51Z)
• Credal Self-Supervised Learning [0.0]
  未ラベルのインスタンスに対して,学習者が"擬似スーパービジョン"を生成する方法を示す。 整合性正規化と組み合わせて、擬似ラベルは様々な領域で有望な性能を示している。 我々は、我々の方法論を最先端のセルフスーパービジョンアプローチと比較する。
  論文  参考訳（メタデータ） (2021-06-22T15:19:04Z)
• Characterizing Fairness Over the Set of Good Models Under Selective Labels [69.64662540443162]
  同様の性能を実現するモデルセットに対して,予測公正性を特徴付けるフレームワークを開発する。 到達可能なグループレベルの予測格差の範囲を計算するためのトラクタブルアルゴリズムを提供します。 選択ラベル付きデータの実証的な課題に対処するために、我々のフレームワークを拡張します。
  論文  参考訳（メタデータ） (2021-01-02T02:11:37Z)
• Towards Threshold Invariant Fair Classification [10.317169065327546]
  本稿では、決定しきい値とは無関係に、異なるグループ間で公平な性能を強制する、しきい値不変公平性の概念を紹介する。 実験結果から,提案手法は,公平性を実現するために設計された機械学習モデルの閾値感度を緩和するために有効であることが示された。
  論文  参考訳（メタデータ） (2020-06-18T16:49:46Z)
• Towards Model-Agnostic Post-Hoc Adjustment for Balancing Ranking Fairness and Algorithm Utility [54.179859639868646]
  Bipartiteランキングは、ラベル付きデータから正の個人よりも上位の個人をランク付けするスコアリング機能を学ぶことを目的としている。 学習したスコアリング機能が、異なる保護グループ間で体系的な格差を引き起こすのではないかという懸念が高まっている。 本稿では、二部構成のランキングシナリオにおいて、それらのバランスをとるためのモデル後処理フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-06-15T10:08:39Z)
• Learning Diverse Representations for Fast Adaptation to Distribution Shift [78.83747601814669]
  本稿では,複数のモデルを学習する手法を提案する。 分散シフトへの迅速な適応を促進するフレームワークの能力を実証する。
  論文  参考訳（メタデータ） (2020-06-12T12:23:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。