論文の概要: On the Fairness Impacts of Private Ensembles Models

• arxiv url: http://arxiv.org/abs/2305.11807v1
• Date: Fri, 19 May 2023 16:43:53 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-22 13:19:17.765257
• Title: On the Fairness Impacts of Private Ensembles Models
• Title（参考訳）: プライベートアンサンブルモデルの公平性への影響について
• Authors: Cuong Tran, Ferdinando Fioretto
• Abstract要約: Private Aggregation of Teacher Ensembles (PATE)は、プライベートモデルの作成を可能にする機械学習フレームワークである。 本稿は、PATEの使用が不公平な結果をもたらすかどうかを考察し、個人間での精度格差につながることを実証する。
• 参考スコア（独自算出の注目度）: 44.15285550981899
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The Private Aggregation of Teacher Ensembles (PATE) is a machine learning framework that enables the creation of private models through the combination of multiple "teacher" models and a "student" model. The student model learns to predict an output based on the voting of the teachers, and the resulting model satisfies differential privacy. PATE has been shown to be effective in creating private models in semi-supervised settings or when protecting data labels is a priority. This paper explores whether the use of PATE can result in unfairness, and demonstrates that it can lead to accuracy disparities among groups of individuals. The paper also analyzes the algorithmic and data properties that contribute to these disproportionate impacts, why these aspects are affecting different groups disproportionately, and offers recommendations for mitigating these effects
• Abstract（参考訳）: Private Aggregation of Teacher Ensembles (PATE)は、複数の「教師」モデルと「学生」モデルを組み合わせることで、プライベートモデルの作成を可能にする機械学習フレームワークである。 学生モデルは、教師の投票に基づいて出力を予測することを学習し、その結果、差分プライバシーを満たす。 PATEは、半教師付き設定やデータラベルの保護が優先される場合には、プライベートモデルの作成に有効であることが示されている。 本稿は、PATEの使用が不公平な結果をもたらすかどうかを考察し、個人間での精度格差につながることを示す。 また、これらの不均等な影響に寄与するアルゴリズム的およびデータ的特性、なぜこれらの側面が異なるグループに不均等に影響を与えているのかを分析し、これらの効果を緩和するための勧告を提供する。

関連論文リスト

• Is Your Model "MADD"? A Novel Metric to Evaluate Algorithmic Fairness for Predictive Student Models [0.0]
  本稿では,モデルの識別行動を分析するために,モデル絶対密度距離(MADD)を提案する。 オンライン授業における学生の成功を予測するための共通課題に対するアプローチを,いくつかの共通予測分類モデルを用いて評価した。
  論文  参考訳（メタデータ） (2023-05-24T16:55:49Z)
• Striving for data-model efficiency: Identifying data externalities on group performance [75.17591306911015]
  信頼できる、効果的で責任ある機械学習システムの構築は、トレーニングデータとモデリング決定の違いが、予測パフォーマンスにどのように影響するかを理解することに集中する。 我々は、特定のタイプのデータモデル非効率性に注目し、一部のソースからトレーニングデータを追加することで、集団の重要なサブグループで評価されるパフォーマンスを実際に低下させることができる。 以上の結果から,データ効率が正確かつ信頼性の高い機械学習の鍵となることが示唆された。
  論文  参考訳（メタデータ） (2022-11-11T16:48:27Z)
• Private Semi-supervised Knowledge Transfer for Deep Learning from Noisy Labels [21.374707481630697]
  本稿では,現在進行しているノイズラベル学習機構とPATEフレームワークを組み合わせたPATE++を提案する。 GAN(Generative Adversarial Nets)の新たな構造は,それらを効果的に統合するために開発されている。 さらに,半教師付きモデルトレーニングのための新しいノイズラベル検出機構を開発し,ノイズラベルを用いたトレーニング時の生徒モデル性能をさらに向上させる。
  論文  参考訳（メタデータ） (2022-11-03T07:33:49Z)
• "You Can't Fix What You Can't Measure": Privately Measuring Demographic Performance Disparities in Federated Learning [78.70083858195906]
  グループメンバーシップのプライバシを保護しつつ,グループ間でのパフォーマンスの差異を測定するための,差分プライベートなメカニズムを提案する。 我々の結果は、以前の研究の示唆に反して、プライバシ保護は必ずしもフェデレーションモデルの性能格差の特定と矛盾しているわけではないことを示している。
  論文  参考訳（メタデータ） (2022-06-24T09:46:43Z)
• SF-PATE: Scalable, Fair, and Private Aggregation of Teacher Ensembles [50.90773979394264]
  本稿では、個人の機密情報のプライバシーを保護しつつ、差別的でない予測者の学習を可能にするモデルについて検討する。 提案モデルの主な特徴は、プライバシ保護とフェアモデルを作成するために、オフ・ザ・セルフと非プライベートフェアモデルの採用を可能にすることである。
  論文  参考訳（メタデータ） (2022-04-11T14:42:54Z)
• A Fairness Analysis on Private Aggregation of Teacher Ensembles [31.388212637482365]
  PATE(Private Aggregation of Teacher Ensembles)は、機械学習の重要なフレームワークである。 本稿では、このプライバシー保護フレームワークが偏見と不公平を増すか否かを問う。 PATEは個人と個人のグループ間で精度の相違をもたらす可能性がある。
  論文  参考訳（メタデータ） (2021-09-17T16:19:24Z)
• Differentially Private Deep Learning under the Fairness Lens [34.28936739262812]
  微分プライバシー(DP)は、プライベート機械学習システムにとって重要なプライバシー強化技術である。 計算に個々の参加に伴うリスクを計測し、バウンドすることができる。 近年,DP学習システムは,個人集団の偏見や不公平性を悪化させる可能性が指摘されている。
  論文  参考訳（メタデータ） (2021-06-04T19:10:09Z)
• Characterizing Fairness Over the Set of Good Models Under Selective Labels [69.64662540443162]
  同様の性能を実現するモデルセットに対して,予測公正性を特徴付けるフレームワークを開発する。 到達可能なグループレベルの予測格差の範囲を計算するためのトラクタブルアルゴリズムを提供します。 選択ラベル付きデータの実証的な課題に対処するために、我々のフレームワークを拡張します。
  論文  参考訳（メタデータ） (2021-01-02T02:11:37Z)
• Differentially Private and Fair Deep Learning: A Lagrangian Dual Approach [54.32266555843765]
  本稿では,個人の機密情報のプライバシを保護するとともに,非差別的予測器の学習を可能にするモデルについて検討する。 この方法は、微分プライバシーの概念と、公正性制約を満たすニューラルネットワークの設計にラグランジアン双対性(Lagrangian duality)を用いることに依存している。
  論文  参考訳（メタデータ） (2020-09-26T10:50:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。