論文の概要: LiFT: A Scalable Framework for Measuring Fairness in ML Applications

• arxiv url: http://arxiv.org/abs/2008.07433v1
• Date: Fri, 14 Aug 2020 03:55:31 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-30 17:01:34.199162
• Title: LiFT: A Scalable Framework for Measuring Fairness in ML Applications
• Title（参考訳）: LiFT: MLアプリケーションの公正性を測定するためのスケーラブルなフレームワーク
• Authors: Sriram Vasudevan, Krishnaram Kenthapadi
• Abstract要約: 本稿では、大規模なMLシステムの一部として、フェアネスメトリクスのスケーラブルな計算のためのフレームワークであるLinkedIn Fairness Toolkit(LiFT)を紹介する。 フェアネスツールを実際に導入する際の課題と、LinkedInでのデプロイメント中に学んだ教訓について論じる。
• 参考スコア（独自算出の注目度）: 18.54302159142362
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Many internet applications are powered by machine learned models, which are usually trained on labeled datasets obtained through either implicit / explicit user feedback signals or human judgments. Since societal biases may be present in the generation of such datasets, it is possible for the trained models to be biased, thereby resulting in potential discrimination and harms for disadvantaged groups. Motivated by the need for understanding and addressing algorithmic bias in web-scale ML systems and the limitations of existing fairness toolkits, we present the LinkedIn Fairness Toolkit (LiFT), a framework for scalable computation of fairness metrics as part of large ML systems. We highlight the key requirements in deployed settings, and present the design of our fairness measurement system. We discuss the challenges encountered in incorporating fairness tools in practice and the lessons learned during deployment at LinkedIn. Finally, we provide open problems based on practical experience.
• Abstract（参考訳）: 多くのインターネットアプリケーションは、通常、暗黙的/明示的なユーザーフィードバック信号または人間の判断によって得られるラベル付きデータセットで訓練される機械学習モデルで駆動される。 このようなデータセットの生成には社会的偏見が存在する可能性があるため、訓練されたモデルに偏見を与えることが可能であり、それによって潜在的な差別や不利なグループに害を与える可能性がある。 WebスケールのMLシステムにおけるアルゴリズムバイアスの理解と対処の必要性と既存のフェアネスツールキットの限界により、我々は大規模なMLシステムの一部としてのフェアネスメトリクスのスケーラブルな計算フレームワークであるLinkedIn Fairness Toolkit(LiFT)を紹介した。 デプロイ設定における重要な要件を強調し、公正度測定システムの設計を提示する。 フェアネスツールを実際に導入する際の課題と、LinkedInでのデプロイメント中に学んだ教訓について論じる。 最後に,実践経験に基づくオープンな問題を提案する。

関連論文リスト

• Federated Fine-Tuning of LLMs on the Very Edge: The Good, the Bad, the Ugly [62.473245910234304]
  本稿では,最新のエッジコンピューティングシステムにおいて,Large Language Modelsをどのように導入できるかを,ハードウェア中心のアプローチで検討する。 マイクロレベルのハードウェアベンチマークを行い、FLOPモデルと最先端のデータセンターGPUを比較し、現実的な条件下でのネットワーク利用について検討する。
  論文  参考訳（メタデータ） (2023-10-04T20:27:20Z)
• Simultaneous Machine Translation with Large Language Models [51.470478122113356]
  我々は,SimulMTタスクに大規模言語モデルを適用する可能性を検討する。 MUST-Cデータセットと異なる9言語でtextttLlama2-7b-chatモデルを用いて実験を行った。 その結果,LLM は BLEU と LAAL の指標で専用MT モデルよりも優れていた。
  論文  参考訳（メタデータ） (2023-09-13T04:06:47Z)
• Bias and Fairness in Large Language Models: A Survey [73.87651986156006]
  本稿では,大規模言語モデル(LLM)のバイアス評価と緩和手法に関する総合的な調査を行う。 まず、自然言語処理における社会的偏見と公平性の概念を統合し、形式化し、拡張する。 次に,3つの直感的な2つのバイアス評価法と1つの緩和法を提案し,文献を統一する。
  論文  参考訳（メタデータ） (2023-09-02T00:32:55Z)
• Fair Few-shot Learning with Auxiliary Sets [53.30014767684218]
  多くの機械学習(ML)タスクでは、ラベル付きデータサンプルしか収集できないため、フェアネスのパフォーマンスが低下する可能性がある。 本稿では,限定的なトレーニングサンプルを用いたフェアネス認識学習課題をemphfair few-shot Learning問題として定義する。 そこで我々は,学習した知識をメタテストタスクに一般化し,様々なメタトレーニングタスクに公平な知識を蓄積する新しいフレームワークを考案した。
  論文  参考訳（メタデータ） (2023-08-28T06:31:37Z)
• FairLay-ML: Intuitive Remedies for Unfairness in Data-Driven Social-Critical Algorithms [13.649336187121095]
  この論文は、機械学習(ML)モデル説明ツールが、機械学習ベースの意思決定支援システムにおける不公平さを、レイマンが可視化し、理解し、直感的に改善できるかどうかを探求する。 この論文では、概念実証のGUIであるFairLay-MLを紹介し、最も有望なツールを統合し、MLモデルにおける不公平なロジックの直感的な説明を提供する。
  論文  参考訳（メタデータ） (2023-07-11T06:05:06Z)
• Uncertainty-aware predictive modeling for fair data-driven decisions [5.371337604556311]
  フェアMLシステムは安全なMLシステムであることを示す。 公平な判断については、不確実な分類を持つ個人に対して、安全なフェールオプションを使用することを議論する。
  論文  参考訳（メタデータ） (2022-11-04T20:04:39Z)
• Fairness Reprogramming [42.65700878967251]
  モデル再プログラミング手法を取り入れたFairRe Programと呼ばれる新しい汎用フェアネス学習パラダイムを提案する。 具体的には、FairRe Programはモデルを変更することができず、フェアネストリガと呼ばれる一連の摂動を入力に追加するケースについて検討している。 我々は,固定MLモデルの出力予測において,公平性トリガが効果的に人口統計バイアスを曖昧にすることができることを理論的および実証的に示す。
  論文  参考訳（メタデータ） (2022-09-21T09:37:00Z)
• D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling Algorithmic Bias [57.87117733071416]
  D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。 ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。 それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
  論文  参考訳（メタデータ） (2022-08-10T03:41:48Z)
• Fair Classification via Transformer Neural Networks: Case Study of an Educational Domain [0.0913755431537592]
  本稿では,Law Schoolのニューラルネットワークを用いた変圧器ネットワークにおけるフェアネス制約の予備的検討を行う。 フェアネス指標を用いて評価を行い、フェアネスと精度のトレードオフを確認しました。
  論文  参考訳（メタデータ） (2022-06-03T06:34:16Z)
• Visual Identification of Problematic Bias in Large Label Spaces [5.841861400363261]
  共通公平度メトリクスを現代的なモデルやデータセットに拡張する上での課題は、徹底的な真実ラベルの必要性である。 ドメインの専門家は、モデルやデータセット全体にわたってバイアスを抽出し、推論し、情報的な決定をする必要がある。 技術的・倫理的問題を考慮し,このような大規模ラベル空間の可視化設計ガイドラインを提案する。
  論文  参考訳（メタデータ） (2022-01-17T12:51:08Z)
• Leveraging Semi-Supervised Learning for Fairness using Neural Networks [49.604038072384995]
  機械学習に基づく意思決定システムの公平性に対する懸念が高まっている。 本稿では,ラベルのないデータから得られるニューラルネットワークを用いた半教師付きアルゴリズムを提案する。 提案したSSFairと呼ばれるモデルは、ラベルのないデータの情報を活用して、トレーニングデータのバイアスを軽減する。
  論文  参考訳（メタデータ） (2019-12-31T09:11:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。