論文の概要: Towards Effective Discrimination Testing for Generative AI

• arxiv url: http://arxiv.org/abs/2412.21052v1
• Date: Mon, 30 Dec 2024 16:09:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-31 16:07:51.533910
• Title: Towards Effective Discrimination Testing for Generative AI
• Title（参考訳）: ジェネレーティブAIのための効果的な識別テストに向けて
• Authors: Thomas P. Zollo, Nikita Rajaneesh, Richard Zemel, Talia B. Gillis, Emily Black,
• Abstract要約: ジェネレーティブAI(GenAI)モデルは、差別行動に対する規制において、新たな課題を提示する。 我々は、GenAI公正性研究がこれらの課題をまだ満たしていないと論じ、代わりに既存のバイアス評価方法と規制目標との間には大きなギャップが残っている。
• 参考スコア（独自算出の注目度）: 5.2817059203636845
• License:
• Abstract: Generative AI (GenAI) models present new challenges in regulating against discriminatory behavior. In this paper, we argue that GenAI fairness research still has not met these challenges; instead, a significant gap remains between existing bias assessment methods and regulatory goals. This leads to ineffective regulation that can allow deployment of reportedly fair, yet actually discriminatory, GenAI systems. Towards remedying this problem, we connect the legal and technical literature around GenAI bias evaluation and identify areas of misalignment. Through four case studies, we demonstrate how this misalignment between fairness testing techniques and regulatory goals can result in discriminatory outcomes in real-world deployments, especially in adaptive or complex environments. We offer practical recommendations for improving discrimination testing to better align with regulatory goals and enhance the reliability of fairness assessments in future deployments.
• Abstract（参考訳）: ジェネレーティブAI(GenAI)モデルは、差別行動に対する規制において、新たな課題を提示する。 本稿では,GenAIフェアネス研究がこれらの課題をまだ満たしていないことを論じ,既存のバイアス評価手法と規制目標との間には大きなギャップが残っている。 これは、公正だが実際に差別的なGenAIシステムの展開を可能にする非効率的な規制につながります。 この問題の是正に向けて、GenAIバイアス評価に関する法的・技術的文献を結合し、不整合領域を特定する。 4つのケーススタディを通じて、フェアネステスト技術と規制目標とのこの不一致が、特に適応的あるいは複雑な環境において、現実世界の展開において差別的な結果をもたらすことを実証する。 我々は、規制目標との整合性を向上し、将来の展開における公正性評価の信頼性を高めるために、差別試験を改善するための実践的な勧告を提供する。

関連論文リスト

• An evidence-based methodology for human rights impact assessment (HRIA) in the development of AI data-intensive systems [49.1574468325115]
  我々は、すでに人権がデータ利用の分野で決定を下していることを示している。 本研究は人権影響評価(HRIA)の方法論とモデルである。 提案手法は,具体的ケーススタディで検証し,その有効性と有効性を示す。
  論文  参考訳（メタデータ） (2024-07-30T16:27:52Z)
• Generative Discrimination: What Happens When Generative AI Exhibits Bias, and What Can Be Done About It [2.2913283036871865]
  第1章は、genAIが非差別法とどのように交わるかを考察する。 差別的アウトプットには2つの主要な種類がある: (i) 嫌悪的内容と (ii) 保護されたグループの不適切な表現による微妙なバイアス。 差別的なアウトプットに責任を負うgenAIプロバイダやデプロイの保持を主張し、genAI固有の問題に対処する従来の法的枠組みの不十分さを強調している。
  論文  参考訳（メタデータ） (2024-06-26T13:32:58Z)
• A Nested Model for AI Design and Validation [0.5120567378386615]
  新しい規制の必要性にもかかわらず、規制科学とAIの間にはミスマッチがある。 AI設計と検証のための5層ネストモデルが、これらの問題に対処することを目指している。
  論文  参考訳（メタデータ） (2024-06-08T12:46:12Z)
• Compatibility of Fairness Metrics with EU Non-Discrimination Laws: Demographic Parity & Conditional Demographic Disparity [3.5607241839298878]
  実証的な証拠は、機械学習(ML)技術によって駆動されるアルゴリズムによる決定が、法的に保護されたグループに対する差別を脅かしたり、新たな不公平な情報源を創り出すことを示唆している。 この研究は、公正度メトリックと公正度制約による法的公正性を保証するためのポイントを評価することを目的としています。 我々の実験と分析は、手元にあるケースと法的正当性に応じて、AIによる意思決定が法的な観点から公平である可能性を示唆している。
  論文  参考訳（メタデータ） (2023-06-14T09:38:05Z)
• Tackling Algorithmic Disability Discrimination in the Hiring Process: An Ethical, Legal and Technical Analysis [2.294014185517203]
  我々は、障害者差別に関連して、AIによる雇用によって引き起こされる懸念と機会について論じる。 私たちはいくつかの出発点を確立し、倫理主義者、議員、支持者、そしてAI実践者のためのロードマップを設計します。
  論文  参考訳（メタデータ） (2022-06-13T13:32:37Z)
• Fairness in Agreement With European Values: An Interdisciplinary Perspective on AI Regulation [61.77881142275982]
  この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。 私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。 我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
  論文  参考訳（メタデータ） (2022-06-08T12:32:08Z)
• Measuring Fairness Under Unawareness of Sensitive Attributes: A Quantification-Based Approach [131.20444904674494]
  センシティブな属性の無意識下でのグループフェアネスを測定する問題に取り組む。 定量化手法は, フェアネスと無意識の問題に対処するのに特に適していることを示す。
  論文  参考訳（メタデータ） (2021-09-17T13:45:46Z)
• Training GANs with Stronger Augmentations via Contrastive Discriminator [80.8216679195]
  本稿では,gan判別器にコントラスト表現学習方式を導入する。 この「融合」により、識別者は訓練の不安定さを増すことなく、より強力な増強に対処できる。 実験の結果,contratd付きganはfidを一貫して改善し,データ拡張を組み込んだ他の手法と比較した。
  論文  参考訳（メタデータ） (2021-03-17T16:04:54Z)
• Towards Fair Knowledge Transfer for Imbalanced Domain Adaptation [61.317911756566126]
  本研究では,不均衡なドメイン間学習における公平性問題に対処するTowards Fair Knowledge Transferフレームワークを提案する。 具体的には、新規なクロスドメインミックスアップ生成を利用して、ターゲット情報でマイノリティソースセットを増強し、公正性を高める。 本モデルでは,2つのベンチマークで全体の精度を20%以上向上させる。
  論文  参考訳（メタデータ） (2020-10-23T06:29:09Z)
• Getting Fairness Right: Towards a Toolbox for Practitioners [2.4364387374267427]
  バイアスを意図せずに埋め込んで再現するAIシステムの潜在的なリスクは、マシンラーニング実践者や社会全体の注目を集めている。 本稿では,実践者が公正なAI実践を確実にするためのツールボックスのドラフトを提案する。
  論文  参考訳（メタデータ） (2020-03-15T20:53:50Z)
• Discrimination of POVMs with rank-one effects [62.997667081978825]
  この研究は、ランクワン効果を持つ正の作用素値測度を識別する問題に関する洞察を与える。 パラレルとアダプティブの2つの予測手法を比較した。 この適応型スキームを見つけるための明示的なアルゴリズムを提供する。
  論文  参考訳（メタデータ） (2020-02-13T11:34:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。