論文の概要: What we learned while automating bias detection in AI hiring systems for compliance with NYC Local Law 144

• arxiv url: http://arxiv.org/abs/2501.10371v1
• Date: Fri, 13 Dec 2024 14:14:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-02 07:48:12.875560
• Title: What we learned while automating bias detection in AI hiring systems for compliance with NYC Local Law 144
• Title（参考訳）: ニューヨーク市法144に準拠するAI採用システムにおけるバイアス検出の自動化で学んだこと
• Authors: Gemma Galdon Clavell, Rubén González-Sendino,
• Abstract要約: ニューヨーク市の地方法144条は、雇用者に対して、雇用プロセスに使用される自動雇用決定ツール(AEDT)の独立したバイアス監査を実施するよう求めている。 この法律は、コンプライアンスを確保するためにAI開発者と実装者が実行しなければならないバイアステストの最小セットを概説している。 我々は、この法律に基づいて実施された監査を収集、分析し、ベストプラクティスを特定し、雇用主のコンプライアンスを合理化するためのソフトウェアツールを開発した。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Since July 5, 2023, New York City's Local Law 144 requires employers to conduct independent bias audits for any automated employment decision tools (AEDTs) used in hiring processes. The law outlines a minimum set of bias tests that AI developers and implementers must perform to ensure compliance. Over the past few months, we have collected and analyzed audits conducted under this law, identified best practices, and developed a software tool to streamline employer compliance. Our tool, ITACA_144, tailors our broader bias auditing framework to meet the specific requirements of Local Law 144. While automating these legal mandates, we identified several critical challenges that merit attention to ensure AI bias regulations and audit methodologies are both effective and practical. This document presents the insights gained from automating compliance with NYC Local Law 144. It aims to support other cities and states in crafting similar legislation while addressing the limitations of the NYC framework. The discussion focuses on key areas including data requirements, demographic inclusiveness, impact ratios, effective bias, metrics, and data reliability.
• Abstract（参考訳）: 2023年7月5日以降、ニューヨーク市の地方法144は雇用者に対して、雇用プロセスに使用される自動雇用決定ツール(AEDT)の独立したバイアス監査を実施するよう求めている。 この法律は、コンプライアンスを確保するためにAI開発者と実装者が実行しなければならないバイアステストの最小セットを概説している。 過去数ヶ月にわたって、この法律の下で実施された監査を収集、分析し、ベストプラクティスを特定し、雇用主のコンプライアンスを合理化するソフトウェアツールを開発した。 ITACA_144は、ローカル法144の特定の要件を満たすため、より広範なバイアス監査フレームワークを調整します。 これらの法的義務を自動化する一方で、AIバイアス規制と監査方法論が効果的かつ実用的なものであることを保証するために注意に値するいくつかの重要な課題を特定しました。 この文書は、ニューヨーク市地方法144の遵守の自動化から得られた知見を提示する。 ニューヨーク市の枠組みの限界に対処しながら、同様の法律を制定する他の都市や州を支援することを目的としている。 この議論は、データ要件、人口統計の包括性、影響率、効果的なバイアス、メトリクス、データの信頼性など、重要な領域に焦点を当てている。

関連論文リスト

• Usefulness of LLMs as an Author Checklist Assistant for Scientific Papers: NeurIPS'24 Experiment [59.09144776166979]
  大規模言語モデル(LLM)は、科学的ピアレビューを支援する上で有望だが議論の余地のあるツールである。 本研究は,論文提出を提出基準に適合させるツールとして,会議環境におけるLCMの有用性を評価する。
  論文  参考訳（メタデータ） (2024-11-05T18:58:00Z)
• RIRAG: Regulatory Information Retrieval and Answer Generation [51.998738311700095]
  本稿では,質問を自動生成し,関連する規制通路と組み合わせる,問合せペアを生成するタスクを紹介する。 我々は、Abu Dhabi Global Markets (ADGM) の財務規制文書から得られた27,869の質問を含むObliQAデータセットを作成する。 本稿では,RIRAG(Regulation Information Retrieval and Answer Generation)システムをベースラインとして設計し,新しい評価基準であるRePASを用いて評価する。
  論文  参考訳（メタデータ） (2024-09-09T14:44:19Z)
• Null Compliance: NYC Local Law 144 and the Challenges of Algorithm Accountability [0.7684035229968342]
  2023年7月、ニューヨーク市は、商用のアルゴリズムシステムのバイアス監査を義務付ける世界で最初の司法管轄区域となった。 LL 144は、AEDTをレースとジェンダーの偏見のために毎年個別に監査することを要求している。 本研究では,学生調査員155人がLL 144に対する雇用主のコンプライアンスと求職希望者のユーザ体験を391名記録した。
  論文  参考訳（メタデータ） (2024-06-03T15:01:20Z)
• Rethinking Legal Compliance Automation: Opportunities with Large Language Models [2.9088208525097365]
  我々は、(テキスト)法的アーティファクトの試験は、まず文よりも広い文脈で行うべきであると論じる。 これらの制約に対処するために,コンプライアンス分析手法を提案する。
  論文  参考訳（メタデータ） (2024-04-22T17:10:27Z)
• Auditing Work: Exploring the New York City algorithmic bias audit regime [0.4580134784455941]
  地方法144条 (LL 144) は、独立監査官が実施する年次バイアス監査を実施するために、雇用の自動化された雇用決定ツール(AEDT)を使用する雇用者を義務付けている。 本稿では,LL 144の他国におけるアルゴリズム監査の試みについて述べる。
  論文  参考訳（メタデータ） (2024-02-12T22:37:15Z)
• A Framework for Assurance Audits of Algorithmic Systems [2.2342503377379725]
  本稿では,運用可能なコンプライアンスおよび保証外部監査フレームワークとして,基準監査を提案する。 AI監査も同様に、AI組織が人間の価値を害し、維持する方法でアルゴリズムを管理する能力について、ステークホルダーに保証を提供するべきだ、と私たちは主張する。 我々は、より成熟した金融監査産業の実践をAI監査に適用する上でのメリット、固有の制限、実装上の課題について、批判的な議論をすることで締めくくります。
  論文  参考訳（メタデータ） (2024-01-26T14:38:54Z)
• The Ethics of Automating Legal Actors [58.81546227716182]
  我々は、裁判官の役割の自動化は、特に一般的な法体系において、難しい倫理的課題を提起すると主張している。 我々の主張は、単に法律を適用するのではなく、法律を積極的に形成する際の裁判官の社会的役割から従う。 モデルが人間レベルの能力を達成できたとしても、法的プロセスの自動化に固有の倫理的懸念は残るだろう。
  論文  参考訳（メタデータ） (2023-12-01T13:48:46Z)
• Local Law 144: A Critical Analysis of Regression Metrics [0.0]
  2021年11月、ニューヨーク市議会は自動雇用決定ツールのバイアス監査を義務付ける法案を可決した。 2023年4月15日からは、従業員の雇用や昇進に自動化ツールを使用する企業は、これらのシステムを監査する必要がある。 いずれの指標も領域全体の分布差を捉えることができず、従ってバイアスを確実に検出できない。
  論文  参考訳（メタデータ） (2023-02-08T15:21:14Z)
• An Uncommon Task: Participatory Design in Legal AI [64.54460979588075]
  われわれは10年以上前に行われた法律分野における、注目に値する、未調査のAI設計プロセスについて検討する。 インタラクティブなシミュレーション手法によって,コンピュータ科学者と弁護士が共同設計者になれることを示す。
  論文  参考訳（メタデータ） (2022-03-08T15:46:52Z)
• Lawformer: A Pre-trained Language Model for Chinese Legal Long Documents [56.40163943394202]
  我々は,中国法定長文理解のためのLongformerベースの事前学習言語モデル,Lawformerをリリースする。 判決の予測,類似事例の検索,法的読解,法的質問の回答など,さまざまな法務上の課題について法務担当者を評価した。
  論文  参考訳（メタデータ） (2021-05-09T09:39:25Z)
• How Does NLP Benefit Legal System: A Summary of Legal Artificial Intelligence [81.04070052740596]
  法律人工知能(Legal AI)は、人工知能、特に自然言語処理の技術を適用して、法的領域におけるタスクに役立てることに焦点を当てている。 本稿では,LegalAIにおける研究の歴史,現状,今後の方向性について紹介する。
  論文  参考訳（メタデータ） (2020-04-25T14:45:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。