論文の概要: Null Compliance: NYC Local Law 144 and the Challenges of Algorithm Accountability

• arxiv url: http://arxiv.org/abs/2406.01399v1
• Date: Mon, 3 Jun 2024 15:01:20 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-05 22:39:57.223558
• Title: Null Compliance: NYC Local Law 144 and the Challenges of Algorithm Accountability
• Title（参考訳）: Null Compliance:NYCローカルロー144とアルゴリズムアカウンタビリティの課題
• Authors: Lucas Wright, Roxana Mike Muenster, Briana Vecchione, Tianyao Qu, Pika, Cai, COMM/INFO 2450 Student Investigators, Jacob Metcalf, J. Nathan Matias,
• Abstract要約: 2023年7月、ニューヨーク市は、商用のアルゴリズムシステムのバイアス監査を義務付ける世界で最初の司法管轄区域となった。 LL 144は、AEDTをレースとジェンダーの偏見のために毎年個別に監査することを要求している。 本研究では,学生調査員155人がLL 144に対する雇用主のコンプライアンスと求職希望者のユーザ体験を391名記録した。
• 参考スコア（独自算出の注目度）: 0.7684035229968342
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: In July 2023, New York City became the first jurisdiction globally to mandate bias audits for commercial algorithmic systems, specifically for automated employment decisions systems (AEDTs) used in hiring and promotion. Local Law 144 (LL 144) requires AEDTs to be independently audited annually for race and gender bias, and the audit report must be publicly posted. Additionally, employers are obligated to post a transparency notice with the job listing. In this study, 155 student investigators recorded 391 employers' compliance with LL 144 and the user experience for prospective job applicants. Among these employers, 18 posted audit reports and 13 posted transparency notices. These rates could potentially be explained by a significant limitation in the accountability mechanisms enacted by LL 144. Since the law grants employers substantial discretion over whether their system is in scope of the law, a null result cannot be said to indicate non-compliance, a condition we call ``null compliance." Employer discretion may also explain our finding that nearly all audits reported an impact factor over 0.8, a rule of thumb often used in employment discrimination cases. We also find that the benefit of LL 144 to ordinary job seekers is limited due to shortcomings in accessibility and usability. Our findings offer important lessons for policy-makers as they consider regulating algorithmic systems, particularly the degree of discretion to grant to regulated parties and the limitations of relying on transparency and end-user accountability.
• Abstract（参考訳）: 2023年7月、ニューヨーク市は、商業的なアルゴリズムシステム、特に雇用と昇進に使用される自動雇用決定システム(AEDT)に対するバイアス監査を義務付ける世界で最初の司法管轄区域となった。 地方法144 (LL 144) は、人種と性別の偏見について毎年独立して監査することを義務付けており、監査報告書を公表しなければならない。 さらに、雇用主は、求職者リストに透明性通知を投稿する義務がある。 本研究では,学生調査員155人がLL 144に対する雇用主のコンプライアンスと求職希望者のユーザ体験を391名記録した。 これらの雇用者のうち、18人が監査報告、13人が透明性通知を投稿した。 これらの値は、LL 144によって制定された説明責任機構の大幅な制限によって説明できる可能性がある。 この法律は、雇用主に対して、自分たちのシステムが法律の範囲内であるかどうかについて、かなりの裁量を与えるので、nullの結果が非準拠であるとは言い切れない。 従業員の判断は、ほぼ全ての監査が0.8以上の影響因子を報告しているということも説明できるかもしれない。 また、通常の求職者に対するLL 144の利点は、アクセシビリティとユーザビリティの不足により制限されていることも判明した。 本研究は,アルゴリズムシステムを規制する政策立案者にとって重要な教訓であり,特に規制当事者に付与する判断の度合い,透明性とエンドユーザの責任への依存の限界について考察した。

関連論文リスト

• Usefulness of LLMs as an Author Checklist Assistant for Scientific Papers: NeurIPS'24 Experiment [59.09144776166979]
  大規模言語モデル(LLM)は、科学的ピアレビューを支援する上で有望だが議論の余地のあるツールである。 本研究は,論文提出を提出基準に適合させるツールとして,会議環境におけるLCMの有用性を評価する。
  論文  参考訳（メタデータ） (2024-11-05T18:58:00Z)
• From Transparency to Accountability and Back: A Discussion of Access and Evidence in AI Auditing [1.196505602609637]
  監査は、デプロイ前のリスクアセスメント、進行中の監視、コンプライアンステストなど、さまざまな形式で実施することができる。 AI監査には、その実装を複雑にする多くの運用上の課題がある。 我々は、監査は自然な仮説テストとして、並列仮説テストと法的手続きを引き出すことができると論じ、このフレーミングは、監査実施に関する明確かつ解釈可能なガイダンスを提供すると論じる。
  論文  参考訳（メタデータ） (2024-10-07T06:15:46Z)
• RegNLP in Action: Facilitating Compliance Through Automated Information Retrieval and Answer Generation [51.998738311700095]
  その長さ、複雑さ、頻繁な更新を特徴とする規制文書は解釈が難しい。 RegNLPは、規制規則と義務のアクセスと解釈を簡素化することを目的とした、多分野のサブフィールドである。 ObliQAデータセットには、Abu Dhabi Global Markets (ADGM) からの27,869の質問が含まれている。
  論文  参考訳（メタデータ） (2024-09-09T14:44:19Z)
• Peer-induced Fairness: A Causal Approach for Algorithmic Fairness Auditing [0.0]
  欧州連合の人工知能法は2024年8月1日に施行された。 リスクの高いAIアプリケーションは、厳格な透明性と公正な基準に従わなければならない。 本稿では,対実的公正性とピア比較戦略の強みを組み合わせた新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2024-08-05T15:35:34Z)
• Auditing Work: Exploring the New York City algorithmic bias audit regime [0.4580134784455941]
  地方法144条 (LL 144) は、独立監査官が実施する年次バイアス監査を実施するために、雇用の自動化された雇用決定ツール(AEDT)を使用する雇用者を義務付けている。 本稿では,LL 144の他国におけるアルゴリズム監査の試みについて述べる。
  論文  参考訳（メタデータ） (2024-02-12T22:37:15Z)
• The Decisive Power of Indecision: Low-Variance Risk-Limiting Audits and Election Contestation via Marginal Mark Recording [51.82772358241505]
  リスクリミット監査(リスクリミット監査、RLA)は、大規模な選挙の結果を検証する技術である。 我々は、効率を改善し、統計力の進歩を提供する監査の新たなファミリーを定めている。 新しい監査は、複数の可能なマーク解釈を宣言できるように、キャストボイトレコードの標準概念を再考することで実現される。
  論文  参考訳（メタデータ） (2024-02-09T16:23:54Z)
• A Framework for Assurance Audits of Algorithmic Systems [2.2342503377379725]
  本稿では,運用可能なコンプライアンスおよび保証外部監査フレームワークとして,基準監査を提案する。 AI監査も同様に、AI組織が人間の価値を害し、維持する方法でアルゴリズムを管理する能力について、ステークホルダーに保証を提供するべきだ、と私たちは主張する。 我々は、より成熟した金融監査産業の実践をAI監査に適用する上でのメリット、固有の制限、実装上の課題について、批判的な議論をすることで締めくくります。
  論文  参考訳（メタデータ） (2024-01-26T14:38:54Z)
• Who Audits the Auditors? Recommendations from a field scan of the algorithmic auditing ecosystem [0.971392598996499]
  AI監査エコシステムの最初の包括的なフィールドスキャンを提供する。 私たちは、新たなベストプラクティスと、一般的になりつつある方法やツールを特定します。 これらの監査の質と影響を改善するための政策勧告を概説する。
  論文  参考訳（メタデータ） (2023-10-04T01:40:03Z)
• Incentive-Theoretic Bayesian Inference for Collaborative Science [59.15962177829337]
  未知のパラメータについて、プライベートな先行エージェントが存在する場合の仮説テストについて検討する。 エージェントの戦略行動によって明らかにされる情報を活用する統計的推論を行う方法を示す。
  論文  参考訳（メタデータ） (2023-07-07T17:59:01Z)
• Having your Privacy Cake and Eating it Too: Platform-supported Auditing of Social Media Algorithms for Public Interest [70.02478301291264]
  ソーシャルメディアプラットフォームは、情報や機会へのアクセスをキュレートするので、公衆の言論を形成する上で重要な役割を果たす。 これまでの研究では、これらのアルゴリズムが偏見や差別的な結果をもたらすことを示すためにブラックボックス法が用いられてきた。 本稿では,提案法の目標を満たすプラットフォーム支援型監査手法を提案する。
  論文  参考訳（メタデータ） (2022-07-18T17:32:35Z)
• Algorithmic Fairness and Vertical Equity: Income Fairness with IRS Tax Audit Models [73.24381010980606]
  本研究は、IRSによる税務監査選択を通知するシステムの文脈におけるアルゴリズムフェアネスの問題について検討する。 監査を選択するための柔軟な機械学習手法が、垂直エクイティにどのように影響するかを示す。 この結果は,公共セクター全体でのアルゴリズムツールの設計に影響を及ぼす。
  論文  参考訳（メタデータ） (2022-06-20T16:27:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。