論文の概要: The Legal Duty to Search for Less Discriminatory Algorithms

• arxiv url: http://arxiv.org/abs/2406.06817v1
• Date: Mon, 10 Jun 2024 21:56:38 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-12 20:05:58.645820
• Title: The Legal Duty to Search for Less Discriminatory Algorithms
• Title（参考訳）: 識別の少ないアルゴリズムを探索する法的な義務
• Authors: Emily Black, Logan Koepke, Pauline Kim, Solon Barocas, Mingwei Hsu,
• Abstract要約: 法律はLDAを合理的に捜索する義務を負うべきだと我々は主張する。 モデル乗法とLDAの可用性は、識別アルゴリズムに対する法的な応答に重大な影響を与える。 我々は、この法律は、カバーされた公民権領域における予測モデルの開発と展開を行うエンティティに対して、適切なLDAの探索の義務を負うべきだと論じる。
• 参考スコア（独自算出の注目度）: 4.625678906362822
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Work in computer science has established that, contrary to conventional wisdom, for a given prediction problem there are almost always multiple possible models with equivalent performance--a phenomenon often termed model multiplicity. Critically, different models of equivalent performance can produce different predictions for the same individual, and, in aggregate, exhibit different levels of impacts across demographic groups. Thus, when an algorithmic system displays a disparate impact, model multiplicity suggests that developers could discover an alternative model that performs equally well, but has less discriminatory impact. Indeed, the promise of model multiplicity is that an equally accurate, but less discriminatory algorithm (LDA) almost always exists. But without dedicated exploration, it is unlikely developers will discover potential LDAs. Model multiplicity and the availability of LDAs have significant ramifications for the legal response to discriminatory algorithms, in particular for disparate impact doctrine, which has long taken into account the availability of alternatives with less disparate effect when assessing liability. A close reading of legal authorities over the decades reveals that the law has on numerous occasions recognized that the existence of a less discriminatory alternative is sometimes relevant to a defendant's burden of justification at the second step of disparate impact analysis. Indeed, under disparate impact doctrine, it makes little sense to say that a given algorithmic system used by an employer, creditor, or housing provider is "necessary" if an equally accurate model that exhibits less disparate effect is available and possible to discover with reasonable effort. As a result, we argue that the law should place a duty of a reasonable search for LDAs on entities that develop and deploy predictive models in covered civil rights domains.
• Abstract（参考訳）: 計算機科学の研究は、従来の知恵とは対照的に、与えられた予測問題に対して、ほぼ常に同等のパフォーマンスを持つ複数のモデルが存在することを証明している。 批判的に、同等のパフォーマンスの異なるモデルは、同一個人に対して異なる予測を生成でき、まとめると、人口集団全体で異なるレベルの影響を示す。 したがって、アルゴリズムシステムが異なる影響を示す場合、モデル多重性は、開発者は同等に機能するが差別的な影響が少ない代替モデルを見つけることができることを示唆する。 実際、モデル乗法性の約束は、ほぼ常に同じくらい正確だが差別的でないアルゴリズム(LDA)が存在することである。 しかし、専用の調査がなければ、開発者は潜在的なLDAを発見する可能性は低い。 モデル乗法とLDAの可用性は、差別的アルゴリズムに対する法的な応答、特に異なる影響のドクトリンに対して大きな影響を与えている。 何十年にもわたって、法当局の緊密な読影により、この法律は、差別的でない代替手段の存在が、異なる影響分析の第2段階における被告の正当化の負担に関係していると認識されていることが判明した。 実際、異なるインパクト・ドクトリンの下では、雇用主、債権者、または住宅業者が使用する特定のアルゴリズムシステムが「必要」であるとは言い切れない。 その結果、この法律は、カバーされた公民権領域における予測モデルの開発と展開を行うエンティティに対して、適切なLDAの探索の義務を負うべきであると論じる。

関連論文リスト

• Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
  我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。 因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。 因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
  論文  参考訳（メタデータ） (2024-05-24T11:19:52Z)
• Fairness in Algorithmic Recourse Through the Lens of Substantive Equality of Opportunity [15.78130132380848]
  アルゴリズムによる会話は、AIシステムとのインタラクションにおいて人に対してエージェンシーを与える手段として注目を集めている。 近年の研究では、個人の初期状況の違いにより、会話自体が不公平である可能性があることが示されている。 個人が行動するのに時間がかかるほど、設定が変更される可能性があるからだ。
  論文  参考訳（メタデータ） (2024-01-29T11:55:45Z)
• Endogenous Macrodynamics in Algorithmic Recourse [52.87956177581998]
  対実説明(CE)とアルゴリズム・リコース(AR)に関する既存の研究は、静的環境における個人に主に焦点を当ててきた。 既存の方法論の多くは、一般化されたフレームワークによってまとめて記述できることを示す。 次に、既存のフレームワークは、グループレベルでの言論の内在的ダイナミクスを研究する際にのみ明らかとなるような、隠された対外的関係のコストを考慮に入れていないと論じる。
  論文  参考訳（メタデータ） (2023-08-16T07:36:58Z)
• Certifying Fairness of Probabilistic Circuits [33.1089249944851]
  本稿では,確率論的モデル,すなわち確率論的回路の一般クラスにおいて,識別パターンを探索するアルゴリズムを提案する。 また、指数関数的に多くの識別パターンを効果的に要約できる最小パターン、最大パターン、最適パターンなどの新しいパターンのクラスも導入する。
  論文  参考訳（メタデータ） (2022-12-05T18:36:45Z)
• Developing a Philosophical Framework for Fair Machine Learning: Lessons From The Case of Algorithmic Collusion [0.0]
  機械学習アルゴリズムが新しい文脈に適用されるにつれて、結果の害と不正は質的に異なる。 フェアネスのメトリクスと定義を開発する機械学習における既存の研究パラダイムは、これらの質的に異なる種類の不正を考慮できない。 本稿では,公正度指標の開発と適用を目指す機械学習の研究者や実践者を対象とした倫理的枠組みを提案する。
  論文  参考訳（メタデータ） (2022-07-05T16:21:56Z)
• Few-shot Forgery Detection via Guided Adversarial Interpolation [56.59499187594308]
  既存の偽造検出手法は、見知らぬ新しい偽造手法に適用した場合、大幅な性能低下に悩まされる。 本稿では,数発の偽造検出問題を克服するために,GAI(Guid Adversarial Interpolation)を提案する。 我々の手法は、多数派と少数派の偽造アプローチの選択に対して堅牢であることが検証されている。
  論文  参考訳（メタデータ） (2022-04-12T16:05:10Z)
• Reusing the Task-specific Classifier as a Discriminator: Discriminator-free Adversarial Domain Adaptation [55.27563366506407]
  非教師付きドメイン適応(UDA)のための識別器なし対向学習ネットワーク(DALN)を導入する。 DALNは、統一された目的によって明確なドメインアライメントとカテゴリの区別を達成する。 DALNは、さまざまなパブリックデータセット上の既存の最先端(SOTA)メソッドと比較して好意的に比較する。
  論文  参考訳（メタデータ） (2022-04-08T04:40:18Z)
• Cross-model Fairness: Empirical Study of Fairness and Ethics Under Model Multiplicity [10.144058870887061]
  1つの予測器が等しく機能するモデルのグループからアドホックに選択された場合、個人は害を受ける可能性があると我々は主張する。 これらの不公平性は実生活で容易に発見でき、技術的手段だけで緩和することは困難である可能性が示唆された。
  論文  参考訳（メタデータ） (2022-03-14T14:33:39Z)
• Statistical discrimination in learning agents [64.78141757063142]
  統計的差別は、訓練人口のバイアスとエージェントアーキテクチャの両方の関数としてエージェントポリシーに現れる。 我々は、リカレントニューラルネットワークを使用するエージェントによる差別の低減と、トレーニング環境のバイアスの低減が示される。
  論文  参考訳（メタデータ） (2021-10-21T18:28:57Z)
• A Low Rank Promoting Prior for Unsupervised Contrastive Learning [108.91406719395417]
  提案手法は,従来の低階の促進をコントラスト学習の枠組みに効果的に組み込む新しい確率的グラフィカルモデルを構築する。 我々の仮説は、同じインスタンスクラスに属するすべてのサンプルが、小さな次元の同じ部分空間上にあることを明示的に要求する。 実証的な証拠は、提案アルゴリズムが複数のベンチマークにおける最先端のアプローチを明らかに上回っていることを示している。
  論文  参考訳（メタデータ） (2021-08-05T15:58:25Z)
• Affirmative Algorithms: The Legal Grounds for Fairness as Awareness [0.0]
  このようなアプローチがいかに「算術的肯定的行動」とみなされるかについて議論する。 我々は、政府契約の事件はアルゴリズムの公正性に代替的な根拠を与えると論じている。 我々は、偏り緩和が特定の原因と偏りのメカニズムに合わせたものであることを保証するために、アルゴリズム的公平性と因果推論の交点におけるさらなる研究を求める。
  論文  参考訳（メタデータ） (2020-12-18T22:53:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。