論文の概要: What Constitutes a Less Discriminatory Algorithm?

• arxiv url: http://arxiv.org/abs/2412.18138v2
• Date: Mon, 24 Mar 2025 16:25:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-25 16:32:16.393427
• Title: What Constitutes a Less Discriminatory Algorithm?
• Title（参考訳）: 差別化の少ないアルゴリズムを構成するものは何か?
• Authors: Benjamin Laufer, Manish Raghavan, Solon Barocas,
• Abstract要約: 形式的なLDA定義は、保持データがない場合に予測モデルを評価し、比較しようとすると、根本的な問題に直面します。 当社は、企業と原告の両方が、社会的目標に合う代替モデルを検索できる枠組みを提唱した。
• 参考スコア（独自算出の注目度）: 2.842548870013324
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Disparate impact doctrine offers an important legal apparatus for targeting discriminatory data-driven algorithmic decisions. A recent body of work has focused on conceptualizing one particular construct from this doctrine: the less discriminatory alternative, an alternative policy that reduces disparities while meeting the same business needs of a status quo or baseline policy. However, attempts to operationalize this construct in the algorithmic setting must grapple with some thorny challenges and ambiguities. In this paper, we attempt to raise and resolve important questions about less discriminatory algorithms (LDAs). How should we formally define LDAs, and how does this interact with different societal goals they might serve? And how feasible is it for firms or plaintiffs to computationally search for candidate LDAs? We find that formal LDA definitions face fundamental challenges when they attempt to evaluate and compare predictive models in the absence of held-out data. As a result, we argue that LDA definitions cannot be purely quantitative, and must rely on standards of "reasonableness." We then identify both mathematical and computational constraints on firms' ability to efficiently conduct a proactive search for LDAs, but we provide evidence that these limits are "weak" in a formal sense. By defining LDAs formally, we put forward a framework in which both firms and plaintiffs can search for alternative models that comport with societal goals.
• Abstract（参考訳）: 異なる影響原理は、差別的なデータ駆動型アルゴリズム決定をターゲットとする重要な法的手段を提供する。 差別の少ない代替策は、現状のクオや基本方針と同じビジネスニーズを満たしながら格差を減らす代替政策である。 しかし、アルゴリズム設定でこの構造を運用しようとする試みは、いくつかの厄介な問題と曖昧さに対処しなければならない。 本稿では,低識別アルゴリズム (LDA) に関する重要な問題を提起し,解決しようと試みる。 どのようにしてLDAを正式に定義し、それが果たす可能性のあるさまざまな社会的目標とどのように相互作用するのか? そして、企業や原告が候補者のLDAを計算で検索することは、どの程度可能か? 形式的なLDA定義は、保持データがない場合に予測モデルを評価・比較しようとすると、根本的な課題に直面する。 結果として、LDAの定義は純粋に定量的なものではなく、「理性」の基準に頼らなければならないと論じる。 次に、LDAの積極的な探索を効率的に行う企業の能力に関する数学的制約と計算的制約の両方を識別するが、これらの制限が形式的な意味で「弱」であることを示す。 LDAを正式に定義することで、企業と原告の両方が、社会的目標に合わせた代替モデルを検索できる枠組みを策定しました。

関連論文リスト

• Understanding the Logic of Direct Preference Alignment through Logic [54.272600416107146]
  本稿では,単一モデルと参照モデルに基づくアプローチの選好損失を特徴付ける新しいフォーマリズムを提案する。 そこで我々は,この嗜好学習の形式的視点が,DPA損失景観の大きさと構造の両方に新たな光を当てていることを示す。
  論文  参考訳（メタデータ） (2024-12-23T16:23:13Z)
• Making Large Language Models Better Planners with Reasoning-Decision Alignment [70.5381163219608]
  マルチモーダリティ強化LLMに基づくエンドツーエンド意思決定モデルを提案する。 ペア化されたCoTと計画結果との推論・決定アライメントの制約を提案する。 提案する大規模言語プランナをRDA-Driverとして推論・決定アライメントする。
  論文  参考訳（メタデータ） (2024-08-25T16:43:47Z)
• Implementing Fairness in AI Classification: The Role of Explainability [0.0]
  AI分類における公平性の実装には、公正度測定を単に運用すること以上の作業が必要だ、と我々は主張する。 トレーニングプロセスを透過化し、フェアネス基準が実際に生み出す成果を判断し、トレードオフを評価する。 これらの説明的なステップがAIモデルを信頼できるものにする方法に関する結論を導きます。
  論文  参考訳（メタデータ） (2024-07-20T06:06:24Z)
• The Legal Duty to Search for Less Discriminatory Algorithms [4.625678906362822]
  法律はLDAを合理的に捜索する義務を負うべきだと我々は主張する。 モデル乗法とLDAの可用性は、識別アルゴリズムに対する法的な応答に重大な影響を与える。 我々は、この法律は、カバーされた公民権領域における予測モデルの開発と展開を行うエンティティに対して、適切なLDAの探索の義務を負うべきだと論じる。
  論文  参考訳（メタデータ） (2024-06-10T21:56:38Z)
• Preference Fine-Tuning of LLMs Should Leverage Suboptimal, On-Policy Data [102.16105233826917]
  好みラベルからの学習は、微調整された大きな言語モデルにおいて重要な役割を果たす。 好みの微調整には、教師付き学習、オンライン強化学習(RL)、コントラスト学習など、いくつかの異なるアプローチがある。
  論文  参考訳（メタデータ） (2024-04-22T17:20:18Z)
• Hierarchical Invariance for Robust and Interpretable Vision Tasks at Larger Scales [54.78115855552886]
  本稿では、畳み込みニューラルネットワーク(CNN)のような階層型アーキテクチャを用いて、オーバーコンプリート不変量を構築する方法を示す。 オーバーコンプリート性により、そのタスクはニューラルアーキテクチャサーチ(NAS)のような方法で適応的に形成される。 大規模で頑健で解釈可能な視覚タスクの場合、階層的不変表現は伝統的なCNNや不変量に対する効果的な代替物とみなすことができる。
  論文  参考訳（メタデータ） (2024-02-23T16:50:07Z)
• Federated Fairness without Access to Sensitive Groups [12.888927461513472]
  連合学習におけるグループフェアネスへの現在のアプローチは、トレーニング中に事前に定義されラベル付けされたセンシティブなグループが存在することを前提としている。 我々は、センシティブなグループや追加のラベルの事前定義された定義に依存しないグループフェアネスを保証するための新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2024-02-22T19:24:59Z)
• Alignment for Honesty [105.72465407518325]
  最近の研究は、大きな言語モデル(LLM)を有用性と無害性と整合させることに大きく貢献している。 本稿は,LLMが知識の欠如に積極的に回答を拒むことを確実にする,エンフォネストリーにおけるアライメントの重要性を論じる。 これらの課題に対処するために、まずは正確な問題定義を確立し、儒教の分析に触発された「誠実さ」を定義します。
  論文  参考訳（メタデータ） (2023-12-12T06:10:42Z)
• Evaluating the Fairness of Discriminative Foundation Models in Computer Vision [51.176061115977774]
  本稿では,CLIP (Contrastive Language-Pretraining) などの差別基盤モデルのバイアス評価のための新しい分類法を提案する。 そして、これらのモデルにおけるバイアスを緩和するための既存の手法を分類学に関して体系的に評価する。 具体的には,ゼロショット分類,画像検索,画像キャプションなど,OpenAIのCLIPとOpenCLIPモデルをキーアプリケーションとして評価する。
  論文  参考訳（メタデータ） (2023-10-18T10:32:39Z)
• Fairness in Ranking under Disparate Uncertainty [24.401219403555814]
  我々は、基礎となる関連モデルの不確実性がオプション群間で異なる場合、ランク付けは不公平をもたらす可能性があると論じる。 ランク付けのための新しい公正基準として平等ランク付け(EOR)を提案する。 異なる不確実性が存在する場合でも、EORは関連する選択肢の中でグループワイドフェア・宝くじに対応していることを示す。
  論文  参考訳（メタデータ） (2023-09-04T13:49:48Z)
• Compatibility of Fairness Metrics with EU Non-Discrimination Laws: Demographic Parity & Conditional Demographic Disparity [3.5607241839298878]
  実証的な証拠は、機械学習(ML)技術によって駆動されるアルゴリズムによる決定が、法的に保護されたグループに対する差別を脅かしたり、新たな不公平な情報源を創り出すことを示唆している。 この研究は、公正度メトリックと公正度制約による法的公正性を保証するためのポイントを評価することを目的としています。 我々の実験と分析は、手元にあるケースと法的正当性に応じて、AIによる意思決定が法的な観点から公平である可能性を示唆している。
  論文  参考訳（メタデータ） (2023-06-14T09:38:05Z)
• Beyond Incompatibility: Trade-offs between Mutually Exclusive Fairness Criteria in Machine Learning and Law [2.959308758321417]
  本稿では,3つのフェアネス基準を連続的に補間する新しいアルゴリズム(FAir Interpolation Method: FAIM)を提案する。 我々は,合成データ,CompASデータセット,電子商取引部門による新たな実世界のデータセットに適用した場合のアルゴリズムの有効性を実証する。
  論文  参考訳（メタデータ） (2022-12-01T12:47:54Z)
• Causal Fairness Analysis [68.12191782657437]
  意思決定設定における公平性の問題を理解し、モデル化し、潜在的に解決するためのフレームワークを導入します。 我々のアプローチの主な洞察は、観測データに存在する格差の定量化と、基礎となる、しばしば観測されていない、因果的なメカニズムの収集を結びつけることである。 本研究は,文献中の異なる基準間の関係を整理し,説明するための最初の体系的試みであるフェアネスマップにおいて,本研究の成果を左右するものである。
  論文  参考訳（メタデータ） (2022-07-23T01:06:34Z)
• Developing a Philosophical Framework for Fair Machine Learning: Lessons From The Case of Algorithmic Collusion [0.0]
  機械学習アルゴリズムが新しい文脈に適用されるにつれて、結果の害と不正は質的に異なる。 フェアネスのメトリクスと定義を開発する機械学習における既存の研究パラダイムは、これらの質的に異なる種類の不正を考慮できない。 本稿では,公正度指標の開発と適用を目指す機械学習の研究者や実践者を対象とした倫理的枠組みを提案する。
  論文  参考訳（メタデータ） (2022-07-05T16:21:56Z)
• Reusing the Task-specific Classifier as a Discriminator: Discriminator-free Adversarial Domain Adaptation [55.27563366506407]
  非教師付きドメイン適応(UDA)のための識別器なし対向学習ネットワーク(DALN)を導入する。 DALNは、統一された目的によって明確なドメインアライメントとカテゴリの区別を達成する。 DALNは、さまざまなパブリックデータセット上の既存の最先端(SOTA)メソッドと比較して好意的に比較する。
  論文  参考訳（メタデータ） (2022-04-08T04:40:18Z)
• Fairness-Aware Naive Bayes Classifier for Data with Multiple Sensitive Features [0.0]
  2-naive-Bayes (2NB) をN-naive-Bayes (NNB) に一般化し、データ中の2つのセンシティブなグループを仮定することの単純化を回避する。 本稿では,複数の感度特徴を持つデータへの適用について検討し,差分フェアネスを強制する新しい制約・後処理ルーチンを提案する。
  論文  参考訳（メタデータ） (2022-02-23T13:32:21Z)
• Measuring Fairness Under Unawareness of Sensitive Attributes: A Quantification-Based Approach [131.20444904674494]
  センシティブな属性の無意識下でのグループフェアネスを測定する問題に取り組む。 定量化手法は, フェアネスと無意識の問題に対処するのに特に適していることを示す。
  論文  参考訳（メタデータ） (2021-09-17T13:45:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。