論文の概要: Non-Determinism and the Lawlessness of Machine Learning Code

• arxiv url: http://arxiv.org/abs/2206.11834v4
• Date: Wed, 14 Aug 2024 00:11:30 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-15 18:56:36.683413
• Title: Non-Determinism and the Lawlessness of Machine Learning Code
• Title（参考訳）: 非決定論と機械学習コードの無法性
• Authors: A. Feder Cooper, Jonathan Frankle, Christopher De Sa,
• Abstract要約: 我々は,非決定主義の影響と,その結果法に含める影響が,MLアウトプットの分布としての推論の観点からより明確になることを示す。 我々は、非決定性による潜在的に有害な影響を抑えるためにMLができることについて、簡単な議論で結論付けた。
• 参考スコア（独自算出の注目度）: 43.662736664344095
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Legal literature on machine learning (ML) tends to focus on harms, and thus tends to reason about individual model outcomes and summary error rates. This focus has masked important aspects of ML that are rooted in its reliance on randomness -- namely, stochasticity and non-determinism. While some recent work has begun to reason about the relationship between stochasticity and arbitrariness in legal contexts, the role of non-determinism more broadly remains unexamined. In this paper, we clarify the overlap and differences between these two concepts, and show that the effects of non-determinism, and consequently its implications for the law, become clearer from the perspective of reasoning about ML outputs as distributions over possible outcomes. This distributional viewpoint accounts for randomness by emphasizing the possible outcomes of ML. Importantly, this type of reasoning is not exclusive with current legal reasoning; it complements (and in fact can strengthen) analyses concerning individual, concrete outcomes for specific automated decisions. By illuminating the important role of non-determinism, we demonstrate that ML code falls outside of the cyberlaw frame of treating ``code as law,'' as this frame assumes that code is deterministic. We conclude with a brief discussion of what work ML can do to constrain the potentially harm-inducing effects of non-determinism, and we indicate where the law must do work to bridge the gap between its current individual-outcome focus and the distributional approach that we recommend.
• Abstract（参考訳）: 機械学習(ML)に関する法的文献は、害に焦点をあてる傾向があるため、個々のモデルの結果と要約エラー率について推論する傾向がある。 この焦点は、ランダム性、すなわち確率性と非決定性に依存するMLの重要な側面を隠蔽している。 いくつかの最近の研究は、法的文脈における確率性と仲裁性の関係について推論し始めているが、非決定論の役割は、より広く検討されていない。 本稿では,これら2つの概念の重なり合いと相違を明らかにするとともに,非決定論の影響と,その法則への影響が,ML出力を分布として推定する観点からより明確になることを示す。 この分布的視点は、MLの可能な結果を強調することでランダム性を説明する。 重要なことは、この種の推論は、現在の法的推論に排他的ではなく、特定の自動決定のための個々の具体的な結果に関する分析を補完する(そして、実際に強化することができる)。 非決定論の重要な役割を照らすことで、MLコードは「法則としてのコード」を扱い、このフレームが決定論的であると仮定するサイバー法枠の外側に落ちることを実証する。 我々は、MLが非決定主義の潜在的害をもたらす影響を抑えるために何ができるかを簡潔に議論し、法が現在の個人利益の焦点と我々が推奨する分散的アプローチとのギャップを埋めるためにどこで働くかを示す。

関連論文リスト

• Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
  我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。 因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。 因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
  論文  参考訳（メタデータ） (2024-05-24T11:19:52Z)
• On Prediction-Modelers and Decision-Makers: Why Fairness Requires More Than a Fair Prediction Model [1.3996171129586732]
  予測に基づく意思決定の分野における暗黙の曖昧さは、予測の概念と決定の関係を考察する。 これら2つの要素が予測に基づく決定システムの最終的な公平性にどう影響するかを示す。 本稿では,予測に基づく意思決定において公平性を生み出す概念論理の理解と推論を可能にするフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-09T10:34:42Z)
• A Semantic Approach to Decidability in Epistemic Planning (Extended Version) [72.77805489645604]
  我々は決定可能性を達成するために新しい意味論的アプローチを用いる。 具体的には、知識の論理S5$_n$と(知識)可換性と呼ばれる相互作用公理を拡大する。 我々は,本フレームワークが,独立した知識である共通知識の有限的非固定点的特徴を認めていることを証明した。
  論文  参考訳（メタデータ） (2023-07-28T11:26:26Z)
• Causal Fair Machine Learning via Rank-Preserving Interventional Distributions [0.5062312533373299]
  我々は、個人が架空の、規範的に望まれる(FiND)世界で等しければ、規範的に等しくなると定義する。 本研究では,それが保持する特定のFiND世界を定義するために,ランク保存的介入分布を提案する。 我々のワープアプローチは、最も差別された個人を効果的に識別し、不公平を緩和することを示します。
  論文  参考訳（メタデータ） (2023-07-24T13:46:50Z)
• Machine Learning with Probabilistic Law Discovery: A Concise Introduction [77.34726150561087]
  Probabilistic Law Discovery (PLD) は、確率論的ルール学習の変種を実装した論理ベースの機械学習手法である。 PLDはDecision Tree/Random Forestメソッドに近いが、関連するルールの定義方法に大きく異なる。 本稿はPLDの主な原則を概説し、その利点と限界を強調し、いくつかのアプリケーションガイドラインを提供する。
  論文  参考訳（メタデータ） (2022-12-22T17:40:13Z)
• Legal perspective on possible fairness measures - A legal discussion using the example of hiring decisions (preprint) [0.0]
  雇用決定の特定の適用に適用可能な、さまざまな公正の概念を説明します。 本研究は,それぞれの公正解釈について,その長所と短所を分析し,法的観点から評価する。
  論文  参考訳（メタデータ） (2021-08-16T06:41:39Z)
• The zoo of Fairness metrics in Machine Learning [62.997667081978825]
  近年,機械学習(ML)と自動意思決定における公平性の問題が注目されている。 MLにおける公平性の定義の多様さが提案され、人口の個人に影響を与える状況において「公正な決定」とは何かという異なる概念が検討されている。 本研究では、この定義の動物園からある程度の順序付けを試みる。
  論文  参考訳（メタデータ） (2021-06-01T13:19:30Z)
• Fairness Under Feature Exemptions: Counterfactual and Observational Measures [34.5472206536785]
  本稿では,2つの成分に相違点を分解する情報理論を提案する。 非例外成分は、臨界特徴によって説明できない部分を定量化し、例外成分は残りの格差を定量化する。 非免除格差を減らしながら、モデルを監査/トレーニングする方法を示すケーススタディを実行します。
  論文  参考訳（メタデータ） (2020-06-14T19:14:00Z)
• On Consequentialism and Fairness [64.35872952140677]
  機械学習におけるフェアネスの共通定義について、逐次的批判を行う。 学習とランダム化の問題に関するより広範な議論で締めくくります。
  論文  参考訳（メタデータ） (2020-01-02T05:39:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。