論文の概要: The Right to be an Exception to a Data-Driven Rule
- arxiv url: http://arxiv.org/abs/2212.13995v1
- Date: Wed, 28 Dec 2022 18:09:10 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-19 13:22:00.003030
- Title: The Right to be an Exception to a Data-Driven Rule
- Title（参考訳）: データ駆動型ルールの例外になる権利
- Authors: Sarah H. Cen and Manish Raghavan
- Abstract要約: 我々は、個人がデータ駆動ルールの例外になる権利があると主張する。
意思決定者は、デューケアとデューディリジェンスを行使した場合に限り、ルールを適用するべきである。
- 参考スコア（独自算出の注目度）: 4.7515282439954785
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Data-driven tools are increasingly used to make consequential decisions. They
have begun to advise employers on which job applicants to interview, judges on
which defendants to grant bail, lenders on which homeowners to give loans, and
more. In such settings, different data-driven rules result in different
decisions. The problem is: to every data-driven rule, there are exceptions.
While a data-driven rule may be appropriate for some, it may not be appropriate
for all. As data-driven decisions become more common, there are cases in which
it becomes necessary to protect the individuals who, through no fault of their
own, are the data-driven exceptions. At the same time, it is impossible to
scrutinize every one of the increasing number of data-driven decisions, begging
the question: When and how should data-driven exceptions be protected?
In this piece, we argue that individuals have the right to be an exception to
a data-driven rule. That is, the presumption should not be that a data-driven
rule--even one with high accuracy--is suitable for an arbitrary
decision-subject of interest. Rather, a decision-maker should apply the rule
only if they have exercised due care and due diligence (relative to the risk of
harm) in excluding the possibility that the decision-subject is an exception to
the data-driven rule. In some cases, the risk of harm may be so low that only
cursory consideration is required. Although applying due care and due diligence
is meaningful in human-driven decision contexts, it is unclear what it means
for a data-driven rule to do so. We propose that determining whether a
data-driven rule is suitable for a given decision-subject requires the
consideration of three factors: individualization, uncertainty, and harm. We
unpack this right in detail, providing a framework for assessing data-driven
rules and describing what it would mean to invoke the right in practice.
- Abstract（参考訳）: データ駆動ツールは、一連の意思決定にますます使われている。
彼らは、求職者が面接する雇用者、保釈を許可する被告人、住宅所有者にローンを与える貸し手などについて助言し始めている。
このような設定では、異なるデータ駆動ルールが異なる決定をもたらす。
問題は、すべてのデータ駆動ルールには例外があります。
データ駆動のルールは、ある場合には適切かもしれないが、すべてには適切ではないかもしれない。
データ駆動の意思決定がより一般的になるにつれて、データ駆動の例外を犯さない個人を保護する必要があるケースもある。
同時に、データ駆動型例外をいつ、どのように保護すべきかという疑問を投げかけながら、データ駆動型決定の数が増加するすべての回数を精査することは不可能である。
この記事では、個人はデータ駆動ルールの例外となる権利があると主張している。
つまり、データ駆動型ルールは、高い精度のルールであっても、任意の決定対象の関心事に適している、という前提にはならない。
むしろ、意思決定者は、決定対象がデータ駆動ルールの例外である可能性を排除して、デューケアとデューディリジェンス(害のリスクに関連する)を行使した場合に限り、ルールを適用するべきである。
場合によっては、危害のリスクが非常に低いため、カーソル的な考慮が必要な場合もある。
デュケアとデューディリジェンスを適用することは、人間主導の意思決定コンテキストにおいて意味があるが、データ駆動型ルールがそれを行う意味は明らかではない。
決定対象にデータ駆動型ルールが適切かどうかを決定するには、個人化、不確実性、害の3つの要因を考慮する必要がある。
私たちはこれを詳細に解き放ち、データ駆動のルールを評価し、実際に正しいルールを呼び出すことの意味を説明するためのフレームワークを提供します。
関連論文リスト
- Properties of Effective Information Anonymity Regulations [6.8322083925948185]
我々は匿名化規則と関連する規則に関する一連の技術的要件を策定する。
例として、EUの一般データ保護規則(General Data Protection Regulation)からの規制要件の競合する解釈を評価します。
論文 参考訳（メタデータ） (2024-08-27T02:34:41Z) - Legally Binding but Unfair? Towards Assessing Fairness of Privacy Policies [0.0]
プライバシーポリシーは、データ保護の権利についてデータ被験者に通知し、データ管理の実践を説明することが期待されている。
これは、プライバシーポリシーが公正な方法で書かれており、例えば、分極項を使用しない、特定の教育を必要としない、あるいは特定の社会的背景を仮定しない、といったことを意味している。
我々は,基本的法的資料と公正性研究から,情報的公正性,表現的公正性,倫理的・道徳性がプライバシポリシにどのように関係しているかを識別する。
テキスト統計,言語学的手法,人工知能に基づいて,これらの公平度次元におけるポリシーを自動評価するオプションを提案する。
論文 参考訳（メタデータ） (2024-03-12T22:53:32Z) - The Impact of Differential Feature Under-reporting on Algorithmic Fairness [86.275300739926]
解析的に抽出可能な差分特徴のアンダーレポーティングモデルを提案する。
そして、この種のデータバイアスがアルゴリズムの公正性に与える影響を特徴づける。
我々の結果は、実世界のデータ設定では、アンダーレポートが典型的に格差を増大させることを示している。
論文 参考訳（メタデータ） (2024-01-16T19:16:22Z) - Causal Discovery with Language Models as Imperfect Experts [119.22928856942292]
専門知識を用いて因果グラフの同定を改善する方法について検討する。
整合性に基づく専門家の知識を改良するための戦略を提案する。
本稿では,不完全な専門家として大規模言語モデルを用いる実データを用いたケーススタディについて報告する。
論文 参考訳（メタデータ） (2023-07-05T16:01:38Z) - On the Trade-Off between Actionable Explanations and the Right to be
Forgotten [21.26254644739585]
データ削除要求の文脈におけるリコース無効化の問題について検討する。
トレーニングセットから最大2つのデータインスタンスを削除することで、一般的な最先端アルゴリズムによって出力されるすべてのリコースの最大95%を無効化できることを示す。
論文 参考訳（メタデータ） (2022-08-30T10:35:32Z) - Distributed Machine Learning and the Semblance of Trust [66.1227776348216]
フェデレートラーニング(FL)により、データ所有者はデータを共有することなく、データガバナンスを維持し、モデルトレーニングをローカルで行うことができる。
FLと関連する技術は、しばしばプライバシー保護と表現される。
この用語が適切でない理由を説明し、プライバシの形式的定義を念頭に設計されていないプロトコルに対する過度な信頼に関連するリスクを概説する。
論文 参考訳（メタデータ） (2021-12-21T08:44:05Z) - Comparing decision mining approaches with regard to the meaningfulness
of their results [0.0]
本稿では,3つの決定的マイニング手法,すなわち,既存の2つのアプローチと新たに記述された1つのアプローチを比較し,その意義について述べる。
発見された決定ルールは、意味論と意味論に関して議論される。
論文 参考訳（メタデータ） (2021-09-15T14:43:36Z) - Decision Making with Differential Privacy under a Fairness Lens [65.16089054531395]
アメリカ国勢調査局は、多くの重要な意思決定プロセスの入力として使用される個人のグループに関するデータセットと統計を公表している。
プライバシと機密性要件に従うために、これらの機関は、しばしば、プライバシを保存するバージョンのデータを公開する必要がある。
本稿では,差分的プライベートデータセットのリリースについて検討し,公平性の観点から重要な資源配分タスクに与える影響を考察する。
論文 参考訳（メタデータ） (2021-05-16T21:04:19Z) - Reviving Purpose Limitation and Data Minimisation in Personalisation,
Profiling and Decision-Making Systems [0.0]
本論文では、学際法則とコンピュータサイエンスレンズを通じて、データ駆動システムにおいてデータ最小化と目的制限を有意義に実装できるかどうかを決定する。
分析の結果,この2つの法原則が個人データ処理のリスク軽減に重要な役割を担っていることが明らかとなった。
これらの原則は検討中のシステムにおいて重要なセーフガードであるが、実用的な実装には重要な制限がある。
論文 参考訳（メタデータ） (2021-01-15T16:36:29Z) - Operationalizing the Legal Principle of Data Minimization for
Personalization [64.0027026050706]
データ最小化原理の同質な解釈が欠如していることを認識し、パーソナライゼーションの文脈に適用可能な2つの運用定義を探索する。
データ最小化によるパフォーマンス低下はそれほど大きくないかもしれないが、異なるユーザに影響を与える可能性がある。
論文 参考訳（メタデータ） (2020-05-28T00:43:06Z) - A Philosophy of Data [91.3755431537592]
我々は、統計計算に必要な基本特性から統計データの定義まで研究する。
我々は、有用なデータの必要性は、プロパティを根本的にユニークか等しく理解することを規則化する必要があると論じている。
データとデータ技術への依存度が高まるにつれて、この2つの特徴は現実の集合概念に影響を与えます。
論文 参考訳（メタデータ） (2020-04-15T14:47:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。