論文の概要: Ethics-Based Auditing of Automated Decision-Making Systems: Nature,
Scope, and Limitations
- arxiv url: http://arxiv.org/abs/2110.10980v1
- Date: Thu, 21 Oct 2021 08:51:28 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-10 21:49:47.191140
- Title: Ethics-Based Auditing of Automated Decision-Making Systems: Nature,
Scope, and Limitations
- Title(参考訳): 倫理に基づく自動意思決定システムの監査 : 自然, 範囲, 限界
- Authors: Jakob Mokander, Jessica Morley, Mariarosaria Taddeo and Luciano
Floridi
- Abstract要約: タスクを自動意思決定システム(ADMS)に委譲することは、効率を改善し、新しいソリューションを可能にする。
例えば、ADMSは差別的な結果を生み出し、個人のプライバシーを侵害し、人間の自己決定を損なう可能性がある。
したがって、倫理的な方法でADMSを設計し、デプロイするのに役立つ新しいガバナンスメカニズムが必要である。
- 参考スコア(独自算出の注目度): 1.2599533416395765
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Important decisions that impact human lives, livelihoods, and the natural
environment are increasingly being automated. Delegating tasks to so-called
automated decision-making systems (ADMS) can improve efficiency and enable new
solutions. However, these benefits are coupled with ethical challenges. For
example, ADMS may produce discriminatory outcomes, violate individual privacy,
and undermine human self-determination. New governance mechanisms are thus
needed that help organisations design and deploy ADMS in ways that are ethical,
while enabling society to reap the full economic and social benefits of
automation. In this article, we consider the feasibility and efficacy of
ethics-based auditing (EBA) as a governance mechanism that allows organisations
to validate claims made about their ADMS. Building on previous work, we define
EBA as a structured process whereby an entity's present or past behaviour is
assessed for consistency with relevant principles or norms. We then offer three
contributions to the existing literature. First, we provide a theoretical
explanation of how EBA can contribute to good governance by promoting
procedural regularity and transparency. Second, we propose seven criteria for
how to design and implement EBA procedures successfully. Third, we identify and
discuss the conceptual, technical, social, economic, organisational, and
institutional constraints associated with EBA. We conclude that EBA should be
considered an integral component of multifaced approaches to managing the
ethical risks posed by ADMS.
- Abstract(参考訳): 人間の生活、生活、そして自然環境に影響を与える重要な決定は、ますます自動化されている。
タスクをいわゆる自動意思決定システム(ADMS)に委譲することは、効率を改善し、新しいソリューションを可能にする。
しかし、これらの利点は倫理的な課題と組み合わさっている。
例えば、ADMSは差別的な結果を生み出し、個人のプライバシーを侵害し、人間の自己決定を損なう可能性がある。
したがって、組織がADMSを倫理的な方法で設計・展開し、社会が自動化の完全な経済的・社会的利益を享受できるようにするための新しいガバナンスメカニズムが必要である。
本稿では、倫理ベースの監査(EBA)の実現可能性と有効性について、組織がADMSに関する主張を検証できるガバナンスメカニズムとして検討する。
従来の作業に基づいて、ebaを、エンティティの現在または過去の振る舞いが関連する原則や規範との一貫性のために評価される構造化プロセスと定義します。
そして、既存の文献に3つの貢献をする。
まず、手続き的規則性と透明性を促進することによって、EBAが優れたガバナンスにどのように貢献できるかを理論的に説明する。
第2に,eba手順の設計と実装を成功させるための7つの基準を提案する。
第3に,ebaに関連する概念的,技術的,社会的,経済的,組織的,制度的制約を特定し,議論する。
我々は、ADMSがもたらす倫理的リスクを管理するために、EBAは多面的アプローチの不可欠な要素であるべきだと結論付けている。
関連論文リスト
- Ethical and Scalable Automation: A Governance and Compliance Framework for Business Applications [0.0]
本稿では、AIが倫理的で、制御可能で、実行可能で、望ましいものであることを保証するフレームワークを紹介する。
異なるケーススタディは、学術と実践の両方の環境でAIを統合することで、このフレームワークを検証する。
論文 参考訳(メタデータ) (2024-09-25T12:39:28Z) - Operationalising AI governance through ethics-based auditing: An industry case study [0.0]
倫理に基づく監査(EBA、Ethics Based auditing)とは、過去の行動や現在の行動が道徳的原則や規範との整合性について評価される、構造化されたプロセスである。
この記事では、EBAの手続きを、実現可能かつ効果的に統合する必要がある組織的状況について、詳細な説明を提供する。
論文 参考訳(メタデータ) (2024-07-07T12:22:38Z) - The Foundations of Computational Management: A Systematic Approach to
Task Automation for the Integration of Artificial Intelligence into Existing
Workflows [55.2480439325792]
本稿では,タスク自動化の体系的アプローチである計算管理を紹介する。
この記事では、ワークフロー内でAIを実装するプロセスを開始するための、ステップバイステップの手順を3つ紹介する。
論文 参考訳(メタデータ) (2024-02-07T01:45:14Z) - Towards Responsible AI in Banking: Addressing Bias for Fair
Decision-Making [69.44075077934914]
責任AI(Responsible AI)は、企業文化の発展におけるバイアスに対処する重要な性質を強調している。
この論文は、バイアスを理解すること、バイアスを緩和すること、バイアスを説明することの3つの基本的な柱に基づいて構成されている。
オープンソースの原則に従って、アクセス可能なPythonパッケージとして、Bias On DemandとFairViewをリリースしました。
論文 参考訳(メタデータ) (2024-01-13T14:07:09Z) - Causal Fairness for Outcome Control [68.12191782657437]
本稿では,自動システムにおいて,公平かつ公平な結果変数を最適化することを目的とした,結果制御と呼ばれる特定の意思決定タスクについて検討する。
本稿では、まず因果レンズを通して利益の概念を分析し、特定の個人が肯定的な決定によってどれだけの利益を得られるかを明らかにする。
次に、保護された属性の影響を受けている可能性があることに留意し、これを分析するために使用できる因果的ツールを提案する。
論文 参考訳(メタデータ) (2023-06-08T09:31:18Z) - Fairness in Agreement With European Values: An Interdisciplinary
Perspective on AI Regulation [61.77881142275982]
この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。
私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。
我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
論文 参考訳(メタデータ) (2022-06-08T12:32:08Z) - Ethics-Based Auditing of Automated Decision-Making Systems: Intervention
Points and Policy Implications [0.0]
本稿では,倫理に基づく監査(EBA)の実施が実現可能かつ効果的である状況について概説する。
我々はADMSを、より大規模な社会技術システムの一部とみなし、実現可能かつ効果的であるためには、EBAの手続きが介入ポイントにリンクする必要があることを実証する。
論文 参考訳(メタデータ) (2021-11-08T10:57:26Z) - Ethics-Based Auditing to Develop Trustworthy AI [0.0]
倫理に基づく監査は、意思決定の質の向上、ユーザの満足度の向上、成長可能性の解放、法律作成の有効化、人間の苦悩の緩和を可能にすると論じる。
倫理に基づく監査は、継続的かつ建設的なプロセスの形をとり、システムの観点から倫理的なアライメントにアプローチし、倫理的に望ましい行動のための公共政策とインセンティブに整合する必要があります。
論文 参考訳(メタデータ) (2021-04-30T11:39:40Z) - Enhanced well-being assessment as basis for the practical implementation
of ethical and rights-based normative principles for AI [0.0]
本稿では,自律・知能システムを対象とした健康影響評価フレームワークの実用化について述べる。
このプロセスは、AIシステムの影響を理解するための、人間中心のアルゴリズム支援アプローチを可能にする。
論文 参考訳(メタデータ) (2020-07-29T13:26:05Z) - Hacia los Comit\'es de \'Etica en Inteligencia Artificial [68.8204255655161]
以下のルールを監督できるルールと専門組織を作成することが最優先である。
この研究は、大学において、人工知能に特化した倫理委員会や委員会を創設することを提案する。
論文 参考訳(メタデータ) (2020-02-11T23:48:31Z) - Learning from Learning Machines: Optimisation, Rules, and Social Norms [91.3755431537592]
経済的な実体の行動に最も類似したAIの領域は道徳的に良い意思決定の領域であるようだ。
近年のAIにおけるディープラーニングの成功は、そのような問題を解決するための明示的な仕様よりも暗黙的な仕様の方が優れていることを示唆している。
論文 参考訳(メタデータ) (2019-12-29T17:42:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。