論文の概要: Ethics-Based Auditing of Automated Decision-Making Systems: Intervention
Points and Policy Implications
- arxiv url: http://arxiv.org/abs/2111.04380v1
- Date: Mon, 8 Nov 2021 10:57:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-08 20:32:49.147248
- Title: Ethics-Based Auditing of Automated Decision-Making Systems: Intervention
Points and Policy Implications
- Title(参考訳): 自動意思決定システムの倫理に基づく監査:介入点と政策含意
- Authors: Jakob Mokander, Maria Axente
- Abstract要約: 本稿では,倫理に基づく監査(EBA)の実施が実現可能かつ効果的である状況について概説する。
我々はADMSを、より大規模な社会技術システムの一部とみなし、実現可能かつ効果的であるためには、EBAの手続きが介入ポイントにリンクする必要があることを実証する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Organisations increasingly use automated decision-making systems (ADMS) to
inform decisions that affect humans and their environment. While the use of
ADMS can improve the accuracy and efficiency of decision-making processes, it
is also coupled with ethical challenges. Unfortunately, the governance
mechanisms currently used to oversee human decision-making often fail when
applied to ADMS. In previous work, we proposed that ethics-based auditing
(EBA), i.e. a structured process by which ADMS are assessed for consistency
with relevant principles or norms, can (a) help organisations verify claims
about their ADMS and (b) provide decision-subjects with justifications for the
outputs produced by ADMS. In this article, we outline the conditions under
which EBA procedures can be feasible and effective in practice. First, we argue
that EBA is best understood as a 'soft' yet 'formal' governance mechanism. This
implies that the main responsibility of auditors should be to spark ethical
deliberation at key intervention points throughout the software development
process and ensure that there is sufficient documentation to respond to
potential inquiries. Second, we frame ADMS as parts of larger socio-technical
systems to demonstrate that to be feasible and effective, EBA procedures must
link to intervention points that span all levels of organisational governance
and all phases of the software lifecycle. The main function of EBA should
therefore be to inform, formalise, assess, and interlink existing governance
structures. Finally, we discuss the policy implications of our findings. To
support the emergence of feasible and effective EBA procedures, policymakers
and regulators could provide standardised reporting formats, facilitate
knowledge exchange, provide guidance on how to resolve normative tensions, and
create an independent body to oversee EBA of ADMS.
- Abstract(参考訳): 組織は、自動意思決定システム(ADMS)を使用して、人間とその環境に影響を与える決定を通知する。
ADMSの使用は意思決定プロセスの正確さと効率を向上させることができるが、倫理的課題とも結びついている。
残念ながら、現在人間の意思決定を監督するために使われているガバナンスメカニズムはADMSに適用されると失敗することが多い。
先行研究では、倫理ベースの監査(eba)、すなわちadmが関連する原則や規範との整合性のために評価される構造化プロセスを提案する。
(a)ADMSとADMSに関する主張の検証を支援する
b)ADMSが生成した出力を正当化した判断対象を提供する。
本稿では,eba手続きが実現可能かつ効果的である条件について概説する。
まず、EBAは'ソフト'で'フォーマル'なガバナンスメカニズムとして最もよく理解されています。
これは、監査人の主な責任は、ソフトウェア開発プロセス全体にわたる主要な介入ポイントで倫理的な議論を引き起こし、潜在的な問い合わせに応答する十分なドキュメントがあることを確実にすることである。
第二に、ADMSをより大きな社会技術システムの一部とみなし、実現可能で効果的であることを示すために、EBAの手続きは、あらゆるレベルの組織的ガバナンスとソフトウェアライフサイクルのすべてのフェーズにまたがる介入ポイントにリンクする必要があります。
EBAの主な機能は、既存のガバナンス構造を通知し、形式化し、評価し、インターリンクすることである。
最後に,我々の発見の政策的意義について論じる。
実行可能かつ効果的なEBA手続きの出現を支援するため、政策立案者や規制当局は標準化された報告形式を提供し、知識交換を促進し、規範的緊張を解決するためのガイダンスを提供し、ADMSのEBAを監督する独立した組織を創出することができた。
関連論文リスト
- RegNLP in Action: Facilitating Compliance Through Automated Information Retrieval and Answer Generation [51.998738311700095]
その長さ、複雑さ、頻繁な更新を特徴とする規制文書は解釈が難しい。
RegNLPは、規制規則と義務のアクセスと解釈を簡素化することを目的とした、多分野のサブフィールドである。
ObliQAデータセットには、Abu Dhabi Global Markets (ADGM) からの27,869の質問が含まれている。
論文 参考訳(メタデータ) (2024-09-09T14:44:19Z) - Operationalising AI governance through ethics-based auditing: An industry case study [0.0]
倫理に基づく監査(EBA、Ethics Based auditing)とは、過去の行動や現在の行動が道徳的原則や規範との整合性について評価される、構造化されたプロセスである。
この記事では、EBAの手続きを、実現可能かつ効果的に統合する必要がある組織的状況について、詳細な説明を提供する。
論文 参考訳(メタデータ) (2024-07-07T12:22:38Z) - The Foundations of Computational Management: A Systematic Approach to
Task Automation for the Integration of Artificial Intelligence into Existing
Workflows [55.2480439325792]
本稿では,タスク自動化の体系的アプローチである計算管理を紹介する。
この記事では、ワークフロー内でAIを実装するプロセスを開始するための、ステップバイステップの手順を3つ紹介する。
論文 参考訳(メタデータ) (2024-02-07T01:45:14Z) - Towards Responsible AI in Banking: Addressing Bias for Fair
Decision-Making [69.44075077934914]
責任AI(Responsible AI)は、企業文化の発展におけるバイアスに対処する重要な性質を強調している。
この論文は、バイアスを理解すること、バイアスを緩和すること、バイアスを説明することの3つの基本的な柱に基づいて構成されている。
オープンソースの原則に従って、アクセス可能なPythonパッケージとして、Bias On DemandとFairViewをリリースしました。
論文 参考訳(メタデータ) (2024-01-13T14:07:09Z) - Accountability in Offline Reinforcement Learning: Explaining Decisions
with a Corpus of Examples [70.84093873437425]
本稿では、オフラインデータセットを決定コーパスとして利用するAOC(Accountable Offline Controller)を紹介する。
AOCはローデータシナリオで効果的に動作し、厳密なオフラインの模倣設定まで拡張でき、保存性と適応性の両方の品質を示す。
シミュレーションおよび実世界の医療シナリオにおいて、AOCのパフォーマンスを評価し、説明責任を維持しながら高いレベルのパフォーマンスでオフライン制御タスクを管理する能力を強調した。
論文 参考訳(メタデータ) (2023-10-11T17:20:32Z) - Rational Decision-Making Agent with Internalized Utility Judgment [91.80700126895927]
大規模言語モデル(LLM)は目覚ましい進歩を示し、従来のNLPアプリケーションを超えて複雑な多段階決定タスクを実行できるエージェントにLLMを開発するための重要な努力を惹きつけている。
本稿では,RadAgentを提案する。このRadAgentは,経験探索とユーティリティ学習を含む反復的なフレームワークを通じて,合理性の発展を促進する。
ToolBenchデータセットの実験結果は、RadAgentがベースラインよりも優れていることを示している。
論文 参考訳(メタデータ) (2023-08-24T03:11:45Z) - Exploring the Relevance of Data Privacy-Enhancing Technologies for AI
Governance Use Cases [1.5293427903448022]
異なるAIガバナンスの目的を情報フローのシステムとして見ることは有用である。
これらの異なるAIガバナンスソリューション間の相互運用性の重要性は明確になる。
論文 参考訳(メタデータ) (2023-03-15T21:56:59Z) - Inverse Online Learning: Understanding Non-Stationary and Reactionary
Policies [79.60322329952453]
エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。
一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。
本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。
UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
論文 参考訳(メタデータ) (2022-03-14T17:40:42Z) - Ethics-Based Auditing of Automated Decision-Making Systems: Nature,
Scope, and Limitations [1.2599533416395765]
タスクを自動意思決定システム(ADMS)に委譲することは、効率を改善し、新しいソリューションを可能にする。
例えば、ADMSは差別的な結果を生み出し、個人のプライバシーを侵害し、人間の自己決定を損なう可能性がある。
したがって、倫理的な方法でADMSを設計し、デプロイするのに役立つ新しいガバナンスメカニズムが必要である。
論文 参考訳(メタデータ) (2021-10-21T08:51:28Z) - Reviewable Automated Decision-Making: A Framework for Accountable
Algorithmic Systems [1.7403133838762448]
本稿では,adm(automated and algorithmic decision-making)のアカウンタビリティ向上のためのフレームワークとして,reviewabilityを提案する。
我々は、ADMを人間と技術の両方の要素を含む社会技術的プロセスであると理解し、決定が下される前に開始し、決定そのものを超えて拡張する。
我々は、人間の意思決定をレビューする行政法のアプローチに基づいたレビュー可能性枠組みは、admに対してより包括的かつ法的に関連のある説明責任の形式を進めるための実用的な方法であると主張する。
論文 参考訳(メタデータ) (2021-01-26T18:15:34Z) - Closing the AI Accountability Gap: Defining an End-to-End Framework for
Internal Algorithmic Auditing [8.155332346712424]
本稿では,人工知能システム開発をエンドツーエンドでサポートするアルゴリズム監査フレームワークを提案する。
提案する監査フレームワークは,大規模人工知能システムの開発と展開において,説明責任のギャップを埋めることを目的としている。
論文 参考訳(メタデータ) (2020-01-03T20:19:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。