論文の概要: "Two Means to an End Goal": Connecting Explainability and Contestability in the Regulation of Public Sector AI

• arxiv url: http://arxiv.org/abs/2504.18236v1
• Date: Fri, 25 Apr 2025 10:34:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-02 19:15:53.740168
• Title: "Two Means to an End Goal": Connecting Explainability and Contestability in the Regulation of Public Sector AI
• Title（参考訳）: 2つの目的:公共部門AIの規制における説明可能性と検証可能性の結びつき
• Authors: Timothée Schmude, Mireia Yurrita, Kars Alfrink, Thomas Le Goff, Tiphaine Viard,
• Abstract要約: 我々は,14の学際的AI規制専門家による半構造化インタビュー研究の結果を報告する。 我々は,説明的・規範的説明可能性,裁判的・非司法的争議チャンネル,個人的・集団的争議行動の区別を提供する。 私たちの貢献には、説明可能性と競争可能性の交差を実証的に基礎づけた概念化が含まれます。
• 参考スコア（独自算出の注目度）: 1.9556736732439064
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Explainability and its emerging counterpart contestability have become important normative and design principles for the trustworthy use of AI as they enable users and subjects to understand and challenge AI decisions. However, the regulation of AI systems spans technical, legal, and organizational dimensions, producing a multiplicity in meaning that complicates the implementation of explainability and contestability. Resolving this conceptual ambiguity requires specifying and comparing the meaning of both principles across regulation dimensions, disciplines, and actors. This process, here defined as translation, is essential to provide guidance on the principles' realization. We present the findings of a semi-structured interview study with 14 interdisciplinary AI regulation experts. We report on the experts' understanding of the intersection between explainability and contestability in public AI regulation, their advice for a decision subject and a public agency in a welfare allocation AI use case, and their perspectives on the connections and gaps within the research landscape. We provide differentiations between descriptive and normative explainability, judicial and non-judicial channels of contestation, and individual and collective contestation action. We further outline three translation processes in the alignment of top-down and bottom-up regulation, the assignment of responsibility for interpreting regulations, and the establishment of interdisciplinary collaboration. Our contributions include an empirically grounded conceptualization of the intersection between explainability and contestability and recommendations on implementing these principles in public institutions. We believe our contributions can inform policy-making and regulation of these core principles and enable more effective and equitable design, development, and deployment of trustworthy public AI systems.
• Abstract（参考訳）: 説明可能性とその競合する競争性は、ユーザと主題がAIの決定を理解し、挑戦できるように、AIの信頼できる使用のための重要な規範と設計原則となっている。 しかし、AIシステムの規制は、技術的、法的、組織的な側面にまたがっており、説明可能性と競争性の実装を複雑にする意味の多重性を生み出している。 この概念の曖昧さを解決するには、規制範囲、規律、アクターにまたがる両方の原則の意味を特定し比較する必要がある。 このプロセスは、ここでは翻訳として定義され、原則の実現に関するガイダンスを提供するのに不可欠である。 我々は,14の学際的AI規制専門家による半構造化インタビュー研究の結果を報告する。 本稿では,公的なAI規制における説明可能性と競争可能性の共通点に対する専門家の理解,福祉割当AI利用事例における意思決定対象と公共機関への助言,研究現場のつながりとギャップに関する視点について報告する。 我々は,説明的・規範的説明可能性,裁判的・非司法的競争チャネル,個人的・集団的競争行動の区別を提供する。 さらに、トップダウン及びボトムアップ規制の整合性、規制の解釈責任の付与、学際協力の確立における3つの翻訳プロセスについて概説する。 我々の貢献には、説明可能性と競争可能性の共通点を実証的に基礎づけた概念化と、これらの原則を公共機関で実施するための勧告が含まれる。 当社のコントリビューションは、これらの中核原則の政策決定と規制を通知し、より効果的で公平な設計、開発、信頼性の高い公開AIシステムのデプロイを可能にします。

関連論文リスト

• Media and responsible AI governance: a game-theoretic and LLM analysis [61.132523071109354]
  本稿では,信頼できるAIシステムを育成する上での,AI開発者,規制当局,ユーザ,メディア間の相互作用について検討する。 進化的ゲーム理論と大言語モデル(LLM)を用いて、異なる規制体制下でこれらのアクター間の戦略的相互作用をモデル化する。
  論文  参考訳（メタデータ） (2025-03-12T21:39:38Z)
• AI and the Transformation of Accountability and Discretion in Urban Governance [1.9152655229960793]
  この研究は洞察を合成し、意思決定プロセスにおける責任あるAI統合のための指針原則を提案する。 分析によると、AIは単に判断を制限したり、強化したりするのではなく、制度レベルで再配布する。 同時に管理の監督を強化し、意思決定の整合性を高め、運用効率を向上させることができる。
  論文  参考訳（メタデータ） (2025-02-18T18:11:39Z)
• The explanation dialogues: an expert focus study to understand requirements towards explanations within the GDPR [47.06917254695738]
  我々は、XAIに対する法的専門家や実践者の期待、推論、理解を明らかにするための専門的な研究である説明対話(Explaination Dialogues)を提示する。 調査はオンラインアンケートとフォローアップインタビューで構成されており、クレジットドメインのユースケースを中心に行われている。 提示された説明は、情報を理解して欠くことは困難であり、データコントローラと主題の異なる関心事から生じる問題について議論する。
  論文  参考訳（メタデータ） (2025-01-09T15:50:02Z)
• The Artificial Intelligence Act: critical overview [0.0]
  この記事では、最近承認された人工知能法を概観する。 これはまず、2024/1689年のEU(Regulation)の主要な構造、目的、アプローチを示すことから始まる。 テキストは、全体的なフレームワークが適切かつバランスが取れたとしても、アプローチは非常に複雑であり、それ自体の目的を損なうリスクがある、と結論付けている。
  論文  参考訳（メタデータ） (2024-08-30T21:38:02Z)
• Disciplining Deliberation: A Sociotechnical Perspective on Machine Learning Trade-offs [0.0]
  人工知能における2つの顕著なトレードオフは、予測精度と公正性、予測精度と解釈可能性の間のものである。 一般的な解釈では、これらの形式的なトレードオフは、根底にある社会的価値の間の緊張と直接的に対応していると見なされている。 トレードオフの価値を検証するための社会技術的アプローチを紹介します。
  論文  参考訳（メタデータ） (2024-03-07T05:03:18Z)
• Towards Responsible AI in Banking: Addressing Bias for Fair Decision-Making [69.44075077934914]
  責任AI(Responsible AI)は、企業文化の発展におけるバイアスに対処する重要な性質を強調している。 この論文は、バイアスを理解すること、バイアスを緩和すること、バイアスを説明することの3つの基本的な柱に基づいて構成されている。 オープンソースの原則に従って、アクセス可能なPythonパッケージとして、Bias On DemandとFairViewをリリースしました。
  論文  参考訳（メタデータ） (2024-01-13T14:07:09Z)
• Report of the 1st Workshop on Generative AI and Law [78.62063815165968]
  本報告では、生成AIと法に関する第1回ワークショップ(GenLaw)の開催状況について述べる。 コンピュータサイエンスと法学の実践者や学者の学際的なグループが集まり、ジェネレーティブAI法がもたらす技術的、教義的、政策上の課題について議論した。
  論文  参考訳（メタデータ） (2023-11-11T04:13:37Z)
• Stronger Together: on the Articulation of Ethical Charters, Legal Tools, and Technical Documentation in ML [5.433040083728602]
  AIシステムの背後にいる人々の説明責任の必要性は、倫理、法、コンピュータサイエンスの3つの分野のプロセスを活用することで解決することができる。 まず、倫理、法律、技術分野におけるコンプライアンスの概念を対比する。 次に、フィールド間のシナジーを明確にする上での値の役割に焦点をあてる。
  論文  参考訳（メタデータ） (2023-05-09T15:35:31Z)
• Explainability in AI Policies: A Critical Review of Communications, Reports, Regulations, and Standards in the EU, US, and UK [1.5039745292757671]
  我々は、EU、米国、英国における説明可能性に関する政策と標準に関する最初のテーマとギャップの分析を行う。 政策は、しばしば説明のための粗い概念と要求によって知らされる。 本稿では,AIシステムの規則における説明可能性への対処法を提案する。
  論文  参考訳（メタデータ） (2023-04-20T07:53:07Z)
• On the Need and Applicability of Causality for Fairness: A Unified Framework for AI Auditing and Legal Analysis [0.0]
  アルゴリズム的差別に対処する上での因果推論の重要性について考察する。 ランドマークの事例と規制の枠組みをレビューすることで、原因的主張の証明に固有の課題を説明する。
  論文  参考訳（メタデータ） (2022-07-08T10:37:22Z)
• Fairness in Agreement With European Values: An Interdisciplinary Perspective on AI Regulation [61.77881142275982]
  この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。 私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。 我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
  論文  参考訳（メタデータ） (2022-06-08T12:32:08Z)
• Transparency, Compliance, And Contestability When Code Is(n't) Law [91.85674537754346]
  技術的なセキュリティ機構と法的なプロセスの両方が、一連の規範に従って誤った行動を扱うメカニズムとして機能する。 彼らは一般的な類似点を共有しているが、どう定義されているか、行動し、被験者に与える影響にも明確な違いがある。 本稿では,両機構の類似点と相違点を,誤動作の対処方法として考察する。
  論文  参考訳（メタデータ） (2022-05-08T18:03:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。