論文の概要: Explainable AI Isn't Enough! Rethinking Algorithmic Contestability

• arxiv url: http://arxiv.org/abs/2605.16041v1
• Date: Fri, 15 May 2026 15:14:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-18 21:22:26.331335
• Title: Explainable AI Isn't Enough! Rethinking Algorithmic Contestability
• Title（参考訳）: 説明可能なAIは十分ではない!アルゴリズムの矛盾を再考する
• Authors: Timo Freiesleben, Kristof Meding, Gunnar König,
• Abstract要約: 本稿では,会話の自然な補完として,競争可能性の運用的定義を提案する。 我々は,意思決定者の倫理基準に従って,逆転を保証している3種類の証拠を同定する。 これらの決定は規範的に無防備であり、競争に成功している、と我々は主張する。
• 参考スコア（独自算出の注目度）: 3.135152720206845
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine learning systems increasingly make life-changing decisions about individuals, such as loan approvals, hiring, and cheating detection, raising a pressing question: how can individuals respond to negative decisions made by these opaque systems? While explainable artificial intelligence (XAI) has largely focused on algorithmic recourse -- helping individuals change their features to obtain a desired outcome -- the parallel problem of algorithmic contestability -- helping individuals review and correct erroneous algorithmic decisions -- has received far less attention, despite its central ethical and legal importance. We trace this neglect to the absence of clear formal definitions and a systematic operationalization of contestability as an algorithmic problem. To address it, we propose an operational definition of contestability as a natural complement to recourse: contestability starts from the presumption that a decision may be incorrect and focuses on identifying evidence to challenge and potentially overturn it, whereas recourse assumes the decision is valid and instead provides pathways for changing it. We show that standard XAI explanations, such as counterfactuals, LIME, or Anchors, even when combined with human intuitions about decision continuity or monotonicity, reveal only errors in the neighborhood of the individual, but provide insufficient grounds for overturning the decision at hand. Going thus beyond traditional XAI, we identify three types of evidence warranting reversal according to the decision maker's own ethical standards: predictive multiplicity, incorrect feature values, and neglected overruling evidence. We argue that these render decisions normatively indefensible and thus successfully contestable. Finally, we analyze how existing EU legislation connects to our framework and argue that individuals already hold some legal rights to these forms of evidence.
• Abstract（参考訳）: 機械学習システムは、ローンの承認、雇用、不正検出といった個人に関する人生を変える決定をますます行っています。 説明可能な人工知能(XAI)は、主にアルゴリズムのリコース – 個人が望ましい結果を得るために機能を変更するのを助ける – アルゴリズムの競合性の並列的な問題 – に焦点を当てているが、その中心的な倫理的および法的重要性にもかかわらず、個人が誤ったアルゴリズム決定をレビューし修正するのを助ける — には、はるかに注意が向けられている。 このことは、明確な形式的定義の欠如と、アルゴリズム的な問題としての競争可能性の体系的な運用化に遡る。 そこで,本論文では,提案する課題の解決方法として,決定が正しくないという前提から解答可能性の定義を提案し,その決定が妥当であると仮定し,その変更の道筋を提示する。 決定の連続性や単調性に関する人間の直観と組み合わせても、反事実、LIME、アンカーなどの標準的なXAI説明は、個人の近所の誤りのみを明らかにするが、手元で決定を覆すには不十分な根拠を提供する。 そこで、従来のXAIを超えて、意思決定者自身の倫理基準に従って、逆転を保証している3つの証拠を識別する:予測的多重性、不正確な特徴値、過度の証拠を無視する。 これらの決定は規範的に無防備であり、競争に成功している、と我々は主張する。 最後に、我々は既存のEU法が我々の枠組みとどのように結びついているかを分析し、個人がすでにこうした証拠に法的権利を持っていると主張している。

関連論文リスト

• Learning the Boundary of Solvability: Aligning LLMs to Detect Unsolvable Problems [51.62477754641947]
  本研究では,実現可能な問題を解き,固有の矛盾を検知し,能力を超えたタスクを慎重に拒否するUnsolvableQAとUnsolvableRLを提案する。 具体的には、双トラック手法を用いて導出される、ペアで解決可能かつ解決不可能なインスタンスのデータセットであるUnsolvableQAを構築する。 このデータセット上に構築されたUnsolvableRLは,精度,未解決性,難易度を考慮した3つの報酬成分を備えた強化学習フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T13:32:59Z)
• Am I Being Treated Fairly? A Conceptual Framework for Individuals to Ascertain Fairness [0.7783262415147651]
  我々は、自動意思決定(ADM)システムの特性として、公正性の改善を論じる。 本稿では,ADMシステムのエンドユーザーを支援する様々なツールを組み合わせることにより,公正性を確認するための概念的枠組みを提案する。
  論文  参考訳（メタデータ） (2025-04-03T10:28:19Z)
• Teaching AI to Handle Exceptions: Supervised Fine-Tuning with Human-Aligned Judgment [0.0]
  大規模言語モデル(LLM)はエージェントAIシステムへと進化している。 推論に優れるLCMでさえ、政策に厳格に従うため、人間の判断から大きく逸脱していることを示す。 次に、例外を処理するためにAIエージェントをチューニングするための3つのアプローチを評価する。
  論文  参考訳（メタデータ） (2025-03-04T20:00:37Z)
• Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
  我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。 学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。 トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
  論文  参考訳（メタデータ） (2024-07-03T15:38:57Z)
• Online Decision Mediation [72.80902932543474]
  意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。 臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
  論文  参考訳（メタデータ） (2023-10-28T05:59:43Z)
• Causal Fairness Analysis [68.12191782657437]
  意思決定設定における公平性の問題を理解し、モデル化し、潜在的に解決するためのフレームワークを導入します。 我々のアプローチの主な洞察は、観測データに存在する格差の定量化と、基礎となる、しばしば観測されていない、因果的なメカニズムの収集を結びつけることである。 本研究は,文献中の異なる基準間の関係を整理し,説明するための最初の体系的試みであるフェアネスマップにおいて,本研究の成果を左右するものである。
  論文  参考訳（メタデータ） (2022-07-23T01:06:34Z)
• The Conflict Between Explainable and Accountable Decision-Making Algorithms [10.64167691614925]
  意思決定アルゴリズムは、誰が医療プログラムに登録され、雇用されるべきかといった重要な決定に使われています。 XAIイニシアチブは、法的要件に準拠し、信頼を促進し、説明責任を維持するために、アルゴリズムを説明可能にすることを目的としている。 本稿では,自律型AIシステムによって引き起こされる責任問題の解決に,説明可能性がどの程度役立つのかを問う。
  論文  参考訳（メタデータ） (2022-05-11T07:19:28Z)
• Inverse Online Learning: Understanding Non-Stationary and Reactionary Policies [79.60322329952453]
  エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。 一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。 本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。 UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
  論文  参考訳（メタデータ） (2022-03-14T17:40:42Z)
• Legal perspective on possible fairness measures - A legal discussion using the example of hiring decisions (preprint) [0.0]
  雇用決定の特定の適用に適用可能な、さまざまな公正の概念を説明します。 本研究は,それぞれの公正解釈について,その長所と短所を分析し,法的観点から評価する。
  論文  参考訳（メタデータ） (2021-08-16T06:41:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。