論文の概要: Incentives to Offer Algorithmic Recourse
- arxiv url: http://arxiv.org/abs/2301.12884v1
- Date: Fri, 27 Jan 2023 00:27:36 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-31 14:42:19.964384
- Title: Incentives to Offer Algorithmic Recourse
- Title（参考訳）: アルゴリズム的リコースを提供するインセンティブ
- Authors: Matthew Olckers, Toby Walsh
- Abstract要約: 我々は、意思決定者に対して、一連の応募者にレコメンデーションを提供するインセンティブを分析します。
意思決定者は、極端な場合、すべての応募者に対してのみレコメンデーションを提供する。
一部の応募者は、意思決定者がリコースを提示できる場合、さらに悪化する可能性がある。
- 参考スコア（独自算出の注目度）: 17.68987003293372
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Due to the importance of artificial intelligence (AI) in a variety of
high-stakes decisions, such as loan approval, job hiring, and criminal bail,
researchers in Explainable AI (XAI) have developed algorithms to provide users
with recourse for an unfavorable outcome. We analyze the incentives for a
decision-maker to offer recourse to a set of applicants. Does the
decision-maker have the incentive to offer recourse to all rejected applicants?
We show that the decision-maker only offers recourse to all applicants in
extreme cases, such as when the recourse process is impossible to manipulate.
Some applicants may be worse off when the decision-maker can offer recourse.
- Abstract（参考訳）: ローンの承認、雇用、犯罪救済など、さまざまな高度な意思決定における人工知能(AI)の重要性から、Explainable AI(XAI)の研究者たちは、ユーザに好ましくない結果を提供するアルゴリズムを開発した。
意思決定者が応募者に対してリアクションを行うためのインセンティブを分析する。
意思決定者は、拒絶されたすべての応募者にリアクションを提供するインセンティブを持っていますか?
意思決定者は,リコースプロセスが操作できない場合など,極端な場合において,すべての出願者にのみリコースを提供する。
一部の応募者は、意思決定者がリコースを提示できる場合、さらに悪化する可能性がある。
関連論文リスト
- Raising the Stakes: Performance Pressure Improves AI-Assisted Decision Making [57.53469908423318]
日常の人が共通のAI支援タスクを完了すると、パフォーマンスプレッシャーがAIアドバイスへの依存に与える影響を示す。
利害関係が高い場合には、AIの説明の有無にかかわらず、利害関係が低い場合よりもAIアドバイスを適切に使用することが分かりました。
論文 参考訳（メタデータ） (2024-10-21T22:39:52Z) - Overcoming Anchoring Bias: The Potential of AI and XAI-based Decision Support [0.0]
情報システム(IS)は、個人の意思決定に影響を与えるバイアスをアンカーする負の効果を利用するように設計されている。
人工知能(AI)の最近の進歩は、偏見のある決定を緩和する新たな機会を開いた。
論文 参考訳（メタデータ） (2024-05-08T11:25:04Z) - Online Decision Mediation [72.80902932543474]
意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。
臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
論文 参考訳（メタデータ） (2023-10-28T05:59:43Z) - Refugee status determination: how cooperation with machine learning
tools can lead to more justice [1.8130068086063336]
難民状況判断に関する以前の研究は、アプリケーションの結果の予測は、極めて少数の特徴を満足のいく精度で導き出すことができることを示した。
この記事では、難民法決定におけるノイズ低減に機械学習が役立つ方法について説明する。
論文 参考訳（メタデータ） (2023-08-22T16:16:27Z) - Explainable AI is Dead, Long Live Explainable AI! Hypothesis-driven
decision support [4.452019519213712]
我々は、現在の説明可能な人工知能(XAI)モデルからのパラダイムシフトを議論する。
早期意思決定支援システムでは、人々に推奨を与え、それらを考慮し、必要なときにそれに従うことができると仮定した。
論文 参考訳（メタデータ） (2023-02-24T01:33:25Z) - Explainable Predictive Decision Mining for Operational Support [0.3232625980782302]
決定マイニングは、プロセスの決定ポイントにおけるプロセスインスタンスのルーティングを記述/予測することを目的としています。
意思決定マイニングの既存のテクニックは、意思決定の記述に重点を置いているが、その予測には重点を置いていない。
提案手法は, SHAP値を用いた予測決定についての説明を行い, 積極的な行動の誘発を支援する。
論文 参考訳（メタデータ） (2022-10-30T09:27:41Z) - Parametrically Retargetable Decision-Makers Tend To Seek Power [91.93765604105025]
完全に観察可能な環境では、ほとんどの報酬関数は、オプションを開いて生き続けることで力を求める最適なポリシーを持つ。
我々は、最適からランダムまで、AI意思決定のモデルから、学習と環境との対話によって得られる選択まで、さまざまなモデルを検討します。
定性的に異なる意思決定手順がエージェントに力を求めるインセンティブを与えることを示す。
論文 参考訳（メタデータ） (2022-06-27T17:39:23Z) - Randomized Classifiers vs Human Decision-Makers: Trustworthy AI May Have
to Act Randomly and Society Seems to Accept This [0.8889304968879161]
我々は、人的決定に似て、人工エージェントの判断は必然的に道徳的な原則に根ざすべきであると感じている。
しかし、意思決定者が真に倫理的(倫理的理論に基づく)かつ公正(公平性の概念による)な決定を行うことができるのは、決定を根拠とするすべての関連する要因に関する完全な情報が意思決定時に利用可能である場合のみである。
論文 参考訳（メタデータ） (2021-11-15T05:39:02Z) - Decision Rule Elicitation for Domain Adaptation [93.02675868486932]
ヒトインザループ機械学習は、専門家からラベルを引き出すために人工知能(AI)で広く使用されています。
この作業では、専門家が意思決定を説明する決定ルールを作成できるようにします。
決定規則の適用はアルゴリズムのドメイン適応を改善し、専門家の知識をAIモデルに広めるのに役立つことを示す。
論文 参考訳（メタデータ） (2021-02-23T08:07:22Z) - Bias in Multimodal AI: Testbed for Fair Automatic Recruitment [73.85525896663371]
異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
我々は、性別や人種の偏りを意識的に評価したマルチモーダルな合成プロファイルを用いて、自動求人アルゴリズムを訓練する。
我々の方法論と結果は、一般により公平なAIベースのツール、特により公平な自動採用システムを生成する方法を示している。
論文 参考訳（メタデータ） (2020-04-15T15:58:05Z) - A Case for Humans-in-the-Loop: Decisions in the Presence of Erroneous
Algorithmic Scores [85.12096045419686]
本研究では,児童虐待のホットラインスクリーニング決定を支援するアルゴリズムツールの採用について検討した。
まず、ツールがデプロイされたときに人間が行動を変えることを示します。
表示されたスコアが誤ったリスク推定である場合、人間はマシンの推奨に従わない可能性が低いことを示す。
論文 参考訳（メタデータ） (2020-02-19T07:27:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。