論文の概要: Algorithmic Assistance with Recommendation-Dependent Preferences
- arxiv url: http://arxiv.org/abs/2208.07626v2
- Date: Wed, 29 Nov 2023 18:57:23 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-01 04:28:24.757601
- Title: Algorithmic Assistance with Recommendation-Dependent Preferences
- Title（参考訳）: Recommendation-Dependent Preferenceによるアルゴリズム支援
- Authors: Bryce McLaughlin and Jann Spiess
- Abstract要約: 共同意思決定における主エージェントモデルを提案する。
我々は、レコメンデーションに依存した選好が、意思決定者がレコメンデーションに過度に反応する非効率性を生み出すことを示す。
- 参考スコア（独自算出の注目度）: 2.864550757598007
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: When we use algorithms to produce risk assessments, we typically think of
these predictions as providing helpful input to human decisions, such as when
risk scores are presented to judges or doctors. But when a decision-maker
obtains algorithmic assistance, they may not only react to the information. The
decision-maker may view the input of the algorithm as recommending a default
action, making it costly for them to deviate, such as when a judge is reluctant
to overrule a high-risk assessment of a defendant or a doctor fears the
consequences of deviating from recommended procedures. In this article, we
propose a principal-agent model of joint human-machine decision-making. Within
this model, we consider the effect and design of algorithmic recommendations
when they affect choices not just by shifting beliefs, but also by altering
preferences. We motivate this assumption from institutional factors, such as a
desire to avoid audits, as well as from well-established models in behavioral
science that predict loss aversion relative to a reference point, which here is
set by the algorithm. We show that recommendation-dependent preferences create
inefficiencies where the decision-maker is overly responsive to the
recommendation. As a potential remedy, we discuss algorithms that strategically
withhold recommendations, and show how they can improve the quality of final
decisions.
- Abstract（参考訳）: リスクアセスメントにアルゴリズムを使用する場合、一般的にこれらの予測は、裁判官や医師にリスクスコアが提示された場合など、人間の判断に対する有用なインプットを提供するものだと考えています。
しかし、意思決定者がアルゴリズム支援を得た場合、彼らは情報にのみ反応するわけではない。
意思決定者は、アルゴリズムの入力をデフォルトのアクションを推奨していると見なすことができ、例えば、裁判官が被告のリスクの高い評価を覆すのを嫌う場合や、医者が推奨された手続きから逸脱する結果を恐れる場合など、逸脱するコストがかかる。
本稿では,人間-機械共同意思決定のプリンシパルエージェントモデルを提案する。
本モデルでは,信念を変えるだけでなく,好みを変えることによって選択に影響を与えるアルゴリズムレコメンデーションの効果と設計を検討する。
我々は、監査を避けたいという願望のような機関的要因や、このアルゴリズムが設定する参照点に対する損失回避を予測する行動科学の確立されたモデルから、この仮定を動機付けている。
推薦依存の選好は、意思決定者が推薦に過度に反応する非効率性を生み出す。
潜在的な救済策として、戦略的に推奨を控えたアルゴリズムを議論し、最終決定の質をいかに改善できるかを示す。
関連論文リスト
- Integrating Expert Judgment and Algorithmic Decision Making: An Indistinguishability Framework [12.967730957018688]
予測と意思決定タスクにおける人間とAIの協調のための新しい枠組みを導入する。
我々の手法は人間の判断を利用して、アルゴリズム的に区別できない入力を区別する。
論文 参考訳（メタデータ） (2024-10-11T13:03:53Z) - Designing Algorithmic Recommendations to Achieve Human-AI Complementarity [2.4247752614854203]
人間の意思決定を支援するレコメンデーションアルゴリズムの設計を形式化する。
我々は、潜在的なアウトカムフレームワークを使用して、ヒトの意思決定者による二元的治療選択に対するレコメンデーションの効果をモデル化する。
機械学習で実装可能な最小限の推奨アルゴリズムを導出する。
論文 参考訳（メタデータ） (2024-05-02T17:15:30Z) - Does AI help humans make better decisions? A statistical evaluation framework for experimental and observational studies [0.43981305860983716]
我々は、人間とAI、AIの3つの代替意思決定システムのパフォーマンスを比較する方法を示す。
リスクアセスメントの勧告は、現金保釈を課す裁判官の決定の分類精度を向上しないことがわかった。
論文 参考訳（メタデータ） (2024-03-18T01:04:52Z) - Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳（メタデータ） (2023-11-08T00:10:21Z) - Online Decision Mediation [72.80902932543474]
意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。
臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
論文 参考訳（メタデータ） (2023-10-28T05:59:43Z) - Doubting AI Predictions: Influence-Driven Second Opinion Recommendation [92.30805227803688]
我々は,補完的な意見を提供する可能性のある専門家を識別する,共通の組織的実践に基づいて,人間とAIのコラボレーションを強化する方法を提案する。
提案手法は、一部の専門家がアルゴリズムによる評価に異を唱えるかどうかを特定することによって、生産的な不一致を活用することを目的としている。
論文 参考訳（メタデータ） (2022-04-29T20:35:07Z) - Inverse Online Learning: Understanding Non-Stationary and Reactionary
Policies [79.60322329952453]
エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。
一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。
本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。
UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
論文 参考訳（メタデータ） (2022-03-14T17:40:42Z) - Bayesian Persuasion for Algorithmic Recourse [28.586165301962485]
いくつかの状況では、根底にある予測モデルはゲームを避け、競争上の優位性を維持するために意図的に秘密にされている。
我々はベイズ的説得のゲームのような設定を捉え、意思決定者は、例えばアクションレコメンデーションのようなシグナルを、望ましい行動を取るためのインセンティブを与える決定対象に送信する。
本稿では,最適化問題として最適なベイズ的インセンティブ互換(BIC)行動推薦ポリシーを見出すという意思決定者の問題を定式化し,線形プログラムを用いて解を特徴づける。
論文 参考訳（メタデータ） (2021-12-12T17:18:54Z) - Confidence-Budget Matching for Sequential Budgeted Learning [69.77435313099366]
問合せ予算で意思決定問題を定式化する。
我々は,多腕バンディット,線形バンディット,強化学習問題を考察する。
我々は,CBMに基づくアルゴリズムが逆性の存在下で良好に動作することを示す。
論文 参考訳（メタデータ） (2021-02-05T19:56:31Z) - A Case for Humans-in-the-Loop: Decisions in the Presence of Erroneous
Algorithmic Scores [85.12096045419686]
本研究では,児童虐待のホットラインスクリーニング決定を支援するアルゴリズムツールの採用について検討した。
まず、ツールがデプロイされたときに人間が行動を変えることを示します。
表示されたスコアが誤ったリスク推定である場合、人間はマシンの推奨に従わない可能性が低いことを示す。
論文 参考訳（メタデータ） (2020-02-19T07:27:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。