論文の概要: Algorithmic Assistance with Recommendation-Dependent Preferences

• arxiv url: http://arxiv.org/abs/2208.07626v1
• Date: Tue, 16 Aug 2022 09:24:47 GMT
• ステータス: 処理完了
• システム内更新日: 2022-08-17 13:05:11.570075
• Title: Algorithmic Assistance with Recommendation-Dependent Preferences
• Title（参考訳）: Recommendation-Dependent Preferenceによるアルゴリズム支援
• Authors: Bryce McLaughlin and Jann Spiess
• Abstract要約: 我々は、信念を変えるだけでなく、好みを変えることによって、選択に影響を与える場合のレコメンデーションの効果と設計を考察する。 我々は、レコメンデーションに依存した選好が、意思決定者がレコメンデーションに過度に反応する非効率性を生み出すことを示す。 潜在的な対策として、戦略的にレコメンデーションを控えたアルゴリズムについて議論し、最終決定の質をいかに改善できるかを示す。
• 参考スコア（独自算出の注目度）: 10.66048003460524
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: When we use algorithms to produce recommendations, we typically think of these recommendations as providing helpful information, such as when risk assessments are presented to judges or doctors. But when a decision-maker obtains a recommendation, they may not only react to the information. The decision-maker may view the recommendation as a default action, making it costly for them to deviate, for example when a judge is reluctant to overrule a high-risk assessment of a defendant or a doctor fears the consequences of deviating from recommended procedures. In this article, we consider the effect and design of recommendations when they affect choices not just by shifting beliefs, but also by altering preferences. We motivate our model from institutional factors, such as a desire to avoid audits, as well as from well-established models in behavioral science that predict loss aversion relative to a reference point, which here is set by the algorithm. We show that recommendation-dependent preferences create inefficiencies where the decision-maker is overly responsive to the recommendation, which changes the optimal design of the algorithm towards providing less conservative recommendations. As a potential remedy, we discuss an algorithm that strategically withholds recommendations, and show how it can improve the quality of final decisions.
• Abstract（参考訳）: アルゴリズムを使ってレコメンデーションを作成する場合、一般的にこれらのレコメンデーションは、裁判官や医師にリスクアセスメントが提示された場合など、有益な情報を提供するものだと考えています。 しかし、意思決定者がレコメンデーションを得た場合、その情報に反応するだけではないかもしれない。 決定者は、この勧告をデフォルトの行動と見なすことができ、例えば、裁判官が被告又は医師のリスクの高い評価を過度に拒否する場合には、推奨手続から逸脱する結果を恐れる。 本稿では,信念の転換だけでなく,好みの変更によっても選択に影響を及ぼすレコメンデーションの効果と設計について考察する。 監査を回避したいという願望や、このアルゴリズムが設定する参照点に対する損失回避を予測する行動科学の確立したモデルから、私たちのモデルを動機付けます。 提案手法は, アルゴリズムの最適設計を保守的でない推奨へと変えるため, 意思決定者が推奨に過度に反応する非効率性を生み出す。 潜在的な改善策として,戦略的にレコメンデーションを保留するアルゴリズムを議論し,最終決定の質をいかに改善できるかを示す。

関連論文リスト

• Integrating Expert Judgment and Algorithmic Decision Making: An Indistinguishability Framework [12.967730957018688]
  予測と意思決定タスクにおける人間とAIの協調のための新しい枠組みを導入する。 我々の手法は人間の判断を利用して、アルゴリズム的に区別できない入力を区別する。
  論文  参考訳（メタデータ） (2024-10-11T13:03:53Z)
• Designing Algorithmic Recommendations to Achieve Human-AI Complementarity [2.4247752614854203]
  人間の意思決定を支援するレコメンデーションアルゴリズムの設計を形式化する。 我々は、潜在的なアウトカムフレームワークを使用して、ヒトの意思決定者による二元的治療選択に対するレコメンデーションの効果をモデル化する。 機械学習で実装可能な最小限の推奨アルゴリズムを導出する。
  論文  参考訳（メタデータ） (2024-05-02T17:15:30Z)
• Does AI help humans make better decisions? A statistical evaluation framework for experimental and observational studies [0.43981305860983716]
  我々は、人間とAI、AIの3つの代替意思決定システムのパフォーマンスを比較する方法を示す。 リスクアセスメントの勧告は、現金保釈を課す裁判官の決定の分類精度を向上しないことがわかった。
  論文  参考訳（メタデータ） (2024-03-18T01:04:52Z)
• Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
  確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。 本手法は, 精度の高い問題に特に適している。 提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
  論文  参考訳（メタデータ） (2023-11-08T00:10:21Z)
• Online Decision Mediation [72.80902932543474]
  意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。 臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
  論文  参考訳（メタデータ） (2023-10-28T05:59:43Z)
• Doubting AI Predictions: Influence-Driven Second Opinion Recommendation [92.30805227803688]
  我々は,補完的な意見を提供する可能性のある専門家を識別する,共通の組織的実践に基づいて,人間とAIのコラボレーションを強化する方法を提案する。 提案手法は、一部の専門家がアルゴリズムによる評価に異を唱えるかどうかを特定することによって、生産的な不一致を活用することを目的としている。
  論文  参考訳（メタデータ） (2022-04-29T20:35:07Z)
• Inverse Online Learning: Understanding Non-Stationary and Reactionary Policies [79.60322329952453]
  エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。 一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。 本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。 UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
  論文  参考訳（メタデータ） (2022-03-14T17:40:42Z)
• Bayesian Persuasion for Algorithmic Recourse [28.586165301962485]
  いくつかの状況では、根底にある予測モデルはゲームを避け、競争上の優位性を維持するために意図的に秘密にされている。 我々はベイズ的説得のゲームのような設定を捉え、意思決定者は、例えばアクションレコメンデーションのようなシグナルを、望ましい行動を取るためのインセンティブを与える決定対象に送信する。 本稿では,最適化問題として最適なベイズ的インセンティブ互換(BIC)行動推薦ポリシーを見出すという意思決定者の問題を定式化し,線形プログラムを用いて解を特徴づける。
  論文  参考訳（メタデータ） (2021-12-12T17:18:54Z)
• Confidence-Budget Matching for Sequential Budgeted Learning [69.77435313099366]
  問合せ予算で意思決定問題を定式化する。 我々は,多腕バンディット,線形バンディット,強化学習問題を考察する。 我々は,CBMに基づくアルゴリズムが逆性の存在下で良好に動作することを示す。
  論文  参考訳（メタデータ） (2021-02-05T19:56:31Z)
• A Case for Humans-in-the-Loop: Decisions in the Presence of Erroneous Algorithmic Scores [85.12096045419686]
  本研究では,児童虐待のホットラインスクリーニング決定を支援するアルゴリズムツールの採用について検討した。 まず、ツールがデプロイされたときに人間が行動を変えることを示します。 表示されたスコアが誤ったリスク推定である場合、人間はマシンの推奨に従わない可能性が低いことを示す。
  論文  参考訳（メタデータ） (2020-02-19T07:27:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。