論文の概要: Designing Algorithmic Delegates: The Role of Indistinguishability in Human-AI Handoff

• arxiv url: http://arxiv.org/abs/2506.03102v1
• Date: Tue, 03 Jun 2025 17:36:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-04 21:47:35.893468
• Title: Designing Algorithmic Delegates: The Role of Indistinguishability in Human-AI Handoff
• Title（参考訳）: アルゴリズムデリゲートの設計:AIハンドオフにおける識別不可能性の役割
• Authors: Sophie Greenwood, Karen Levy, Solon Barocas, Hoda Heidari, Jon Kleinberg,
• Abstract要約: 人々はAIエージェントにタスクを委譲する傾向が強まっている。 多くの場合、人間の意思決定者は、直面している意思決定問題の特定の事例の特性に基づいて、AIエージェントに委任するかどうかを選択する。 最適なデリゲートは、最適なアルゴリズムエージェントよりも任意に優れたチームメイトであることが示される。
• 参考スコア（独自算出の注目度）: 9.004254472240177
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As AI technologies improve, people are increasingly willing to delegate tasks to AI agents. In many cases, the human decision-maker chooses whether to delegate to an AI agent based on properties of the specific instance of the decision-making problem they are facing. Since humans typically lack full awareness of all the factors relevant to this choice for a given decision-making instance, they perform a kind of categorization by treating indistinguishable instances -- those that have the same observable features -- as the same. In this paper, we define the problem of designing the optimal algorithmic delegate in the presence of categories. This is an important dimension in the design of algorithms to work with humans, since we show that the optimal delegate can be an arbitrarily better teammate than the optimal standalone algorithmic agent. The solution to this optimal delegation problem is not obvious: we discover that this problem is fundamentally combinatorial, and illustrate the complex relationship between the optimal design and the properties of the decision-making task even in simple settings. Indeed, we show that finding the optimal delegate is computationally hard in general. However, we are able to find efficient algorithms for producing the optimal delegate in several broad cases of the problem, including when the optimal action may be decomposed into functions of features observed by the human and the algorithm. Finally, we run computational experiments to simulate a designer updating an algorithmic delegate over time to be optimized for when it is actually adopted by users, and show that while this process does not recover the optimal delegate in general, the resulting delegate often performs quite well.
• Abstract（参考訳）: AI技術が向上するにつれて、人々はAIエージェントにタスクを委譲する傾向が強まっている。 多くの場合、人間の意思決定者は、直面している意思決定問題の特定の事例の特性に基づいて、AIエージェントに委任するかどうかを選択する。 人間は通常、ある意思決定のインスタンスに対して、この選択に関連するすべての要因を十分に認識していないため、区別できないインスタンス(同じ観測可能な特徴を持つインスタンス)を同じように扱うことで、ある種の分類を行う。 本稿では,カテゴリが存在する場合に最適なアルゴリズムデリゲートを設計する問題を定義する。 これは、最適なデリゲートが最適なスタンドアロンのアルゴリズムエージェントよりも任意に優れたチームメイトであることを示すため、人間と協調するアルゴリズムの設計において重要な次元である。 この最適デリゲート問題の解法は明確ではなく、この問題が基本的に組合せ的であることを発見し、簡単な設定でも最適設計と意思決定タスクの性質の複雑な関係を説明できる。 実際、最適デリゲートの発見は一般に計算が困難であることを示す。 しかし, 最適動作が人間やアルゴリズムによって観察される特徴の関数に分解される場合など, 問題の幅広いケースにおいて, 最適なデリゲートを生成するための効率的なアルゴリズムを見つけることができる。 最後に,ユーザによって実際に採用されている場合,アルゴリズムデリゲートを更新するデザイナをシミュレートする計算実験を行い,このプロセスは一般に最適なデリゲートを回復しないが,結果として得られるデリゲートはよく機能することを示す。

関連論文リスト

• Multi Agent Reinforcement Learning for Sequential Satellite Assignment Problems [5.896440476510869]
  割り当て問題は、エージェントのグループをタスクのグループに割り当てる古典的な最適化問題である。 衛星、電力網、移動ロボットスケジューリングといった現代の多くの応用において、割り当て問題は時間とともに展開される。 この問題にマルチエージェント強化学習を適用し、既知のRL時間グリージーソルバからのブートストラップによる代入値の学習を行う。 我々は,本アルゴリズムが理論的に正当化され,他のアルゴリズムが経験した落とし穴を回避することを実証した。
  論文  参考訳（メタデータ） (2024-12-20T05:10:34Z)
• Designing Algorithmic Recommendations to Achieve Human-AI Complementarity [2.4247752614854203]
  人間の意思決定を支援するレコメンデーションアルゴリズムの設計を形式化する。 我々は、潜在的なアウトカムフレームワークを使用して、ヒトの意思決定者による二元的治療選択に対するレコメンデーションの効果をモデル化する。 機械学習で実装可能な最小限の推奨アルゴリズムを導出する。
  論文  参考訳（メタデータ） (2024-05-02T17:15:30Z)
• Large Language Model-Enhanced Algorithm Selection: Towards Comprehensive Algorithm Representation [27.378185644892984]
  本稿では,Large Language Models (LLM) をアルゴリズム選択に導入する。 LLMはアルゴリズムの構造的・意味的な側面を捉えるだけでなく、文脈的認識とライブラリ機能理解も示している。 選択されたアルゴリズムは、与えられた問題と異なるアルゴリズムの一致度によって決定される。
  論文  参考訳（メタデータ） (2023-11-22T06:23:18Z)
• Should All Proposals be Treated Equally in Object Detection? [110.27485090952385]
  オブジェクト検出器の複雑さと精度のトレードオフは、リソース制約されたビジョンタスクにとって重要な問題である。 検出効率の改善には、提案の不平等な処理に向けて、パラダイムシフトが必要であると仮定されている。 これにより、利用可能な計算予算がより有効になり、同じFLOPSの精度が向上する。
  論文  参考訳（メタデータ） (2022-07-07T18:26:32Z)
• Towards Optimally Efficient Tree Search with Deep Learning [76.64632985696237]
  本稿では,線形モデルから信号整数を推定する古典整数最小二乗問題について検討する。 問題はNPハードであり、信号処理、バイオインフォマティクス、通信、機械学習といった様々な応用でしばしば発生する。 本稿では, 深いニューラルネットワークを用いて, 単純化されたメモリバウンドA*アルゴリズムの最適推定を推定し, HATSアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-01-07T08:00:02Z)
• Generalization in portfolio-based algorithm selection [97.74604695303285]
  ポートフォリオベースのアルゴリズム選択に関する最初の証明可能な保証を提供する。 ポートフォリオが大きければ、非常に単純なアルゴリズムセレクタであっても、過剰適合は避けられないことを示す。
  論文  参考訳（メタデータ） (2020-12-24T16:33:17Z)
• Run2Survive: A Decision-theoretic Approach to Algorithm Selection based on Survival Analysis [75.64261155172856]
  生存分析(SA)は、自然に検閲されたデータをサポートし、アルゴリズムランタイムの分散モデルを学習するためにそのようなデータを使用する適切な方法を提供する。 我々は、アルゴリズム選択に対する洗練された決定論的アプローチの基礎として、そのようなモデルを活用し、Run2Surviveを疑う。 標準ベンチマークASlibによる広範な実験では、我々のアプローチは競争力が高く、多くの場合、最先端のASアプローチよりも優れていることが示されている。
  論文  参考訳（メタデータ） (2020-07-06T15:20:17Z)
• Discovering Representations for Black-box Optimization [73.59962178534361]
  ブラックボックス最適化符号化は手作業で行うのではなく,自動的に学習可能であることを示す。 学習された表現は、標準的なMAP-Elitesよりも桁違いに少ない評価で高次元の問題を解くことができることを示す。
  論文  参考訳（メタデータ） (2020-03-09T20:06:20Z)
• Extreme Algorithm Selection With Dyadic Feature Representation [78.13985819417974]
  我々は,数千の候補アルゴリズムの固定セットを考慮に入れた,極端なアルゴリズム選択(XAS)の設定を提案する。 我々は、XAS設定に対する最先端のAS技術の適用性を評価し、Dyadic特徴表現を利用したアプローチを提案する。
  論文  参考訳（メタデータ） (2020-01-29T09:40:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。