論文の概要: Align When They Want, Complement When They Need! Human-Centered Ensembles for Adaptive Human-AI Collaboration

• arxiv url: http://arxiv.org/abs/2602.20104v1
• Date: Mon, 23 Feb 2026 18:22:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-24 17:42:02.943015
• Title: Align When They Want, Complement When They Need! Human-Centered Ensembles for Adaptive Human-AI Collaboration
• Title（参考訳）: 必要なときに補うこと! 適応型AIコラボレーションのための人間中心アンサンブル
• Authors: Hasan Amin, Ming Yin, Rajiv Khanna,
• Abstract要約: 人間とAIの意思決定において、人間の専門知識を補完するAIを設計することは、人間とAIのコラボレーションを強化する自然な戦略である。 一致したAIは、信頼を育みながら、最適な人間の行動を補強し、人間とAIチームのパフォーマンスを低下させるリスクを負う。 我々は、2つの専門的AIモデルの間で戦略的に切り替える、人間中心の適応型AIアンサンブルを新たに導入する。
• 参考スコア（独自算出の注目度）: 13.041288521972563
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In human-AI decision making, designing AI that complements human expertise has been a natural strategy to enhance human-AI collaboration, yet it often comes at the cost of decreased AI performance in areas of human strengths. This can inadvertently erode human trust and cause them to ignore AI advice precisely when it is most needed. Conversely, an aligned AI fosters trust yet risks reinforcing suboptimal human behavior and lowering human-AI team performance. In this paper, we start by identifying this fundamental tension between performance-boosting (i.e., complementarity) and trust-building (i.e., alignment) as an inherent limitation of the traditional approach for training a single AI model to assist human decision making. To overcome this, we introduce a novel human-centered adaptive AI ensemble that strategically toggles between two specialist AI models - the aligned model and the complementary model - based on contextual cues, using an elegantly simple yet provably near-optimal Rational Routing Shortcut mechanism. Comprehensive theoretical analyses elucidate why the adaptive AI ensemble is effective and when it yields maximum benefits. Moreover, experiments on both simulated and real-world data show that when humans are assisted by the adaptive AI ensemble in decision making, they can achieve significantly higher performance than when they are assisted by single AI models that are trained to either optimize for their independent performance or even the human-AI team performance.
• Abstract（参考訳）: 人間とAIの意思決定において、人間の専門性を補完するAIを設計することは、人間とAIのコラボレーションを強化する自然な戦略である。 これにより、人間の信頼を損なうことなく、最も必要な時にAIアドバイスを無視することが可能になる。 逆に、アライメントされたAIは、最適以下の人間の行動を補強し、人間とAIチームのパフォーマンスを低下させる信頼とリスクを促進する。 本稿では,人間による意思決定を支援するために,単一のAIモデルをトレーニングする従来のアプローチの限界として,パフォーマンスブースティング(補完性)と信頼構築(アライメント)の基本的な緊張関係を識別することから始める。 これを解決するために、我々は、2つの専門的AIモデル(アライメントモデルと補完モデル)を、エレガントにシンプルだがほぼ最適に近いRational Routing Shortcutメカニズムを用いて戦略的に切り替える、人間中心の適応型AIアンサンブルを導入する。 包括的な理論的分析は、適応型AIアンサンブルがなぜ有効で、それが最大限の利益をもたらすのかを解明する。 さらに、シミュレーションデータと実世界のデータの両方の実験では、人間が意思決定において適応的なAIアンサンブルに助けられている場合、独立したパフォーマンスのために最適化される訓練された単一のAIモデルや、人間とAIチームのパフォーマンスよりもはるかに高いパフォーマンスを達成することが示されている。

関連論文リスト

• Modeling AI-Human Collaboration as a Multi-Agent Adaptation [0.0]
  タスクの関数としてAIと人間のコラボレーションを形式化するエージェントベースのシミュレーションを開発する。 モジュラータスクでは、AIが人間の代わりになることが多いことを示します。 また、記憶や構造が欠如している「幻覚的」AIでさえ、ローカルオプティマから逃れることによって、低能力な人間を増強することで、結果を改善することも示しています。
  論文  参考訳（メタデータ） (2025-04-29T16:19:53Z)
• Exploration with Principles for Diverse AI Supervision [88.61687950039662]
  次世代の予測を用いた大規模トランスフォーマーのトレーニングは、AIの画期的な進歩を生み出した。 この生成AIアプローチは印象的な結果をもたらしたが、人間の監督に大きく依存している。 この人間の監視への強い依存は、AIイノベーションの進歩に重大なハードルをもたらす。 本稿では,高品質なトレーニングデータを自律的に生成することを目的とした,探索型AI(EAI)という新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2023-10-13T07:03:39Z)
• Towards Effective Human-AI Decision-Making: The Role of Human Learning in Appropriate Reliance on AI Advice [3.595471754135419]
  参加者100名を対象にした実験において,学習と適切な信頼の関係を示す。 本研究は,人間とAIの意思決定を効果的に設計するために,信頼度を分析し,意味を導き出すための基本的な概念を提供する。
  論文  参考訳（メタデータ） (2023-10-03T14:51:53Z)
• BO-Muse: A human expert and AI teaming framework for accelerated experimental design [58.61002520273518]
  我々のアルゴリズムは、人間の専門家が実験プロセスでリードすることを可能にする。 我々のアルゴリズムは、AIや人間よりも高速に、サブ線形に収束することを示す。
  論文  参考訳（メタデータ） (2023-03-03T02:56:05Z)
• Best-Response Bayesian Reinforcement Learning with Bayes-adaptive POMDPs for Centaurs [22.52332536886295]
  本稿では,人間とAIの相互作用を逐次ゲームとして新たに定式化する。 このケースでは、有界人間によるより良い意思決定を支援するというAIの問題は、ベイズ対応のPOMDPに還元される。 我々は、機械が自身の限界と人間の助けを借りて改善する方法について議論する。
  論文  参考訳（メタデータ） (2022-04-03T21:00:51Z)
• Uncalibrated Models Can Improve Human-AI Collaboration [10.106324182884068]
  私たちは、AIモデルを実際によりも自信を持って提示することで、人間-AIのパフォーマンスが向上することを示した。 私たちはまず、何千もの人間のインタラクションのデータを使って、人間がAIアドバイスを組み込む方法のモデルを学びます。
  論文  参考訳（メタデータ） (2022-02-12T04:51:00Z)
• Is the Most Accurate AI the Best Teammate? Optimizing AI for Teamwork [54.309495231017344]
  AIシステムは人間中心の方法でトレーニングされ、チームのパフォーマンスに直接最適化されるべきである、と私たちは主張する。 我々は,AIレコメンデーションを受け入れるか,あるいはタスク自体を解決するかを選択する,特定のタイプのAIチームを提案する。 実世界の高精度データセット上での線形モデルと非線形モデルによる実験は、AIが最も正確であることは、最高のチームパフォーマンスに繋がらないことを示している。
  論文  参考訳（メタデータ） (2020-04-27T19:06:28Z)
• Effect of Confidence and Explanation on Accuracy and Trust Calibration in AI-Assisted Decision Making [53.62514158534574]
  ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。 信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
  論文  参考訳（メタデータ） (2020-01-07T15:33:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。