論文の概要: Understanding Mode Switching in Human-AI Collaboration: Behavioral Insights and Predictive Modeling

• arxiv url: http://arxiv.org/abs/2509.20666v1
• Date: Thu, 25 Sep 2025 01:58:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-26 20:58:12.651802
• Title: Understanding Mode Switching in Human-AI Collaboration: Behavioral Insights and Predictive Modeling
• Title（参考訳）: 人間-AIコラボレーションにおけるモードスイッチングの理解:行動分析と予測モデリング
• Authors: Avinash Ajit Nargund, Arthur Caetano, Kevin Yang, Rose Yiwei Liu, Philip Tezaur, Kriteen Shrestha, Qisen Pan, Tobias Höllerer, Misha Sra,
• Abstract要約: 本研究では,シーケンシャルな意思決定作業において,ユーザが高レベルの制御と低レベルの制御を動的に切り替える方法について検討する。 我々は8人の参加者から400以上のモデムスイッチング決定を収集し、視線、感情状態、サブタスクの難易度データを収集した。 我々は制御レベルスイッチを予測する軽量モデルを訓練する。
• 参考スコア（独自算出の注目度）: 16.20562194559668
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Human-AI collaboration is typically offered in one of two of user control levels: guidance, where the AI provides suggestions and the human makes the final decision, and delegation, where the AI acts autonomously within user-defined constraints. Systems that integrate both modes, common in robotic surgery or driving assistance, often overlook shifts in user preferences within a task in response to factors like evolving trust, decision complexity, and perceived control. In this work, we investigate how users dynamically switch between higher and lower levels of control during a sequential decision-making task. Using a hand-and-brain chess setup, participants either selected a piece and the AI decided how it moved (brain mode), or the AI selected a piece and the participant decided how it moved (hand mode). We collected over 400 mode-switching decisions from eight participants, along with gaze, emotional state, and subtask difficulty data. Statistical analysis revealed significant differences in gaze patterns and subtask complexity prior to a switch and in the quality of the subsequent move. Based on these results, we engineered behavioral and task-specific features to train a lightweight model that predicted control level switches ($F1 = 0.65$). The model performance suggests that real-time behavioral signals can serve as a complementary input alongside system-driven mode-switching mechanisms currently used. We complement our quantitative results with qualitative factors that influence switching including perceived AI ability, decision complexity, and level of control, identified from post-game interview analysis. The combined behavioral and modeling insights can help inform the design of shared autonomy systems that need dynamic, subtask-level control switches aligned with user intent and evolving task demands.
• Abstract（参考訳）: ガイダンス、AIが提案を行い、人間が最終決定を行うガイダンス、AIがユーザ定義の制約の中で自律的に行動するデリゲートである。 ロボット手術や運転補助に共通する両方のモードを統合するシステムは、信頼の進化、決定の複雑さ、認識される制御といった要因に応答して、タスク内でのユーザの好みの変化を見落としてしまうことが多い。 本研究では,シーケンシャルな意思決定作業において,ユーザが高レベルの制御と低レベルの制御を動的に切り替える方法について検討する。 ハンド・アンド・ブレイン・チェスのセットアップを使用して、参加者は駒を選択し、AIはどのように動くか(ブレイン・モード)を決定するか、AIは駒を選択し、参加者はどのように動くか(ハンド・モード)を決定する。 我々は8人の被験者から400以上のモデムスイッチング決定を収集し、視線、感情状態、サブタスクの難易度データを収集した。 統計的解析により,スイッチ前およびその後の移動の質において,視線パターンとサブタスクの複雑さに有意な差が認められた。 これらの結果に基づいて、我々は、制御レベルスイッチ(F1 = 0.65$)を予測する軽量モデルをトレーニングするために、行動やタスク固有の機能を設計した。 モデル性能は、リアルタイムの行動信号が、現在使われているシステム駆動モードスイッチング機構と相補的な入力として機能することを示唆している。 我々は,ゲーム後のインタビュー分析から得られた,AI能力や意思決定の複雑さ,制御レベルなど,切り換えに影響を与える質的な要因で定量的結果を補完する。 振る舞いとモデリングを組み合わせた洞察は、動的でサブタスクレベルのコントロールスイッチを必要とする共有自律システムの設計を、ユーザの意図と整合し、タスク要求を進化させる上で役立ちます。

関連論文リスト

• When Models Know More Than They Can Explain: Quantifying Knowledge Transfer in Human-AI Collaboration [79.69935257008467]
  我々は,人間とAIの知識伝達能力に関する概念的かつ実験的フレームワークである知識統合と伝達評価(KITE)を紹介する。 最初の大規模人間実験(N=118)を行い,その測定を行った。 2段階のセットアップでは、まずAIを使って問題解決戦略を思いつき、その後独立してソリューションを実装し、モデル説明が人間の理解に与える影響を分離します。
  論文  参考訳（メタデータ） (2025-06-05T20:48:16Z)
• Fine-Grained Appropriate Reliance: Human-AI Collaboration with a Multi-Step Transparent Decision Workflow for Complex Task Decomposition [14.413413322901409]
  本稿では,MST(Multi-Step Transparent)決定ワークフローがユーザ依存行動に与える影響について検討する。 MST決定ワークフローとの人間とAIのコラボレーションは、特定の文脈におけるワンステップのコラボレーションよりも優れていることを示す。 私たちの研究は、最適な人間とAIのコラボレーションを得るのに役立つ、オールサイズの意思決定ワークフローが存在しないことを強調しています。
  論文  参考訳（メタデータ） (2025-01-19T01:03:09Z)
• Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
  我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。 学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。 トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
  論文  参考訳（メタデータ） (2024-07-03T15:38:57Z)
• Human Delegation Behavior in Human-AI Collaboration: The Effect of Contextual Information [7.475784495279183]
  既存の補完機能を活用するための有望なアプローチの1つは、人間が個々の決定タスクのインスタンスをAIに委譲できるようにすることである。 我々は,この委任決定を支援するための文脈情報の提供の効果を検討するために行動学的研究を行う。 これらの結果から,コンテキスト情報へのアクセスは,デリゲート設定における人間-AIチームのパフォーマンスを著しく向上させることがわかった。
  論文  参考訳（メタデータ） (2024-01-09T18:59:47Z)
• Optimising Human-AI Collaboration by Learning Convincing Explanations [62.81395661556852]
  本研究では,人間による意思決定によって安全を保ちながら協調的なシステムを構築する手法を提案する。 Ardentは、説明のための個人の好みに適応することで、効率的で効果的な意思決定を可能にする。
  論文  参考訳（メタデータ） (2023-11-13T16:00:16Z)
• Human operator cognitive availability aware Mixed-Initiative control [1.155258942346793]
  本稿では,遠隔操作型移動ロボットのための認知アベイラビリティAware Mixed-Initiative Controllerを提案する。 コントローラは、AIまたは人間の操作者によって起動される異なるレベルの自律性(LOA)の動的切り替えを可能にする。 遠隔ロボットによる探査作業を人間オペレーターが行う災害対応実験において、制御器の評価を行う。
  論文  参考訳（メタデータ） (2021-08-26T16:21:56Z)
• Data-driven Koopman Operators for Model-based Shared Control of Human-Machine Systems [66.65503164312705]
  本稿では,データ駆動型共有制御アルゴリズムを提案する。 ユーザのインタラクションに関するダイナミクスと情報は、Koopman演算子を使用して観察から学習される。 モデルに基づく共有制御は、自然な学習やユーザのみの制御パラダイムと比較して、タスクとコントロールのメトリクスを著しく改善する。
  論文  参考訳（メタデータ） (2020-06-12T14:14:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。