論文の概要: Predicting Trust Dynamics with Dynamic SEM in Human-AI Cooperation

• arxiv url: http://arxiv.org/abs/2407.01752v1
• Date: Mon, 1 Jul 2024 19:31:07 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-03 19:23:01.150267
• Title: Predicting Trust Dynamics with Dynamic SEM in Human-AI Cooperation
• Title（参考訳）: 動的SEMを用いた人間-AI協調における信頼ダイナミクスの予測
• Authors: Sota Kaneko, Seiji Yamada,
• Abstract要約: 人間のAIに対する信頼は、人間とAIのシナジスティックな関係を育む上で重要な要素である。 人間がAIを過信したり過信したりした場合、誤用や事故などの深刻な問題が発生する。 動的構造方程式モデリングを用いた信頼度動態の予測モデルを提案する。
• 参考スコア（独自算出の注目度）: 2.0257616108612373
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Humans' trust in AI constitutes a pivotal element in fostering a synergistic relationship between humans and AI. This is particularly significant in the context of systems that leverage AI technology, such as autonomous driving systems and human-robot interaction. Trust facilitates appropriate utilization of these systems, thereby optimizing their potential benefits. If humans over-trust or under-trust an AI, serious problems such as misuse and accidents occur. To prevent over/under-trust, it is necessary to predict trust dynamics. However, trust is an internal state of humans and hard to directly observe. Therefore, we propose a prediction model for trust dynamics using dynamic structure equation modeling, which extends SEM that can handle time-series data. A path diagram, which shows causalities between variables, is developed in an exploratory way and the resultant path diagram is optimized for effective path structures. Over/under-trust was predicted with 90\% accuracy in a drone simulator task,, and it was predicted with 99\% accuracy in an autonomous driving task. These results show that our proposed method outperformed the conventional method including an auto regression family.
• Abstract（参考訳）: 人間のAIに対する信頼は、人間とAIのシナジスティックな関係を育む上で重要な要素である。 これは、自律運転システムや人間とロボットのインタラクションなど、AI技術を活用するシステムのコンテキストにおいて特に重要である。 信頼はこれらのシステムの適切な利用を促進し、それによって潜在的な利益を最適化する。 人間がAIを過信したり過信したりした場合、誤用や事故などの深刻な問題が発生する。 オーバー・アンダー・トラストを避けるには、信頼のダイナミクスを予測する必要がある。 しかし、信頼は人間の内的状態であり、直接観察するのは難しい。 そこで本研究では,時系列データを扱うSEMを拡張した動的構造方程式モデリングを用いた信頼度動態の予測モデルを提案する。 変数間の因果関係を示す経路図を探索的に開発し,その結果の経路図を効率的な経路構造に最適化する。 オーバー・アンダー・トラストは、ドローンシミュレータータスクで90%の精度で予測され、自律運転タスクで99%の精度で予測された。 これらの結果から,提案手法は自動回帰を含む従来の手法よりも優れていた。

関連論文リスト

• Generative Diffusion-based Contract Design for Efficient AI Twins Migration in Vehicular Embodied AI Networks [55.15079732226397]
  Embodied AIは、サイバースペースと物理空間のギャップを埋める、急速に進歩する分野だ。 VEANETでは、組み込まれたAIツインが車載AIアシスタントとして機能し、自律運転をサポートするさまざまなタスクを実行する。
  論文  参考訳（メタデータ） (2024-10-02T02:20:42Z)
• Automatic AI controller that can drive with confidence: steering vehicle with uncertainty knowledge [3.131134048419781]
  本研究は,機械学習フレームワークを用いた車両の横方向制御システムの開発に焦点をあてる。 確率論的学習モデルであるベイズニューラルネットワーク(BNN)を用いて不確実性定量化に対処する。 信頼しきい値を確立することで、手動による介入をトリガーし、安全なパラメータの外で動作した場合に、制御がアルゴリズムから解放されることを保証できます。
  論文  参考訳（メタデータ） (2024-04-24T23:22:37Z)
• Multi-Agent Dynamic Relational Reasoning for Social Robot Navigation [50.01551945190676]
  社会ロボットナビゲーションは、日常生活の様々な状況において有用であるが、安全な人間とロボットの相互作用と効率的な軌道計画が必要である。 本稿では, 動的に進化する関係構造を明示的に推論した系統的関係推論手法を提案する。 マルチエージェント軌道予測とソーシャルロボットナビゲーションの有効性を実証する。
  論文  参考訳（メタデータ） (2024-01-22T18:58:22Z)
• Human motion trajectory prediction using the Social Force Model for real-time and low computational cost applications [3.5970055082749655]
  新たな軌道予測モデルSoFGAN(Social Force Generative Adversarial Network)を提案する。 SoFGANは、GAN(Generative Adversarial Network)と社会力モデル(Social Force Model, SFM)を使用して、シーン内の衝突を減らす様々な可塑性人軌道を生成する。 提案手法は,現在の最先端モデルよりも UCY や BIWI データセットの方が精度が高く,他の手法と比較して衝突を低減できることを示す。
  論文  参考訳（メタデータ） (2023-11-17T15:32:21Z)
• A Diachronic Perspective on User Trust in AI under Uncertainty [52.44939679369428]
  現代のNLPシステムは、しばしば未分類であり、ユーザの信頼を損なう確実な誤った予測をもたらす。 賭けゲームを用いて,信頼を損なう事象に対するユーザの信頼の進化について検討する。
  論文  参考訳（メタデータ） (2023-10-20T14:41:46Z)
• Interpretable Self-Aware Neural Networks for Robust Trajectory Prediction [50.79827516897913]
  本稿では,意味概念間で不確実性を分散する軌道予測のための解釈可能なパラダイムを提案する。 実世界の自動運転データに対する我々のアプローチを検証し、最先端のベースラインよりも優れた性能を示す。
  論文  参考訳（メタデータ） (2022-11-16T06:28:20Z)
• AdvDO: Realistic Adversarial Attacks for Trajectory Prediction [87.96767885419423]
  軌道予測は、自動運転車が正しく安全な運転行動を計画するために不可欠である。 我々は,現実的な対向軌道を生成するために,最適化に基づく対向攻撃フレームワークを考案する。 私たちの攻撃は、AVが道路を走り去るか、シミュレーション中に他の車両に衝突する可能性がある。
  論文  参考訳（メタデータ） (2022-09-19T03:34:59Z)
• Uncalibrated Models Can Improve Human-AI Collaboration [10.106324182884068]
  私たちは、AIモデルを実際によりも自信を持って提示することで、人間-AIのパフォーマンスが向上することを示した。 私たちはまず、何千もの人間のインタラクションのデータを使って、人間がAIアドバイスを組み込む方法のモデルを学びます。
  論文  参考訳（メタデータ） (2022-02-12T04:51:00Z)
• Probabilistic Human Motion Prediction via A Bayesian Neural Network [71.16277790708529]
  本稿では,人間の動作予測のための確率モデルを提案する。 我々のモデルは、観測された動きシーケンスが与えられたときに、いくつかの将来の動きを生成することができる。 我々は、大規模ベンチマークデータセットHuman3.6mに対して、我々のアプローチを広範囲に検証した。
  論文  参考訳（メタデータ） (2021-07-14T09:05:33Z)
• Drivers' Manoeuvre Modelling and Prediction for Safe HRI [0.0]
  心の理論は、ロボット工学や、最近は自律車や半自律車のために広く研究されている。 本研究では、人間の動き、車の状態、人間の入力からのデータを組み合わせることで、行動の前に人間の意図を予測する方法について検討した。
  論文  参考訳（メタデータ） (2021-06-03T10:07:55Z)
• Spatio-Temporal Graph Dual-Attention Network for Multi-Agent Prediction and Tracking [23.608125748229174]
  異種エージェントを含む多エージェント軌道予測のための汎用生成ニューラルシステムを提案する。 提案システムは, 軌道予測のための3つのベンチマークデータセット上で評価される。
  論文  参考訳（メタデータ） (2021-02-18T02:25:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。