論文の概要: Conversational versus Dashboard Explainable AI for UAV Intrusion Detection: An Empirical Study of Operator Trust and Reliance
- arxiv url: http://arxiv.org/abs/2608.10434v1
- Date: Tue, 11 Aug 2026 03:31:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-12 19:14:45.890845
- Title: Conversational versus Dashboard Explainable AI for UAV Intrusion Detection: An Empirical Study of Operator Trust and Reliance
- Title（参考訳）: UAV侵入検知のための対話型対ダッシュボード型説明可能なAI:オペレータ信頼と信頼性に関する実証的研究
- Abstract要約: 機械学習に基づく侵入検知システム(IDS)は無人航空機(UAV)ネットワークの確保において優れた性能を示した。
これらのモデルの「ブラックボックス」の性質は、マルチモーダルなサイバー物理データの高次元性と相まって、重要な解釈可能性の課題を引き起こしている。
本稿では,Large Language Models (LLM) を利用した対話型XAIインタフェースを提案する。
- 参考スコア（独自算出の注目度）: 3.565564466149949
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Machine learning-based Intrusion Detection Systems (IDS) have demonstrated superior performance in securing Unmanned Aerial Vehicle (UAV) networks. However, the 'black-box' nature of these models, combined with the high dimensionality of multimodal cyber-physical data, poses significant interpretability challenges. Static visualization dashboards may struggle to present complex relationships among multimodal cyber-physical features in a form that is easy for operators to inspect and interpret. To address this, we propose a Conversational XAI interface powered by Large Language Models (LLM) to facilitate on-demand investigation. In a controlled experiment with participants, we systematically evaluated the impact of this conversational interface versus a traditional XAI Dashboard on operator understanding, trust, and reliance during post-incident auditing tasks. Our results suggest that the conversational interface was perceived as more useful than the dashboard, potentially because it helped participants access and synthesize relevant information more easily. However, this benefit was accompanied by a lower level of appropriate self-reliance, indicating a potential risk of over-reliance. One possible interpretation is that the natural-language responses made the AI advice easier to accept, which may have reduced participants' tendency to verify the underlying evidence when the IDS was incorrect. These findings point to a potential trade-off in human-AI collaboration for UAV intrusion auditing: interaction mechanisms that improve perceived usability may also increase the risk of inappropriate reliance. We conclude by discussing design implications for future XAI systems that balance seamless interaction with cognitive forcing functions to foster appropriate reliance.
- Abstract（参考訳）: 機械学習に基づく侵入検知システム(IDS)は無人航空機(UAV)ネットワークの確保において優れた性能を示した。
しかし、これらのモデルの「ブラックボックス」の性質は、マルチモーダルなサイバー物理データの高次元性と相まって、重要な解釈可能性の課題を引き起こす。
静的な視覚化ダッシュボードは、操作者が容易に検査し解釈できる形で、マルチモーダルなサイバー物理機能間の複雑な関係を示すのに苦労する可能性がある。
そこで本稿では,Large Language Models (LLM) を利用した対話型XAIインタフェースを提案する。
参加者による制御実験では,従来のXAIダッシュボードと対話インタフェースが,事故後の監査作業における操作者の理解,信頼,信頼に与える影響を系統的に評価した。
その結果,対話インタフェースはダッシュボードよりも有用であると認識され,参加者が関連情報にアクセスし,より簡単に合成できる可能性が示唆された。
しかし、この利益には適切な自己信頼のレベルが低く、過度な信頼のリスクが示唆された。
1つの解釈は、自然言語応答によってAIのアドバイスが受け入れられやすくなり、IDSが間違っていた場合に、その根拠となる証拠を検証する参加者の傾向が低下した可能性があるということである。
これらの知見は、UAV侵入監査のための人間とAIのコラボレーションにおける潜在的なトレードオフを示唆している。
我々は、認知強制機能とのシームレスな相互作用をバランスさせ、適切な依存を育む未来のXAIシステムの設計上の意味を論じる。
関連論文リスト
- Co-FactChecker: A Framework for Human-AI Collaborative Claim Verification Using Large Reasoning Models [99.26398772227684]
我々は,人間とAIの協調的クレーム検証のためのフレームワークであるCo-FactCheckerを提案する。
Co-FactCheckerは専門家のフィードバックをトレース編集に変換する。
人間の評価は、マルチターン対話よりもCo-FactCheckerの方が好ましいことを示している。
論文 参考訳（メタデータ） (2026-04-15T10:35:00Z) - Explainable AI for Blind and Low-Vision Users: Navigating Trust, Modality, and Interpretability in the Agentic Era [0.9741676285072485]
盲目と低視野(BLV)のユーザにとって、アクセス可能な説明の欠如は、AI駆動型補助技術の独立した使用に対する根本的な障壁となっている。
本稿では,ユーザインタビューと現代研究の総合的な分析を通じて,BLVコミュニティのユニークなXAI要件について検討する。
BLVのユーザは会話の説明を高く評価する一方で、AIの失敗に対して“自己認識”を頻繁に経験している、という実証的な証拠がある。
論文 参考訳（メタデータ） (2026-03-31T19:39:52Z) - Human-Centered Explainability in AI-Enhanced UI Security Interfaces: Designing Trustworthy Copilots for Cybersecurity Analysts [0.0]
本稿では、AI駆動型セキュリティダッシュボードにおける説明設計戦略の混合手法について述べる。
その結果,説明スタイルがユーザの信頼度,判断精度,認知負荷に大きく影響していることが判明した。
この研究は、サイバーセキュリティにおける人間中心のAIツールの設計を前進させ、他の高度なドメインにおける説明可能性に広範な意味を提供する。
論文 参考訳（メタデータ） (2026-01-30T07:18:20Z) - Disclosure By Design: Identity Transparency as a Behavioural Property of Conversational AI Models [10.35358368112024]
AIのアイデンティティが不明な場合、ユーザーは無意識に機密情報を共有したり、AIが生成するアドバイスを不当に信頼したり、AI対応の詐欺の被害を被る可能性がある。
我々は、AIシステムが直接尋ねられたとき、人工的なアイデンティティを明示的に開示する設計による開示を提唱する。
ベースライン開示率は高いことが多いが、ロールプレイが著しく低下し、相手のプロンプトで抑制できることがわかった。
論文 参考訳（メタデータ） (2026-01-27T17:31:37Z) - AI as Teammate or Tool? A Review of Human-AI Interaction in Decision Support [0.514825619161626]
現在のAIシステムは、説明可能性中心の設計への過度な依存のため、主に受動的である。
AIをアクティブなチームメイトに移行するには、適応的でコンテキスト対応のインタラクションが必要です。
論文 参考訳（メタデータ） (2026-01-26T19:18:50Z) - Embracing Trustworthy Brain-Agent Collaboration as Paradigm Extension for Intelligent Assistive Technologies [51.93721053301417]
本稿では,脳-コンピュータ・インタフェースから脳-エージェント・コラボレーションへのパラダイム拡張を視野に入れている。
我々は、受動的脳信号データプロセッサではなく、知的支援のためのアクティブで協調的なパートナーとして、リフレーミングエージェントを強調している。
論文 参考訳（メタデータ） (2025-10-25T00:25:45Z) - Exchange-of-Thought: Enhancing Large Language Model Capabilities through
Cross-Model Communication [76.04373033082948]
大規模言語モデル(LLM)は、最近、Chain-of-Thoughtテクニックによる複雑な推論タスクにおいて大きな進歩を遂げました。
本稿では,問題解決時のクロスモデル通信を可能にする新しいフレームワークであるExchange-of-Thought (EoT)を提案する。
論文 参考訳（メタデータ） (2023-12-04T11:53:56Z) - Interactive Autonomous Navigation with Internal State Inference and
Interactivity Estimation [58.21683603243387]
本稿では,関係時間的推論を伴う3つの補助的タスクを提案し,それらを標準のディープラーニングフレームワークに統合する。
これらの補助的なタスクは、他の対話的エージェントの行動パターンを推測するための追加の監視信号を提供する。
提案手法は,標準評価指標の観点から,頑健かつ最先端のパフォーマンスを実現する。
論文 参考訳（メタデータ） (2023-11-27T18:57:42Z) - HuntGPT: Integrating Machine Learning-Based Anomaly Detection and Explainable AI with Large Language Models (LLMs) [0.09208007322096533]
我々はランダムフォレスト分類器を応用した特殊な侵入検知ダッシュボードであるHuntGPTを提案する。
この論文は、Certified Information Security Manager (CISM) Practice Examsを通じて評価された、システムのアーキテクチャ、コンポーネント、技術的正確性について論じている。
その結果、LLMによってサポートされ、XAIと統合された会話エージェントは、侵入検出において堅牢で説明可能な、実行可能なAIソリューションを提供することを示した。
論文 参考訳（メタデータ） (2023-09-27T20:58:13Z) - Towards Unbiased Visual Emotion Recognition via Causal Intervention [63.74095927462]
本稿では,データセットバイアスによる負の効果を軽減するために,新しい感情認識ネットワーク(IERN)を提案する。
IERNの有効性を検証する一連の設計されたテストと、3つの感情ベンチマークの実験は、IERNが他の最先端のアプローチよりも優れていることを示した。
論文 参考訳（メタデータ） (2021-07-26T10:40:59Z) - Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。
現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。
本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
論文 参考訳（メタデータ） (2021-06-14T20:48:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。