論文の概要: Explainable AI for Maritime Autonomous Surface Ships (MASS): Adaptive Interfaces and Trustworthy Human-AI Collaboration
- arxiv url: http://arxiv.org/abs/2509.15959v1
- Date: Fri, 19 Sep 2025 13:18:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-22 18:18:11.175951
- Title: Explainable AI for Maritime Autonomous Surface Ships (MASS): Adaptive Interfaces and Trustworthy Human-AI Collaboration
- Title（参考訳）: 海上自律表面船(MASS:Adaptive Interfaces and Trustworthy Human-AI Collaboration)のための説明可能なAI
- Authors: Zhuoyue Zhang, Haitong Xu,
- Abstract要約: 本稿では,海上自律型表面船の自動化透明性に関する100の研究を合成する。
我々は、人間の安全でない制御行動が、ハンドオーバと緊急ループに集中している場所を特定する。
センサ/SA取得と融合、HMI/eHMIプレゼンテーション、エンジニア対応プロセスの3つのレイヤにおける透明性のための設計戦略。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Autonomous navigation in maritime domains is accelerating alongside advances in artificial intelligence, sensing, and connectivity. Opaque decision-making and poorly calibrated human-automation interaction remain key barriers to safe adoption. This article synthesizes 100 studies on automation transparency for Maritime Autonomous Surface Ships (MASS) spanning situation awareness (SA), human factors, interface design, and regulation. We (i) map the Guidance-Navigation-Control stack to shore-based operational modes -- remote supervision (RSM) and remote control (RCM) -- and identify where human unsafe control actions (Human-UCAs) concentrate in handover and emergency loops; (ii) summarize evidence that transparency features (decision rationales, alternatives, confidence/uncertainty, and rule-compliance indicators) improve understanding and support trust calibration, though reliability and predictability often dominate trust; (iii) distill design strategies for transparency at three layers: sensor/SA acquisition and fusion, HMI/eHMI presentation (textual/graphical overlays, color coding, conversational and immersive UIs), and engineer-facing processes (resilient interaction design, validation, and standardization). We integrate methods for Human-UCA identification (STPA-Cog + IDAC), quantitative trust/SA assessment, and operator workload monitoring, and outline regulatory and rule-based implications including COLREGs formalization and route exchange. We conclude with an adaptive transparency framework that couples operator state estimation with explainable decision support to reduce cognitive overload and improve takeover timeliness. The review highlights actionable figure-of-merit displays (e.g., CPA/TCPA risk bars, robustness heatmaps), transparent model outputs (rule traceability, confidence), and training pipelines (HIL/MIL, simulation) as near-term levers for safer MASS operations.
- Abstract（参考訳）: 海上ドメインにおける自律ナビゲーションは、人工知能、センサー、接続性の進歩とともに加速している。
不透明な意思決定と調整の不十分な人-自動化の相互作用は、安全な採用にとって重要な障壁である。
本稿では,人的要因,インターフェース設計,規制を網羅した海上自律表面船(MASS)の自動化透明性に関する100の研究を合成する。
我が家
(i)誘導・航行・制御スタックを、遠隔監視(RSM)と遠隔操作(RCM)にマッピングし、ヒトの安全でない制御行動(Human-UCA)がハンドオーバと緊急ループに集中する場所を特定する。
二 透明性の特徴(意思決定の合理性、代替案、信頼・不確実性及び規則遵守の指標)が信頼の校正を改善し、支援する証拠を要約する。ただし、信頼性及び予測可能性はしばしば信頼を左右する。
三 センサ/SA取得・融合、HMI/eHMIプレゼンテーション(テキスト/グラフィックオーバーレイ、カラーコーディング、対話型及び没入型UI)、エンジニア対応プロセス(レジリエントなインタラクション設計、検証、標準化)の3つのレイヤにおける透明性のための設計戦略を蒸留する。
我々は、人間-UCA識別(STPA-Cog + IDAC)、量的信頼/SA評価、作業負荷監視の手法を統合するとともに、COLREGsの形式化やルート交換を含む規制とルールに基づく影響を概説する。
我々は、オペレータの状態推定と説明可能な意思決定サポートを結合して、認知的過負荷を減らし、テイクオーバタイムラインを改善する適応的透明性フレームワークで締めくくります。
レビューでは、より安全なMASS操作のための短期レバーとして、実行可能なフィギュア・オブ・メリット(例えば、CPA/TCPAリスクバー、ロバストネスヒートマップ)、透明なモデル出力(ルールトレーサビリティ、信頼性)、トレーニングパイプライン(HIL/MIL、シミュレーション)を強調している。
関連論文リスト
- DoubleAgents: Exploring Mechanisms of Building Trust with Proactive AI [29.777890680647186]
DoubleAgentsは、ユーザの介入を通じて透明性とコントロールを組み込むエージェント計画ツールである。
内蔵された応答シミュレーションは現実的なシナリオを生成し、ユーザーはリハーサルし、ポリシーを洗練し、信頼度を調整できる。
論文 参考訳（メタデータ） (2025-09-16T03:43:13Z) - Uncertainty Aware-Predictive Control Barrier Functions: Safer Human Robot Interaction through Probabilistic Motion Forecasting [13.020006323600251]
不確かさを意識した予測制御バリア関数は、制御バリア関数の正式な安全性を保証することで、確率的手の動き予測を融合させる。
UA-PCBFは、将来の人間の状態をより深く理解した協力型ロボットに力を与える。
最先端のHRIアーキテクチャとは対照的に、UA-PCBFはタスククリティカルなメトリクスでより良いパフォーマンスを示す。
論文 参考訳（メタデータ） (2025-08-28T14:11:26Z) - Designing Control Barrier Function via Probabilistic Enumeration for Safe Reinforcement Learning Navigation [55.02966123945644]
本稿では,ニューラルネットワーク検証技術を利用して制御障壁関数(CBF)とポリシー修正機構の設計を行う階層型制御フレームワークを提案する。
提案手法は,安全なCBFベースの制御層を構築するために使用される,安全でない操作領域を特定するための確率的列挙に依存する。
これらの実験は、効率的なナビゲーション動作を維持しながら、安全でない動作を補正する提案手法の能力を実証するものである。
論文 参考訳（メタデータ） (2025-04-30T13:47:25Z) - Towards Trustworthy GUI Agents: A Survey [64.6445117343499]
本調査では,GUIエージェントの信頼性を5つの重要な次元で検証する。
敵攻撃に対する脆弱性、シーケンシャルな意思決定における障害モードのカスケードなど、大きな課題を特定します。
GUIエージェントが普及するにつれて、堅牢な安全基準と責任ある開発プラクティスを確立することが不可欠である。
論文 参考訳（メタデータ） (2025-03-30T13:26:00Z) - SafeCast: Risk-Responsive Motion Forecasting for Autonomous Vehicles [12.607007386467329]
リスク応答型モーション予測モデルであるSafeCastを提案する。
安全を意識した意思決定と不確実性を意識した適応性を統合する。
我々のモデルは、軽量なアーキテクチャと低推論レイテンシを維持しながら、最先端(SOTA)の精度を実現する。
論文 参考訳（メタデータ） (2025-03-28T15:38:21Z) - DriveTransformer: Unified Transformer for Scalable End-to-End Autonomous Driving [62.62464518137153]
DriveTransformerは、スケールアップを簡単にするためのシンプルなE2E-ADフレームワークである。
タスク・セルフ・アテンション、センサー・クロス・アテンション、時間的クロス・アテンションという3つの統合された操作で構成されている。
シミュレーションされたクローズドループベンチマークBench2Driveと、FPSの高い実世界のオープンループベンチマークnuScenesの両方で、最先端のパフォーマンスを実現している。
論文 参考訳（メタデータ） (2025-03-07T11:41:18Z) - SafeAuto: Knowledge-Enhanced Safe Autonomous Driving with Multimodal Foundation Models [63.71984266104757]
我々は、構造化されていない知識と構造化されていない知識の両方を取り入れることで、MLLMベースの自動運転を強化するフレームワークであるSafeAutoを提案する。
安全知識を明示的に統合するため,交通ルールを一階述語論理に変換する推論コンポーネントを開発した。
我々のマルチモーダル検索・拡張生成モデルは、過去の運転経験から学ぶために、ビデオ、制御信号、環境特性を活用する。
論文 参考訳（メタデータ） (2025-02-28T21:53:47Z) - A Maritime Industry Experience for Vessel Operational Anomaly Detection: Utilizing Deep Learning Augmented with Lightweight Interpretable Models [0.19116784879310028]
本研究は,半教師付き深層学習モデルに軽量な解釈可能なサロゲートモデルを適用した船体動作異常検出手法を示す。
我々は、通常の運用データに基づいて訓練され、実際の異常検出データでテストされた標準および長期記憶(LSTM)オートエンコーダを利用する。
論文 参考訳（メタデータ） (2023-12-30T01:31:54Z) - Joint Sensing, Communication, and AI: A Trifecta for Resilient THz User
Experiences [118.91584633024907]
テラヘルツ(THz)無線システムに対する拡張現実(XR)体験を最適化するために、新しい共同センシング、通信、人工知能(AI)フレームワークを提案する。
論文 参考訳（メタデータ） (2023-04-29T00:39:50Z) - Confidence-rich grid mapping [19.530047371535147]
環境の表現は、未知の環境でロボットが自律的に行動できるようにするための基本的なタスクである。
空間グリッドを用いた3次元環境マッピングのための新しいアルゴリズムである信頼度豊かなマッピングを提案する。
実世界の実験において,従来の手法よりも精度の高い写像を実現することに加えて,提案手法は誤差と報告された信頼度との間の一貫性をはるかに高めることを示した。
論文 参考訳（メタデータ） (2020-06-29T00:21:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。