論文の概要: Quantitative Predictive Monitoring and Control for Safe Human-Machine Interaction

• arxiv url: http://arxiv.org/abs/2412.13365v1
• Date: Tue, 17 Dec 2024 22:46:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-19 16:45:34.286688
• Title: Quantitative Predictive Monitoring and Control for Safe Human-Machine Interaction
• Title（参考訳）: 安全な人間と機械の相互作用の定量的モニタリングと制御
• Authors: Shuyang Dong, Meiyi Ma, Josephine Lamp, Sebastian Elbaum, Matthew B. Dwyer, Lu Feng,
• Abstract要約: 安全でない人間と機械の相互作用は破滅的な失敗を引き起こす。 本研究では,人間の相互作用の不確実性を考慮した将来状態の予測手法を提案する。 提案手法は,1型糖尿病管理と半自律運転の2つのケーススタディに適用する。
• 参考スコア（独自算出の注目度）: 16.465501381705774
• License:
• Abstract: There is a growing trend toward AI systems interacting with humans to revolutionize a range of application domains such as healthcare and transportation. However, unsafe human-machine interaction can lead to catastrophic failures. We propose a novel approach that predicts future states by accounting for the uncertainty of human interaction, monitors whether predictions satisfy or violate safety requirements, and adapts control actions based on the predictive monitoring results. Specifically, we develop a new quantitative predictive monitor based on Signal Temporal Logic with Uncertainty (STL-U) to compute a robustness degree interval, which indicates the extent to which a sequence of uncertain predictions satisfies or violates an STL-U requirement. We also develop a new loss function to guide the uncertainty calibration of Bayesian deep learning and a new adaptive control method, both of which leverage STL-U quantitative predictive monitoring results. We apply the proposed approach to two case studies: Type 1 Diabetes management and semi-autonomous driving. Experiments show that the proposed approach improves safety and effectiveness in both case studies.
• Abstract（参考訳）: 医療や交通など、さまざまなアプリケーションドメインに革命をもたらすために、人間と対話するAIシステムが増えている。 しかし、安全でない人間と機械の相互作用は破滅的な失敗を引き起こす可能性がある。 本研究では,人間のインタラクションの不確実性を考慮して将来の状態を予測し,予測が安全要件を満たすか違反するかを監視し,予測監視結果に基づいて制御動作を適用する,新たなアプローチを提案する。 具体的には、不確実性のある信号時間論理(STL-U)に基づく新しい定量的予測モニターを開発し、不確実性のある予測列がSTL-U要求を満たすか、違反するかを示す。 また,ベイズ深層学習の不確実性校正を誘導する新たな損失関数と,STL-U定量的予測結果を活用する適応制御法も開発した。 提案手法は,1型糖尿病管理と半自律運転の2つのケーススタディに適用する。 両ケーススタディにおいて,提案手法が安全性と有効性を向上させることを示す実験結果が得られた。

関連論文リスト

• Can we Defend Against the Unknown? An Empirical Study About Threshold Selection for Neural Network Monitoring [6.8734954619801885]
  実行時モニタリングは、推論中に安全でない予測を拒否するために必須である。 安全と安全でない予測の分布の分離性を最大化する拒絶スコアを確立するために様々な技術が出現している。 実世界のアプリケーションでは、効果的なモニターは、これらのスコアを意味のあるバイナリ決定に変換するための適切なしきい値を特定する必要がある。
  論文  参考訳（メタデータ） (2024-05-14T14:32:58Z)
• Learning-Based Approaches to Predictive Monitoring with Conformal Statistical Guarantees [2.1684857243537334]
  本チュートリアルは、予測モニタリング(PM)のための効率的な手法に焦点を当てている。 PMは、システムの現在の状態から与えられた要件の将来の違反を検出する問題である。 CPSの予測モニタリングに対する我々のアプローチを要約した、汎用的で包括的なフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-04T15:16:42Z)
• Toward Reliable Human Pose Forecasting with Uncertainty [51.628234388046195]
  我々は、複数のモデルを含む人間のポーズ予測のためのオープンソースのライブラリを開発し、複数のデータセットをサポートする。 我々は、パフォーマンスを高め、より良い信頼をもたらすために、問題の2つの不確実性を考案する。
  論文  参考訳（メタデータ） (2023-04-13T17:56:08Z)
• Model Predictive Control with Gaussian-Process-Supported Dynamical Constraints for Autonomous Vehicles [82.65261980827594]
  本研究では、学習したガウス過程を利用して人間の運転行動を予測する自動運転車のモデル予測制御手法を提案する。 マルチモード予測制御アプローチは、人間のドライバーの意図を考察する。
  論文  参考訳（メタデータ） (2023-03-08T17:14:57Z)
• Uncertainty-Aware AB3DMOT by Variational 3D Object Detection [74.8441634948334]
  不確実性推定は統計的に正確な予測を提供する効果的なツールである。 本稿では,変分ニューラルネットワークを用いたTANet 3Dオブジェクト検出器を提案し,不確実性のある3Dオブジェクト検出を行う。
  論文  参考訳（メタデータ） (2023-02-12T14:30:03Z)
• Monitoring machine learning (ML)-based risk prediction algorithms in the presence of confounding medical interventions [4.893345190925178]
  医療における機械学習(ML)に基づくリスク予測モデルの性能モニタリングは、整合医療介入(CMI)の問題によって複雑化している。 単純なアプローチは、CMIを無視し、治療を受けていない患者のみを監視することである。 条件付き性能をモニタし、条件付き交換性や時間的選択バイアスが保たれている場合、有効な推論が可能であることを示す。
  論文  参考訳（メタデータ） (2022-11-17T18:54:34Z)
• Neural Predictive Monitoring under Partial Observability [4.1316328854247155]
  本稿では,部分観測可能性(PO)に拘わらず,正確かつ信頼性の高い到達可能性予測を生成する学習ベース予測手法を提案する。 提案手法は,精度の高い到達可能性予測とエラー検出を行い,また,カバー範囲が保証された厳密な予測領域を実現する。
  論文  参考訳（メタデータ） (2021-08-16T15:08:20Z)
• Predictive Monitoring with Logic-Calibrated Uncertainty for Cyber-Physical Systems [2.3131309703965135]
  我々はベイジアンリカレントニューラルネットワーク(RNN)から生成される逐次予測をモニタリングするための新しいアプローチを開発する。 本研究では,不確実性の無限集合を含むフローパイプを監視するために,EmphSignal Temporal Logic with Uncertainty (STL-U) という新しい論理を提案する。 提案手法は実世界のデータセットとシミュレーションによるスマートシティケーススタディを用いて評価する。
  論文  参考訳（メタデータ） (2020-10-31T23:18:15Z)
• Double Robust Representation Learning for Counterfactual Prediction [68.78210173955001]
  そこで本稿では, 対実予測のための2次ロバスト表現を学習するための, スケーラブルな新しい手法を提案する。 我々は、個々の治療効果と平均的な治療効果の両方に対して、堅牢で効率的な対実的予測を行う。 このアルゴリズムは,実世界の最先端技術と合成データとの競合性能を示す。
  論文  参考訳（メタデータ） (2020-10-15T16:39:26Z)
• Risk-Sensitive Sequential Action Control with Multi-Modal Human Trajectory Forecasting for Safe Crowd-Robot Interaction [55.569050872780224]
  本稿では,リスクに敏感な最適制御に基づく安全な群集ロボットインタラクションのためのオンラインフレームワークを提案し,そのリスクをエントロピーリスク尺度でモデル化する。 私たちのモジュラーアプローチは、クラウドとロボットの相互作用を学習ベースの予測とモデルベースの制御に分離します。 シミュレーション研究と実世界の実験により、このフレームワークは、現場にいる50人以上の人間との衝突を避けながら、安全で効率的なナビゲーションを実現することができることが示された。
  論文  参考訳（メタデータ） (2020-09-12T02:02:52Z)
• An Uncertainty-based Human-in-the-loop System for Industrial Tool Wear Analysis [68.8204255655161]
  人間のループシステムにおけるモンテカルロのドロップアウトに基づく不確実性対策により,システムの透明性と性能が向上することを示す。 シミュレーション研究により、不確実性に基づく「ループ内人間システム」は、様々なレベルの人間の関与に対する性能を高めることが示されている。
  論文  参考訳（メタデータ） (2020-07-14T15:47:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。