論文の概要: Towards Developing Safety Assurance Cases for Learning-Enabled Medical Cyber-Physical Systems

• arxiv url: http://arxiv.org/abs/2211.15413v1
• Date: Wed, 23 Nov 2022 22:43:48 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-04 13:48:30.003815
• Title: Towards Developing Safety Assurance Cases for Learning-Enabled Medical Cyber-Physical Systems
• Title（参考訳）: 学習型医療サイバー物理システムのための安全保証事例の開発に向けて
• Authors: Maryam Bagheri, Josephine Lamp, Xugui Zhou, Lu Feng, Homa Alemzadeh
• Abstract要約: 我々は、学習可能なMCPSにおける機械学習コントローラの安全性保証ケースを開発する。 我々は,人工膵システムにおける予測のためのディープニューラルネットワークを実装することで,詳細な解析を行う。 本稿では,MLデータの妥当性を確認し,形式的検証を用いてMLに基づく予測の正しさを解析する。
• 参考スコア（独自算出の注目度）: 3.098385261166847
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine Learning (ML) technologies have been increasingly adopted in Medical Cyber-Physical Systems (MCPS) to enable smart healthcare. Assuring the safety and effectiveness of learning-enabled MCPS is challenging, as such systems must account for diverse patient profiles and physiological dynamics and handle operational uncertainties. In this paper, we develop a safety assurance case for ML controllers in learning-enabled MCPS, with an emphasis on establishing confidence in the ML-based predictions. We present the safety assurance case in detail for Artificial Pancreas Systems (APS) as a representative application of learning-enabled MCPS, and provide a detailed analysis by implementing a deep neural network for the prediction in APS. We check the sufficiency of the ML data and analyze the correctness of the ML-based prediction using formal verification. Finally, we outline open research problems based on our experience in this paper.
• Abstract（参考訳）: 機械学習(ML)技術は、スマートヘルスケアを実現するために、医療サイバー物理システム(MCPS)にますます採用されている。 学習可能なMCPSの安全性と有効性を確保することは困難であり、このようなシステムは多様な患者のプロファイルと生理学のダイナミクスを考慮し、運用上の不確実性を扱う必要がある。 本稿では,学習可能なMCPSにおけるMLコントローラの安全性保証ケースを開発し,MLベースの予測に対する信頼性の確立に着目した。 本稿では,学習可能なMCPSの代表的な応用として,APS(Artificial Pancreas Systems)の安全性保証事例を詳述するとともに,APSの予測のためのディープニューラルネットワークを実装することで,詳細な解析を行う。 MLデータの完全性を確認し,形式的検証を用いてMLに基づく予測の正確性を分析する。 最後に,我々の経験に基づくオープンリサーチの問題について概説する。

関連論文リスト

• Testing learning-enabled cyber-physical systems with Large-Language Models: A Formal Approach [32.15663640443728]
  機械学習(ML)をサイバー物理システム(CPS)に統合することは大きな利益をもたらす。 既存の検証と検証技術は、しばしばこれらの新しいパラダイムには不十分である。 本稿では, 基礎確率テストからより厳密なアプローチへ移行し, 正式な保証を実現するためのロードマップを提案する。
  論文  参考訳（メタデータ） (2023-11-13T14:56:14Z)
• Vulnerability of Machine Learning Approaches Applied in IoT-based Smart Grid: A Review [51.31851488650698]
  機械学習(ML)は、IoT(Internet-of-Things)ベースのスマートグリッドでの使用頻度が高まっている。 電力信号に注入された逆方向の歪みは システムの正常な制御と操作に大きな影響を及ぼす 安全クリティカルパワーシステムに適用されたMLsgAPPの脆弱性評価を行うことが不可欠である。
  論文  参考訳（メタデータ） (2023-08-30T03:29:26Z)
• Case Study-Based Approach of Quantum Machine Learning in Cybersecurity: Quantum Support Vector Machine for Malware Classification and Protection [8.34729912896717]
  各種サイバーセキュリティトピックをカバーするQMLベースの学習モジュールを設計・開発する。 本稿では,マルウェアの分類と保護に量子支援ベクトルマシン(QSVM)を用いる。 我々はQSVMモデルを実証し、マルウェアの分類と保護において95%の精度を達成する。
  論文  参考訳（メタデータ） (2023-06-01T02:04:09Z)
• Detecting Shortcut Learning for Fair Medical AI using Shortcut Testing [62.9062883851246]
  機械学習は医療の改善に大いに貢献するが、その利用が健康格差を広めたり増幅したりしないことを確実にすることは重要である。 アルゴリズムの不公平性の潜在的な要因の1つ、ショートカット学習は、トレーニングデータにおける不適切な相関に基づいてMLモデルが予測した時に発生する。 マルチタスク学習を用いて,臨床MLシステムの公平性評価の一環として,ショートカット学習の評価と緩和を行う手法を提案する。
  論文  参考訳（メタデータ） (2022-07-21T09:35:38Z)
• Robustness Testing of Data and Knowledge Driven Anomaly Detection in Cyber-Physical Systems [2.088376060651494]
  本稿では,安全クリティカルCPSにおけるMLに基づく異常検出手法のロバスト性を評価するための予備的結果を提案する。 我々は、ドメイン知識(例えば、安全でないシステムの振る舞い)とMLモデルを統合することによって、精度と透明性を犠牲にすることなく、異常検出の堅牢性を向上させることができるかどうかを仮説として検証する。
  論文  参考訳（メタデータ） (2022-04-20T02:02:56Z)
• The Role of Explainability in Assuring Safety of Machine Learning in Healthcare [9.462125772941347]
  本稿では、MLベースのシステムの安全性保証に説明可能なAI手法が寄与する方法について述べる。 結果は安全引数として表現され、どのようにして説明可能なAIメソッドが安全ケースに寄与できるかを示す。
  論文  参考訳（メタデータ） (2021-09-01T09:32:14Z)
• Multi Agent System for Machine Learning Under Uncertainty in Cyber Physical Manufacturing System [78.60415450507706]
  近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。 ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。 本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
  論文  参考訳（メタデータ） (2021-07-28T10:28:05Z)
• Practical Machine Learning Safety: A Survey and Primer [81.73857913779534]
  自動運転車のような安全クリティカルなアプリケーションにおける機械学習アルゴリズムのオープンワールド展開は、さまざまなML脆弱性に対処する必要がある。 一般化エラーを低減し、ドメイン適応を実現し、外乱例や敵攻撃を検出するための新しいモデルと訓練技術。 我々の組織は、MLアルゴリズムの信頼性を異なる側面から向上するために、最先端のML技術を安全戦略にマッピングする。
  論文  参考訳（メタデータ） (2021-06-09T05:56:42Z)
• Towards a Robust and Trustworthy Machine Learning System Development [0.09236074230806578]
  最新のML信頼性と技術に関する最近の調査をセキュリティエンジニアリングの視点から紹介します。 次に、ML実践者のための標準的かつ視覚化された方法で知識の体を表すメタモデルを記述することによって、調査の前後に研究を進めます。 本稿では,堅牢で信頼性の高いMLシステムの開発を進めるための今後の研究方向性を提案する。
  論文  参考訳（メタデータ） (2021-01-08T14:43:58Z)
• Privacy-preserving medical image analysis [53.4844489668116]
  医用画像におけるプライバシ保護機械学習(PPML)のためのソフトウェアフレームワークであるPriMIAを提案する。 集合型学習モデルの分類性能は,未発見データセットの人間専門家と比較して有意に良好である。 グラデーションベースのモデル反転攻撃に対するフレームワークのセキュリティを実証的に評価する。
  論文  参考訳（メタデータ） (2020-12-10T13:56:00Z)
• Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
  大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。 我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。 我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
  論文  参考訳（メタデータ） (2020-10-19T13:09:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。