論文の概要: Safety Monitoring of Machine Learning Perception Functions: a Survey

• arxiv url: http://arxiv.org/abs/2412.06869v1
• Date: Mon, 09 Dec 2024 10:58:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-11 14:39:50.437028
• Title: Safety Monitoring of Machine Learning Perception Functions: a Survey
• Title（参考訳）: 機械学習知覚機能の安全性モニタリングに関する調査
• Authors: Raul Sena Ferreira, Joris Guérin, Kevin Delmas, Jérémie Guiochet, Hélène Waeselynck,
• Abstract要約: 機械学習の予測が安全クリティカルなアプリケーションで使用されるとき、新しい信頼性の課題が発生する。 安全モニタなどのフォールトトレランス機構の使用は、システムの安全な動作を保証するために不可欠である。 本稿では,MLを用いた認識機能の安全性監視に関する文献的考察を行う。
• 参考スコア（独自算出の注目度）: 7.193217430660011
• License:
• Abstract: Machine Learning (ML) models, such as deep neural networks, are widely applied in autonomous systems to perform complex perception tasks. New dependability challenges arise when ML predictions are used in safety-critical applications, like autonomous cars and surgical robots. Thus, the use of fault tolerance mechanisms, such as safety monitors, is essential to ensure the safe behavior of the system despite the occurrence of faults. This paper presents an extensive literature review on safety monitoring of perception functions using ML in a safety-critical context. In this review, we structure the existing literature to highlight key factors to consider when designing such monitors: threat identification, requirements elicitation, detection of failure, reaction, and evaluation. We also highlight the ongoing challenges associated with safety monitoring and suggest directions for future research.
• Abstract（参考訳）: ディープニューラルネットワークのような機械学習(ML)モデルは、複雑な知覚タスクを実行するために自律システムに広く適用されている。 自律走行車や手術ロボットのような安全クリティカルなアプリケーションでML予測が使用されると、新たな信頼性の課題が生じる。 したがって, 安全モニタなどの耐故障性機構の使用は, 故障発生にもかかわらずシステムの安全な動作を確保するために不可欠である。 本稿では,MLを用いた認識機能の安全性監視に関する文献的考察を行う。 本稿では,脅威識別,要求誘導,故障検出,反応,評価といった,そのようなモニタを設計する上で考慮すべき重要な要素を明らかにするために,既存の文献を整理する。 また,安全監視に関わる課題を取り上げ,今後の研究の方向性を示唆する。

関連論文リスト

• System Safety Monitoring of Learned Components Using Temporal Metric Forecasting [8.76735390039138]
  学習可能な自律システムにおいて、学習したコンポーネントの安全性監視は、その出力がシステムの安全性違反に結びつかないことを保証するために不可欠である。 本稿では,確率的時系列予測に基づく安全監視手法を提案する。 安全度と違反予測精度を実証的に評価し、4つの最先端モデルの推論遅延とリソース使用率について検討した。
  論文  参考訳（メタデータ） (2024-05-21T23:48:26Z)
• Highlighting the Safety Concerns of Deploying LLMs/VLMs in Robotics [54.57914943017522]
  本稿では,大規模言語モデル (LLMs) と視覚言語モデル (VLMs) をロボティクスアプリケーションに統合する際のロバスト性と安全性に関する重要な課題を強調する。
  論文  参考訳（メタデータ） (2024-02-15T22:01:45Z)
• Empowering Autonomous Driving with Large Language Models: A Safety Perspective [82.90376711290808]
  本稿では,Large Language Models (LLM) の自律運転システムへの統合について検討する。 LLMは行動計画におけるインテリジェントな意思決定者であり、文脈的安全学習のための安全検証シールドを備えている。 適応型LLM条件モデル予測制御(MPC)と状態機械を用いたLLM対応対話型行動計画スキームという,シミュレーション環境における2つの重要な研究について述べる。
  論文  参考訳（メタデータ） (2023-11-28T03:13:09Z)
• Vulnerability of Machine Learning Approaches Applied in IoT-based Smart Grid: A Review [51.31851488650698]
  機械学習(ML)は、IoT(Internet-of-Things)ベースのスマートグリッドでの使用頻度が高まっている。 電力信号に注入された逆方向の歪みは システムの正常な制御と操作に大きな影響を及ぼす 安全クリティカルパワーシステムに適用されたMLsgAPPの脆弱性評価を行うことが不可欠である。
  論文  参考訳（メタデータ） (2023-08-30T03:29:26Z)
• Leveraging Traceability to Integrate Safety Analysis Artifacts into the Software Development Process [51.42800587382228]
  安全保証ケース(SAC)は、システムの進化中に維持することが困難である。 本稿では,ソフトウェアトレーサビリティを活用して,関連するシステムアーチファクトを安全解析モデルに接続する手法を提案する。 安全ステークホルダーがシステム変更が安全性に与える影響を分析するのに役立つように、システム変更の合理性を設計する。
  論文  参考訳（メタデータ） (2023-07-14T16:03:27Z)
• Unifying Evaluation of Machine Learning Safety Monitors [0.0]
  ランタイムモニタは、予測エラーを検出し、オペレーション中にシステムを安全な状態に保つために開発された。 本稿では、モニタの安全性(安全利得)と使用後の残りの安全ギャップ(残留ハザード)の3つの統合安全指向指標を紹介する。 3つのユースケース(分類、ドローン着陸、自律走行)は、提案されたメトリクスの観点から、文献からのメトリクスをどのように表現できるかを示すために使用される。
  論文  参考訳（メタデータ） (2022-08-31T07:17:42Z)
• Inspect, Understand, Overcome: A Survey of Practical Methods for AI Safety [54.478842696269304]
  安全クリティカルなアプリケーションにディープニューラルネットワーク(DNN)を使用することは、多数のモデル固有の欠点のために困難です。 近年,これらの安全対策を目的とした最先端技術動物園が出現している。 本稿は、機械学習の専門家と安全エンジニアの両方に対処する。
  論文  参考訳（メタデータ） (2021-04-29T09:54:54Z)
• Scalable Synthesis of Verified Controllers in Deep Reinforcement Learning [0.0]
  高品質の安全シールドを合成できる自動検証パイプラインを提案します。 私たちの重要な洞察は、事前に計算された安全シールドを使用して神経コントローラのトレーニングを制限し、神経コントローラから安全検証を分離することを含みます。 実測的な高次元深部RLベンチマークによる実験結果から,本手法の有効性が示された。
  論文  参考訳（メタデータ） (2021-04-20T19:30:29Z)
• Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
  大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。 我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。 我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
  論文  参考訳（メタデータ） (2020-10-19T13:09:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。