論文の概要: Unifying Runtime Monitoring Approaches for Safety-Critical Machine Learning: Application to Vision-Based Landing

• arxiv url: http://arxiv.org/abs/2604.26411v1
• Date: Wed, 29 Apr 2026 08:24:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-30 15:59:36.309867
• Title: Unifying Runtime Monitoring Approaches for Safety-Critical Machine Learning: Application to Vision-Based Landing
• Title（参考訳）: 安全クリティカル機械学習のための実行時モニタリングアプローチの統一:ビジョンベースランディングへの応用
• Authors: Mathieu Dario, Florent Chenevier, Kévin Delmas, Joris Guerin, Jérémie Guiochet,
• Abstract要約: 我々は,ランタイムモニタリングアプローチを,運用設計ドメイン(ODD)モニタリング,アウト・オブ・ディストリビューション(OOD)モニタリング,モデル・オブ・モデル・スコープ(OMS)モニタリングの3つの異なるタイプに分類するフレームワークを提案する。 このフレームワークは、モニターの補完的なカテゴリを持つ監視活動の設計を容易にし、共通の安全指向のメトリクスを使用して、異なるモニタの評価と比較を可能にする。
• 参考スコア（独自算出の注目度）: 1.4680035572775534
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Runtime monitoring is essential to ensure the safety of ML applications in safety-critical domains. However, current research is fragmented, with independent methods emerging from different communities. In this paper, we propose a unified framework categorising runtime monitoring approaches into three distinct types: Operational Design Domain (ODD) monitoring, which ensures compliance with expected operating conditions; Out-of-Distribution (OOD) monitoring, which rejects inputs that deviate from the training data; and Out-of-Model-Scope (OMS) monitoring, which detects anomalous model behaviour based its internal states or outputs. We demonstrate the benefits of this categorization with a dedicated experiment on an aeronautical safety-critical application: runway detection during landing. This framework facilitates design of monitoring activities, with complementary categories of monitors, and enables evaluation and comparison of different monitors using common, safety-oriented metrics.
• Abstract（参考訳）: 安全クリティカルなドメインにおけるMLアプリケーションの安全性を保証するためには、ランタイム監視が不可欠である。 しかし、現在の研究は断片化されており、異なるコミュニティから独立した方法が生まれている。 本稿では,操作設計ドメイン(ODD)モニタリング,トレーニングデータから逸脱する入力を拒否するアウト・オブ・ディストリビューション(OOD)モニタリング,内部状態や出力に基づいて異常モデル動作を検出するアウト・オブ・モデル・スコープ(OMS)モニタリングの3つの異なるタイプに分類するフレームワークを提案する。 着陸時の滑走路検出という,航空安全クリティカルな応用に関する専用実験により,この分類の利点を実証する。 このフレームワークは、モニターの補完的なカテゴリを持つ監視活動の設計を容易にし、共通の安全指向のメトリクスを使用して、異なるモニタの評価と比較を可能にする。

関連論文リスト

• Cooperative Informative Sensing for Monitoring Dynamic Indoor Environments via Multi-Agent Reinforcement Learning [56.64821510576244]
  我々は,複数のロボットが動作を調整し,部分観測可能性下での監視精度を直接最適化する分散制御問題として,協調的アクティブな観察を定式化する。 本稿では,多エージェント強化学習(MARL)を用いた分散観測から,多人数の人間と時間的依存関係を扱うアーキテクチャを基盤とした協調政策学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-25T07:20:15Z)
• Detecting Object Tracking Failure via Sequential Hypothesis Testing [80.7891291021747]
  ビデオにおけるリアルタイムのオンラインオブジェクト追跡は、コンピュータビジョンにおける中核的なタスクである。 本稿では,物体追跡を逐次的仮説テストとして解釈することを提案する。 本研究では,地中追跡情報と内部追跡情報の両方を活用することにより,教師なしと教師なしの両方の変種を提案する。
  論文  参考訳（メタデータ） (2026-02-13T14:57:15Z)
• Prediction-Powered Risk Monitoring of Deployed Models for Detecting Harmful Distribution Shifts [51.37000123503367]
  予測駆動型リスクモニタリング(PPRM)を提案する。 PPRMは、合成ラベルを真のラベルの小さなセットと組み合わせることで、ランニングリスクの任意の有意な下界を構築する。 本稿では,画像分類,大規模言語モデル(LLM),通信監視タスクの広範な実験を通じて,PPRMの有効性を実証する。
  論文  参考訳（メタデータ） (2026-02-02T15:32:14Z)
• AutoMonitor-Bench: Evaluating the Reliability of LLM-Based Misbehavior Monitor [19.39430341586964]
  AutoMonitor-Benchは、さまざまなタスクや障害モードにわたる誤動作モニタの信頼性を体系的に評価する最初のベンチマークである。 本研究では,2つの相補的指標(ミスレート(MR)とFalse Alarm Rate(FAR))を用いてモニタの評価を行った。 本研究では、153,581個のサンプルとQwen3-4B-インストラクションからなる大規模トレーニングコーパスを構築し、既知の比較的簡単に構築可能な誤動作データセットによるトレーニングが、目に見えない、より暗黙的な誤動作に対する監視性能を向上させるかどうかを調査する。
  論文  参考訳（メタデータ） (2026-01-09T12:09:45Z)
• GuardTrace-VL: Detecting Unsafe Multimodel Reasoning via Iterative Safety Supervision [47.99880677909197]
  GuardTrace-VLは、共同画像テキスト分析を通じてQTAパイプライン全体を監視する、視覚対応の安全監査ツールである。 本研究では,データ修正プロセスと組み合わさった3段階のプログレッシブトレーニング手法を提案する。 提案したテストセットでは、ドメイン内シナリオとドメイン外シナリオの両方を対象として、安全でない推論検出タスクにおいて、GuardTrace-VLモデルがF1スコア93.1%を達成した。
  論文  参考訳（メタデータ） (2025-11-26T02:49:51Z)
• Explaining Unreliable Perception in Automated Driving: A Fuzzy-based Monitoring Approach [1.33134751838052]
  本稿では,機械学習(ML)知覚コンポーネントに適したファジィベースの新しいモニタを提案する。 異なる動作条件が知覚コンポーネントの信頼性にどのように影響するかを人間に解釈可能な説明を提供するとともに、ランタイム安全モニターとして機能する。
  論文  参考訳（メタデータ） (2025-05-20T14:22:39Z)
• Designing monitoring strategies for deployed machine learning algorithms: navigating performativity through a causal lens [6.329470650220206]
  この研究の目的は、監視戦略を設計する際の比較的過小評価されている複雑さを強調することである。 MLに基づく未計画の読み出し予測のためのリスク予測アルゴリズムについて検討する。 このケーススタディの結果は、すべての監視システムが平等に作成されるわけではないという、一見単純な(そして明らかな)事実を強調します。
  論文  参考訳（メタデータ） (2023-11-20T00:15:16Z)
• In-Distribution Barrier Functions: Self-Supervised Policy Filters that Avoid Out-of-Distribution States [84.24300005271185]
  本稿では,任意の参照ポリシーをラップした制御フィルタを提案する。 本手法は、トップダウンとエゴセントリックの両方のビュー設定を含むシミュレーション環境における2つの異なるビズモータ制御タスクに有効である。
  論文  参考訳（メタデータ） (2023-01-27T22:28:19Z)
• Unifying Evaluation of Machine Learning Safety Monitors [0.0]
  ランタイムモニタは、予測エラーを検出し、オペレーション中にシステムを安全な状態に保つために開発された。 本稿では、モニタの安全性(安全利得)と使用後の残りの安全ギャップ(残留ハザード)の3つの統合安全指向指標を紹介する。 3つのユースケース(分類、ドローン着陸、自律走行)は、提案されたメトリクスの観点から、文献からのメトリクスをどのように表現できるかを示すために使用される。
  論文  参考訳（メタデータ） (2022-08-31T07:17:42Z)
• Prescriptive Process Monitoring: Quo Vadis? [64.39761523935613]
  本論文はシステム文献レビュー(SLR)を通して,本分野における既存手法について考察する。 SLRは今後の研究の課題や分野に関する洞察を提供し、規範的なプロセス監視手法の有用性と適用性を高めることができる。
  論文  参考訳（メタデータ） (2021-12-03T08:06:24Z)
• Benchmarking Safety Monitors for Image Classifiers with Machine Learning [0.0]
  高精度機械学習(ML)画像分類器は、動作時に失敗しないことを保証できない。 安全モニタなどのフォールトトレランス機構の使用は,システムを安全な状態に保つ上で有望な方向である。 本稿では,ML画像分類器のベンチマークを行うためのベースラインフレームワークを確立することを目的とする。
  論文  参考訳（メタデータ） (2021-10-04T07:52:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。