論文の概要: PAC-Based Formal Verification for Out-of-Distribution Data Detection
- arxiv url: http://arxiv.org/abs/2304.01592v1
- Date: Tue, 4 Apr 2023 07:33:02 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-05 14:44:46.313353
- Title: PAC-Based Formal Verification for Out-of-Distribution Data Detection
- Title（参考訳）: 分散データ検出のためのpacに基づく形式的検証
- Authors: Mohit Prashant and Arvind Easwaran
- Abstract要約: 本研究は、VAEの符号化プロセスを用いて、OOD検出に基づくほぼ正しい(PAC)保証を行う。
ユーザ定義の信頼性で不慣れなインスタンスに検出エラーをバインドするために使用される。
- 参考スコア（独自算出の注目度）: 4.406331747636832
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Cyber-physical systems (CPS) like autonomous vehicles, that utilize learning
components, are often sensitive to noise and out-of-distribution (OOD)
instances encountered during runtime. As such, safety critical tasks depend
upon OOD detection subsystems in order to restore the CPS to a known state or
interrupt execution to prevent safety from being compromised. However, it is
difficult to guarantee the performance of OOD detectors as it is difficult to
characterize the OOD aspect of an instance, especially in high-dimensional
unstructured data.
To distinguish between OOD data and data known to the learning component
through the training process, an emerging technique is to incorporate
variational autoencoders (VAE) within systems and apply classification or
anomaly detection techniques on their latent spaces. The rationale for doing so
is the reduction of the data domain size through the encoding process, which
benefits real-time systems through decreased processing requirements,
facilitates feature analysis for unstructured data and allows more explainable
techniques to be implemented.
This study places probably approximately correct (PAC) based guarantees on
OOD detection using the encoding process within VAEs to quantify image features
and apply conformal constraints over them. This is used to bound the detection
error on unfamiliar instances with user-defined confidence. The approach used
in this study is to empirically establish these bounds by sampling the latent
probability distribution and evaluating the error with respect to the
constraint violations that are encountered. The guarantee is then verified
using data generated from CARLA, an open-source driving simulator.
- Abstract（参考訳）: 学習コンポーネントを使用する自動運転車のようなサイバー物理システム(cps)は、実行時に発生するノイズや分散(ood)インスタンスに敏感であることが多い。
そのため、安全クリティカルタスクは、CPSを既知の状態に復元したり、実行を中断して安全性が損なわれないようにするために、OOD検出サブシステムに依存する。
しかし、特に高次元非構造データにおいて、インスタンスのOOD側面を特徴付けることは困難であるため、OOD検出器の性能を保証することは困難である。
OODデータと学習コンポーネントに知られているデータをトレーニングプロセスを通じて区別するために、システムに変分オートエンコーダ(VAE)を組み込んで、潜在空間に分類または異常検出技術を適用する。
その根拠は、符号化プロセスによるデータドメインサイズの削減であり、処理要求の低減を通じてリアルタイムシステムに恩恵を与え、非構造化データの特徴解析を容易にし、より説明可能な技術を実装することができる。
本研究は,VAE内の符号化プロセスを用いて画像特徴を定量化し,それらに適合性制約を適用したOOD検出に基づくほぼ正しい(PAC)保証を示す。
これは、ユーザ定義の信頼性で不慣れなインスタンスに検出エラーをバインドするために使用される。
本研究は, 潜在確率分布をサンプリングし, 遭遇した制約違反に対する誤差を評価することにより, これらの境界を実証的に確立することを目的とする。
保証は、オープンソースの運転シミュレータであるCARLAから生成されたデータを使って検証される。
関連論文リスト
- Analyzing Adversarial Inputs in Deep Reinforcement Learning [53.3760591018817]
本稿では, 正当性検証のレンズを用いて, 逆入力の特性を包括的に解析する。
このような摂動に対する感受性に基づいてモデルを分類するために、新しい計量である逆数率(Adversarial Rate)を導入する。
本分析は, 直交入力が所定のDRLシステムの安全性にどのように影響するかを実証的に示す。
論文 参考訳（メタデータ） (2024-02-07T21:58:40Z) - Fault Detection via Occupation Kernel Principal Component Analysis [2.2136680238528665]
作業カーネルを用いた新しい主成分分析(PCA)手法を提案する。
作業カーネルは, 測定データに合わせた特徴マップを作成し, 統合利用による固有のノイズ・ロバスト性を持ち, 可変長の不規則サンプリングシステムトラジェクトリを利用することができる。
論文 参考訳（メタデータ） (2023-03-20T14:15:52Z) - PULL: Reactive Log Anomaly Detection Based On Iterative PU Learning [58.85063149619348]
本稿では,推定故障時間ウィンドウに基づくリアクティブ異常検出のための反復ログ解析手法PULLを提案する。
我々の評価では、PULLは3つの異なるデータセットで10のベンチマークベースラインを一貫して上回っている。
論文 参考訳（メタデータ） (2023-01-25T16:34:43Z) - A Robust and Explainable Data-Driven Anomaly Detection Approach For
Power Electronics [56.86150790999639]
本稿では,2つの異常検出・分類手法,すなわち行列プロファイルアルゴリズムと異常変換器を提案する。
行列プロファイルアルゴリズムは、ストリーミング時系列データにおけるリアルタイム異常を検出するための一般化可能なアプローチとして適している。
検知器の感度、リコール、検出精度を調整するために、一連のカスタムフィルタが作成され、追加される。
論文 参考訳（メタデータ） (2022-09-23T06:09:35Z) - Design Methodology for Deep Out-of-Distribution Detectors in Real-Time
Cyber-Physical Systems [5.233831361879669]
アウト・オブ・ディストリビューション(OOD)検出器はMLモデルと並行して動作し、フラグ入力は望ましくない結果をもたらす可能性がある。
本研究は,組込みアプリケーションの精度および応答時間要求を満たすため,深部OOD検出器をチューニングするための設計手法を提案する。
論文 参考訳（メタデータ） (2022-07-29T14:06:27Z) - Representation Learning for Content-Sensitive Anomaly Detection in
Industrial Networks [0.0]
本論文では、生のネットワークトラフィックの時空間的側面を教師なしかつプロトコルに依存しない方法で学習する枠組みを提案する。
学習された表現は、その後の異常検出の結果に与える影響を測定するために使用される。
論文 参考訳（メタデータ） (2022-04-20T09:22:41Z) - Anomaly Detection Based on Selection and Weighting in Latent Space [73.01328671569759]
SWADと呼ばれる新しい選択および重み付けに基づく異常検出フレームワークを提案する。
ベンチマークと実世界のデータセットによる実験は、SWADの有効性と優位性を示している。
論文 参考訳（メタデータ） (2021-03-08T10:56:38Z) - Learn what you can't learn: Regularized Ensembles for Transductive
Out-of-distribution Detection [76.39067237772286]
ニューラルネットワークの現在のアウト・オブ・ディストリビューション(OOD)検出アルゴリズムは,様々なOOD検出シナリオにおいて不満足な結果をもたらすことを示す。
本稿では,テストデータのバッチを観察した後に検出方法を調整することで,このような「ハード」なOODシナリオがいかに有用かを検討する。
本稿では,テストデータと正規化に人工ラベリング手法を用いて,テストバッチ内のOODサンプルに対してのみ矛盾予測を生成するモデルのアンサンブルを求める手法を提案する。
論文 参考訳（メタデータ） (2020-12-10T16:55:13Z) - Out-of-Distribution Detection for Automotive Perception [58.34808836642603]
ニューラルネットワーク(NN)は、自律運転におけるオブジェクト分類に広く使われている。
NNは、アウト・オブ・ディストリビューション(OOD)データとして知られるトレーニングデータセットで適切に表現されていない入力データでフェールすることができる。
本稿では,OODデータを必要としない入力がOODであるか否かを判定し,推論の計算コストを増大させる方法を提案する。
論文 参考訳（メタデータ） (2020-11-03T01:46:35Z) - Real-time Out-of-distribution Detection in Learning-Enabled
Cyber-Physical Systems [1.4213973379473654]
サイバー物理システムは、現実世界の不確実性と可変性を処理できる機械学習コンポーネントを使用することで恩恵を受ける。
しかし、ディープニューラルネットワークは、システムの安全性に影響を及ぼす可能性のある、新しいタイプのハザードを導入している。
アウト・オブ・ディストリビューションデータは大きなエラーを引き起こし、安全性を損なう可能性がある。
論文 参考訳（メタデータ） (2020-01-28T17:51:07Z) - Assurance Monitoring of Cyber-Physical Systems with Machine Learning
Components [2.1320960069210484]
我々は,サイバー物理システムの保証監視にコンフォメーション予測フレームワークを使用する方法について検討する。
リアルタイムに高次元入力を処理するために,学習モデルの埋め込み表現を用いて非整合性スコアを計算する。
整合性予測を活用することで、この手法は十分に校正された信頼性を提供し、限定された小さなエラー率を保証する監視を可能にする。
論文 参考訳（メタデータ） (2020-01-14T19:34:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。