論文の概要: Compressing VAE-Based Out-of-Distribution Detectors for Embedded Deployment
- arxiv url: http://arxiv.org/abs/2409.00880v1
- Date: Mon, 2 Sep 2024 00:39:29 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-06 08:30:49.564384
- Title: Compressing VAE-Based Out-of-Distribution Detectors for Embedded Deployment
- Title（参考訳）: 組込み型展開のためのVAEを用いたアウト・オブ・ディストリビューション検出器の圧縮
- Authors: Aditya Bansal, Michael Yuhas, Arvind Easwaran,
- Abstract要約: アウト・オブ・ディストリビューション検出器は、組込みサイバー物理システムの安全モニターとして機能する。
ディープニューラルネットワークは、メモリと電力の制約のある組み込みシステムにおいて、リアルタイムの期限を満たすのが難しくなる。
本稿では,3つの圧縮手法をすべて組み合わせた設計手法を提案し,メモリと実行時間を大幅に削減する。
- 参考スコア（独自算出の注目度）: 2.27626288527213
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Out-of-distribution (OOD) detectors can act as safety monitors in embedded cyber-physical systems by identifying samples outside a machine learning model's training distribution to prevent potentially unsafe actions. However, OOD detectors are often implemented using deep neural networks, which makes it difficult to meet real-time deadlines on embedded systems with memory and power constraints. We consider the class of variational autoencoder (VAE) based OOD detectors where OOD detection is performed in latent space, and apply quantization, pruning, and knowledge distillation. These techniques have been explored for other deep models, but no work has considered their combined effect on latent space OOD detection. While these techniques increase the VAE's test loss, this does not correspond to a proportional decrease in OOD detection performance and we leverage this to develop lean OOD detectors capable of real-time inference on embedded CPUs and GPUs. We propose a design methodology that combines all three compression techniques and yields a significant decrease in memory and execution time while maintaining AUROC for a given OOD detector. We demonstrate this methodology with two existing OOD detectors on a Jetson Nano and reduce GPU and CPU inference time by 20% and 28% respectively while keeping AUROC within 5% of the baseline.
- Abstract（参考訳）: アウト・オブ・ディストリビューション(OOD)検出器は、機械学習モデルのトレーニングディストリビューションの外でサンプルを識別することで、組み込みサイバー物理システムの安全モニターとして機能し、潜在的に安全でないアクションを防ぐことができる。
しかし、OOD検出器はディープニューラルネットワークを使ってしばしば実装されるため、メモリと電力の制約のある組み込みシステムのリアルタイムな期限を満たすことは困難である。
我々は,OOD検出を潜在空間で行う可変オートエンコーダ(VAE)に基づくOOD検出器のクラスを検討し,定量化,プルーニング,知識蒸留を適用した。
これらの手法は他の深層モデルに対しても検討されてきたが、遅延空間のOOD検出に組み合わせた効果は検討されていない。
これらの技術はVOEのテスト損失を増加させるが、これはOOD検出性能の比例的な低下には対応せず、組込みCPUやGPU上でリアルタイムに推測できるリーンOOD検出器を開発するために活用する。
本稿では,3つの圧縮技術を組み合わせて,OOD検出器のAUROCを維持しながら,メモリと実行時間を著しく短縮する設計手法を提案する。
この手法をJetson Nano上に2つの既存のOOD検出器を用いて実証し、GPUとCPUの推論時間をそれぞれ20%と28%削減し、AUROCをベースラインの5%に抑える。
関連論文リスト
- Resultant: Incremental Effectiveness on Likelihood for Unsupervised Out-of-Distribution Detection [63.93728560200819]
unsupervised out-of-distribution (U-OOD) は、未表示のin-distriion(ID)データのみに基づいて訓練された検出器でデータサンプルを識別することである。
近年の研究は、DGMに基づく様々な検出器を開発し、可能性を超えて移動している。
本研究では,各方向,特にポストホック前とデータセットエントロピー・ミューチュアルキャリブレーションの2つの手法を適用した。
実験の結果、結果が新しい最先端のU-OOD検出器になる可能性が示された。
論文 参考訳（メタデータ） (2024-09-05T02:58:13Z) - Beyond AUROC & co. for evaluating out-of-distribution detection
performance [50.88341818412508]
安全(r)AIとの関連性を考えると,OOD検出法の比較の基礎が実用的ニーズと整合しているかどうかを検討することが重要である。
我々は,IDとOODの分離が不十分なことを明示する新しい指標であるAUTC(Area Under the Threshold Curve)を提案する。
論文 参考訳（メタデータ） (2023-06-26T12:51:32Z) - AUTO: Adaptive Outlier Optimization for Online Test-Time OOD Detection [81.49353397201887]
オープンソースアプリケーションに機械学習モデルをデプロイするには、アウト・オブ・ディストリビューション(OOD)検出が不可欠だ。
我々は、未ラベルのオンラインデータをテスト時に直接利用してOOD検出性能を向上させる、テスト時OOD検出と呼ばれる新しいパラダイムを導入する。
本稿では,入出力フィルタ,IDメモリバンク,意味的に一貫性のある目的からなる適応外乱最適化(AUTO)を提案する。
論文 参考訳（メタデータ） (2023-03-22T02:28:54Z) - Reconstruction-based Out-of-Distribution Detection for Short-Range FMCW
Radar [0.0]
本稿では,レーダ領域で動作する新しい再構成型OOD検出器を提案する。
提案手法はオートエンコーダ(AE)とその潜在表現を利用してOODサンプルを検出する。
我々は60GHz短距離FMCWレーダを用いて収集したデータセットに対して90.72%のAUROCを達成した。
論文 参考訳（メタデータ） (2023-02-27T23:03:51Z) - Rainproof: An Umbrella To Shield Text Generators From
Out-Of-Distribution Data [41.62897997865578]
安全なシステム動作を保証するための重要な要素は、Out-Of-Distribution Detectionである。
ほとんどのメソッドはエンコーダが出力する隠れた機能に依存している。
本研究では,ブラックボックスフレームワークにおけるソフト確率の活用に焦点をあてる。
論文 参考訳（メタデータ） (2022-12-18T21:22:28Z) - Identifying Out-of-Distribution Samples in Real-Time for Safety-Critical
2D Object Detection with Margin Entropy Loss [0.0]
本稿では,2次元物体検出におけるOOD検出の限界エントロピー(ME)損失を利用したアプローチを提案する。
ME損失をトレーニングしたCNNは、標準信頼度スコアを用いてOOD検出を著しく上回る。
論文 参考訳（メタデータ） (2022-09-01T11:14:57Z) - Design Methodology for Deep Out-of-Distribution Detectors in Real-Time
Cyber-Physical Systems [5.233831361879669]
アウト・オブ・ディストリビューション(OOD)検出器はMLモデルと並行して動作し、フラグ入力は望ましくない結果をもたらす可能性がある。
本研究は,組込みアプリケーションの精度および応答時間要求を満たすため,深部OOD検出器をチューニングするための設計手法を提案する。
論文 参考訳（メタデータ） (2022-07-29T14:06:27Z) - Model2Detector:Widening the Information Bottleneck for
Out-of-Distribution Detection using a Handful of Gradient Steps [12.263417500077383]
アウト・オブ・ディストリビューション検出は、長いバニラニューラルネットワークを持つ重要な機能である。
推論時間外分布検出の最近の進歩は、これらの問題のいくつかを緩和するのに役立つ。
提案手法は,一般的な画像データセットにおける検出精度において,常に最先端の手法よりも優れていることを示す。
論文 参考訳（メタデータ） (2022-02-22T23:03:40Z) - Triggering Failures: Out-Of-Distribution detection by learning from
local adversarial attacks in Semantic Segmentation [76.2621758731288]
セグメンテーションにおけるアウト・オブ・ディストリビューション(OOD)オブジェクトの検出に取り組む。
私たちの主な貢献は、ObsNetと呼ばれる新しいOOD検出アーキテクチャであり、ローカル・アタック(LAA)に基づく専用トレーニングスキームと関連付けられています。
3つの異なるデータセットの文献の最近の10つの手法と比較して,速度と精度の両面で最高の性能が得られることを示す。
論文 参考訳（メタデータ） (2021-08-03T17:09:56Z) - Provably Robust Detection of Out-of-distribution Data (almost) for free [124.14121487542613]
ディープニューラルネットワークは、アウト・オブ・ディストリビューション(OOD)データに対する高い過度な予測を生成することが知られている。
本稿では,認証可能なOOD検出器を標準分類器と組み合わせてOOD認識分類器を提案する。
このようにして、我々は2つの世界のベストを達成している。OOD検出は、分布内に近いOODサンプルであっても、予測精度を損なうことなく、非操作型OODデータに対する最先端のOOD検出性能に近接する。
論文 参考訳（メタデータ） (2021-06-08T11:40:49Z) - Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。
ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
論文 参考訳（メタデータ） (2020-03-21T17:46:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。