論文の概要: Into the Unknown: Active Monitoring of Neural Networks
- arxiv url: http://arxiv.org/abs/2009.06429v4
- Date: Fri, 12 Nov 2021 14:40:39 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-18 11:48:27.209859
- Title: Into the Unknown: Active Monitoring of Neural Networks
- Title（参考訳）: 未知の世界へ:ニューラルネットワークのアクティブモニタリング
- Authors: Anna Lukina, Christian Schilling, Thomas A. Henzinger
- Abstract要約: ニューラルネットワークの能動的監視のためのアルゴリズムフレームワークを提案する。
私たちのフレームワークにラップされたモニターは、ニューラルネットワークと並行して動作し、人間のユーザと対話する。
多様なベンチマークに関する実験的評価は、動的シナリオにおけるアクティブモニタリングフレームワークの利点を裏付けるものである。
- 参考スコア（独自算出の注目度）: 9.591060426695748
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural-network classifiers achieve high accuracy when predicting the class of
an input that they were trained to identify. Maintaining this accuracy in
dynamic environments, where inputs frequently fall outside the fixed set of
initially known classes, remains a challenge. The typical approach is to detect
inputs from novel classes and retrain the classifier on an augmented dataset.
However, not only the classifier but also the detection mechanism needs to
adapt in order to distinguish between newly learned and yet unknown input
classes. To address this challenge, we introduce an algorithmic framework for
active monitoring of a neural network. A monitor wrapped in our framework
operates in parallel with the neural network and interacts with a human user
via a series of interpretable labeling queries for incremental adaptation. In
addition, we propose an adaptive quantitative monitor to improve precision. An
experimental evaluation on a diverse set of benchmarks with varying numbers of
classes confirms the benefits of our active monitoring framework in dynamic
scenarios.
- Abstract（参考訳）: ニューラルネットワーク分類器は、識別のために訓練された入力のクラスを予測する際に高い精度を達成する。
入力が初期既知クラスの固定セットからしばしば外れる動的な環境において、この精度を維持することは、依然として課題である。
典型的なアプローチは、新しいクラスからの入力を検出し、拡張データセットで分類器を再トレーニングする。
しかし、新たに学習されたクラスと未知のクラスを区別するためには、分類器だけでなく検出機構も適応する必要がある。
そこで本研究では,ニューラルネットワークのアクティブモニタリングのためのアルゴリズムフレームワークを提案する。
我々のフレームワークにラップされたモニターは、ニューラルネットワークと並行して動作し、インクリメンタル適応のための一連の解釈可能なラベリングクエリを介して人間のユーザと対話する。
さらに,精度向上のための適応的定量的モニタを提案する。
さまざまなクラスを持つ多様なベンチマークセットに関する実験的評価は、動的シナリオにおけるアクティブモニタリングフレームワークのメリットを確認します。
関連論文リスト
- Learning a Neural Association Network for Self-supervised Multi-Object Tracking [34.07776597698471]
本稿では,多目的追跡のためのデータアソシエーションを自己管理的に学習するための新しいフレームワークを提案する。
実世界のシナリオでは、オブジェクトの動きが通常マルコフプロセスで表現できるという事実により、我々は、トラッキングのための検出を関連付けるためにニューラルネットワークをトレーニングする新しい期待(EM)アルゴリズムを提案する。
我々は,挑戦的なMOT17とMOT20データセットに対するアプローチを評価し,自己教師付きトラッカーと比較して最先端の結果を得る。
論文 参考訳（メタデータ） (2024-11-18T12:22:29Z) - Activate and Reject: Towards Safe Domain Generalization under Category
Shift [71.95548187205736]
カテゴリーシフト(DGCS)下における領域一般化の実践的問題について検討する。
未知のクラスサンプルを同時に検出し、ターゲットドメイン内の既知のクラスサンプルを分類することを目的としている。
従来のDGと比較すると,1)ソースクラスのみを用いたトレーニングにおいて,未知の概念を学習する方法,2)ソーストレーニングされたモデルを未知の環境に適応する方法,の2つの新しい課題に直面している。
論文 参考訳（メタデータ） (2023-10-07T07:53:12Z) - Adversarial Sample Detection Through Neural Network Transport Dynamics [18.08752807817708]
本稿では,ニューラルネットワークを離散力学系とする対向サンプルの検出手法を提案する。
検出器は、層を通して追従する離散ベクトル場を比較して、異常な物体からのクリーンな入力を伝えます。
トレーニング中にこのベクトルフィールドを正規化することで、ネットワークがデータ分散のサポートをより規則的にすることを示す。
論文 参考訳（メタデータ） (2023-06-07T08:47:41Z) - How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。
入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文 参考訳（メタデータ） (2023-06-04T08:53:27Z) - Anomaly Detection using Ensemble Classification and Evidence Theory [62.997667081978825]
本稿では,アンサンブル分類とエビデンス理論を用いた新しい検出手法を提案する。
固体アンサンブル分類器を構築するためのプール選択戦略が提示される。
我々は異常検出手法の不確実性を利用する。
論文 参考訳（メタデータ） (2022-12-23T00:50:41Z) - Automatic Change-Point Detection in Time Series via Deep Learning [8.43086628139493]
ニューラルネットワークのトレーニングに基づいて,新しいオフライン検出手法を自動生成する方法を示す。
本稿では,そのような手法の誤差率を定量化する理論について述べる。
また,加速度計データに基づく活動変化の検出と位置推定にも強い効果が得られた。
論文 参考訳（メタデータ） (2022-11-07T20:59:14Z) - Self-supervised Pretraining with Classification Labels for Temporal
Activity Detection [54.366236719520565]
時間的アクティビティ検出は、1フレーム当たりのアクティビティクラスを予測することを目的としている。
検出に必要なフレームレベルのアノテーションが高価なため、検出データセットの規模は限られている。
本研究では,分類ラベルを利用した自己教師付き事前学習手法を提案する。
論文 参考訳（メタデータ） (2021-11-26T18:59:28Z) - Incremental Deep Neural Network Learning using Classification Confidence
Thresholding [4.061135251278187]
分類のための現代のニューラルネットワークのほとんどは、未知の概念を考慮していない。
本稿では,逐次学習のための素数ニューラルネットワークに対する分類信頼度閾値アプローチを提案する。
論文 参考訳（メタデータ） (2021-06-21T22:46:28Z) - DAAIN: Detection of Anomalous and Adversarial Input using Normalizing
Flows [52.31831255787147]
我々は、アウト・オブ・ディストリビューション(OOD)インプットと敵攻撃(AA)を検出する新しい手法であるDAINを導入する。
本手法は,ニューラルネットワークの内部動作を監視し,活性化分布の密度推定器を学習する。
当社のモデルは,特別なアクセラレータを必要とせずに,効率的な計算とデプロイが可能な単一のGPUでトレーニングすることが可能です。
論文 参考訳（メタデータ） (2021-05-30T22:07:13Z) - Conditional Variational Capsule Network for Open Set Recognition [64.18600886936557]
オープンセット認識では、分類器はトレーニング時に未知の未知のクラスを検出する必要がある。
最近提案されたカプセルネットワークは、特に画像認識において、多くの分野で代替案を上回ることが示されている。
本提案では,訓練中,同じ既知のクラスのカプセルの特徴を,事前に定義されたガウス型に適合させることを推奨する。
論文 参考訳（メタデータ） (2021-04-19T09:39:30Z) - Improving Video Instance Segmentation by Light-weight Temporal
Uncertainty Estimates [11.580916951856256]
本稿では,インスタンスセグメンテーションネットワークの不確かさをモデル化するための時間動的手法を提案する。
本稿では,偽陽性の検出と予測品質の推定に本手法を適用した。
提案手法は、容易に訓練されたニューラルネットワークとビデオシーケンス入力のみを必要とする。
論文 参考訳（メタデータ） (2020-12-14T13:39:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。