Fugu-MT 論文翻訳(概要): MAGDiff: Covariate Data Set Shift Detection via Activation Graphs of Deep Neural Networks

論文の概要: MAGDiff: Covariate Data Set Shift Detection via Activation Graphs of Deep Neural Networks

arxiv url: http://arxiv.org/abs/2305.13271v1
Date: Mon, 22 May 2023 17:34:47 GMT
ステータス: 処理完了
システム内更新日: 2023-05-23 14:00:58.444716
Title: MAGDiff: Covariate Data Set Shift Detection via Activation Graphs of Deep Neural Networks
Title（参考訳）: MAGDiff:ディープニューラルネットワークの活性化グラフによる共変量データセットシフト検出
Authors: Felix Hensel, Charles Arnal, Mathieu Carri\`ere, Th\'eo Lacombe, Hiroaki Kurihara, Yuichi Ike, Fr\'ed\'eric Chazal
Abstract要約: 我々は、任意のニューラルネットワーク分類器から抽出するMAGDiffと呼ばれる新しい表現群を提案する。これらの表現は、トレーニング分布に属するサンプルと目標分布とのニューラルネットワークのアクティベーショングラフを比較して計算される。本稿では,ネットワーク出力に依存した最先端のベースラインに対して,新しい表現が大幅な改善をもたらすことを示す。
参考スコア（独自算出の注目度）: 2.6168876987285308
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Despite their successful application to a variety of tasks, neural networks remain limited, like other machine learning methods, by their sensitivity to shifts in the data: their performance can be severely impacted by differences in distribution between the data on which they were trained and that on which they are deployed. In this article, we propose a new family of representations, called MAGDiff, that we extract from any given neural network classifier and that allows for efficient covariate data shift detection without the need to train a new model dedicated to this task. These representations are computed by comparing the activation graphs of the neural network for samples belonging to the training distribution and to the target distribution, and yield powerful data- and task-adapted statistics for the two-sample tests commonly used for data set shift detection. We demonstrate this empirically by measuring the statistical powers of two-sample Kolmogorov-Smirnov (KS) tests on several different data sets and shift types, and showing that our novel representations induce significant improvements over a state-of-the-art baseline relying on the network output.
Abstract（参考訳）: さまざまなタスクへの適用が成功したにもかかわらず、ニューラルネットワークは、他の機械学習方法と同様に、データのシフトに対する感受性によって制限されている。本稿では、任意のニューラルネットワーク分類器から抽出し、このタスク専用の新しいモデルをトレーニングすることなく、効率的な共変量データシフト検出を可能にするMAGDiffと呼ばれる新しい表現群を提案する。これらの表現は、トレーニング分布と対象分布に属するサンプルのニューラルネットワークのアクティベーショングラフを比較して計算され、データセットシフト検出に一般的に使用される2サンプルテストの強力なデータおよびタスク適応統計値が得られる。本研究では,2サンプルのコルモゴロフ・スミルノフ検定(KS)の複数の異なるデータセットとシフトタイプに対する統計的パワーを測定し,ネットワーク出力に依存する最先端のベースラインに対して,新しい表現が顕著な改善をもたらすことを示す。

関連論文リスト

NIDS Neural Networks Using Sliding Time Window Data Processing with Trainable Activations and its Generalization Capability [0.0]
本稿では,ネットワーク侵入検知システム(NIDS)のためのニューラルネットワークについて述べる。ディープパケットインスペクションに頼らず、ほとんどのNIDSデータセットで見つからず、従来のフローコレクタから簡単に取得できる11の機能しか必要としない。報告されたトレーニング精度は、提案手法の99%を超え、ニューラルネットワークの入力特性は20に満たない。
論文参考訳（メタデータ） (2024-10-24T11:36:19Z)
A Novel Explainable Out-of-Distribution Detection Approach for Spiking Neural Networks [6.100274095771616]
この研究は、スパイキングニューラルネットワークに入力されたテスト例がトレーニングされたデータの分布に属するかどうかを識別できる新しいOoD検出器を提案する。我々は、スパイクカウントパターンの形で、ネットワークの隠蔽層の内部活性化を特徴付ける。入力インスタンスのどの部分が最もOoDサンプルとして検出されるかを明らかにする属性マップを作成するために,局所的な説明法が考案された。
論文参考訳（メタデータ） (2022-09-30T11:16:35Z)
Decomposing neural networks as mappings of correlation functions [57.52754806616669]
本研究では,ディープフィードフォワードネットワークによって実装された確率分布のマッピングについて検討する。ニューラルネットワークで使用できる異なる情報表現と同様に、データに不可欠な統計を識別する。
論文参考訳（メタデータ） (2022-02-10T09:30:31Z)
Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文参考訳（メタデータ） (2022-02-01T17:11:13Z)
CRNNTL: convolutional recurrent neural network and transfer learning for QSAR modelling [4.090810719630087]
本稿では,QSARモデリングのための畳み込みリカレントニューラルネットワークと伝達学習(CRNNTL)を提案する。我々の戦略は、特徴抽出のための畳み込みニューラルネットワークと繰り返しニューラルネットワークの両方の利点と、データ拡張手法の利点を生かしている。
論文参考訳（メタデータ） (2021-09-07T20:04:55Z)
Anomaly Detection on Attributed Networks via Contrastive Self-Supervised Learning [50.24174211654775]
本論文では,アトリビュートネットワーク上の異常検出のためのコントラスト型自己監視学習フレームワークを提案する。このフレームワークは、新しいタイプのコントラストインスタンスペアをサンプリングすることで、ネットワークデータからのローカル情報を完全に活用します。高次元特性と局所構造から情報埋め込みを学習するグラフニューラルネットワークに基づくコントラスト学習モデルを提案する。
論文参考訳（メタデータ） (2021-02-27T03:17:20Z)
Surgical Mask Detection with Convolutional Neural Networks and Data Augmentations on Spectrograms [8.747840760772268]
人間の声のサンプルにおける手術用マスク検出の2値分類タスクに対するデータ拡張の効果を示す。結果、ComParEのベースラインのほとんどがパフォーマンスに優れていたことが判明した。
論文参考訳（メタデータ） (2020-08-11T09:02:47Z)
On Robustness and Transferability of Convolutional Neural Networks [147.71743081671508]
現代の深層畳み込みネットワーク(CNN)は、分散シフトの下で一般化しないとしてしばしば批判される。現代画像分類CNNにおける分布外と転送性能の相互作用を初めて検討した。トレーニングセットとモデルサイズを増大させることで、分散シフトロバスト性が著しく向上することがわかった。
論文参考訳（メタデータ） (2020-07-16T18:39:04Z)
Beyond Data Samples: Aligning Differential Networks Estimation with Scientific Knowledge [18.980524563441975]
提案した推定器は多数の変数に対してスケーラブルであり、鋭い収束率を達成する。本研究は, 遺伝的ネットワーク同定と脳コネクトーム変化発見において, グループ, 空間, 解剖学的知識を統合することの意義を明らかにするものである。
論文参考訳（メタデータ） (2020-04-24T00:01:15Z)
Diversity inducing Information Bottleneck in Model Ensembles [73.80615604822435]
本稿では,予測の多様性を奨励することで,ニューラルネットワークの効果的なアンサンブルを生成する問題をターゲットにする。そこで本研究では,潜伏変数の学習における逆損失の多様性を明示的に最適化し,マルチモーダルデータのモデリングに必要な出力予測の多様性を得る。最も競争力のあるベースラインと比較して、データ分布の変化の下で、分類精度が大幅に向上した。
論文参考訳（メタデータ） (2020-03-10T03:10:41Z)
Generalized ODIN: Detecting Out-of-distribution Image without Learning from Out-of-distribution Data [87.61504710345528]
我々は,OoD検出性能を改善しつつ,ニューラルネットワークをOoDデータのチューニングから解放する2つの方法を提案する。具体的には、信頼性スコアリングと修正された入力前処理法を分離することを提案する。大規模画像データセットのさらなる解析により、セマンティックシフトと非セマンティックシフトの2種類の分布シフトが有意な差を示すことが示された。
論文参考訳（メタデータ） (2020-02-26T04:18:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。