論文の概要: Meta-learning for Out-of-Distribution Detection via Density Estimation in Latent Space

• arxiv url: http://arxiv.org/abs/2206.09543v1
• Date: Mon, 20 Jun 2022 02:44:42 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-22 13:06:36.382207
• Title: Meta-learning for Out-of-Distribution Detection via Density Estimation in Latent Space
• Title（参考訳）: 潜時空間の密度推定による分布外検出のためのメタラーニング
• Authors: Tomoharu Iwata, Atsutoshi Kumagai
• Abstract要約: そこで本研究では,OoD を目標タスク内の小さな分布データで検出する,シンプルで効果的なメタ学習手法を提案する。 すべてのタスク間で共有されるニューラルネットワークは、元の空間のインスタンスを潜在空間に柔軟にマッピングするために使用される。 6つのデータセットを用いた実験において,提案手法は既存のメタラーニング法やOoD検出法よりも優れた性能が得られることを示した。
• 参考スコア（独自算出の注目度）: 40.58524521473793
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Many neural network-based out-of-distribution (OoD) detection methods have been proposed. However, they require many training data for each target task. We propose a simple yet effective meta-learning method to detect OoD with small in-distribution data in a target task. With the proposed method, the OoD detection is performed by density estimation in a latent space. A neural network shared among all tasks is used to flexibly map instances in the original space to the latent space. The neural network is meta-learned such that the expected OoD detection performance is improved by using various tasks that are different from the target tasks. This meta-learning procedure enables us to obtain appropriate representations in the latent space for OoD detection. For density estimation, we use a Gaussian mixture model (GMM) with full covariance for each class. We can adapt the GMM parameters to in-distribution data in each task in a closed form by maximizing the likelihood. Since the closed form solution is differentiable, we can meta-learn the neural network efficiently with a stochastic gradient descent method by incorporating the solution into the meta-learning objective function. In experiments using six datasets, we demonstrate that the proposed method achieves better performance than existing meta-learning and OoD detection methods.
• Abstract（参考訳）: 多くのニューラルネットワークを用いたOoD検出手法が提案されている。 しかし、ターゲットタスクごとに多くのトレーニングデータが必要である。 そこで本研究では,OoD を目標タスク内の小さな分布データで検出する,シンプルで効果的なメタ学習手法を提案する。 提案手法では,潜時空間における密度推定によりood検出を行う。 すべてのタスクで共有されるニューラルネットワークは、元の空間のインスタンスを潜在空間に柔軟にマッピングするために使用される。 ニューラルネットワークは、ターゲットタスクと異なるさまざまなタスクを使用することにより、期待ood検出性能が向上するようにメタ学習される。 このメタラーニング手法により,OoD検出のための潜在空間における適切な表現が得られる。 密度推定には,各クラスに対して完全な共分散を持つガウス混合モデル(gmm)を用いる。 確率を最大化することにより,GMMパラメータを各タスクの分布内データに適用することができる。 閉形解は微分可能であるので,その解をメタ学習対象関数に組み込むことで,確率勾配降下法により,ニューラルネットワークを効率的にメタ学習することができる。 6つのデータセットを用いた実験において,提案手法は既存のメタラーニング法やOoD検出法よりも優れた性能が得られることを示した。

関連論文リスト

• Task-Distributionally Robust Data-Free Meta-Learning [99.56612787882334]
  Data-Free Meta-Learning (DFML)は、複数の事前学習モデルを活用することで、独自のトレーニングデータを必要とせずに、新しいタスクを効率的に学習することを目的としている。 TDS(Task-Distribution Shift)とTDC(Task-Distribution Corruption)の2つの大きな課題を初めて明らかにした。
  論文  参考訳（メタデータ） (2023-11-23T15:46:54Z)
• Meta Learning Low Rank Covariance Factors for Energy-Based Deterministic Uncertainty [58.144520501201995]
  ニューラルネットワーク層のBi-Lipschitz正規化は、各レイヤの特徴空間におけるデータインスタンス間の相対距離を保存する。 注意セットエンコーダを用いて,タスク固有の共分散行列を効率的に構築するために,対角的,対角的,低ランクな要素のメタ学習を提案する。 また,最終的な予測分布を達成するために,スケールしたエネルギーを利用する推論手法を提案する。
  論文  参考訳（メタデータ） (2021-10-12T22:04:19Z)
• Energy-Efficient and Federated Meta-Learning via Projected Stochastic Gradient Ascent [79.58680275615752]
  エネルギー効率のよいメタラーニングフレームワークを提案する。 各タスクは別々のエージェントによって所有されていると仮定するため、メタモデルをトレーニングするために限られたタスクが使用される。
  論文  参考訳（メタデータ） (2021-05-31T08:15:44Z)
• Meta-learning One-class Classifiers with Eigenvalue Solvers for Supervised Anomaly Detection [55.888835686183995]
  教師付き異常検出のためのニューラルネットワークに基づくメタラーニング手法を提案する。 提案手法は,既存の異常検出法や少数ショット学習法よりも優れた性能を実現することを実験的に実証した。
  論文  参考訳（メタデータ） (2021-03-01T01:43:04Z)
• Entropy Maximization and Meta Classification for Out-Of-Distribution Detection in Semantic Segmentation [7.305019142196585]
  自動運転など多くのアプリケーションにおいて,OoD(Out-of-Distribution)サンプルが不可欠である。 OoD検出の自然なベースラインアプローチは、ピクセル回りのソフトマックスエントロピーのしきい値です。 そのアプローチを大幅に改善する2段階の手順を提案する。
  論文  参考訳（メタデータ） (2020-12-09T11:01:06Z)
• MetaGater: Fast Learning of Conditional Channel Gated Networks via Federated Meta-Learning [46.79356071007187]
  本稿では,バックボーンネットワークとチャネルゲーティングを協調的にトレーニングするための総合的なアプローチを提案する。 我々は,バックボーンネットワークとゲーティングモジュールの両方において,優れたメタ初期化を共同で学習するための,連携型メタ学習手法を開発した。
  論文  参考訳（メタデータ） (2020-11-25T04:26:23Z)
• Task-agnostic Out-of-Distribution Detection Using Kernel Density Estimation [10.238403787504756]
  本稿では,ディープニューラルネットワーク(DNN)におけるアウト・オブ・ディストリビューション(OOD)検出のためのタスク非依存手法を提案する。 我々は、トレーニングデータセット上でカーネル密度推定(KDE)を行うことにより、事前学習したDNNの中間特徴の確率密度関数(pdfs)を推定する。 テスト時には,試験試料のpdfを評価し,その試料がOODであることを示す信頼スコアを生成する。
  論文  参考訳（メタデータ） (2020-06-18T17:46:06Z)
• Diversity inducing Information Bottleneck in Model Ensembles [73.80615604822435]
  本稿では,予測の多様性を奨励することで,ニューラルネットワークの効果的なアンサンブルを生成する問題をターゲットにする。 そこで本研究では,潜伏変数の学習における逆損失の多様性を明示的に最適化し,マルチモーダルデータのモデリングに必要な出力予測の多様性を得る。 最も競争力のあるベースラインと比較して、データ分布の変化の下で、分類精度が大幅に向上した。
  論文  参考訳（メタデータ） (2020-03-10T03:10:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。