論文の概要: A Biologically Inspired Feature Enhancement Framework for Zero-Shot
Learning
- arxiv url: http://arxiv.org/abs/2005.08704v1
- Date: Wed, 13 May 2020 13:25:22 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-03 10:07:24.048934
- Title: A Biologically Inspired Feature Enhancement Framework for Zero-Shot
Learning
- Title(参考訳): ゼロショット学習のための生物学的特徴強調フレームワーク
- Authors: Zhongwu Xie, Weipeng Cao, Xizhao Wang, Zhong Ming, Jingjing Zhang,
Jiyong Zhang
- Abstract要約: 本稿では,ゼロショット学習(ZSL)アルゴリズムのための生物学的にインスパイアされた機能拡張フレームワークを提案する。
具体的には、補助データセットを用いてZSLモデルの特徴抽出器を強化する2チャンネル学習フレームワークを設計する。
提案手法は,ZSLモデルの有効性を効果的に向上し,3つのベンチマークZSLタスクの最先端結果が得られる。
- 参考スコア(独自算出の注目度): 18.348568695197553
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Most of the Zero-Shot Learning (ZSL) algorithms currently use pre-trained
models as their feature extractors, which are usually trained on the ImageNet
data set by using deep neural networks. The richness of the feature information
embedded in the pre-trained models can help the ZSL model extract more useful
features from its limited training samples. However, sometimes the difference
between the training data set of the current ZSL task and the ImageNet data set
is too large, which may lead to the use of pre-trained models has no obvious
help or even negative impact on the performance of the ZSL model. To solve this
problem, this paper proposes a biologically inspired feature enhancement
framework for ZSL. Specifically, we design a dual-channel learning framework
that uses auxiliary data sets to enhance the feature extractor of the ZSL model
and propose a novel method to guide the selection of the auxiliary data sets
based on the knowledge of biological taxonomy. Extensive experimental results
show that our proposed method can effectively improve the generalization
ability of the ZSL model and achieve state-of-the-art results on three
benchmark ZSL tasks. We also explained the experimental phenomena through the
way of feature visualization.
- Abstract(参考訳): ゼロショット学習(zsl)アルゴリズムのほとんどは、通常、ディープニューラルネットワークを使用してimagenetデータセットでトレーニングされる特徴抽出器として、事前学習されたモデルを使用している。
事前訓練されたモデルに埋め込まれた特徴情報の豊かさは、ZSLモデルが限られたトレーニングサンプルからより有用な特徴を抽出するのに役立ちます。
しかし、時として、現在のZSLタスクのトレーニングデータセットとImageNetデータセットの差が大きすぎるため、事前トレーニングされたモデルの使用はZSLモデルの性能に明らかな助けやネガティブな影響を与えない。
そこで本研究では,ZSLのための生物学的機能強化フレームワークを提案する。
具体的には,zslモデルの特徴抽出機能を強化するために補助データセットを用いた2チャネル学習フレームワークを設計し,生物分類学の知識に基づく補助データセットの選択を導く新しい手法を提案する。
実験結果から,提案手法はZSLモデルの一般化能力を効果的に向上し,3つのベンチマークZSLタスクの最先端結果が得られることが示された。
また,特徴可視化による実験現象についても説明した。
関連論文リスト
- Can Generative Models Improve Self-Supervised Representation Learning? [0.7999703756441756]
本稿では、生成モデルを利用して意味論的に一貫した画像拡張を生成することによって、自己指導型学習パラダイムを充実させる新しいフレームワークを提案する。
その結果,下流タスクにおいて,学習した視覚表現の精度を最大10%向上させることができた。
論文 参考訳(メタデータ) (2024-03-09T17:17:07Z) - Diffusion-Based Neural Network Weights Generation [80.89706112736353]
D2NWGは拡散に基づくニューラルネットワーク重み生成技術であり、転送学習のために高性能な重みを効率よく生成する。
本稿では,ニューラルネットワーク重み生成のための遅延拡散パラダイムを再放送するために,生成的ハイパー表現学習を拡張した。
我々のアプローチは大規模言語モデル(LLM)のような大規模アーキテクチャにスケーラブルであり、現在のパラメータ生成技術の限界を克服しています。
論文 参考訳(メタデータ) (2024-02-28T08:34:23Z) - Understanding and Improving the Role of Projection Head in
Self-Supervised Learning [77.59320917894043]
自己教師付き学習(SSL)は、人間のラベル付きデータアノテーションにアクセスせずに有用な特徴表現を作成することを目的としている。
現在の対照的な学習アプローチは、InfoNCEの目的を最適化するために、あるバックボーンネットワークの端にパラメータ化されたプロジェクションヘッドを付加する。
学習可能なプロジェクションヘッドが、トレーニング後にそれを破棄する場合、なぜ必要となるのか?
論文 参考訳(メタデータ) (2022-12-22T05:42:54Z) - On the Transferability of Visual Features in Generalized Zero-Shot
Learning [28.120004119724577]
Generalized Zero-Shot Learning (GZSL) は、目に見えないクラスに一般化可能な分類器を訓練することを目的としている。
本研究では,異なる特徴抽出器を用いた場合のGZSL法の有用性について検討する。
また、これらのモデルの事前学習目標、データセット、アーキテクチャ設計が特徴表現能力にどのように影響するかについても検討する。
論文 参考訳(メタデータ) (2022-11-22T18:59:09Z) - Efficient Gaussian Process Model on Class-Imbalanced Datasets for
Generalized Zero-Shot Learning [37.00463358780726]
本稿では,潜在機能埋め込みを学習するニューラルネットワークモデルと,未確認クラスの潜在機能プロトタイプを予測するガウスプロセス(GP)回帰モデルを提案する。
我々のモデルは、クラス不均衡なトレーニングデータの影響を緩和する単純なトレーニング戦略により、効率的に訓練される。
論文 参考訳(メタデータ) (2022-10-11T04:57:20Z) - Improving Self-Supervised Learning by Characterizing Idealized
Representations [155.1457170539049]
与えられたデータ拡張に不変なタスクに対して必要かつ十分な条件を証明します。
対照的に、我々のフレームワークは、従来の手法に対して単純だが重要な改善を規定している。
非コントラスト学習では、私たちのフレームワークを使って、シンプルで斬新な目的を導き出します。
論文 参考訳(メタデータ) (2022-09-13T18:01:03Z) - Open-Set Semi-Supervised Learning for 3D Point Cloud Understanding [62.17020485045456]
半教師付き学習(SSL)では、ラベル付きデータと同じ分布からラベル付きデータが引き出されることが一般的である。
サンプル重み付けによりラベルなしデータを選択的に活用することを提案する。
論文 参考訳(メタデータ) (2022-05-02T16:09:17Z) - Multi-Head Self-Attention via Vision Transformer for Zero-Shot Learning [11.66422653137002]
本稿では,ゼロショット学習の課題設定における注意に基づくモデルを提案し,未知のクラス認識に有用な属性を学習する。
本手法では,視覚変換器に適応したアテンション機構を用いて,画像から小さなパッチに分割することで識別属性をキャプチャし,学習する。
論文 参考訳(メタデータ) (2021-07-30T19:08:44Z) - FREE: Feature Refinement for Generalized Zero-Shot Learning [86.41074134041394]
汎用ゼロショット学習(GZSL)は、視覚-意味的領域ギャップと目に見えないバイアスの問題を克服するために多くの努力を払って、大きな進歩を遂げた。
既存のほとんどのメソッドはImageNetでトレーニングされた機能抽出モデルを直接使用しており、ImageNetとGZSLベンチマークのデータセット間のバイアスを無視している。
本稿では,この問題に対処するために,汎用ゼロショット学習(FREE)のための特徴改善という,シンプルで効果的なGZSL法を提案する。
論文 参考訳(メタデータ) (2021-07-29T08:11:01Z) - On Data-Augmentation and Consistency-Based Semi-Supervised Learning [77.57285768500225]
最近提案された整合性に基づく半教師付き学習(SSL)手法は,複数のSSLタスクにおいて最先端技術である。
これらの進歩にもかかわらず、これらの手法の理解はまだ比較的限られている。
論文 参考訳(メタデータ) (2021-01-18T10:12:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。