論文の概要: Learning and Sharing: A Multitask Genetic Programming Approach to Image
Feature Learning
- arxiv url: http://arxiv.org/abs/2012.09444v2
- Date: Fri, 18 Dec 2020 20:51:55 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-02 07:17:37.013892
- Title: Learning and Sharing: A Multitask Genetic Programming Approach to Image
Feature Learning
- Title(参考訳): 学習と共有:画像特徴学習のためのマルチタスク遺伝的プログラミングアプローチ
- Authors: Ying Bi, Bing Xue, and Mengjie Zhang
- Abstract要約: 遺伝的プログラミング(GP)は分類のための画像特徴学習に成功している。
本稿では,訓練データに制限のある分類のための画像特徴学習のためのマルチタスクgp手法を開発した。
- 参考スコア(独自算出の注目度): 4.6505255523706115
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Using evolutionary computation algorithms to solve multiple tasks with
knowledge sharing is a promising approach. Image feature learning can be
considered as a multitask problem because different tasks may have a similar
feature space. Genetic programming (GP) has been successfully applied to image
feature learning for classification. However, most of the existing GP methods
solve one task, independently, using sufficient training data. No multitask GP
method has been developed for image feature learning. Therefore, this paper
develops a multitask GP approach to image feature learning for classification
with limited training data. Owing to the flexible representation of GP, a new
knowledge sharing mechanism based on a new individual representation is
developed to allow GP to automatically learn what to share across two tasks and
to improve its learning performance. The shared knowledge is encoded as a
common tree, which can represent the common/general features of two tasks. With
the new individual representation, each task is solved using the features
extracted from a common tree and a task-specific tree representing
task-specific features. To learn the best common and task-specific trees, a new
evolutionary process and new fitness functions are developed. The performance
of the proposed approach is examined on six multitask problems of 12 image
classification datasets with limited training data and compared with three GP
and 14 non-GP-based competitive methods. Experimental results show that the new
approach outperforms these compared methods in almost all the comparisons.
Further analysis reveals that the new approach learns simple yet effective
common trees with high effectiveness and transferability.
- Abstract(参考訳): 進化的計算アルゴリズムを使って知識共有で複数のタスクを解くことは有望なアプローチである。
画像特徴学習は、異なるタスクが同様の特徴空間を持つ可能性があるため、マルチタスク問題とみなすことができる。
遺伝的プログラミング(GP)は分類のための画像特徴学習に成功している。
しかし、既存のGP手法のほとんどは、十分なトレーニングデータを用いて独立して1つのタスクを解く。
画像特徴学習のためのマルチタスクgp手法は開発されていない。
そこで本稿では,限られた学習データを用いた画像特徴学習のためのマルチタスクGP手法を提案する。
GPの柔軟な表現により、GPが2つのタスク間で何を共有すべきかを自動的に学習し、学習性能を向上させるために、新しい個別表現に基づく知識共有機構が開発された。
共有知識は共通木としてコード化され、2つのタスクの共通/一般的な特徴を表現することができる。
新しい個別表現では、共通木とタスク固有の特徴を表すタスク固有木から抽出した特徴を用いて各タスクを解く。
最も一般的な、タスク固有の木を学ぶために、新しい進化過程と新しいフィットネス機能を開発した。
提案手法の性能を,訓練データに制限のある12の画像分類データセットの6つのマルチタスク問題に対して検討し,3つのGPと14の非GPベースの競合手法と比較した。
実験の結果, この手法は, ほぼすべての比較において, 比較手法よりも優れていることがわかった。
さらなる分析により、新しいアプローチは単純だが効果的な共通木を高い有効性と伝達性で学習することが明らかとなった。
関連論文リスト
- Learning Representation for Multitask learning through Self Supervised Auxiliary learning [3.236198583140341]
ハードパラメータ共有アプローチでは、複数のタスクを通して共有されるエンコーダは、タスク固有の予測子に渡されるデータ表現を生成する。
共有エンコーダが生成する表現の普遍性を改善することを目的としたダミー勾配ノルム正規化を提案する。
DGRは共有表現の品質を効果的に向上し、マルチタスク予測性能が向上することを示す。
論文 参考訳(メタデータ) (2024-09-25T06:08:35Z) - Decoupling Weighing and Selecting for Integrating Multiple Graph
Pre-training Tasks [58.65410800008769]
本稿では、複数のグラフ事前学習タスク、Weigh And Select (WAS)を統合するための新しいインスタンスレベルフレームワークを提案する。
まず、カスタマイズされたインスタンスレベルのタスク重み付け戦略を学習したタスクプールから、各インスタンスのタスクの最適な組み合わせを適応的に学習する。
ノードレベルおよびグラフレベルのダウンストリームタスクにわたる16のグラフデータセットの実験は、WASが他の主要なタスクと同等のパフォーマンスを達成できることを実証した。
論文 参考訳(メタデータ) (2024-03-03T05:29:49Z) - Distribution Matching for Multi-Task Learning of Classification Tasks: a
Large-Scale Study on Faces & Beyond [62.406687088097605]
マルチタスク学習(MTL)は、複数の関連するタスクを共同で学習し、共有表現空間から恩恵を受けるフレームワークである。
MTLは、ほとんど重複しない、あるいは重複しないアノテーションで分類タスクで成功することを示す。
本稿では,分散マッチングによるタスク間の知識交換を可能にする新しい手法を提案する。
論文 参考訳(メタデータ) (2024-01-02T14:18:11Z) - Advancing Image Retrieval with Few-Shot Learning and Relevance Feedback [5.770351255180495]
Image Retrieval with Relevance Feedback (IRRF) は、検索プロセス中に反復的なヒューマンインタラクションを伴う。
本稿では,タスクに適したハイパーネットワークに基づく新しいスキームを提案し,ユーザフィードバックの迅速な調整を容易にする。
提案手法は,数発の1クラス分類でSoTAを達成でき,数発のオープンセット認識のバイナリ分類タスクで同等の結果が得られることを示す。
論文 参考訳(メタデータ) (2023-12-18T10:20:28Z) - Mixture of Self-Supervised Learning [2.191505742658975]
自己教師型学習は、特定のタスクに適用される前にモデル上でトレーニングされるプレテキストタスクを使用することで機能する。
従来の研究では、プリテキストタスクとして1つのタイプの変換しか使用されていなかった。
これにより、複数のプリテキストタスクが使用されているかどうか、すべてのプリテキストタスクを組み合わせるためにゲーティングネットワークを使用するかどうか、という疑問が持ち上がる。
論文 参考訳(メタデータ) (2023-07-27T14:38:32Z) - Genetic Programming-Based Evolutionary Deep Learning for Data-Efficient
Image Classification [3.9310727060473476]
本稿では,データ効率のよい画像分類のための遺伝的プログラミングに基づく進化的深層学習手法を提案する。
この新しいアプローチは、画像領域と分類領域の両方から多くの重要な演算子を使用して、変数長モデルを自動的に進化させることができる。
フレキシブルな多層表現により、新しいアプローチは、タスクごとに浅いモデルや深いモデルやツリーを自動的に構築できる。
論文 参考訳(メタデータ) (2022-09-27T08:10:16Z) - Self-Supervised Graph Neural Network for Multi-Source Domain Adaptation [51.21190751266442]
ドメイン適応(DA)は、テストデータがトレーニングデータの同じ分布に完全に従わない場合に、シナリオに取り組む。
大規模未ラベルサンプルから学習することで、自己教師型学習がディープラーニングの新しいトレンドとなっている。
我々は,より効果的なタスク間情報交換と知識共有を実現するために,新しい textbfSelf-textbf Supervised textbfGraph Neural Network (SSG) を提案する。
論文 参考訳(メタデータ) (2022-04-08T03:37:56Z) - Distribution Matching for Heterogeneous Multi-Task Learning: a
Large-scale Face Study [75.42182503265056]
マルチタスク学習は、共有学習アルゴリズムによって複数のタスクを共同で学習する方法論として登場した。
我々は異種mtlに対処し,検出,分類,回帰問題を同時に解決する。
大規模な顔分析のための最初のフレームワークであるFaceBehaviorNetを構築し、すべての顔行動タスクを共同で学習する。
論文 参考訳(メタデータ) (2021-05-08T22:26:52Z) - Distribution Alignment: A Unified Framework for Long-tail Visual
Recognition [52.36728157779307]
長尾視覚認識のための分散アライメント戦略を提案する。
次に,二段階学習における一般化された再重み付け法を導入して,事前のクラスバランスをとる。
提案手法は, 4つの認識タスクすべてにおいて, 単純で統一されたフレームワークを用いて最先端の結果を得る。
論文 参考訳(メタデータ) (2021-03-30T14:09:53Z) - Attentive Feature Reuse for Multi Task Meta learning [17.8055398673228]
複数のタスクの同時学習のための新しいアルゴリズムを開発した。
本稿では,タスク毎に動的にネットワークを専門化するためのアテンション機構を提案する。
提案手法は,従来は目に見えなかった新しい環境における性能を向上させる。
論文 参考訳(メタデータ) (2020-06-12T19:33:11Z) - Adversarial Continual Learning [99.56738010842301]
本稿では,タスク不変およびタスク特化機能に対する不整合表現を学習するハイブリッド連続学習フレームワークを提案する。
本モデルでは,タスク固有のスキルの忘れを防止するためにアーキテクチャの成長と,共有スキルを維持するための経験的リプレイアプローチを組み合わせる。
論文 参考訳(メタデータ) (2020-03-21T02:08:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。