論文の概要: FlexSSL : A Generic and Efficient Framework for Semi-Supervised Learning
- arxiv url: http://arxiv.org/abs/2312.16892v1
- Date: Thu, 28 Dec 2023 08:31:56 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-29 17:02:22.507200
- Title: FlexSSL : A Generic and Efficient Framework for Semi-Supervised Learning
- Title(参考訳): FlexSSL : 半教師付き学習のための汎用的で効率的なフレームワーク
- Authors: Huiling Qin, Xianyuan Zhan, Yuanxun Li, Yu Zheng
- Abstract要約: 我々はFlexSSLと呼ばれる汎用的で効率的な学習フレームワークを開発した。
我々はFlexSSLが半教師付き学習アルゴリズムの性能を継続的に向上できることを示す。
- 参考スコア(独自算出の注目度): 19.774959310191623
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Semi-supervised learning holds great promise for many real-world
applications, due to its ability to leverage both unlabeled and expensive
labeled data. However, most semi-supervised learning algorithms still heavily
rely on the limited labeled data to infer and utilize the hidden information
from unlabeled data. We note that any semi-supervised learning task under the
self-training paradigm also hides an auxiliary task of discriminating label
observability. Jointly solving these two tasks allows full utilization of
information from both labeled and unlabeled data, thus alleviating the problem
of over-reliance on labeled data. This naturally leads to a new generic and
efficient learning framework without the reliance on any domain-specific
information, which we call FlexSSL. The key idea of FlexSSL is to construct a
semi-cooperative "game", which forges cooperation between a main
self-interested semi-supervised learning task and a companion task that infers
label observability to facilitate main task training. We show with theoretical
derivation of its connection to loss re-weighting on noisy labels. Through
evaluations on a diverse range of tasks, we demonstrate that FlexSSL can
consistently enhance the performance of semi-supervised learning algorithms.
- Abstract(参考訳): ラベル付きデータと高価なラベル付きデータの両方を活用できるため、半教師付き学習は多くの現実世界のアプリケーションにとって大きな可能性を秘めている。
しかし、ほとんどの半教師付き学習アルゴリズムは、まだラベル付きデータから隠れた情報を推測し活用するためにラベル付きデータに大きく依存している。
自己学習パラダイムに基づく半教師付き学習タスクは,ラベルの可観測性を識別する補助的なタスクも隠蔽する。
これら2つのタスクを共同で解決することで、ラベル付きデータとラベル付きデータの両方から情報を完全に活用することができるため、ラベル付きデータへの過度な依存の問題を軽減することができる。
これによって、私たちがflexsslと呼ぶドメイン固有の情報に依存しない、新しいジェネリックで効率的な学習フレームワークが生まれます。
flexsslの鍵となるアイデアは、メインの利害関係にある半教師付き学習タスクと、メインタスクのトレーニングを容易にするためにラベルの可観測性を推測するコンパニオンタスクとの間の協調を促進する半協力的な「ゲーム」を構築することである。
ノイズラベルにおける損失再重み付けとの関連を理論的に導出する。
多様なタスクの評価を通じて、FlexSSLは半教師付き学習アルゴリズムの性能を継続的に向上させることができることを示す。
関連論文リスト
- OwMatch: Conditional Self-Labeling with Consistency for Open-World Semi-Supervised Learning [4.462726364160216]
半教師付き学習(SSL)は、注釈のないデータの可能性を活用するための堅牢なフレームワークを提供する。
オープンワールドSSL(OwSSL)の出現は、ラベルのないデータが目に見えないクラスのサンプルを包含する、より実践的な課題をもたらす。
我々は,条件付き自己ラベルとオープンワールド階層しきい値を組み合わせたOwMatchという効果的なフレームワークを提案する。
論文 参考訳(メタデータ) (2024-11-04T06:07:43Z) - Semi-Supervised One-Shot Imitation Learning [83.94646047695412]
ワンショットのImitation Learningは、AIエージェントに1つのデモから新しいタスクを学ぶ能力を持たせることを目的としている。
我々は,学習エージェントにトラジェクトリの大規模なデータセットを提示する,半教師付きOSIL問題設定を導入する。
我々は,この半教師付きOSIL設定に適用可能なアルゴリズムを開発した。
論文 参考訳(メタデータ) (2024-08-09T18:11:26Z) - Active Self-Supervised Learning: A Few Low-Cost Relationships Are All
You Need [34.013568381942775]
Self-Supervised Learning (SSL)は、ラベルのないデータから転送可能な表現を学習する選択肢のソリューションとして登場した。
本研究では,この原理を正のアクティブラーニング(PAL)によって形式化し,一般化する。
まず、SSLを超えて理論的に基礎を成す学習フレームワークを公開し、類似性グラフに基づいて、採用するオラクルに応じて教師付きおよび半教師付き学習に取り組むように拡張する。
第二に、事前知識、例えばいくつかのラベルをトレーニングパイプラインの変更なしにSSL損失に組み込むための一貫したアルゴリズムを提供する。
論文 参考訳(メタデータ) (2023-03-27T14:44:39Z) - Federated Learning without Full Labels: A Survey [23.49131075675469]
本稿では,フェデレーション学習と半教師付き学習,自己教師型学習,移動学習を併用する手法について検討する。
また、フルラベルなしでFLメソッドを評価するために使われるデータセットを要約する。
論文 参考訳(メタデータ) (2023-03-25T12:13:31Z) - Does Decentralized Learning with Non-IID Unlabeled Data Benefit from
Self Supervision? [51.00034621304361]
自己教師型学習(SSL)のレンズによるラベルなしデータによる分散学習の研究
本研究では,分散学習環境下でのコントラスト学習アルゴリズムの有効性について検討する。
論文 参考訳(メタデータ) (2022-10-20T01:32:41Z) - Collaborative Intelligence Orchestration: Inconsistency-Based Fusion of
Semi-Supervised Learning and Active Learning [60.26659373318915]
アクティブラーニング(AL)と半教師付きラーニング(SSL)は2つの効果があるが、しばしば孤立している。
本稿では、SSL-ALの潜在的な優位性をさらに調査するために、革新的な一貫性に基づく仮想aDvErialアルゴリズムを提案する。
2つの実世界のケーススタディは、提案したデータサンプリングアルゴリズムの適用と展開の実践的な産業価値を可視化する。
論文 参考訳(メタデータ) (2022-06-07T13:28:43Z) - The Role of Global Labels in Few-Shot Classification and How to Infer
Them [55.64429518100676]
メタ学習では、ほとんどショット学習が中心的な問題であり、学習者は新しいタスクに迅速に適応しなければならない。
本稿では,メタラベル学習(MeLa)を提案する。メタラベル学習(MeLa)は,グローバルラベルを推論し,標準分類によるロバストな少数ショットモデルを得る新しいアルゴリズムである。
論文 参考訳(メタデータ) (2021-08-09T14:07:46Z) - Self-Tuning for Data-Efficient Deep Learning [75.34320911480008]
セルフチューニングは、データ効率のよいディープラーニングを可能にする新しいアプローチである。
ラベル付きおよびラベルなしデータの探索と事前訓練されたモデルの転送を統一する。
SSLとTLの5つのタスクをシャープなマージンで上回ります。
論文 参考訳(メタデータ) (2021-02-25T14:56:19Z) - Boosting the Performance of Semi-Supervised Learning with Unsupervised
Clustering [10.033658645311188]
学習中の間欠的にラベルを完全に無視することは,小サンプル体制における性能を著しく向上させることを示す。
本手法は,最先端のSSLアルゴリズムの高速化に有効であることを示す。
論文 参考訳(メタデータ) (2020-12-01T14:19:14Z) - Federated Semi-Supervised Learning with Inter-Client Consistency &
Disjoint Learning [78.88007892742438]
ラベル付きデータの位置に基づくFSSL(Federated Semi-Supervised Learning)の2つの重要なシナリオについて検討する。
フェデレートマッチング(FedMatch)と呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2020-06-22T09:43:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。