論文の概要: Learning the Prediction Distribution for Semi-Supervised Learning with
Normalising Flows
- arxiv url: http://arxiv.org/abs/2007.02745v1
- Date: Mon, 6 Jul 2020 13:36:00 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-13 01:34:46.479882
- Title: Learning the Prediction Distribution for Semi-Supervised Learning with
Normalising Flows
- Title(参考訳): 正規化フローを用いた半教師付き学習の予測分布の学習
- Authors: Ivana Bala\v{z}evi\'c, Carl Allen, Timothy Hospedales
- Abstract要約: 画像分類のための半教師付き学習(SSL)において、完全に教師付き性能に近い印象的な結果が得られた。
本稿では,ラベル予測上の分布を考慮したSSLの確率論的一般化手法を提案する。
出力複雑性の異なるコンピュータビジョンタスクに対して,このアプローチの汎用性を実証する。
- 参考スコア(独自算出の注目度): 6.789370732159177
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As data volumes continue to grow, the labelling process increasingly becomes
a bottleneck, creating demand for methods that leverage information from
unlabelled data. Impressive results have been achieved in semi-supervised
learning (SSL) for image classification, nearing fully supervised performance,
with only a fraction of the data labelled. In this work, we propose a
probabilistically principled general approach to SSL that considers the
distribution over label predictions, for labels of different complexity, from
"one-hot" vectors to binary vectors and images. Our method regularises an
underlying supervised model, using a normalising flow that learns the posterior
distribution over predictions for labelled data, to serve as a prior over the
predictions on unlabelled data. We demonstrate the general applicability of
this approach on a range of computer vision tasks with varying output
complexity: classification, attribute prediction and image-to-image
translation.
- Abstract(参考訳): データボリュームが増加するにつれて、ラベル付けプロセスがボトルネックになり、ラベルなしのデータから情報を利用する方法の需要が高まる。
画像分類のための半教師付き学習(SSL)において印象的な結果が得られ、完全な教師付き性能に近づいた。
本研究では, ラベル予測上の分布を, 単一ホットベクトルからバイナリベクトル, 画像まで, 異なる複雑性のラベルに対して考慮した, SSLの確率論的一般化手法を提案する。
本手法では,ラベル付きデータに対する予測よりも後方分布を学習する正規化フローを用いて教師付きモデルを定式化し,ラベル付きデータに対する予測の事前化を行う。
本手法は,様々な出力複雑性を持つコンピュータビジョンタスク(分類,属性予測,画像から画像への変換)に適用可能であることを示す。
関連論文リスト
- Exploring Beyond Logits: Hierarchical Dynamic Labeling Based on Embeddings for Semi-Supervised Classification [49.09505771145326]
モデル予測に依存しない階層型動的ラベル付け(HDL)アルゴリズムを提案し,画像埋め込みを用いてサンプルラベルを生成する。
本手法は,半教師付き学習における擬似ラベル生成のパラダイムを変える可能性がある。
論文 参考訳(メタデータ) (2024-04-26T06:00:27Z) - Semi-Supervised Learning for hyperspectral images by non parametrically
predicting view assignment [25.198550162904713]
ハイパースペクトル画像(HSI)分類は、画像中のスペクトル情報が高いため、現在、多くの勢いを増している。
近年,ラベル付きサンプルを最小限に抑えたディープラーニングモデルを効果的に訓練するために,ラベル付きサンプルも自己教師付きおよび半教師付き設定で活用されている。
本研究では,半教師付き学習の概念を利用して,モデルの識別的自己教師型事前学習を支援する。
論文 参考訳(メタデータ) (2023-06-19T14:13:56Z) - ProtoCon: Pseudo-label Refinement via Online Clustering and Prototypical
Consistency for Efficient Semi-supervised Learning [60.57998388590556]
ProtoConは信頼性に基づく疑似ラベル作成の新しい手法である。
ProtoConのオンライン版では、データセット全体のラベル履歴を1回のトレーニングサイクルで活用することができる。
最先端のデータセットよりも大幅に向上し、より高速に収束する。
論文 参考訳(メタデータ) (2023-03-22T23:51:54Z) - Dense FixMatch: a simple semi-supervised learning method for pixel-wise
prediction tasks [68.36996813591425]
Dense FixMatchは,高密度かつ構造化された予測タスクのオンライン半教師付き学習のための簡易な手法である。
我々は、擬似ラベルにマッチング操作を追加することにより、画像分類を超えた半教師付き学習問題にFixMatchの適用を可能にする。
Dense FixMatchは、ラベル付きデータのみを使用して教師付き学習と比較すると、結果を著しく改善し、ラベル付きサンプルの1/4でそのパフォーマンスに近づいた。
論文 参考訳(メタデータ) (2022-10-18T15:02:51Z) - Out-distribution aware Self-training in an Open World Setting [62.19882458285749]
オープンワールド環境ではラベルのないデータを活用して予測性能をさらに向上します。
注意深いサンプル選択戦略を含む,自己学習を意識したアウト・ディストリビューションを導入する。
当社の分類器は、設計外分布を意識しており、タスク関連の入力と無関係な入力を区別できます。
論文 参考訳(メタデータ) (2020-12-21T12:25:04Z) - Semi-Supervised Models via Data Augmentationfor Classifying Interactive
Affective Responses [85.04362095899656]
本稿では、対話型感情応答を分類する半教師付きテキスト分類システムSMDA(Data Augmentation)を提案する。
ラベル付き文に対しては,ラベル分布の均一化と学習過程における教師付き損失の計算のためにデータ拡張を行った。
ラベルなし文に対しては,ラベルなし文に対する低エントロピー予測を擬似ラベルとして検討した。
論文 参考訳(メタデータ) (2020-04-23T05:02:31Z) - Semi-Supervised Learning with Normalizing Flows [54.376602201489995]
FlowGMMは、フローの正規化を伴う生成半教師付き学習におけるエンドツーエンドのアプローチである。
我々は AG-News や Yahoo Answers のテキストデータなど,幅広いアプリケーションに対して有望な結果を示す。
論文 参考訳(メタデータ) (2019-12-30T17:36:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。