論文の概要: Semantics-driven Attentive Few-shot Learning over Clean and Noisy Samples

• arxiv url: http://arxiv.org/abs/2201.03043v1
• Date: Sun, 9 Jan 2022 16:16:23 GMT
• ステータス: 処理完了
• システム内更新日: 2022-01-12 02:06:20.004808
• Title: Semantics-driven Attentive Few-shot Learning over Clean and Noisy Samples
• Title（参考訳）: クリーンでノイズの多いサンプルを用いたセマンティック学習
• Authors: Orhun Bu\u{g}ra Baran and Ramazan G\"okberk Cinbi\c{s}
• Abstract要約: メタラーナーモデルを学習し、新しいクラスに関する事前の意味知識を活用して分類器合成プロセスを導くことを目指している。 特に,表現次元とトレーニングインスタンスの重要性を推定する意味条件付き特徴注意機構とサンプル注意機構を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Over the last couple of years few-shot learning (FSL) has attracted great attention towards minimizing the dependency on labeled training examples. An inherent difficulty in FSL is the handling of ambiguities resulting from having too few training samples per class. To tackle this fundamental challenge in FSL, we aim to train meta-learner models that can leverage prior semantic knowledge about novel classes to guide the classifier synthesis process. In particular, we propose semantically-conditioned feature attention and sample attention mechanisms that estimate the importance of representation dimensions and training instances. We also study the problem of sample noise in FSL, towards the utilization of meta-learners in more realistic and imperfect settings. Our experimental results demonstrate the effectiveness of the proposed semantic FSL model with and without sample noise.
• Abstract（参考訳）: ここ数年、数ショット学習(FSL)はラベル付きトレーニングの例への依存性を最小限にするために大きな注目を集めてきた。 FSLの固有の難しさは、クラス毎にトレーニングサンプルが多すぎることによるあいまいさの扱いである。 FSLにおけるこの根本的な課題に対処するために、新しいクラスに関する事前の意味知識を活用できるメタラーナーモデルを訓練し、分類器合成プロセスを導くことを目的とする。 特に,表現次元とトレーニングインスタンスの重要性を推定する意味論的特徴的注意とサンプル注意機構を提案する。 また,FSLにおけるサンプルノイズの問題を,より現実的で不完全な環境でのメタラーナーの利用に向けて検討した。 実験の結果,サンプルノイズを伴わない意味的FSLモデルの有効性が示された。

関連論文リスト

• Co-training for Low Resource Scientific Natural Language Inference [65.37685198688538]
  遠隔教師付きラベルに分類器のトレーニング力学に基づいて重みを割り当てる新しいコトレーニング手法を提案する。 予測された信頼度に対する任意のしきい値に基づいてサンプルをフィルタリングするのではなく、重要重みを割り当てることにより、自動ラベル付きデータの使用を最大化する。 提案手法は、遠隔監視ベースラインに対するマクロF1の1.5%の改善と、他の強力なSSLベースラインよりも大幅に改善されている。
  論文  参考訳（メタデータ） (2024-06-20T18:35:47Z)
• Erasing the Bias: Fine-Tuning Foundation Models for Semi-Supervised Learning [4.137391543972184]
  半教師付き学習(SSL)は目覚ましい進歩をみせており、多くの方法のバリエーションをもたらしている。 本稿では,FinSSLという新しいSSLアプローチを提案する。 我々は、FineSSLが複数のベンチマークデータセットにSSLの新たな状態を設定し、トレーニングコストを6倍以上削減し、さまざまな微調整と現代的なSSLアルゴリズムをシームレスに統合できることを実証した。
  論文  参考訳（メタデータ） (2024-05-20T03:33:12Z)
• FSL-Rectifier: Rectify Outliers in Few-Shot Learning via Test-Time Augmentation [7.477118370563593]
  FSL(Few-shot-learning)は通常、トレーニング中に目に見えないクラスに属する画像(クエリ)を識別するモデルを必要とする。 生成画像コンバインダを用いて、原サンプルと適切な列車クラスサンプルを組み合わせることで、追加のテストクラスサンプルを生成する。 我々は、平均化によってより典型的な表現をもたらす拡張子を介して平均化された特徴を得る。
  論文  参考訳（メタデータ） (2024-02-28T12:37:30Z)
• Combating Label Noise With A General Surrogate Model For Sample Selection [84.61367781175984]
  本稿では,視覚言語サロゲートモデルCLIPを用いて,雑音の多いサンプルを自動的にフィルタリングする手法を提案する。 提案手法の有効性を実世界および合成ノイズデータセットで検証した。
  論文  参考訳（メタデータ） (2023-10-16T14:43:27Z)
• Adversarial Robustness of Prompt-based Few-Shot Learning for Natural Language Understanding [23.458843951563978]
  自然言語理解(NLU)タスクの目覚ましい結果を得るために,プロンプトベースの微調整を活用する。 敵の摂動に対するロバスト性を評価するために, 最先端のFSL法を幅広く検討した。
  論文  参考訳（メタデータ） (2023-06-19T17:01:13Z)
• Constrained Few-Shot Learning: Human-Like Low Sample Complexity Learning and Non-Episodic Text Classification [11.35732215154172]
  ほとんどショット学習は、サンプルの複雑さの低い推論を学ぼうとする学習の創発的なパラダイムである。 認知理論に着想を得た新たなカテゴリー的コントラスト損失を用いたCFSL法を提案する。
  論文  参考訳（メタデータ） (2022-08-17T06:05:41Z)
• Pseudo-Labeling Based Practical Semi-Supervised Meta-Training for Few-Shot Learning [93.63638405586354]
  擬似ラベルベースメタラーニング(PLML)という,シンプルで効果的なメタトレーニングフレームワークを提案する。 まず、一般的な半教師付き学習(SSL)を用いて分類器を訓練し、ラベルなしデータの擬似ラベルを得る。 ラベル付きおよび擬似ラベル付きデータから数ショットのタスクを構築し、特徴の平滑化と雑音抑圧を伴う新しい微調整法を設計する。
  論文  参考訳（メタデータ） (2022-07-14T10:53:53Z)
• A Strong Baseline for Semi-Supervised Incremental Few-Shot Learning [54.617688468341704]
  少ないショット学習は、限られたトレーニングサンプルを持つ新しいクラスに一般化するモデルを学ぶことを目的としている。 本研究では,(1)信頼できない擬似ラベルによる基本クラスと新クラスのあいまいさを緩和する高度に設計されたメタトレーニングアルゴリズム,(2)ラベルの少ないデータとラベルなしデータを用いて基礎知識を保ちながら,新クラスの識別的特徴を学習するモデル適応機構を提案する。
  論文  参考訳（メタデータ） (2021-10-21T13:25:52Z)
• On Data-Augmentation and Consistency-Based Semi-Supervised Learning [77.57285768500225]
  最近提案された整合性に基づく半教師付き学習(SSL)手法は,複数のSSLタスクにおいて最先端技術である。 これらの進歩にもかかわらず、これらの手法の理解はまだ比較的限られている。
  論文  参考訳（メタデータ） (2021-01-18T10:12:31Z)
• Boosting Few-Shot Learning With Adaptive Margin Loss [109.03665126222619]
  本稿では,数ショット学習問題に対するメートル法に基づくメタラーニング手法の一般化能力を改善するための適応的マージン原理を提案する。 大規模な実験により,提案手法は,現在のメートル法に基づくメタラーニング手法の性能を向上させることができることが示された。
  論文  参考訳（メタデータ） (2020-05-28T07:58:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。