論文の概要: On the Efficiency of Integrating Self-supervised Learning and Meta-learning for User-defined Few-shot Keyword Spotting

• arxiv url: http://arxiv.org/abs/2204.00352v1
• Date: Fri, 1 Apr 2022 10:59:39 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-04 15:19:06.661393
• Title: On the Efficiency of Integrating Self-supervised Learning and Meta-learning for User-defined Few-shot Keyword Spotting
• Title（参考訳）: ユーザ定義によるキーワードスポッティングにおける自己教師付き学習とメタラーニングの統合効率について
• Authors: Wei-Tsung Kao, Yuen-Kwei Wu, Chia Ping Chen, Zhi-Sheng Chen, Yu-Pao Tsai, Hung-Yi Lee
• Abstract要約: ユーザ定義キーワードスポッティングは、ユーザが定義する新しい音声用語を検出するタスクである。 これまでの研究は、自己教師付き学習モデルを取り入れたり、メタ学習アルゴリズムを適用しようとするものだった。 この結果から,HuBERTとMatching Networkを組み合わせることで,最適な結果が得られることがわかった。
• 参考スコア（独自算出の注目度）: 51.41426141283203
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: User-defined keyword spotting is a task to detect new spoken terms defined by users. This can be viewed as a few-shot learning problem since it is unreasonable for users to define their desired keywords by providing many examples. To solve this problem, previous works try to incorporate self-supervised learning models or apply meta-learning algorithms. But it is unclear whether self-supervised learning and meta-learning are complementary and which combination of the two types of approaches is most effective for few-shot keyword discovery. In this work, we systematically study these questions by utilizing various self-supervised learning models and combining them with a wide variety of meta-learning algorithms. Our result shows that HuBERT combined with Matching network achieves the best result and is robust to the changes of few-shot examples.
• Abstract（参考訳）: ユーザ定義キーワードスポッティングは、ユーザが定義する新しい音声用語を検出するタスクである。 これは、ユーザが多くの例を提供することで、所望のキーワードを定義できないため、数発の学習問題と見なすことができる。 この問題を解決するために、従来の研究は自己教師付き学習モデルやメタ学習アルゴリズムを適用しようとしていた。 しかし,自己指導型学習とメタラーニングが相補的であるか否かは明らかであり,この2つのアプローチの組み合わせは,数発のキーワード発見に最も有効である。 本研究では,様々な自己教師付き学習モデルを活用し,様々なメタ学習アルゴリズムと組み合わせることで,これらの質問を体系的に研究する。 この結果から,HuBERTとMatching Networkを組み合わせることで,最も優れた結果が得られ,少数例の変更に対して堅牢であることがわかった。

関連論文リスト

• When Meta-Learning Meets Online and Continual Learning: A Survey [39.53836535326121]
  メタ学習は学習アルゴリズムを最適化するためのデータ駆動型アプローチである。 継続的な学習とオンライン学習はどちらも、ストリーミングデータでモデルを漸進的に更新する。 本稿では,一貫した用語と形式記述を用いて,様々な問題設定を整理する。
  論文  参考訳（メタデータ） (2023-11-09T09:49:50Z)
• Meta Learning to Bridge Vision and Language Models for Multimodal Few-Shot Learning [38.37682598345653]
  視覚モデルと言語モデルとのギャップを埋めるために,マルチモーダルなメタ学習手法を導入する。 我々は,凍結した大規模視覚と言語モデルを効率的にブリッジするためにメタラーナーとして機能するメタマッパーネットワークを定義する。 我々は,最近提案されたマルチモーダル・スショット・ベンチマークに対するアプローチを評価し,新しい視覚概念を単語に結合する速度を計測した。
  論文  参考訳（メタデータ） (2023-02-28T17:46:18Z)
• Multi-Modal Few-Shot Object Detection with Meta-Learning-Based Cross-Modal Prompting [77.69172089359606]
  本稿では,マルチモーダルな複数ショットオブジェクト検出(FSOD)について,少数ショット視覚例とクラスセマンティック情報の両方を用いて検討する。 我々のアプローチは、(メトリックベース)メタラーニングとプロンプトベースラーニングの高レベルな概念的類似性によって動機付けられている。 提案するマルチモーダルFSODモデルを,複数の複数ショットオブジェクト検出ベンチマークで総合的に評価し,有望な結果を得た。
  論文  参考訳（メタデータ） (2022-04-16T16:45:06Z)
• Meta Navigator: Search for a Good Adaptation Policy for Few-shot Learning [113.05118113697111]
  少ないショット学習は、ラベル付きデータしか持たない新しいタスクに、以前のタスクから学んだ知識を適応させることを目的としている。 少数ショット学習に関する研究文献は、大きな多様性を示し、異なるアルゴリズムは、しばしば異なる少数ショット学習シナリオで優れている。 本稿では,メタナビゲータ(Meta Navigator)について紹介する。
  論文  参考訳（メタデータ） (2021-09-13T07:20:01Z)
• Learning to Bridge Metric Spaces: Few-shot Joint Learning of Intent Detection and Slot Filling [29.218780709974244]
  そこで本研究では,データリッチドメイン上で意図とスロットの計量空間をブリッジする学習手法を提案する。 われわれのモデルは、1ショットと5ショット設定で強いベースラインをはるかに上回っている。
  論文  参考訳（メタデータ） (2021-05-25T15:07:11Z)
• Learning to Learn to Disambiguate: Meta-Learning for Few-Shot Word Sense Disambiguation [26.296412053816233]
  単語感覚の曖昧さを解消するメタラーニングフレームワークを提案する。 ゴールは、少数のラベル付きインスタンスから目に見えない単語をあいまいにすることを学ぶことである。 このシナリオにいくつかの一般的なメタ学習アプローチを拡張し、その強みと弱点を分析します。
  論文  参考訳（メタデータ） (2020-04-29T17:33:31Z)
• Meta-Meta Classification for One-Shot Learning [11.27833234287093]
  メタメタ分類(メタメタ分類)と呼ばれる,小さなデータ設定で学習する新しい手法を提案する。 このアプローチでは、学習者の集合を設計するために大量の学習問題を使用し、各学習者は高いバイアスと低い分散を持つ。 本研究では,一対一で一対一の分類課題に対するアプローチの評価を行い,従来のメタラーニングやアンサンブルアプローチよりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-04-17T07:05:03Z)
• Meta-Baseline: Exploring Simple Meta-Learning for Few-Shot Learning [79.25478727351604]
  評価基準に基づいて,分類済みモデル全体に対するメタラーニング(メタラーニング)を提案する。 我々は,この単純な手法が標準ベンチマークにおける最先端手法との競合性能を達成するのを観察する。
  論文  参考訳（メタデータ） (2020-03-09T20:06:36Z)
• Provable Meta-Learning of Linear Representations [114.656572506859]
  我々は、複数の関連するタスクから共通の機能の集合を学習し、その知識を新しい未知のタスクに転送する、という2つの課題に対処する、高速でサンプル効率のアルゴリズムを提供する。 また、これらの線形特徴を学習する際のサンプルの複雑さに関する情報理論の下限も提供する。
  論文  参考訳（メタデータ） (2020-02-26T18:21:34Z)
• Revisiting Meta-Learning as Supervised Learning [69.2067288158133]
  メタラーニングと従来の教師付き学習の関連性を再考し,強化することで,原則的,統一的なフレームワークの提供を目指す。 タスク固有のデータセットとターゲットモデルを(機能、ラベル)サンプルとして扱うことで、多くのメタ学習アルゴリズムを教師付き学習のインスタンスに還元することができる。 この視点は、メタラーニングを直感的で実践的なフレームワークに統一するだけでなく、教師付き学習から直接洞察を伝達してメタラーニングを改善することができる。
  論文  参考訳（メタデータ） (2020-02-03T06:13:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。