論文の概要: Learning to Learn to Disambiguate: Meta-Learning for Few-Shot Word Sense Disambiguation

• arxiv url: http://arxiv.org/abs/2004.14355v3
• Date: Mon, 12 Oct 2020 10:09:05 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-08 12:49:19.005961
• Title: Learning to Learn to Disambiguate: Meta-Learning for Few-Shot Word Sense Disambiguation
• Title（参考訳）: 曖昧さを学べる学習--下記の単語センスの曖昧さに対するメタラーニング
• Authors: Nithin Holla, Pushkar Mishra, Helen Yannakoudakis, Ekaterina Shutova
• Abstract要約: 単語感覚の曖昧さを解消するメタラーニングフレームワークを提案する。 ゴールは、少数のラベル付きインスタンスから目に見えない単語をあいまいにすることを学ぶことである。 このシナリオにいくつかの一般的なメタ学習アプローチを拡張し、その強みと弱点を分析します。
• 参考スコア（独自算出の注目度）: 26.296412053816233
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The success of deep learning methods hinges on the availability of large training datasets annotated for the task of interest. In contrast to human intelligence, these methods lack versatility and struggle to learn and adapt quickly to new tasks, where labeled data is scarce. Meta-learning aims to solve this problem by training a model on a large number of few-shot tasks, with an objective to learn new tasks quickly from a small number of examples. In this paper, we propose a meta-learning framework for few-shot word sense disambiguation (WSD), where the goal is to learn to disambiguate unseen words from only a few labeled instances. Meta-learning approaches have so far been typically tested in an $N$-way, $K$-shot classification setting where each task has $N$ classes with $K$ examples per class. Owing to its nature, WSD deviates from this controlled setup and requires the models to handle a large number of highly unbalanced classes. We extend several popular meta-learning approaches to this scenario, and analyze their strengths and weaknesses in this new challenging setting.
• Abstract（参考訳）: ディープラーニング手法の成功は、興味のあるタスクにアノテートされた大規模なトレーニングデータセットの可用性にかかっている。 ヒューマンインテリジェンスとは対照的に、これらの手法には汎用性がなく、ラベル付きデータが不足している新しいタスクに素早く学習し、適応するのは難しい。 メタラーニングは、少数の例から新しいタスクを素早く学習することを目的として、多数のショットタスクでモデルをトレーニングすることで、この問題を解決することを目的としている。 本稿では,数個のラベル付きインスタンスから不明瞭な単語を学習することを目的とした,数発の単語感覚曖昧化(WSD)のためのメタラーニングフレームワークを提案する。 メタラーニングのアプローチは、通常、クラスごとに$k$の例を持つ$n$クラスを持つ、$n$-way、$k$-shotの分類設定でテストされている。 その性質上、wsdはこの制御された設定から逸脱し、モデルには多数の高度にバランスの取れないクラスを扱う必要がある。 我々は、このシナリオにいくつかの一般的なメタラーニングアプローチを拡張し、この新しい挑戦的な環境でその強みと弱みを分析します。

関連論文リスト

• Meta Learning to Bridge Vision and Language Models for Multimodal Few-Shot Learning [38.37682598345653]
  視覚モデルと言語モデルとのギャップを埋めるために,マルチモーダルなメタ学習手法を導入する。 我々は,凍結した大規模視覚と言語モデルを効率的にブリッジするためにメタラーナーとして機能するメタマッパーネットワークを定義する。 我々は,最近提案されたマルチモーダル・スショット・ベンチマークに対するアプローチを評価し,新しい視覚概念を単語に結合する速度を計測した。
  論文  参考訳（メタデータ） (2023-02-28T17:46:18Z)
• On the Efficiency of Integrating Self-supervised Learning and Meta-learning for User-defined Few-shot Keyword Spotting [51.41426141283203]
  ユーザ定義キーワードスポッティングは、ユーザが定義する新しい音声用語を検出するタスクである。 これまでの研究は、自己教師付き学習モデルを取り入れたり、メタ学習アルゴリズムを適用しようとするものだった。 この結果から,HuBERTとMatching Networkを組み合わせることで,最適な結果が得られることがわかった。
  論文  参考訳（メタデータ） (2022-04-01T10:59:39Z)
• MetaICL: Learning to Learn In Context [87.23056864536613]
  そこで我々は,メタICLというメタトレーニングフレームワークを紹介した。このフレームワークでは,事前学習された言語モデルが,大量のトレーニングタスクに対してコンテキスト内学習を行うように調整されている。 その結果,MetaICLは,目標タスクトレーニングデータに対して完全に微調整されたモデルの性能にアプローチ(時には打ち負かす)し,ほぼ8倍のパラメータを持つモデルよりも優れた性能を示すことがわかった。
  論文  参考訳（メタデータ） (2021-10-29T17:42:08Z)
• Few-Shot Learning with a Strong Teacher [36.35502703114652]
  限られたラベル付き例を使って強力な分類器を訓練することを目的としていない。 既存の多くの作業はメタラーニングアプローチを採用し、数発のタスクを順番にサンプリングし、クエリの例を分類する際の数発の学習者のパフォーマンスを最適化する。 そこで本研究では,少数の学習者を直接訓練して,強力な分類器のように動作させる新しい目標を提案する。
  論文  参考訳（メタデータ） (2021-07-01T03:20:46Z)
• Variable-Shot Adaptation for Online Meta-Learning [123.47725004094472]
  従来のタスクから静的データにまたがるメタラーニングによって,少数の固定された例から新しいタスクを学習する問題について検討する。 メタラーニングは,従来の教師付き手法に比べて,ラベルの総数が少なく,累積性能も高いタスクセットを解く。 これらの結果から,メタラーニングは,一連の問題を継続的に学習し,改善する学習システムを構築する上で重要な要素であることが示唆された。
  論文  参考訳（メタデータ） (2020-12-14T18:05:24Z)
• Meta-learning for Few-shot Natural Language Processing: A Survey [10.396506243272158]
  Few-shot Natural Language Processing (NLP) は、ラベル付き例のごく一部に付随するNLPタスクを指す。 本稿では,NLP領域,特に少数ショットアプリケーションに焦点をあてる。 メタラーニングを数ショットNLPに適用する際の、より明確な定義、進捗の概要、一般的なデータセットを提供しようとしている。
  論文  参考訳（メタデータ） (2020-07-19T06:36:41Z)
• Adaptive Task Sampling for Meta-Learning [79.61146834134459]
  数ショットの分類のためのメタラーニングの鍵となるアイデアは、テスト時に直面した数ショットの状況を模倣することである。 一般化性能を向上させるための適応型タスクサンプリング手法を提案する。
  論文  参考訳（メタデータ） (2020-07-17T03:15:53Z)
• Meta-Baseline: Exploring Simple Meta-Learning for Few-Shot Learning [79.25478727351604]
  評価基準に基づいて,分類済みモデル全体に対するメタラーニング(メタラーニング)を提案する。 我々は,この単純な手法が標準ベンチマークにおける最先端手法との競合性能を達成するのを観察する。
  論文  参考訳（メタデータ） (2020-03-09T20:06:36Z)
• Meta-Learning across Meta-Tasks for Few-Shot Learning [107.44950540552765]
  我々は,メタ・ラーニングを支援するために,メタ・タスク間の関係を活用すべきであり,これらのタスクを戦略的にサンプリングするべきだと論じている。 2種類のメタタスクペアで定義された関係を考察し、それらを活用するための異なる戦略を提案する。
  論文  参考訳（メタデータ） (2020-02-11T09:25:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。