論文の概要: Uncertainty Sentence Sampling by Virtual Adversarial Perturbation

• arxiv url: http://arxiv.org/abs/2210.14576v2
• Date: Thu, 27 Oct 2022 03:18:41 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-28 13:44:59.435009
• Title: Uncertainty Sentence Sampling by Virtual Adversarial Perturbation
• Title（参考訳）: Virtual Adversarial Perturbation による不確かさサンプリング
• Authors: Hanshan Zhang and Zhen Zhang and Hongfei Jiang and Yang Song
• Abstract要約: 文理解のための能動的学習は、最も有益な例を特定することによって、アノテーションのコストを削減しようとする。 アクティブな学習のための一般的な方法は、プールベースのシナリオで不確実性または多様性のサンプリングを使用する。 予測不確実性とサンプルの多様性を両立させるために,VAPAL(Virtual Adrial Perturbation for Active Learning)を提案する。
• 参考スコア（独自算出の注目度）: 12.502660317573293
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Active learning for sentence understanding attempts to reduce the annotation cost by identifying the most informative examples. Common methods for active learning use either uncertainty or diversity sampling in the pool-based scenario. In this work, to incorporate both predictive uncertainty and sample diversity, we propose Virtual Adversarial Perturbation for Active Learning (VAPAL) , an uncertainty-diversity combination framework, using virtual adversarial perturbation (Miyato et al., 2019) as model uncertainty representation. VAPAL consistently performs equally well or even better than the strong baselines on four sentence understanding datasets: AGNEWS, IMDB, PUBMED, and SST-2, offering a potential option for active learning on sentence understanding tasks.
• Abstract（参考訳）: 文理解のためのアクティブラーニングは、最も有意義な例を特定することによってアノテーションコストを削減しようとする。 アクティブラーニングの一般的な方法は、プールベースのシナリオで不確実性または多様性サンプリングを使用する。 本研究では,予測的不確実性とサンプルの多様性の両方を組み込むため,仮想逆摂動をモデル不確実性表現として用いる,不確実性と多様性の組み合わせフレームワークvapal(virtual adversarial perturbation for active learning)を提案する。 VAPALは、4つの文理解データセット(AGNEWS, IMDB, PUBMED, SST-2)の強力なベースラインよりも、一貫した、あるいはそれ以上のパフォーマンスを実現している。

関連論文リスト

• Maximally Separated Active Learning [32.98415531556376]
  固定等角超球面点をクラスプロトタイプとして利用する能動的学習法を提案する。 5つのベンチマークデータセットにまたがる既存のアクティブラーニング技術よりも高いパフォーマンスを示す。
  論文  参考訳（メタデータ） (2024-11-26T14:02:43Z)
• Bidirectional Uncertainty-Based Active Learning for Open Set Annotation [28.624321743629825]
  オープンセットのシナリオにおけるアクティブな学習は、最も価値のある例を特定するという、新たな課題を示している。 従来の手法では、信頼性の低い情報的事例の選択が優先されていた。 最近の手法は、最も可能性の高い既知の例を好んでいる。 双方向不確実性に基づくアクティブラーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-02-23T08:59:04Z)
• Uncertainty Quantification for In-Context Learning of Large Language Models [52.891205009620364]
  大規模言語モデル(LLM)の画期的な能力として、文脈内学習が登場している。 両タイプの不確かさを定量化するための新しい定式化法とそれに対応する推定法を提案する。 提案手法は、プラグイン・アンド・プレイ方式でコンテキスト内学習の予測を理解するための教師なしの方法を提供する。
  論文  参考訳（メタデータ） (2024-02-15T18:46:24Z)
• Virtual Category Learning: A Semi-Supervised Learning Method for Dense Prediction with Extremely Limited Labels [63.16824565919966]
  本稿では,ラベルの修正を伴わずに,混乱したサンプルを積極的に使用することを提案する。 仮想カテゴリー(VC)は、モデルの最適化に安全に貢献できるように、各混乱したサンプルに割り当てられる。 私たちの興味深い発見は、密集した視覚タスクにおけるVC学習の利用に注目しています。
  論文  参考訳（メタデータ） (2023-12-02T16:23:52Z)
• Variational Self-Supervised Contrastive Learning Using Beta Divergence [0.0]
  本稿では,データノイズに対して頑健な自己教師付き学習手法を提案する。 顔理解領域における多ラベルデータセットを用いた線形評価と微調整シナリオを含む厳密な実験により,提案手法の有効性を実証する。
  論文  参考訳（メタデータ） (2023-09-05T17:21:38Z)
• Variational Distillation for Multi-View Learning [104.17551354374821]
  我々は,多視点表現学習における2つの重要な特徴を利用するために,様々な情報ボトルネックを設計する。 厳密な理論的保証の下で,本手法は,観察とセマンティックラベルの内在的相関の把握を可能にする。
  論文  参考訳（メタデータ） (2022-06-20T03:09:46Z)
• A Multi-level Supervised Contrastive Learning Framework for Low-Resource Natural Language Inference [54.678516076366506]
  自然言語推論(NLI)は、自然言語理解において、ますます重要な課題である。 本稿では,低リソースな自然言語推論のためのマルチSCLという,マルチレベルの教師付きコントラスト学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-05-31T05:54:18Z)
• Dense Contrastive Visual-Linguistic Pretraining [53.61233531733243]
  画像とテキストを共同で表現するマルチモーダル表現学習手法が提案されている。 これらの手法は,大規模マルチモーダル事前学習から高レベルな意味情報を取得することにより,優れた性能を実現する。 そこで本稿では,非バイアスのDense Contrastive Visual-Linguistic Pretrainingを提案する。
  論文  参考訳（メタデータ） (2021-09-24T07:20:13Z)
• Active Sentence Learning by Adversarial Uncertainty Sampling in Discrete Space [56.22272513894306]
  文理解のための能動的学習は、注釈のための情報的未ラベルデータを見つけることを目的としている。 アクティブな学習のための典型的な不確実性サンプリング手法は時間を要するため,リアルタイムにはほとんど機能しない,と我々は主張する。 本稿では, 離散空間 (AUSDS) における逆不確実性サンプリングを提案し, より効率的に情報付き未ラベルサンプルを検索する。
  論文  参考訳（メタデータ） (2020-04-17T03:12:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。