論文の概要: Uncertainty Sentence Sampling by Virtual Adversarial Perturbation
- arxiv url: http://arxiv.org/abs/2210.14576v2
- Date: Thu, 27 Oct 2022 03:18:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-28 13:44:59.435009
- Title: Uncertainty Sentence Sampling by Virtual Adversarial Perturbation
- Title（参考訳）: Virtual Adversarial Perturbation による不確かさサンプリング
- Authors: Hanshan Zhang and Zhen Zhang and Hongfei Jiang and Yang Song
- Abstract要約: 文理解のための能動的学習は、最も有益な例を特定することによって、アノテーションのコストを削減しようとする。
アクティブな学習のための一般的な方法は、プールベースのシナリオで不確実性または多様性のサンプリングを使用する。
予測不確実性とサンプルの多様性を両立させるために,VAPAL(Virtual Adrial Perturbation for Active Learning)を提案する。
- 参考スコア（独自算出の注目度）: 12.502660317573293
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Active learning for sentence understanding attempts to reduce the annotation
cost by identifying the most informative examples. Common methods for active
learning use either uncertainty or diversity sampling in the pool-based
scenario. In this work, to incorporate both predictive uncertainty and sample
diversity, we propose Virtual Adversarial Perturbation for Active Learning
(VAPAL) , an uncertainty-diversity combination framework, using virtual
adversarial perturbation (Miyato et al., 2019) as model uncertainty
representation. VAPAL consistently performs equally well or even better than
the strong baselines on four sentence understanding datasets: AGNEWS, IMDB,
PUBMED, and SST-2, offering a potential option for active learning on sentence
understanding tasks.
- Abstract（参考訳）: 文理解のためのアクティブラーニングは、最も有意義な例を特定することによってアノテーションコストを削減しようとする。
アクティブラーニングの一般的な方法は、プールベースのシナリオで不確実性または多様性サンプリングを使用する。
本研究では,予測的不確実性とサンプルの多様性の両方を組み込むため,仮想逆摂動をモデル不確実性表現として用いる,不確実性と多様性の組み合わせフレームワークvapal(virtual adversarial perturbation for active learning)を提案する。
VAPALは、4つの文理解データセット(AGNEWS, IMDB, PUBMED, SST-2)の強力なベースラインよりも、一貫した、あるいはそれ以上のパフォーマンスを実現している。
関連論文リスト
- Estimating Commonsense Plausibility through Semantic Shifts [66.06254418551737]
セマンティックシフトを測定することでコモンセンスの妥当性を定量化する新しい識別フレームワークであるComPaSSを提案する。
2種類の細粒度コモンセンス可視性評価タスクの評価は,ComPaSSが一貫してベースラインを上回っていることを示している。
論文 参考訳（メタデータ） (2025-02-19T06:31:06Z) - DEUCE: Dual-diversity Enhancement and Uncertainty-awareness for Cold-start Active Learning [54.35107462768146]
コールドスタートアクティブラーニング(CSAL)は、手動アノテーションのためのラベルなしデータセットから貴重なインスタンスを選択する。
既存のCSAL手法は、弱いクラスと強い代表例を見落とし、バイアス学習をもたらす。
本稿ではCSALのための新しい二変量拡張および不確実性認識フレームワークを提案する。
論文 参考訳（メタデータ） (2025-02-01T04:00:03Z) - Post-hoc Probabilistic Vision-Language Models [51.12284891724463]
視覚言語モデル(VLM)は、分類、検索、生成タスクにおいて顕著な成功を収めている。
追加トレーニングを必要としないVLMにおけるポストホック不確実性評価を提案する。
この結果から,大規模モデルの安全性クリティカルな応用が期待できることがわかった。
論文 参考訳（メタデータ） (2024-12-08T18:16:13Z) - Maximally Separated Active Learning [32.98415531556376]
固定等角超球面点をクラスプロトタイプとして利用する能動的学習法を提案する。
5つのベンチマークデータセットにまたがる既存のアクティブラーニング技術よりも高いパフォーマンスを示す。
論文 参考訳（メタデータ） (2024-11-26T14:02:43Z) - Uncertainty Quantification for In-Context Learning of Large Language Models [52.891205009620364]
大規模言語モデル(LLM)の画期的な能力として、文脈内学習が登場している。
両タイプの不確かさを定量化するための新しい定式化法とそれに対応する推定法を提案する。
提案手法は、プラグイン・アンド・プレイ方式でコンテキスト内学習の予測を理解するための教師なしの方法を提供する。
論文 参考訳（メタデータ） (2024-02-15T18:46:24Z) - Variational Self-Supervised Contrastive Learning Using Beta Divergence [0.0]
本稿では,データノイズに対して頑健な自己教師付き学習手法を提案する。
顔理解領域における多ラベルデータセットを用いた線形評価と微調整シナリオを含む厳密な実験により,提案手法の有効性を実証する。
論文 参考訳（メタデータ） (2023-09-05T17:21:38Z) - Dense Contrastive Visual-Linguistic Pretraining [53.61233531733243]
画像とテキストを共同で表現するマルチモーダル表現学習手法が提案されている。
これらの手法は,大規模マルチモーダル事前学習から高レベルな意味情報を取得することにより,優れた性能を実現する。
そこで本稿では,非バイアスのDense Contrastive Visual-Linguistic Pretrainingを提案する。
論文 参考訳（メタデータ） (2021-09-24T07:20:13Z) - Active Sentence Learning by Adversarial Uncertainty Sampling in Discrete
Space [56.22272513894306]
文理解のための能動的学習は、注釈のための情報的未ラベルデータを見つけることを目的としている。
アクティブな学習のための典型的な不確実性サンプリング手法は時間を要するため,リアルタイムにはほとんど機能しない,と我々は主張する。
本稿では, 離散空間 (AUSDS) における逆不確実性サンプリングを提案し, より効率的に情報付き未ラベルサンプルを検索する。
論文 参考訳（メタデータ） (2020-04-17T03:12:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。