論文の概要: Meta-Query-Net: Resolving Purity-Informativeness Dilemma in Open-set
Active Learning
- arxiv url: http://arxiv.org/abs/2210.07805v1
- Date: Thu, 13 Oct 2022 07:11:16 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-17 17:29:50.278211
- Title: Meta-Query-Net: Resolving Purity-Informativeness Dilemma in Open-set
Active Learning
- Title(参考訳): Meta-Query-Net:オープンセットアクティブラーニングにおける純度不変性ジレンマの解消
- Authors: Dongmin Park, Yooju Shin, Jihwan Bang, Youngjun Lee, Hwanjun Song,
Jae-Gil Lee
- Abstract要約: 本稿では,2つの要因間の最適なバランスを適応的に見つける新しいMeta-Query-Net(MQ-Net)を提案する。
MQ-Netは最先端の手法に比べて20.14%の精度向上を実現している。
- 参考スコア(独自算出の注目度): 19.589691914337127
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unlabeled data examples awaiting annotations contain open-set noise
inevitably. A few active learning studies have attempted to deal with this
open-set noise for sample selection by filtering out the noisy examples.
However, because focusing on the purity of examples in a query set leads to
overlooking the informativeness of the examples, the best balancing of purity
and informativeness remains an important question. In this paper, to solve this
purity-informativeness dilemma in open-set active learning, we propose a novel
Meta-Query-Net,(MQ-Net) that adaptively finds the best balancing between the
two factors. Specifically, by leveraging the multi-round property of active
learning, we train MQ-Net using a query set without an additional validation
set. Furthermore, a clear dominance relationship between unlabeled examples is
effectively captured by MQ-Net through a novel skyline regularization.
Extensive experiments on multiple open-set active learning scenarios
demonstrate that the proposed MQ-Net achieves 20.14% improvement in terms of
accuracy, compared with the state-of-the-art methods.
- Abstract(参考訳): ラベルのないデータ例 アノテーションを待っていると、必然的にオープンセットノイズが含まれます。
いくつかのアクティブラーニング研究は、ノイズのある例をフィルタリングすることで、サンプル選択のためのオープンセットノイズに対処しようと試みている。
しかし、クエリ集合における例の純度に注目すると、例の知性を見落としてしまうため、純度と情報性の最良のバランスは依然として重要な問題である。
本稿では,オープンセット型アクティブラーニングにおけるこの純度不変性ジレンマを解決するために,2つの要因間の最適なバランスを適応的に見つける新しいメタクエリネットワーク(MQ-Net)を提案する。
具体的には、アクティブラーニングのマルチラウンド特性を活用して、追加の検証セットなしでクエリセットを使用してMQ-Netをトレーニングする。
さらに、ラベルのない例間の明確な支配関係は、新しいスカイライン正規化によってMQ-Netによって効果的に捉えられる。
複数のオープンセットのアクティブな学習シナリオに関する大規模な実験は、提案されたMQ-Netが最先端の手法と比較して20.14%の精度向上を実現していることを示している。
関連論文リスト
- Adapting Vision-Language Models to Open Classes via Test-Time Prompt Tuning [50.26965628047682]
学習済みのモデルをオープンクラスに適応させることは、機械学習において難しい問題である。
本稿では,両者の利点を組み合わせたテスト時プロンプトチューニング手法を提案する。
提案手法は,基本クラスと新クラスの両方を考慮し,すべての比較手法を平均的に上回る結果を得た。
論文 参考訳(メタデータ) (2024-08-29T12:34:01Z) - On the Noise Robustness of In-Context Learning for Text Generation [41.59602454113563]
本研究では、テキスト生成タスクにおいて、ノイズの多いアノテーションがテキスト内学習の性能を著しく損なうことを示す。
この問題を回避するために,LPR(Local Perplexity Ranking)と呼ばれるシンプルで効果的なアプローチを提案する。
LPRは「騒々しい」候補者を、より清潔である可能性が高い隣人に置き換える。
論文 参考訳(メタデータ) (2024-05-27T15:22:58Z) - Prompt Optimization with EASE? Efficient Ordering-aware Automated Selection of Exemplars [66.823588073584]
大規模言語モデル(LLM)は、現実世界のアプリケーションで印象的な機能を示している。
これらの卓越した作品の品質は、パフォーマンスに大きな影響を与えます。
既存の方法は、先行注文がパフォーマンスに与える影響を適切に説明できない。
論文 参考訳(メタデータ) (2024-05-25T08:23:05Z) - IDEAL: Influence-Driven Selective Annotations Empower In-Context
Learners in Large Language Models [66.32043210237768]
本稿では,影響駆動型選択的アノテーション手法を提案する。
アノテーションのコストを最小限に抑えつつ、コンテキスト内サンプルの品質を向上させることを目的としている。
様々なベンチマークで提案手法の優位性を確認する実験を行った。
論文 参考訳(メタデータ) (2023-10-16T22:53:54Z) - Active Learning Principles for In-Context Learning with Large Language
Models [65.09970281795769]
本稿では,アクティブ・ラーニング・アルゴリズムが,文脈内学習における効果的な実演選択手法としてどのように機能するかを検討する。
ALによる文脈内サンプル選択は,不確実性の低い高品質な事例を優先し,試験例と類似性を有することを示す。
論文 参考訳(メタデータ) (2023-05-23T17:16:04Z) - MSVQ: Self-Supervised Learning with Multiple Sample Views and Queues [10.327408694770709]
我々は、新しいシンプルなフレームワーク、すなわちMultiple Sample Views and Queues(MSVQ)を提案する。
2つの相補的および対称的アプローチを利用して3つのソフトラベルをオンザフライで共同構築する。
学生ネットワークは、サンプル間の類似性関係を模倣するので、学生ネットワークはデータセット内の偽陰性サンプルをより柔軟に識別できる。
論文 参考訳(メタデータ) (2023-05-09T12:05:14Z) - Reconstruction guided Meta-learning for Few Shot Open Set Recognition [31.49168444631114]
ReFOCS (Reconstructing Exemplar-based Few-shot Open-set Classifier) を提案する。
新規な再構築型メタラーニング戦略であるReFOCSを用いてFSOSRを効率化する。
ReFOCSは複数の最先端手法より優れていることを示す。
論文 参考訳(メタデータ) (2021-07-31T23:23:35Z) - Dynamic Semantic Matching and Aggregation Network for Few-shot Intent
Detection [69.2370349274216]
利用可能な注釈付き発話が不足しているため、インテント検出は困難である。
セマンティック成分はマルチヘッド自己認識によって発話から蒸留される。
本手法はラベル付きインスタンスとラベルなしインスタンスの両方の表現を強化するための総合的なマッチング手段を提供する。
論文 参考訳(メタデータ) (2020-10-06T05:16:38Z) - Improving Multi-Turn Response Selection Models with Complementary
Last-Utterance Selection by Instance Weighting [84.9716460244444]
我々は、データリソース自体の根底にある相関を利用して、異なる種類の監視信号を導出することを検討する。
2つの公開データセットで広範な実験を行い、両方のデータセットで大幅に改善した。
論文 参考訳(メタデータ) (2020-02-18T06:29:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。