論文の概要: Active Learning with Label Comparisons
- arxiv url: http://arxiv.org/abs/2204.04670v1
- Date: Sun, 10 Apr 2022 12:13:46 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-14 08:48:13.307512
- Title: Active Learning with Label Comparisons
- Title(参考訳): ラベル比較によるアクティブラーニング
- Authors: Gal Yona, Shay Moran, Gal Elidan, Amir Globerson
- Abstract要約: 我々は、$k-1$のアクティブクエリで、$k$ラベルのベストを見つけることができることを示した。
我々の分析の鍵となる要素は、真の分布の「ラベル近傍グラフ」である。
- 参考スコア(独自算出の注目度): 41.82179028046654
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Supervised learning typically relies on manual annotation of the true labels.
When there are many potential classes, searching for the best one can be
prohibitive for a human annotator. On the other hand, comparing two candidate
labels is often much easier. We focus on this type of pairwise supervision and
ask how it can be used effectively in learning, and in particular in active
learning. We obtain several insightful results in this context. In principle,
finding the best of $k$ labels can be done with $k-1$ active queries. We show
that there is a natural class where this approach is sub-optimal, and that
there is a more comparison-efficient active learning scheme. A key element in
our analysis is the "label neighborhood graph" of the true distribution, which
has an edge between two classes if they share a decision boundary. We also show
that in the PAC setting, pairwise comparisons cannot provide improved sample
complexity in the worst case. We complement our theoretical results with
experiments, clearly demonstrating the effect of the neighborhood graph on
sample complexity.
- Abstract(参考訳): 教師付き学習は通常、真のラベルの手動アノテーションに依存する。
潜在的なクラスが多数存在する場合、ヒトのアノテータにとって最良のクラスを探すことは禁じられる。
一方、2つの候補ラベルを比較することは、しばしば容易である。
このようなペアワイズによる監督に注目し,学習,特にアクティブラーニングにおいて,どのように効果的に活用できるかを問う。
この文脈でいくつかの洞察力のある結果が得られる。
原則として、$k$のラベルを見つけることは$k-1$のアクティブクエリでできる。
このアプローチが準最適である自然なクラスが存在し、より比較効率の良いアクティブラーニングスキームが存在することを示す。
我々の分析における重要な要素は、真の分布の「ラベル近傍グラフ」であり、決定境界を共有する場合、2つのクラスの間にエッジを持つ。
また,pac設定では,ペアワイズ比較では,最悪の場合,サンプルの複雑さが向上しないことを示した。
実験により理論結果を補完し,標本複雑性に対する近傍グラフの効果を明らかにした。
関連論文リスト
- One-bit Supervision for Image Classification: Problem, Solution, and
Beyond [114.95815360508395]
本稿では,ラベルの少ない新しい学習環境である,画像分類のための1ビット監督について述べる。
多段階学習パラダイムを提案し、負ラベル抑圧を半教師付き半教師付き学習アルゴリズムに組み込む。
複数のベンチマークにおいて、提案手法の学習効率は、フルビットの半教師付き監視手法よりも優れている。
論文 参考訳(メタデータ) (2023-11-26T07:39:00Z) - On the Informativeness of Supervision Signals [31.418827619510036]
我々は情報理論を用いて、多くの一般的な監視信号が表現学習のパフォーマンスにどのように貢献するかを比較する。
我々のフレームワークは、ビッグデータシステムにおいてハードラベルを使用するための理論的正当性を提供するが、よりリッチな監視信号により、数発の学習とアウト・オブ・ディストリビューションの一般化を実現している。
論文 参考訳(メタデータ) (2022-11-02T18:02:31Z) - Better Few-Shot Relation Extraction with Label Prompt Dropout [7.939146925759088]
本稿では,学習過程におけるラベル記述をランダムに除去するラベルプロンプトドロップアウトという新しい手法を提案する。
実験の結果,本手法はクラス表現の改善に寄与し,数発の関係抽出タスクにおいて,より優れた結果が得られることがわかった。
論文 参考訳(メタデータ) (2022-10-25T03:03:09Z) - Trustable Co-label Learning from Multiple Noisy Annotators [68.59187658490804]
監督されたディープラーニングは、大量の注釈付き例に依存している。
典型的な方法は、複数のノイズアノテータから学習することである。
本稿では,emphTrustable Co-label Learning (TCL)と呼ばれるデータ効率のよい手法を提案する。
論文 参考訳(メタデータ) (2022-03-08T16:57:00Z) - Teaching an Active Learner with Contrastive Examples [35.926575235046634]
本研究では,学習者が補助的な教師によって支援される追加のツイストを用いて,能動的学習の課題について検討する。
比較例を適応的に選択する効率的な学習アルゴリズムについて検討する。
2つの問題依存パラメータに基づいてアルゴリズムの性能保証を行う。
論文 参考訳(メタデータ) (2021-10-28T05:00:55Z) - Fast learning from label proportions with small bags [0.0]
ラベルパーセンテージ(LLP)から学ぶ場合、インスタンスはバッグにグループ化され、トレーニングバッグの相対クラスパーセンテージが与えられたインスタンス分類器を学習する。
本研究では,全ての一貫したラベルの組み合わせを明示的に考慮し,より効率的なアルゴリズムを設計できる小袋の事例に焦点を当てる。
論文 参考訳(メタデータ) (2021-10-07T13:11:18Z) - A Theory-Driven Self-Labeling Refinement Method for Contrastive
Representation Learning [111.05365744744437]
教師なしのコントラスト学習は、正のイメージの作物と、負のイメージの作物とをラベル付けする。
本研究は, コントラスト学習において, 不正確なラベル割り当てがセマンティック・インスタンス識別の一般化を著しく損なうことを最初に証明する。
この理論に触発されて、コントラスト学習のための新しい自己ラベル改善手法を提案する。
論文 参考訳(メタデータ) (2021-06-28T14:24:52Z) - Are Fewer Labels Possible for Few-shot Learning? [81.89996465197392]
ごく限られたデータとラベルのため、わずかなショット学習は難しい。
近年のBiT (Big Transfer) 研究は、異なる領域における大規模ラベル付きデータセットの事前トレーニングによって、少数ショット学習が大きな恩恵を受けることを示した。
本稿では,ファインチューニングにおけるクラスタリングと固有サンプルの共進化を活かし,ショット学習の削減を図る。
論文 参考訳(メタデータ) (2020-12-10T18:59:29Z) - Efficient PAC Learning from the Crowd with Pairwise Comparison [7.594050968868919]
PAC学習しきい値関数の問題を,アノテータが(騒々しい)ラベルやペア比較タグを付与できる群から検討する。
我々は、学習とアノテーションをインターリーブするラベル効率のアルゴリズムを設計し、アルゴリズムの一定のオーバーヘッドをもたらす。
論文 参考訳(メタデータ) (2020-11-02T16:37:55Z) - Pointwise Binary Classification with Pairwise Confidence Comparisons [97.79518780631457]
ペアワイズ比較(Pcomp)分類を提案し、ラベルのないデータのペアしか持たない。
我々はPcomp分類をノイズラベル学習に結びつけて、進歩的UREを開発し、一貫性の正則化を課すことにより改善する。
論文 参考訳(メタデータ) (2020-10-05T09:23:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。