論文の概要: Should Pseudo-Labels Share Mini-Batches with Labeled Examples? Semi-Supervised Continual Active Learning with Limited Training Cost
- arxiv url: http://arxiv.org/abs/2610.35345v1
- Date: Mon, 26 Oct 2026 12:37:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.928588
- Title: Should Pseudo-Labels Share Mini-Batches with Labeled Examples? Semi-Supervised Continual Active Learning with Limited Training Cost
- Title(参考訳): Pseudo-Labelsは、ラベル付き事例とミニバッチを共有すべきか? トレーニングコストを制限した半教師付き連続アクティブラーニング
- Abstract要約: Pseudo-labelsはアノテーションなしで監視を追加するが、トレーニングコストを増大させる。
半教師付き連続能動学習(SSCAL)は,任意の獲得関数で動作する。
ラベル付きサンプルからラベル付き隣人までの距離に基づいて擬似ラベルを認め、ラベル付きサンプルの損失を減らし、期待される勾配の寄与を抑える。
- 参考スコア(独自算出の注目度): 9.755734517503319
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Active learning (AL) reduces annotation by querying informative examples. Continual active learning (CAL) also cuts the training cost, the total number of gradient steps, by training one model across AL rounds with a fixed number of mini-batch steps per round. Pseudo-labels add supervision without annotation, but they increase training cost. In CAL, where every round trains on a fixed number of mini-batches, whether and how pseudo-labeled examples should share these mini-batches with labeled examples is therefore open. We provide the first formalization of this problem as two decisions after each query, namely (i) which unlabeled examples should enter training with a pseudo-label and (ii) what share of each mini-batch they should take. Our method, semi-supervised continual active learning (SSCAL), works with any acquisition function. It admits pseudo-labels based on distances from unlabeled examples to labeled neighbors, caps their share, and reweights the loss on labeled examples to keep their expected gradient contribution unchanged. On frozen embeddings, its pseudo-labeler updates incrementally without extra model forward passes. Across two audio datasets, two frozen encoders, six acquisition functions and ten seeds, SSCAL ranks first on average among four protocols with equal training steps, answering the question affirmatively.
- Abstract(参考訳): アクティブラーニング(AL)は、情報的サンプルをクエリすることでアノテーションを減らす。
CAL(Continuous Active Learning)は、ALラウンド全体で1つのモデルをトレーニングし、1ラウンド当たりのミニバッチステップ数を一定にすることで、トレーニングコスト、グラデーションステップの総数も削減する。
Pseudo-labelsはアノテーションなしで監視を追加するが、トレーニングコストを増大させる。
CALでは、各ラウンドの列車が一定数のミニバッチを走らせているため、擬似ラベルの例がこれらのミニバッチをラベル付き例とどのように共有すべきかは未定である。
問合せ後の2つの決定,すなわち2つの決定として,この問題の最初の形式化を提供する。
(i)未ラベルの例が擬似ラベルで訓練を受けること。
(ii)各ミニバッチのどのシェアを取るべきか。
半教師付き連続能動学習(SSCAL)は,任意の獲得関数で動作する。
ラベル付きサンプルからラベル付き隣人までの距離に基づいて擬似ラベルを認め、ラベル付きサンプルの損失を減らし、期待される勾配の寄与を抑える。
凍結埋め込みでは、擬似ラベルが追加のモデルフォワードパスなしで徐々に更新される。
2つのオーディオデータセット、2つの凍結エンコーダ、6つの取得関数、10つのシードに対して、SSCALは、同じトレーニングステップを持つ4つのプロトコルの中で、平均1位であり、肯定的な答えである。
関連論文リスト
- Learning from Label Proportions with Dual-proportion Constraints [17.13458769732192]
LLP(Learning from Label Proportions)は、トレーニングデータがバッグ、すなわちインスタンスのグループから構成される弱い教師付き問題である。
この設定は、プライバシ制約がインスタンスレベルのアノテーションへのアクセスを制限する場合や、きめ細かいラベル付けがコストがかかる場合、あるいは実用的でない場合、広く適用されます。
トレーニング中の2値比制約(LLP-DC)を利用して,バッグレベルとインスタンスレベルの両方で実施する手法を提案する。
論文 参考訳(メタデータ) (2026-03-22T10:08:12Z) - One-bit Supervision for Image Classification: Problem, Solution, and
Beyond [114.95815360508395]
本稿では,ラベルの少ない新しい学習環境である,画像分類のための1ビット監督について述べる。
多段階学習パラダイムを提案し、負ラベル抑圧を半教師付き半教師付き学習アルゴリズムに組み込む。
複数のベンチマークにおいて、提案手法の学習効率は、フルビットの半教師付き監視手法よりも優れている。
論文 参考訳(メタデータ) (2023-11-26T07:39:00Z) - Learning from Label Proportions: Bootstrapping Supervised Learners via Belief Propagation [18.57840057487926]
LLP(Learning from Label Proportions)は、トレーニング中にバッグと呼ばれるインスタンスのグループに対して、アグリゲートレベルのラベルしか利用できない学習問題である。
この設定は、プライバシー上の配慮から、広告や医療などの領域で発生する。
本稿では,この問題に対して,反復的に2つの主要なステップを実行する新しいアルゴリズムフレームワークを提案する。
論文 参考訳(メタデータ) (2023-10-12T06:09:26Z) - An Embarrassingly Simple Approach to Semi-Supervised Few-Shot Learning [58.59343434538218]
間接学習の観点から、ラベルなしデータの正負の擬似ラベルを正確に予測するための、単純だが非常に効果的な手法を提案する。
私たちのアプローチは、オフザシェルフ操作のみを使用することで、ほんの数行のコードで実装できます。
論文 参考訳(メタデータ) (2022-09-28T02:11:34Z) - Self-Adaptive Label Augmentation for Semi-supervised Few-shot
Classification [121.63992191386502]
Few-shotの分類は、ラベル付きサンプルがわずかにあれば、新しいタスクをうまく一般化できるモデルを学ぶことを目的としている。
そこで本研究では,手動で定義した指標を用いて,ラベルのない各サンプルに適切なラベルを割り当てる半教師付き小ショット分類手法を提案する。
SALAの目新しいところは、タスク適応計量であり、エンドツーエンドの方法で異なるタスクに対するメトリックを適応的に学習することができる。
論文 参考訳(メタデータ) (2022-06-16T13:14:03Z) - An analysis of over-sampling labeled data in semi-supervised learning
with FixMatch [66.34968300128631]
ほとんどの半教師付き学習手法は、ミニバッチを訓練する際にラベルをオーバーサンプルする。
本稿では,この実践が学習と方法を改善するかどうかを考察する。
ラベル付けの有無に関わらず、トレーニングデータから各ミニバッチを均一にサンプリングする別の設定と比較する。
論文 参考訳(メタデータ) (2022-01-03T12:22:26Z) - Instance Credibility Inference for Few-Shot Learning [45.577880041135785]
ほとんどショットラーニングは、カテゴリごとに非常に限られたトレーニングデータを持つ新しいオブジェクトを認識することを目的としていない。
本稿では,未ラベルのインスタンスの分散サポートを数発の学習に活用するために,ICI (Instance Credibility Inference) と呼ばれる単純な統計手法を提案する。
我々の単純なアプローチは、広く使われている4つのショットラーニングベンチマークデータセットに基づいて、最先端の新たなデータセットを確立することができる。
論文 参考訳(メタデータ) (2020-03-26T12:01:15Z) - DivideMix: Learning with Noisy Labels as Semi-supervised Learning [111.03364864022261]
ノイズラベルを学習するためのフレームワークであるDivideMixを提案する。
複数のベンチマークデータセットの実験は、最先端の手法よりも大幅に改善されている。
論文 参考訳(メタデータ) (2020-02-18T06:20:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。