論文の概要: Follow the Geometry, Not the Model: Cold Start Semi-Supervised Learning
- arxiv url: http://arxiv.org/abs/2609.14451v1
- Date: Sun, 13 Sep 2026 11:46:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:05.816988
- Title: Follow the Geometry, Not the Model: Cold Start Semi-Supervised Learning
- Title(参考訳): モデルではなく幾何学を追従する:コールドスタート・セミ・スーパーバイザード・ラーニング
- Abstract要約: VAST(Veracity-Aware Semi-Supervised Training)を提案する。
VASTは、グラフベースのSSLベースラインを3つのデータセットのすべての運用ポイントで上回る。
- 参考スコア(独自算出の注目度): 7.6344611819427035
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Modern semi-supervised learning (SSL) couples pseudo-label generation and classifier training, using the classifier's own confidence to select the pseudo-labels that are then used to update the model. In the cold-start regime, where at most a few labels per class are available, this coupling is ill-posed, since the classifier cannot supervise itself before it has learned. To address this problem, we propose VAST (Veracity-Aware Semi-Supervised Training), which decouples these two stages. Probabilistic beliefs over the unlabeled set are first inferred directly from the geometry of a frozen self-supervised embedding and only then distilled into an inductive classifier. The construction rests on the Veracity Matrix, a kernel-based structure that aggregates label evidence across the data manifold and admits an interpretation as a Dirichlet posterior under a per-observation powered-likelihood model. Additionally, we introduce Veracity Propagation, a self-terminating belief-spreading step that extends coverage beyond the kernel neighborhood of the labeled set. Under a controlled protocol in which all methods receive identical frozen embeddings and labeled sets, VAST outperforms the strongest graph-based SSL baselines at every operating point across three datasets, with statistically significant gains in 7 of 9 comparisons, while producing a deployable inductive classifier rather than requiring transductive graph inference. Compared with end-to-end confidence-gated SSL, we further find that these methods underperform in this setting and, in our experiments, do not consistently exceed labeled-only performance.
- Abstract(参考訳): 現代の半教師付き学習(SSL)は擬似ラベルの生成と分類器の訓練を結合し、分類器自身の自信を使ってモデル更新に使用される擬似ラベルを選択する。
クラスごとにいくつかのラベルが利用できるコールドスタート方式では、分類器が学習する前に自分自身を監督できないため、この結合は不適切である。
本稿では,この2つの段階を分離したVAST(Veracity-Aware Semi-Supervised Training)を提案する。
ラベルなし集合に関する確率的信念は、最初は凍結自己教師付き埋め込みの幾何学から直接推測され、次に帰納的分類子に蒸留される。
この構成は、カーネルベースの構造であるVeracity Matrixに基づいており、これはデータ多様体全体にわたってラベルのエビデンスを集約し、観測単位のパワーライクなモデルの下でディリクレ後部として解釈される。
さらに、ラベル付き集合のカーネル近傍を越えてカバー範囲を広げる自己終端的信念拡散ステップであるVeracity Propagationを導入する。
すべてのメソッドが同一の凍結埋め込みとラベル付きセットを受信する制御プロトコルの下で、VASTは3つのデータセットの全ての操作ポイントにおいて最強のグラフベースのSSLベースラインを上回り、9つの比較のうち7つの統計的に有意な増加を示しながら、トランスダクティブグラフ推論を必要とせず、デプロイ可能な帰納的分類器を生成する。
エンド・ツー・エンドの信頼度の高いSSLと比較すると、これらの手法はこの設定では性能が劣り、我々の実験ではラベル付きのみのパフォーマンスを一貫して上回っていないことが分かる。
関連論文リスト
- Temper-Then-Tilt: Principled Unlearning for Generative Models through Tempering and Classifier Guidance [51.532841645285835]
本研究では,タスクを目標分布に対する密度比推定としてフレーミングすることで,大規模生成モデルにおける機械学習について検討する。
左折集合がシャープで集中したデータ分布を表す場合、有限サンプルで忠実に解けないことを示す。
本稿では,基本モデルを凍結し,二段階の推論手法を適用したTemper-Then-Tilt Unlearning(T3-Unlearning)を提案する。
論文 参考訳(メタデータ) (2026-02-10T19:08:40Z) - Probably Approximately Precision and Recall Learning [60.00180898830079]
機械学習における重要な課題は、一方的なフィードバックの頻度である。
本稿では,確率的近似(PAC)フレームワークを導入し,各入力をラベルの集合にマッピングする仮説を定めている。
我々は、正のデータのみから学習する新しいアルゴリズムを開発し、実現可能な場合において最適なサンプル複雑性を実現する。
論文 参考訳(メタデータ) (2024-11-20T04:21:07Z) - Graph-Based Semi-Supervised Segregated Lipschitz Learning [0.21847754147782888]
本稿では,グラフ上のリプシッツ学習を用いたデータ分類のための半教師付き学習手法を提案する。
グラフに基づく半教師付き学習フレームワークを開発し、無限ラプラシアンの性質を利用して、少数のサンプルしかラベル付けされていないデータセットにラベルを伝播する。
論文 参考訳(メタデータ) (2024-11-05T17:16:56Z) - Shrinking Class Space for Enhanced Certainty in Semi-Supervised Learning [59.44422468242455]
そこで我々はShrinkMatchと呼ばれる新しい手法を提案し、不確実なサンプルを学習する。
それぞれの不確実なサンプルに対して、元の Top-1 クラスを単に含むスランク類空間を適応的に求める。
次に、スランク空間における強と弱に強化された2つのサンプル間の整合正則化を課し、識別的表現を試みます。
論文 参考訳(メタデータ) (2023-08-13T14:05:24Z) - ProtoCon: Pseudo-label Refinement via Online Clustering and Prototypical
Consistency for Efficient Semi-supervised Learning [60.57998388590556]
ProtoConは信頼性に基づく疑似ラベル作成の新しい手法である。
ProtoConのオンライン版では、データセット全体のラベル履歴を1回のトレーニングサイクルで活用することができる。
最先端のデータセットよりも大幅に向上し、より高速に収束する。
論文 参考訳(メタデータ) (2023-03-22T23:51:54Z) - NorMatch: Matching Normalizing Flows with Discriminative Classifiers for
Semi-Supervised Learning [8.749830466953584]
Semi-Supervised Learning (SSL)は、小さなラベル付きセットと大量のラベルなしデータを使ってモデルを学習することを目的としている。
この作業では、NorMatchというSSLの新しいフレームワークを紹介します。
数値的および視覚的な結果を通して、NorMatchはいくつかのデータセットで最先端のパフォーマンスを達成することを実証する。
論文 参考訳(メタデータ) (2022-11-17T15:39:18Z) - Confident Sinkhorn Allocation for Pseudo-Labeling [40.883130133661304]
半教師付き学習は、ラベル付きデータへの機械学習の依存を減らす重要なツールである。
本稿では,疑似ラベル作成における不確実性の役割を理論的に研究し,CSA(Confident Sinkhorn Allocation)を提案する。
CSAは、信頼度の高いサンプルのみへの最適な輸送を通して、最高の擬似ラベル割り当てを特定する。
論文 参考訳(メタデータ) (2022-06-13T02:16:26Z) - Few-shot Learning via Dependency Maximization and Instance Discriminant
Analysis [21.8311401851523]
そこで本研究では,カテゴリ毎にラベル付きデータが極めて少ない新しいオブジェクトの認識をモデルが学習する,数ショットの学習問題について検討する。
本稿では,少数ショット処理に伴うラベルなしデータを利用して,少数ショット性能を向上させるための簡単な手法を提案する。
論文 参考訳(メタデータ) (2021-09-07T02:19:01Z) - Dash: Semi-Supervised Learning with Dynamic Thresholding [72.74339790209531]
我々は、ラベルのない例を使ってモデルをトレーニングする半教師付き学習(SSL)アプローチを提案する。
提案手法であるDashは、ラベルなしデータ選択の観点から適応性を享受する。
論文 参考訳(メタデータ) (2021-09-01T23:52:29Z) - In Defense of Pseudo-Labeling: An Uncertainty-Aware Pseudo-label
Selection Framework for Semi-Supervised Learning [53.1047775185362]
Pseudo-labeling (PL) は一般的な SSL アプローチで、この制約はありませんが、当初の処方では比較的不十分です。
PLは不整合モデルからの誤った高い信頼度予測により性能が低下していると論じる。
そこで本研究では,疑似ラベリング精度を向上させるための不確実性認識型擬似ラベル選択(ups)フレームワークを提案する。
論文 参考訳(メタデータ) (2021-01-15T23:29:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。