論文の概要: Semi-Supervised Learning with Noisy Proxy Covariates: Generalization Bounds and Distribution Regression
- arxiv url: http://arxiv.org/abs/2606.00512v1
- Date: Sat, 30 May 2026 04:01:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:28.501943
- Title: Semi-Supervised Learning with Noisy Proxy Covariates: Generalization Bounds and Distribution Regression
- Title(参考訳): ノイズプロキシ共変量を用いた半教師付き学習:一般化境界と分布回帰
- Abstract要約: 高速ラベル付きサンプルレートはプロキシが制御されたときに回収されることを示す。
また, 分布回帰は, 有限袋径が十分大きい場合に, 類似の保証を伴って, 直接特別な場合であることを示す。
- 参考スコア(独自算出の注目度): 6.759672187503063
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In many modern machine learning pipelines, abundant pretrained representations serve as noisy proxy covariates, while task-specific labels remain scarce. We study semi-supervised regression in this setting, and propose a simple two stage estimator that learns kernel eigenfeatures from all proxy covariates and fits a ridge predictor on labeled data. We derive finite sample bounds showing that fast labeled sample rates are recovered when proxy perturbation is controlled and unlabeled proxy covariates are sufficiently abundant. We also show that distribution regression is a direct special case, with analogous guarantees when the finite bag size is large enough. Experiments show consistent gains over supervised and semi-supervised baselines, especially in low label regimes.
- Abstract(参考訳): 多くの現代の機械学習パイプラインでは、豊富な事前訓練された表現がノイズの多いプロキシ共変体として機能し、タスク固有のラベルが不足している。
本稿では,この環境下での半教師付き回帰について検討し,全てのプロキシ共変量からカーネル固有関数を学習し,ラベル付きデータにリッジ予測器を適合させる2段階推定器を提案する。
高速なラベル付きサンプルレートは, プロキシ摂動が制御され, ラベルなしのプロキシ共変体が十分に豊富な場合に得られることを示す有限標本境界を導出する。
また, 分布回帰は, 有限袋径が十分大きい場合に, 類似の保証を伴って, 直接特別な場合であることを示す。
実験は、特に低ラベル状態において、教師付きおよび半教師付きベースラインよりも一貫した利得を示す。
関連論文リスト
- Self-Balancing Sequential Sampling: Fast Convergence with Controlled Predictability [0.7734726150561088]
所望の目標法則への経験分布のより高速な収束を達成するために、サンプリング確率を適応的にバイアスするシーケンシャルサンプリング規則。
自己バランス型サンプリングは実装が簡単であり、マルコフ型サンプリングのクラスの中で自然に発生する。
結果は、将来の選択を過度に予測できるようにすることなく、繰り返しの選択とカバレッジの長いギャップを減らすための実践的なフレームワークをサポートする。
論文 参考訳(メタデータ) (2026-07-23T01:10:42Z) - Beyond Distribution Estimation: Simplex Anchored Structural Inference Towards Universal Semi-Supervised Learning [47.92504362652887]
半教師付き学習は、ラベル付きデータが不足し、ラベルなしデータが未知の任意の分布に従う現実的なシナリオにおいて重大な課題に直面している。
我々は、Universal Semi-supervised Learning (UniSSL)として、批判的ながら未探索のパラダイムを定式化する。
本稿では,信頼度の高い擬似ラベルを優先するための分布非依存指標に基づく重み付け戦略と,誤用する可能性のある擬似ラベルを分離するための補助分岐を導入する。
論文 参考訳(メタデータ) (2026-05-08T10:33:09Z) - Sharp Convergence Rates for Masked Diffusion Models [53.117058231393834]
制約を克服するオイラー法に対する全変分に基づく解析法を開発した。
その結果、スコア推定の仮定を緩和し、パラメータ依存性を改善し、収束保証を確立する。
全体としては,CTMC軌道に沿った直接テレビによる誤り分解と,FHSのためのデカップリングに基づく経路解析を導入している。
論文 参考訳(メタデータ) (2026-02-26T00:47:51Z) - Computable Bernstein Certificates for Cross-Fitted Clipped Covariance Estimation [0.0]
計算可能なベルンシュタイン型偏差証明を備えたクロスフィットクリッピング共分散推定器を提案する。
結果として得られる手順は、緩やかな尾の規則性の下での有効ランクのような本質的な複雑性尺度に適応する。
論文 参考訳(メタデータ) (2026-02-15T06:53:40Z) - The Implicit Bias of Logit Regularization [4.588028371034407]
線形分類の文脈において,ロジット正規化器のクラスを解析する。
サンプル当たりの有限個のターゲットに対して,ロジットクラスタリングの暗黙バイアスを生じさせることを示した。
本結果は,ラベルの平滑化に関する理論的理解を拡張し,より広範なロジット規則化手法の有効性を強調した。
論文 参考訳(メタデータ) (2026-02-12T15:06:08Z) - Combating Noisy Labels through Fostering Self- and Neighbor-Consistency [120.4394402099635]
ラベルノイズは様々な現実世界のシナリオで広まり、教師付きディープラーニングの課題を提起する。
我々は、Jo-SNC(textbfSelf- と textbfNeighbor-textbfConsistency に基づくサンプル選択とモデル正規化)というノイズロバスト手法を提案する。
我々は、クラスごとの選択閾値を調整するための自己適応型データ駆動しきい値設定方式を設計する。
論文 参考訳(メタデータ) (2026-01-19T07:55:29Z) - Improved Sample Complexity for Full Coverage in Compact and Continuous Spaces [0.0]
我々は$d$次元単位ハイパーキューブにおける一様ランダムサンプリングについて検討した。
故障確率に対数依存するサンプル複雑性を導出する。
我々の発見は、グリッドベースのカバレッジ保証に依存するアルゴリズムに対して、よりシャープな理論的ツールを提供する。
論文 参考訳(メタデータ) (2025-11-21T21:06:14Z) - Shrinking Class Space for Enhanced Certainty in Semi-Supervised Learning [59.44422468242455]
そこで我々はShrinkMatchと呼ばれる新しい手法を提案し、不確実なサンプルを学習する。
それぞれの不確実なサンプルに対して、元の Top-1 クラスを単に含むスランク類空間を適応的に求める。
次に、スランク空間における強と弱に強化された2つのサンプル間の整合正則化を課し、識別的表現を試みます。
論文 参考訳(メタデータ) (2023-08-13T14:05:24Z) - Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。
パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文 参考訳(メタデータ) (2022-04-13T12:43:12Z) - A Characterization of Semi-Supervised Adversarially-Robust PAC Learnability [57.502573663108535]
本研究では、半教師付きPACモデルにおいて、時間攻撃をテストするために、逆向きに頑健な予測器を学習する問題について検討する。
最悪の分布自由モデルにおいても,半教師付き頑健な学習には大きなメリットがあることが示されている。
論文 参考訳(メタデータ) (2022-02-11T03:01:45Z) - RATT: Leveraging Unlabeled Data to Guarantee Generalization [96.08979093738024]
ラベルのないデータを利用して一般化境界を生成する手法を紹介します。
境界が0-1経験的リスク最小化に有効であることを証明します。
この作業は、見えないラベル付きデータが利用できない場合でも、ディープネットの一般化を証明するためのオプションを実践者に提供します。
論文 参考訳(メタデータ) (2021-05-01T17:05:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。