論文の概要: Training with ML-labeled Data via Stochastic First- and Zeroth-Order Optimization
- arxiv url: http://arxiv.org/abs/2610.26790v1
- Date: Mon, 19 Oct 2026 17:38:58 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:17:32.994245
- Title: Training with ML-labeled Data via Stochastic First- and Zeroth-Order Optimization
- Title(参考訳): 確率的一階とゼロ階の最適化によるMLラベル付きデータの学習
- Abstract要約: 機械学習モデル(ML)のトレーニングは最適化プロセスであり、通常、接地トルースラベルの一連の例を必要とする。
サンプルのサブセットが基幹構造ラベルを持ち、残りのデータポイントがML予測器によってラベル付けされた場合の最適化設定について検討する。
本稿では,真のラベル付きサンプルとMLラベル付きサンプルを混合したデータセットを訓練するための一階乗法とゼロ階乗法の両方を提案する。
- 参考スコア(独自算出の注目度): 6.660458629649825
- License:
- Abstract: Training a machine learning (ML) model is an optimization process that typically requires a set of examples with ground-truth labels beforehand. Obtaining these ground truths usually requires laborious human effort and can be costly. The scalability of human labeling becomes a concern when there are a large number of data points that need to be labeled. To address this practical issue, we consider an optimization setting where a subset of samples has ground-truth labels, while the remaining data points were labeled by an ML predictor, which could potentially assign incorrect labels to those points. We propose both first-order and zeroth-order stochastic optimization methods for training on datasets consisting of a mix of true-labeled and ML-labeled samples. We further conduct comprehensive empirical studies from training a linear regression model to fine-tuning a large language model (LLM) to showcase the effectiveness of the proposed algorithms for training with ML-labeled data.
- Abstract(参考訳): 機械学習(ML)モデルのトレーニングは、通常、前もってグランドトルースラベルの一連の例を必要とする最適化プロセスである。
これらの根底にある真実を守るには、通常、人間の努力が必要で、費用がかかる。
人間のラベル付けのスケーラビリティは、ラベル付けが必要な大量のデータポイントが存在する場合に懸念される。
この現実的な問題に対処するために、サンプルのサブセットが基調ラベルを持ち、残りのデータポイントはML予測器によってラベル付けされ、不正確なラベルをそれらの点に割り当てる可能性のある最適化設定について検討する。
本研究では,真のラベル付きサンプルとMLラベル付きサンプルを混合したデータセットをトレーニングするための,一階とゼロ階の確率的最適化手法を提案する。
さらに,線形回帰モデルの学習から大規模言語モデル(LLM)の微調整に至るまでの総合的な実証的研究を行い,MLラベルデータを用いた学習におけるアルゴリズムの有効性を示す。
関連論文リスト
- Calibrated Disambiguation for Partial Multi-label Learning [31.18506738254231]
部分的マルチラベル学習(PML)は、無関係なラベルに過剰アノテートされたデータセット上の分類器をトレーニングすることを目的としている。
既存の手法は、非適応重み付け関数に基づいており、最適重み付けに関する理論的ガイダンスが欠如している。
これらの問題を克服するために、PML-CDと呼ばれる校正型曖昧化モデルが提案されている。
パスカルVOC, MS-COCO, NUS-WIDE, CUBで行った実験により, 本手法が既存のPML法より優れていることを確認した。
論文 参考訳(メタデータ) (2026-10-13T03:04:04Z) - Minimally Supervised Learning using Topological Projections in
Self-Organizing Maps [55.31182147885694]
自己組織化マップ(SOM)におけるトポロジカルプロジェクションに基づく半教師付き学習手法を提案する。
提案手法は,まずラベル付きデータ上でSOMを訓練し,最小限のラベル付きデータポイントをキーベストマッチングユニット(BMU)に割り当てる。
提案した最小教師付きモデルが従来の回帰手法を大幅に上回ることを示す。
論文 参考訳(メタデータ) (2024-01-12T22:51:48Z) - Learning in the Wild: Towards Leveraging Unlabeled Data for Effectively
Tuning Pre-trained Code Models [38.7352992942213]
我々は,大規模な未ラベルデータセットを用いた事前学習型コードモデルを改善するために,HINTという新しいアプローチを提案する。
HINTには、HybrId擬似ラベル付きデータ選択とノイズ耐性トレーニングの2つの主要なモジュールが含まれている。
実験の結果、HINTはタスク固有の方法でラベル付けされていないデータをうまく活用できることがわかった。
論文 参考訳(メタデータ) (2024-01-02T06:39:00Z) - Non-iterative optimization of pseudo-labeling thresholds for training
object detection models from multiple datasets [2.1485350418225244]
低コストデータセットの集合からオブジェクト検出を学習するために、擬似ラベル閾値を最適化する非定型的手法を提案する。
提案手法はCOCOおよびVOCデータセット上の格子探索に匹敵するmAPを実現することを実験的に実証した。
論文 参考訳(メタデータ) (2022-10-19T00:31:34Z) - Learned Label Aggregation for Weak Supervision [8.819582879892762]
本稿では,ラベル付きデータを容易に生成するために,弱い監視信号を集約するデータプログラミング手法を提案する。
生成したラベルの質は、すべてのLFからノイズの多いラベルを集約し、基底真実のラベルを推測するラベル集約モデルに依存する。
合成されたデータを用いてモデルをトレーニングし、モデルに効果的なアーキテクチャを設計できることを示す。
論文 参考訳(メタデータ) (2022-07-27T14:36:35Z) - Pseudo-Labeled Auto-Curriculum Learning for Semi-Supervised Keypoint
Localization [88.74813798138466]
オブジェクトのキーポイントのローカライズは、基本的な視覚的問題である。
キーポイントローカライゼーションネットワークの教師付き学習は、しばしば大量のデータを必要とする。
本稿では,一連の動的しきい値を持つ信頼度の高い擬似ラベルサンプルを自動的に選択する。
論文 参考訳(メタデータ) (2022-01-21T09:51:58Z) - Dash: Semi-Supervised Learning with Dynamic Thresholding [72.74339790209531]
我々は、ラベルのない例を使ってモデルをトレーニングする半教師付き学習(SSL)アプローチを提案する。
提案手法であるDashは、ラベルなしデータ選択の観点から適応性を享受する。
論文 参考訳(メタデータ) (2021-09-01T23:52:29Z) - Semi-Supervised Learning with Meta-Gradient [123.26748223837802]
半教師付き学習における簡単なメタ学習アルゴリズムを提案する。
その結果,提案アルゴリズムは最先端の手法に対して良好に動作することがわかった。
論文 参考訳(メタデータ) (2020-07-08T08:48:56Z) - Progressive Identification of True Labels for Partial-Label Learning [112.94467491335611]
部分ラベル学習(Partial-label Learning, PLL)は、典型的な弱教師付き学習問題であり、各トレーニングインスタンスには、真のラベルである候補ラベルのセットが設けられている。
既存のほとんどの手法は、特定の方法で解決しなければならない制約付き最適化として精巧に設計されており、計算複雑性をビッグデータにスケールアップするボトルネックにしている。
本稿では,モデルと最適化アルゴリズムの柔軟性を備えた分類器の新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2020-02-19T08:35:15Z) - Rethinking Curriculum Learning with Incremental Labels and Adaptive
Compensation [35.593312267921256]
人間と同様に、ディープネットワークは、サンプルが組織化され、意味のある順序やカリキュラムで導入されたときに、よりよく学習することが示されている。
インクリメンタルラベルと適応補償を用いた学習(LILAC)を提案する。
論文 参考訳(メタデータ) (2020-01-13T21:00:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。