論文の概要: Are Coreset Selection Methods Worth Their Cost?

• arxiv url: http://arxiv.org/abs/2609.22894v1
• Date: Sat, 19 Sep 2026 08:58:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:00.581932
• Title: Are Coreset Selection Methods Worth Their Cost?
• Title（参考訳）: コアセットの選択手法はコストよりも価値があるか?
• Abstract要約: Coreset選択は、ラベル付きトレーニングセットの代表的なサブセットを選択して、トレーニングを安くする。 ダウンストリームトレーニングを標準化し、同じ監査可能なウォールクロック予算に選択とトレーニングを課金するエンドツーエンドベンチマークを導入する。 CIFAR-10とTiny ImageNetの8つの壁面の予算アンカーで、洗練されたセレクタがアンカーに勝つことはない。
• 参考スコア（独自算出の注目度）: 9.563027159959587
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Coreset selection picks a representative subset of the labeled training set to make training cheaper. However, it is usually evaluated by downstream accuracy at a fixed subset size, ignoring both the time spent selecting the subset and the training recipe behind each reported number. We introduce an end-to-end benchmark that standardizes downstream training and charges selection and training to the same auditable wall-clock budget, spanning 4 datasets from CIFAR-10 to ImageNet-1K, 11 selectors, 5 fractions, and 3 seeds, with over 1,500 released runs. Repeated-sampling work has shown that budget-aware evaluation already favors random strategies. Our two budget studies test whether that verdict survives when every selector is granted its most favorable operating point. Across eight wall-clock budget anchors on each of CIFAR-10 and Tiny ImageNet, no anchor is won by a sophisticated selector: every winner is class-balanced random sampling, repeated random sampling, or full-data training. In fixed-budget duels on ImageNet-1K, training on all data for fewer epochs beats every selection strategy we probe while also costing the least. A per-dataset cost audit shows that selection cost is dominated at every scale by a fixed full-dataset scan, so it cannot be amortized away by selecting a smaller fraction, and its absolute size does not extrapolate from one dataset to another. We further quantify when selection does pay back through subset reuse, and document 9 correctness fixes to a widely used codebase, one of which shifts a standard Herding baseline by nearly 6 points. Selection time is not free preprocessing, and an evaluation that ignores it measures the wrong quantity.
• Abstract（参考訳）: Coreset選択は、ラベル付きトレーニングセットの代表的なサブセットを選択して、トレーニングを安くする。 しかし、それは通常、固定されたサブセットサイズで下流の精度で評価され、サブセットを選択する時間と、報告された各数値の背後にあるトレーニングレシピの両方を無視します。 我々は、CIFAR-10からImageNet-1Kまでの4つのデータセット、11のセレクタ、5つの分画、3つのシードにまたがって、ダウンストリームトレーニングを標準化し、同じ監査可能なウォールクロック予算に選択とトレーニングを課金するエンドツーエンドベンチマークを導入する。 繰り返しサンプリングの研究は、予算対応の評価がすでにランダム戦略を好んでいることを示している。 われわれの2つの予算調査は、この判決が全ての選考者が最も有利な操作ポイントを与えられたときに生き残るかどうかを検証している。 CIFAR-10とTiny ImageNetの8つのウォールタイムの予算アンカーで、アンカーは洗練されたセレクタによって獲得されない:すべての勝者は、クラスバランスのランダムサンプリング、繰り返しランダムサンプリング、またはフルデータトレーニングである。 ImageNet-1K上の固定予算デュエルでは、エポックの少ないすべてのデータに対するトレーニングは、調査するすべての選択戦略を上回ります。 データセット毎のコスト監査では、選択コストが固定されたフルデータセットスキャンによってすべてのスケールで支配されているため、小さな割合を選択して償却することはできない。 選択がサブセットの再利用によって返済された場合、さらに定量化し、9つの正当性修正を広く使用されているコードベースに文書化します。 選択時間は自由前処理ではなく、無視する評価は間違った量を測定する。

関連論文リスト

• Zero-Shot Coreset Selection: Efficient Pruning for Unlabeled Data [22.45812577928658]
  Coreset選択は、モデルをトレーニングするデータの代表的なサブセットを見つけることを目的としている。 ZCoreは、真実ラベルや候補データによるトレーニングなしに、コアセットを効率的に選択する手法である。 我々は、4つのデータセット上でZCoreを評価し、いくつかの最先端のラベルベースの手法より優れています。
  論文  参考訳（メタデータ） (2024-11-22T21:17:49Z)
• Compute-Constrained Data Selection [77.06528009072967]
  多くの強力なデータ選択手法は、ほとんど計算に最適ではないことが分かりました。 計算最適トレーニングでは、パープレキシティと勾配データ選択は、それぞれ5xと10xのトレーニング-選択モデルサイズ比を必要とする。
  論文  参考訳（メタデータ） (2024-10-21T17:11:21Z)
• Coverage-centric Coreset Selection for High Pruning Rates [11.18635356469467]
  ワンショットコアセット選択は、プルーニング率からトレーニングデータのサブセットを選択することを目的としており、その後、そのサブセットでのみトレーニングされたモデルに対して高い精度を達成することができる。 最先端のコアセット選択方法は通常、各例に重要スコアを割り当て、コアセットを形成する上で最も重要な例を選択する。 しかし、高い刈り取り速度では、破滅的な精度の低下に悩まされ、ランダムなコアセットの選択よりもパフォーマンスが悪くなっていることが判明した。
  論文  参考訳（メタデータ） (2022-10-28T00:14:00Z)
• UNICON: Combating Label Noise Through Uniform Selection and Contrastive Learning [89.56465237941013]
  UNICONは,高ラベル雑音に対して頑健な,シンプルで効果的なサンプル選択法である。 90%のノイズレートでCIFAR100データセットの最先端データよりも11.4%改善した。
  論文  参考訳（メタデータ） (2022-03-28T07:36:36Z)
• Optimal Data Selection: An Online Distributed View [61.31708750038692]
  この問題のオンライン版と分散版のアルゴリズムを開発する。 ランダム選択法は, ランダム選択法よりも5～20%高い性能を示した。 ImageNet と MNIST の学習タスクにおいて、我々の選択方法はランダム選択よりも5-20% 高い性能を示した。
  論文  参考訳（メタデータ） (2022-01-25T18:56:16Z)
• How to distribute data across tasks for meta-learning? [59.608652082495624]
  タスクごとのデータポイントの最適な数は予算に依存しますが、それは大きな予算のためのユニークな一定の値に収束します。 この結果から,データ収集の簡便かつ効率的な手順が示唆された。
  論文  参考訳（メタデータ） (2021-03-15T15:38:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。