論文の概要: Efficient Coreset Selection via K-Nearest Neighbor Graphs
- arxiv url: http://arxiv.org/abs/2608.16270v1
- Date: Mon, 17 Aug 2026 08:43:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.595521
- Title: Efficient Coreset Selection via K-Nearest Neighbor Graphs
- Title(参考訳): K-Nearest Neighbor Graphsによる効率的なコアセット選択
- Abstract要約: コアセットの選択は、大規模なトレーニングセットを小さな代表サブセットに置き換えることで、モデルトレーニングのコストを削減する。
本稿では,K$-nearest 近傍グラフに基づく軽量コアセット選択法 KNNG-CS を提案する。
4つの実世界のデータセットの実験により、KNNG-CSは代表的勾配近似コアセット法に匹敵する精度を達成した。
- 参考スコア(独自算出の注目度): 21.95291891763573
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Coreset selection reduces the cost of model training by replacing a large training set with a small representative subset. Existing gradient-approximation coreset methods such as CRAIG and cluster-based variants can preserve model accuracy. Still, their selection stages often rely on dense pairwise distances or large item-cluster bound matrices, leading to high time and memory costs on large datasets. This paper proposes KNNG-CS, a lightweight coreset selection method based on a $K$-nearest neighbor graph. KNNG-CS exploits local neighborhood structures to estimate the importance of each data item and greedily selects representative nodes without maintaining a quadratic distance matrix. The method requires only linear storage in the number of edges. Experiments on four real-world datasets show that KNNG-CS achieves accuracy comparable to representative gradient-approximation coreset methods, while reducing selection time by $2.3\times$-$41.2\times$ and peak memory to $0.3\%$-$7.5\%$ of the baselines.
- Abstract(参考訳): コアセットの選択は、大規模なトレーニングセットを小さな代表サブセットに置き換えることで、モデルトレーニングのコストを削減する。
CRAIGやクラスタベースの変種のような既存の勾配近似コアセット法は、モデルの精度を維持することができる。
それでも、それらの選択段階は、しばしば高密度なペアワイズ距離や大きなアイテムクラスタ境界行列に依存しており、大きなデータセットに高い時間とメモリコストをもたらす。
本稿では,K$-nearest 近傍グラフに基づく軽量コアセット選択法 KNNG-CS を提案する。
KNNG-CSは局所的な近傍構造を利用して各データ項目の重要性を推定し、二次距離行列を維持せずに優雅に代表ノードを選択する。
この手法では、エッジ数に線形記憶しか必要としない。
4つの実世界のデータセットでの実験では、KNNG-CSは代表的勾配近似コアセット法に匹敵する精度を達成し、選択時間を2.3\times$-$41.2\times$、ピークメモリは0.3\%$-$7.5\%$に短縮した。
関連論文リスト
- EMS Coreset: An Efficient Expectation-Maximization Algorithm for Sinkhorn Coreset [4.297295761793895]
Coresetsは、大規模なデータセットを、効率的な下流学習のために、小さくて代表的なサブセットに蒸留する。
非一様コアセット重みを許容することにより、エントロピック規則化されたOT結合のクローズドフォーム更新を可能にするスケーラブルなシンクホーンコアセット法を導入する。
我々は、選択した測度とデータ摂動に対するリプシッツ安定性の整合性を確立し、精度と堅牢性を保証する。
論文 参考訳(メタデータ) (2026-08-17T04:46:34Z) - Adaptive $k$ Nearest Neighbors Classifier via Granular Ball Computing [60.23863579199315]
k$-Nearest Neighbor(KNN)アルゴリズムは様々なタスクで広く使われている。
本稿では,粒度計算による適応的かつ効率的なKNN手法を提案する。
論文 参考訳(メタデータ) (2026-08-13T07:39:46Z) - GLOBE: Trajectory-Aligned Gradient Matching with Structured SparseOptimization for Coreset Selection [4.969458805037944]
ディープニューラルネットワークのオンデバイストレーニングは、大規模データセットの計算とメモリコストに制約される。
本稿では,大域的に最適化されたスパース重み付け問題として,サンプル選択を定式化するトラジェクトリ・アライン・コアセット選択フレームワークGLOBEを提案する。
論文 参考訳(メタデータ) (2026-08-03T09:01:29Z) - CuBAS: Information Geometric Curvature-Based Adaptive Sampling for Supervised Classification [52.452902154360565]
CuBASは、教師付き分類における適応データ選択のための情報幾何学的フレームワークである。
ラベル付きデータセットは統計多様体と見なすことができ、局所曲率は2階と1階の観測されたフィッシャー情報の比率で推定され、データの分布の幾何学的複雑さを忠実にエンコードする。
論文 参考訳(メタデータ) (2026-07-03T09:36:02Z) - Active Learning with Low-Rank Structure for Data Selection [85.43185363043362]
低ランク近似と残差に基づくサンプリングに基づく新しいデータ選択フレームワークを提案する。
平均損失がデータセット全体の平均損失を近似した$tildeOleft(k + frac1varepsilon2right)$データポイントの重み付きサブセットを選択することができることを示す。
論文 参考訳(メタデータ) (2026-06-14T22:29:59Z) - Selecting Samples on Graphs: A Unified Dataset Pruning Framework for Lossless Training Acceleration [71.77541419885925]
グラフベースの統合DPフレームワークを提案する。
データセットを重み付きグラフとしてモデル化することにより、DPは最大重み付き傾き問題(MWCP)としてキャストできる。
ResNet-50でImageNet-1kの精度を犠牲にすることなく、トレーニング時間を40%以上短縮する。
論文 参考訳(メタデータ) (2026-06-11T05:13:32Z) - Zero-Shot Coreset Selection: Efficient Pruning for Unlabeled Data [22.45812577928658]
Coreset選択は、モデルをトレーニングするデータの代表的なサブセットを見つけることを目的としている。
ZCoreは、真実ラベルや候補データによるトレーニングなしに、コアセットを効率的に選択する手法である。
我々は、4つのデータセット上でZCoreを評価し、いくつかの最先端のラベルベースの手法より優れています。
論文 参考訳(メタデータ) (2024-11-22T21:17:49Z) - Adaptive $k$-nearest neighbor classifier based on the local estimation of the shape operator [49.87315310656657]
我々は, 局所曲率をサンプルで探索し, 周辺面積を適応的に定義する適応型$k$-nearest(kK$-NN)アルゴリズムを提案する。
多くの実世界のデータセットから、新しい$kK$-NNアルゴリズムは、確立された$k$-NN法と比較してバランスの取れた精度が優れていることが示されている。
論文 参考訳(メタデータ) (2024-09-08T13:08:45Z) - Minimally Supervised Learning using Topological Projections in
Self-Organizing Maps [55.31182147885694]
自己組織化マップ(SOM)におけるトポロジカルプロジェクションに基づく半教師付き学習手法を提案する。
提案手法は,まずラベル付きデータ上でSOMを訓練し,最小限のラベル付きデータポイントをキーベストマッチングユニット(BMU)に割り当てる。
提案した最小教師付きモデルが従来の回帰手法を大幅に上回ることを示す。
論文 参考訳(メタデータ) (2024-01-12T22:51:48Z) - Refined Coreset Selection: Towards Minimal Coreset Size under Model
Performance Constraints [69.27190330994635]
コアセットの選択は、計算コストの削減とディープラーニングアルゴリズムのデータ処理の高速化に強力である。
本稿では,モデル性能とコアセットサイズに対する最適化優先順序を維持する革新的な手法を提案する。
実験的に、広範な実験によりその優位性が確認され、しばしばより小さなコアセットサイズでモデル性能が向上する。
論文 参考訳(メタデータ) (2023-11-15T03:43:04Z) - Coverage-centric Coreset Selection for High Pruning Rates [11.18635356469467]
ワンショットコアセット選択は、プルーニング率からトレーニングデータのサブセットを選択することを目的としており、その後、そのサブセットでのみトレーニングされたモデルに対して高い精度を達成することができる。
最先端のコアセット選択方法は通常、各例に重要スコアを割り当て、コアセットを形成する上で最も重要な例を選択する。
しかし、高い刈り取り速度では、破滅的な精度の低下に悩まされ、ランダムなコアセットの選択よりもパフォーマンスが悪くなっていることが判明した。
論文 参考訳(メタデータ) (2022-10-28T00:14:00Z) - Index $t$-SNE: Tracking Dynamics of High-Dimensional Datasets with
Coherent Embeddings [1.7188280334580195]
本稿では,クラスタの位置を保存した新しいものを作成するために,埋め込みを再利用する手法を提案する。
提案アルゴリズムは,新しい項目を埋め込むために$t$-SNEと同じ複雑さを持つ。
論文 参考訳(メタデータ) (2021-09-22T06:45:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。