論文の概要: Useful to Whom? Sample Value Is Defined Only Relative to the Learner
- arxiv url: http://arxiv.org/abs/2610.00221v1
- Date: Tue, 22 Sep 2026 05:17:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.575592
- Title: Useful to Whom? Sample Value Is Defined Only Relative to the Learner
- Title(参考訳): だれが役に立つか? サンプル値が学習者のみに適用される
- Abstract要約: コアセットの選択は、この質問を具体化します。予算の下では、サンプルをトレーニングに最も役立ちます。
この境界がデータによって固定されているのか、あるいは対象の学習者によって変更されているのかを問う。
その結果、凍結したサブセットの介入を通じて学習者依存を確立し、境界を移動できるネットワーク構造を特定する。
- 参考スコア(独自算出の注目度): 8.508789917471942
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: What kind of data does a model need in order to learn? Coreset selection makes this question concrete: under a budget, keep the samples most useful for training. Easy-first and geometric coverage criteria can win in different budget regimes, separated by a crossover boundary. We ask whether this boundary is fixed by the data or changes with the target learner. Controlled experiments freeze the selected subsets and manipulate only the training learner. On low-resolution ImageNet-100, doubling ResNet-18's width moves the crossover from 57 to 85 samples per class: the learner changes the relative value of the same samples. A wider sweep reveals an interaction between input grid and capacity. Enlarging the grid while retaining the same image information shifts the boundary left, and this shift weakens as width increases. Stride controls reproduce and reverse the grid effect without changing the input grid; removing only the last downsampling stride is sufficient to recover the leftward shift. Under the native-224px ImageNet-1k protocol, width effects are smaller and depend on the probe: LFrac remains nearly flat, while EL2N shifts modestly right. Swapping the convolutional learning system for a ViT makes coverage win throughout the measured range, even when the easy subsets come from the convolutional proxy. These results establish learner dependence through frozen-subset interventions and identify network structure that can move the boundary. They do not yield a universal scaling law. Their practical implication is direct: a selection strategy's preferred budget regime must be evaluated with respect to the target learner.
- Abstract(参考訳): モデルが学習するためには、どのようなデータが必要ですか?
コアセットの選択は、この質問を具体化します。予算の下では、サンプルをトレーニングに最も役立ちます。
容易かつ幾何学的なカバレッジ基準は、クロスオーバー境界によって区切られた異なる予算体制で勝ち取ることができる。
この境界がデータによって固定されているのか、あるいは対象の学習者によって変更されているのかを問う。
制御された実験は、選択されたサブセットを凍結し、トレーニング学習者のみを操作する。
低解像度の ImageNet-100 では、ResNet-18 の幅を2倍にすることで、クラス毎に 57 から 85 のサンプルがクロスオーバーされる。
より広いスイープは、入力グリッドとキャパシティ間の相互作用を明らかにする。
同じ画像情報を保持しながらグリッドを拡大することは、境界を左にシフトさせ、このシフトは幅が大きくなるにつれて弱まる。
ストライド制御は、入力グリッドを変更することなくグリッド効果を再生および反転させる。
ネイティブ224px ImageNet-1kプロトコルでは、幅効果は小さく、プローブに依存している。
ViTの畳み込み学習システムをスワップすることで、畳み込みプロキシから簡単なサブセットが出てくる場合でも、測定範囲にわたってカバレッジが勝利する。
これらの結果は、凍結したサブセットの介入を通じて学習者依存を確立し、境界を移動できるネットワーク構造を特定する。
普遍的なスケーリング法則は成立しない。
選択戦略の望ましい予算体系は、対象とする学習者に対して評価されなければならない。
関連論文リスト
- Improving Localization for Semi-Supervised Object Detection [3.5493798890908104]
予測された有界ボックスのフィルタリングを改善するために,有界ボックスのローカライゼーションのための追加の分類タスクを導入する。
我々のIL-netは制限付きアノテーション方式でデータセット上でSSOD性能を1.14%向上させることを示した。
論文 参考訳(メタデータ) (2022-06-21T08:39:38Z) - Chaos is a Ladder: A New Theoretical Understanding of Contrastive
Learning via Augmentation Overlap [64.60460828425502]
コントラスト学習の下流性能に関する新たな保証を提案する。
我々の新しい理論は、攻撃的なデータ強化の下で、異なるクラス内サンプルのサポートがより重なり合うという知見に基づいている。
本稿では、下流の精度とよく一致した教師なしモデル選択距離ARCを提案する。
論文 参考訳(メタデータ) (2022-03-25T05:36:26Z) - Fire Together Wire Together: A Dynamic Pruning Approach with
Self-Supervised Mask Prediction [12.86325214182021]
動的モデルプルーニング(Dynamic Model pruning)は、デプロイ中の各入力サンプルに対する異なるサブネットワークの推測を可能にする、最近の方法である。
現在の動的手法は、間隔損失を誘導することによって正規化を通じて連続的なチャネルゲーティングを学ぶことに依存している。
我々は,CIFARおよびImageNet上で,VGG,ResNet,MobileNetなどのニューラルネットワークの実験を行った。
論文 参考訳(メタデータ) (2021-10-15T17:39:53Z) - Cherry-Picking Gradients: Learning Low-Rank Embeddings of Visual Data
via Differentiable Cross-Approximation [53.95297550117153]
本稿では,大規模な視覚データテンソルの処理を行うエンドツーエンドのトレーニング可能なフレームワークを提案する。
提案手法は大規模多次元グリッドデータや,大規模受容領域上のコンテキストを必要とするタスクに特に有用である。
論文 参考訳(メタデータ) (2021-05-29T08:39:57Z) - Graph Sampling Based Deep Metric Learning for Generalizable Person
Re-Identification [114.56752624945142]
我々は、最も一般的なランダムサンプリング手法である有名なpkサンプリングは、深層メトリック学習にとって有益で効率的ではないと主張する。
大規模計量学習のためのグラフサンプリング(GS)と呼ばれる効率的なミニバッチサンプリング手法を提案する。
論文 参考訳(メタデータ) (2021-04-04T06:44:15Z) - Shift Invariance Can Reduce Adversarial Robustness [20.199887291186364]
シフト不変性は、分類のパフォーマンスを向上させるCNNの重要な特性です。
円偏移に対する不変性は、敵の攻撃に対する感受性を高めることも示している。
論文 参考訳(メタデータ) (2021-03-03T21:27:56Z) - Permuted AdaIN: Reducing the Bias Towards Global Statistics in Image
Classification [97.81205777897043]
近年の研究では、畳み込みニューラルネットワーク分類器は形状を犠牲にしてテクスチャを過度に依存していることが示されている。
一方、形状と局所像の区別は類似しているが異なるが、一方、グローバル画像統計は異なる。
提案手法は,pAdaIN (Permuted Adaptive Instance Normalization) と呼ばれ,画像分類器の隠蔽層におけるグローバル統計の表現を減少させる。
論文 参考訳(メタデータ) (2020-10-09T16:38:38Z) - Delving into Inter-Image Invariance for Unsupervised Visual
Representations [108.33534231219464]
画像間不変学習の役割をよりよく理解するための研究を提案する。
オンラインラベルはオフラインラベルよりも早く収束する。
半硬な負のサンプルは、硬い負のサンプルよりも信頼性が高く、偏りがない。
論文 参考訳(メタデータ) (2020-08-26T17:44:23Z) - SCE: Scalable Network Embedding from Sparsest Cut [20.08464038805681]
大規模ネットワーク埋め込みは、教師なしの方法で各ノードの潜在表現を学習することである。
このような対照的な学習手法の成功の鍵は、正と負のサンプルを引き出す方法である。
本稿では, 負のサンプルのみを用いた教師なしネットワーク埋め込みのためのSCEを提案する。
論文 参考訳(メタデータ) (2020-06-30T03:18:15Z) - Embedding Propagation: Smoother Manifold for Few-Shot Classification [131.81692677836202]
本稿では, 組込み伝搬を非教師なし非パラメトリック正規化器として, 数ショット分類における多様体平滑化に用いることを提案する。
埋め込み伝播がより滑らかな埋め込み多様体を生み出すことを実証的に示す。
複数の半教師付き学習シナリオにおいて,埋め込み伝搬によりモデルの精度が最大16%向上することを示す。
論文 参考訳(メタデータ) (2020-03-09T13:51:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。