論文の概要: A Study on the Predictability of Sample Learning Consistency
- arxiv url: http://arxiv.org/abs/2207.03571v1
- Date: Thu, 7 Jul 2022 21:05:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-15 08:57:10.498504
- Title: A Study on the Predictability of Sample Learning Consistency
- Title(参考訳): サンプル学習一貫性の予測可能性に関する研究
- Authors: Alain Raymond-Saez, Julio Hurtado, Alvaro Soto
- Abstract要約: CIFAR-100とCIFAR-10のCスコア予測モデルを訓練する。
しかし、これらのモデルは同じ分布内と外分布内の両方で十分に一般化されていないことが判明した。
我々は、サンプルが隣人との関係、特に何人が同じラベルを共有しているかは、Cスコアを説明するのに役立つと仮定する。
- 参考スコア(独自算出の注目度): 4.022364531869169
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Curriculum Learning is a powerful training method that allows for faster and
better training in some settings. This method, however, requires having a
notion of which examples are difficult and which are easy, which is not always
trivial to provide. A recent metric called C-Score acts as a proxy for example
difficulty by relating it to learning consistency. Unfortunately, this method
is quite compute intensive which limits its applicability for alternative
datasets. In this work, we train models through different methods to predict
C-Score for CIFAR-100 and CIFAR-10. We find, however, that these models
generalize poorly both within the same distribution as well as out of
distribution. This suggests that C-Score is not defined by the individual
characteristics of each sample but rather by other factors. We hypothesize that
a sample's relation to its neighbours, in particular, how many of them share
the same labels, can help in explaining C-Scores. We plan to explore this in
future work.
- Abstract(参考訳): カリキュラム学習は、いくつかの設定でより速くより良いトレーニングを可能にする強力なトレーニング方法である。
しかし、この方法には、どの例が困難で、どれが簡単かという概念が必要である。
C-Scoreと呼ばれる最近のメトリクスは、例えば、一貫性の学習に関連付けることで、プロキシとして機能する。
残念ながら、この方法は計算集約的であり、代替データセットの適用性を制限する。
本研究では,CIFAR-100 と CIFAR-10 の C-Score 予測のための異なる手法を用いてモデルを訓練する。
しかし、これらのモデルは同じ分布内と分布外の両方において、一般化が不十分であることが判明した。
これは、c-scoreが各サンプルの個々の特性によってではなく、他の要因によって定義されることを示唆している。
我々は、サンプルが隣人との関係、特に何人が同じラベルを共有しているかは、Cスコアを説明するのに役立つと仮定する。
今後の作業でこれを探求する予定です。
関連論文リスト
- Probably Approximately Precision and Recall Learning [62.912015491907994]
精度とリコールは機械学習の基本的な指標である。
一方的なフィードバック – トレーニング中にのみ肯定的な例が観察される – は,多くの実践的な問題に固有のものだ。
PAC学習フレームワークでは,各仮説をグラフで表現し,エッジは肯定的な相互作用を示す。
論文 参考訳(メタデータ) (2024-11-20T04:21:07Z) - FeCAM: Exploiting the Heterogeneity of Class Distributions in
Exemplar-Free Continual Learning [21.088762527081883]
Exemplar-free class-incremental learning (CIL)は、以前のタスクからのデータのリハーサルを禁止しているため、いくつかの課題がある。
第1タスクの後に特徴抽出器を凍結して分類器を漸進的に学習する手法が注目されている。
凍結した特徴抽出器を用いて新しいクラスプロトタイプを生成するCILのプロトタイプネットワークを探索し,プロトタイプとのユークリッド距離に基づいて特徴を分類する。
論文 参考訳(メタデータ) (2023-09-25T11:54:33Z) - Intra-class Adaptive Augmentation with Neighbor Correction for Deep
Metric Learning [99.14132861655223]
深層学習のためのクラス内適応拡張(IAA)フレームワークを提案する。
クラスごとのクラス内変動を合理的に推定し, 適応型合成試料を生成し, 硬質試料の採掘を支援する。
本手法は,検索性能の最先端手法を3%~6%向上させる。
論文 参考訳(メタデータ) (2022-11-29T14:52:38Z) - Bias Mimicking: A Simple Sampling Approach for Bias Mitigation [57.17709477668213]
本稿では,新しいクラス条件サンプリング手法であるBias Mimickingを紹介する。
Bias Mimickingは、4つのベンチマークで3%の精度でサンプリングの精度を向上する。
論文 参考訳(メタデータ) (2022-09-30T17:33:00Z) - Learning with Neighbor Consistency for Noisy Labels [69.83857578836769]
特徴空間におけるトレーニング例間の類似性を利用した雑音ラベルから学習する手法を提案する。
合成(CIFAR-10, CIFAR-100)とリアル(mini-WebVision, Clothing1M, mini-ImageNet-Red)の両方のノイズを評価するデータセットの評価を行った。
論文 参考訳(メタデータ) (2022-02-04T15:46:27Z) - An Empirical Comparison of Instance Attribution Methods for NLP [62.63504976810927]
本研究は,トレーニングサンプルの重要性に関して,異なるインスタンス属性が一致した度合いを評価する。
単純な検索メソッドは、グラデーションベースの方法によって識別されたものと異なるトレーニングインスタンスを生成する。
論文 参考訳(メタデータ) (2021-04-09T01:03:17Z) - Contrastive learning of strong-mixing continuous-time stochastic
processes [53.82893653745542]
コントラスト学習(Contrastive Learning)は、ラベルのないデータから構築された分類タスクを解決するためにモデルを訓練する自己指導型の手法のファミリーである。
拡散の場合,小~中距離間隔の遷移カーネルを適切に構築したコントラスト学習タスクを用いて推定できることが示される。
論文 参考訳(メタデータ) (2021-03-03T23:06:47Z) - Classification with Strategically Withheld Data [41.78264347024645]
機械学習のテクニックは、クレジット承認や大学入学などのアプリケーションで有用である。
このような文脈でより好意的に分類するために、エージェントは、悪いテストスコアなどのいくつかの特徴を戦略的に控えることを決定できる。
sc Mincut, sc Hill-Climbing (sc HC) と Incentive-Logistic Regression (sc-LR) の3つの分類法を設計する。
論文 参考訳(メタデータ) (2020-12-18T12:54:41Z) - An end-to-end approach for the verification problem: learning the right
distance [15.553424028461885]
パラメトリックな擬似距離を導入し、エンコーダと共同で学習することで、メトリック学習の設定を強化する。
まず、仮説テストに使用できる確率比を近似して示す。
提案手法では,実際の距離を持つメートル法学習に比べて,学習の簡易化が図られている。
論文 参考訳(メタデータ) (2020-02-21T18:46:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。