Fugu-MT 論文翻訳(概要): DSS: A Diverse Sample Selection Method to Preserve Knowledge in Class-Incremental Learning

論文の概要: DSS: A Diverse Sample Selection Method to Preserve Knowledge in Class-Incremental Learning

arxiv url: http://arxiv.org/abs/2312.09357v1
Date: Thu, 14 Dec 2023 21:42:21 GMT
ステータス: 処理完了
システム内更新日: 2023-12-18 17:46:28.838031
Title: DSS: A Diverse Sample Selection Method to Preserve Knowledge in Class-Incremental Learning
Title（参考訳）: DSS: クラス増分学習における知識保存のための多種多様なサンプル選択法
Authors: Sahil Nokhwal and Nirman Kumar
Abstract要約: 本稿では,クラスインクリメンタルラーニング(CIL)設定における入力データストリームからサンプルの逆選択を行う新しい手法「DSS」を提案する。我々の手法は最先端の手法より優れており、理解と実装がずっと簡単である。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Rehearsal-based techniques are commonly used to mitigate catastrophic forgetting (CF) in Incremental learning (IL). The quality of the exemplars selected is important for this purpose and most methods do not ensure the appropriate diversity of the selected exemplars. We propose a new technique "DSS" -- Diverse Selection of Samples from the input data stream in the Class-incremental learning (CIL) setup under both disjoint and fuzzy task boundary scenarios. Our method outperforms state-of-the-art methods and is much simpler to understand and implement.
Abstract（参考訳）: リハーサルベースのテクニックは、インクリメンタルラーニング(IL)における破滅的忘れ(CF)を軽減するために一般的に用いられる。この目的のために選択された模範者の質が重要であり、ほとんどの方法は選択された模範者の適切な多様性を保証しない。本稿では,クラスインクリメンタル・ラーニング(cil)設定における入力データストリームからのサンプルの多種多様な選択手法"dss"を提案する。我々の手法は最先端の手法より優れており、理解と実装がずっと簡単である。

関連論文リスト

Enhancing Semi-Supervised Learning via Representative and Diverse Sample Selection [3.9620215314408984]
半監督学習(SSL)は多くのディープラーニングタスクにおいて好まれるパラダイムとなっている。ラベル付けのためのサンプルの選択方法も,特に低予算環境下では,パフォーマンスに大きく影響する。新たな基準である$alpha$-Maximum Mean Discrepancy(alpha$-MMD)を最小化するために修正されたFrank-Wolfeアルゴリズムを採用することで、RDSSはラベルなしデータからアノテーションの代表的なサブセットをサンプリングする。
論文参考訳（メタデータ） (2024-09-18T02:40:31Z)
Diversified Batch Selection for Training Acceleration [68.67164304377732]
オンラインバッチ選択として知られる一般的な研究ラインでは、トレーニングプロセス中の情報サブセットの選択について検討している。バニラ参照モデルフリーメソッドは、独立してデータをサンプリング的にスコア付けし、選択する。 DivBS(Diversified Batch Selection)を提案する。
論文参考訳（メタデータ） (2024-06-07T12:12:20Z)
AdaSelection: Accelerating Deep Learning Training through Data Subsampling [27.46630703428186]
適応型サブサンプリング手法であるAdaSelectionを導入し,各ミニバッチ内の最も情報性の高いサブサンプルを同定する。業界標準のベースラインと比較すると、AdaSelectionは一貫して優れたパフォーマンスを示している。
論文参考訳（メタデータ） (2023-06-19T07:01:28Z)
Active Learning Principles for In-Context Learning with Large Language Models [65.09970281795769]
本稿では,アクティブ・ラーニング・アルゴリズムが,文脈内学習における効果的な実演選択手法としてどのように機能するかを検討する。 ALによる文脈内サンプル選択は,不確実性の低い高品質な事例を優先し,試験例と類似性を有することを示す。
論文参考訳（メタデータ） (2023-05-23T17:16:04Z)
ManiFeSt: Manifold-based Feature Selection for Small Data Sets [9.649457851261909]
少数サンプル教師付き特徴選択(FS)のための新しい手法を提案する。提案手法はまず,多機能アソシエーションをキャプチャするカーネルを用いて,各クラスの特徴空間の多様体を学習する。テストデータに適用した場合,FSにより分類が向上し,一般化が向上することを示す。
論文参考訳（メタデータ） (2022-07-18T12:58:01Z)
An Additive Instance-Wise Approach to Multi-class Model Interpretation [53.87578024052922]
解釈可能な機械学習は、ブラックボックスシステムの特定の予測を駆動する要因に関する洞察を提供する。既存の手法は主に、局所的な加法的あるいはインスタンス的なアプローチに従う説明的入力特徴の選択に重点を置いている。本研究は,両手法の長所を生かし,複数の対象クラスに対する局所的な説明を同時に学習するためのグローバルフレームワークを提案する。
論文参考訳（メタデータ） (2022-07-07T06:50:27Z)
Local overlap reduction procedure for dynamic ensemble selection [13.304462985219237]
クラス不均衡は、分類モデルにおいて学習をより困難にすることで知られる特徴である。分類過程における局所クラス重複の影響を最小限に抑えるDS手法を提案する。実験の結果,提案手法はベースラインを著しく上回ることがわかった。
論文参考訳（メタデータ） (2022-06-16T21:31:05Z)
Automated Imbalanced Classification via Layered Learning [0.734084539365505]
トレーニングインスタンスのクラス分布のバランスをとるために再サンプリング戦略を適用することは、これらの問題に対処するための一般的なアプローチである。多くの最先端の手法は、再サンプリングプロセスを実行するために決定境界に近い関心の事例を見つける。オーバーサンプリングは、少数層からインスタンスに含まれる情報を伝播することで、過度に適合する可能性を高める可能性がある。
論文参考訳（メタデータ） (2022-05-05T10:32:24Z)
MCDAL: Maximum Classifier Discrepancy for Active Learning [74.73133545019877]
近年の最先端のアクティブラーニング手法は, 主にGAN(Generative Adversarial Networks)をサンプル取得に活用している。本稿では,MCDAL(Maximum Discrepancy for Active Learning)と呼ぶ新しいアクティブラーニングフレームワークを提案する。特に,両者の差分を最大化することにより,より厳密な決定境界を学習する2つの補助的分類層を利用する。
論文参考訳（メタデータ） (2021-07-23T06:57:08Z)
CSI: Novelty Detection via Contrastive Learning on Distributionally Shifted Instances [77.28192419848901]
コントラストシフトインスタンス (CSI) という,単純かつ効果的な手法を提案する。従来のコントラスト学習法のように,サンプルを他の例と対比することに加えて,本トレーニング手法では,サンプルを分散シフトによる拡張と対比する。本実験は, 種々の新規検出シナリオにおける本手法の優位性を実証する。
論文参考訳（メタデータ） (2020-07-16T08:32:56Z)
Learning From Multiple Experts: Self-paced Knowledge Distillation for Long-tailed Classification [106.08067870620218]
我々は,LFME(Learning From Multiple Experts)と呼ばれる自己評価型知識蒸留フレームワークを提案する。提案するLFMEフレームワークは,複数の'Experts'からの知識を集約して,統一された学生モデルを学ぶ。提案手法は,最先端の手法に比べて優れた性能が得られることを示す。
論文参考訳（メタデータ） (2020-01-06T12:57:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。