論文の概要: Training A Multi-stage Deep Classifier with Feedback Signals

• arxiv url: http://arxiv.org/abs/2311.06823v1
• Date: Sun, 12 Nov 2023 12:24:07 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-14 16:40:53.154269
• Title: Training A Multi-stage Deep Classifier with Feedback Signals
• Title（参考訳）: フィードバック信号を用いた多段深層分類器の訓練
• Authors: Chao Xu, Yu Yang, Rongzhao Wang, Guan Wang, Bojia Lin
• Abstract要約: マルチステージ(Multi-Stage、MSC)は、様々な資源制限のために産業用途に使用される。 フィードバックトレーニングという新しいトレーニングフレームワークを提案する。 提案手法の有効性を実験的に明らかにし, 数発訓練のシナリオにおいて, その優れた性能を実証した。
• 参考スコア（独自算出の注目度）: 9.957515608854806
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multi-Stage Classifier (MSC) - several classifiers working sequentially in an arranged order and classification decision is partially made at each step - is widely used in industrial applications for various resource limitation reasons. The classifiers of a multi-stage process are usually Neural Network (NN) models trained independently or in their inference order without considering the signals from the latter stages. Aimed at two-stage binary classification process, the most common type of MSC, we propose a novel training framework, named Feedback Training. The classifiers are trained in an order reverse to their actual working order, and the classifier at the later stage is used to guide the training of initial-stage classifier via a sample weighting method. We experimentally show the efficacy of our proposed approach, and its great superiority under the scenario of few-shot training.
• Abstract（参考訳）: 多段階分類器(multi-stage classifier, msc) - 整列した順序で順次動作し、各ステップで分類決定を行ういくつかの分類器は、様々な資源制限のために工業用途で広く使われている。 多段階プロセスの分類器は通常、後段からの信号を考慮せずに独立に、または推論順序で訓練されたニューラルネットワーク(NN)モデルである。 最も一般的なMSCである2段階のバイナリ分類プロセスを対象として,フィードバックトレーニングという新しいトレーニングフレームワークを提案する。 分類器は実際の作業順序とは逆の順序で訓練され、後期段階の分類器はサンプル重み付け法により初期段階分類器の訓練を導くために使用される。 提案手法の有効性を実験的に明らかにし, 数発訓練のシナリオにおいて, その優れた性能を示す。

関連論文リスト

• LC-Protonets: Multi-label Few-shot learning for world music audio tagging [65.72891334156706]
  ラベル結合型プロトタイプネットワーク(LC-Protonets)を導入し,複数ラベルの複数ショット分類の問題に対処する。 LC-Protonetsは、限られたトレーニング項目に存在するラベルのパワーセットから、ラベルの組み合わせごとに1つのプロトタイプを生成する。 本手法は,様々な文化をカバーし,現代音楽と伝統音楽の両方を含む,多様な音楽データセットにまたがる自動音声タグ付けに適用する。
  論文  参考訳（メタデータ） (2024-09-17T15:13:07Z)
• Multi-Stage Multi-Modal Pre-Training for Automatic Speech Recognition [10.36399200974439]
  本稿では,マルチモーダルとマルチタスクによる教師なし事前学習と,翻訳に基づく教師付き中間学習を併用した新しい手法を提案する。 このような多段階的なアプローチが,Librispeech と SUPERB のベースラインを最大38.45%上回る相対単語誤り率 (WER) の向上につながることを実証的に実証した。
  論文  参考訳（メタデータ） (2024-03-28T20:23:39Z)
• Iterative Forward Tuning Boosts In-Context Learning in Language Models [88.25013390669845]
  本研究では,大規模言語モデル(LLM)における文脈内学習を促進する新しい2段階フレームワークを提案する。 具体的には、当社のフレームワークでは、ICLプロセスをDeep-ThinkingとTest Stageの2つの別々のステージに分類しています。 ディープシンキング段階にはユニークな注意機構、すなわち反復的な注意強化機構が組み込まれており、複数の情報の蓄積を可能にしている。
  論文  参考訳（メタデータ） (2023-05-22T13:18:17Z)
• Class-Incremental Learning with Strong Pre-trained Models [97.84755144148535]
  CIL(Class-incremental Learning)は、少数のクラス(ベースクラス)から始まる設定で広く研究されている。 我々は、多数のベースクラスで事前訓練された強力なモデルから始まるCILの実証済み実世界の設定について検討する。 提案手法は、解析されたCIL設定すべてに頑健で一般化されている。
  論文  参考訳（メタデータ） (2022-04-07T17:58:07Z)
• Mimicking the Oracle: An Initial Phase Decorrelation Approach for Class Incremental Learning [141.35105358670316]
  本研究では,Na"訓練初期相モデルとオラクルモデルとの相違について検討する。 より均一に散らばるように,各クラスの表現を効果的に正規化するクラスワイド・デコレーション(CwD)を提案する。 私たちのCwDは実装が簡単で、既存のメソッドに簡単にプラグインできます。
  論文  参考訳（メタデータ） (2021-12-09T07:20:32Z)
• SetConv: A New Approach for Learning from Imbalanced Data [29.366843553056594]
  集合畳み込み操作とエピソード学習戦略を提案し,各クラスに1つの代表を抽出する。 提案アルゴリズムは入力順序に関わらず置換不変であることを示す。
  論文  参考訳（メタデータ） (2021-04-03T22:33:30Z)
• Training Generative Adversarial Networks in One Stage [58.983325666852856]
  本稿では,1段階のみに効率よくGANを訓練できる汎用的なトレーニング手法を提案する。 提案手法は,データフリーな知識蒸留など,他の逆学習シナリオにも容易に適用可能であることを示す。
  論文  参考訳（メタデータ） (2021-02-28T09:03:39Z)
• Binary Classification from Multiple Unlabeled Datasets via Surrogate Set Classification [94.55805516167369]
  我々は m 個の U 集合を $mge2$ で二進分類する新しい手法を提案する。 我々のキーとなる考え方は、サロゲート集合分類(SSC)と呼ばれる補助的分類タスクを考えることである。
  論文  参考訳（メタデータ） (2021-02-01T07:36:38Z)
• Multi-Stage Transfer Learning with an Application to Selection Process [5.933303832684138]
  多段階プロセスでは、決定は順序付けられた段階の順序で行われる。 本研究では,早期に訓練された単純な分類器からの知識を利用するテキスト・マルチ・スタゲ・トランスファー・ラーニング(MSGTL)手法を提案する。 簡単な確率写像を用いて,知識の保存と微調整のトレードオフを制御可能であることを示す。
  論文  参考訳（メタデータ） (2020-06-01T21:27:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。