論文の概要: Lightweight Conditional Model Extrapolation for Streaming Data under
Class-Prior Shift
- arxiv url: http://arxiv.org/abs/2206.05181v1
- Date: Fri, 10 Jun 2022 15:19:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-13 17:23:50.996643
- Title: Lightweight Conditional Model Extrapolation for Streaming Data under
Class-Prior Shift
- Title（参考訳）: クラス優先シフト下におけるストリーミングデータの軽量条件モデル外挿
- Authors: Paulina Tomaszewska and Christoph H. Lampert
- Abstract要約: 非定常ストリーミングデータを用いて学習する新しい方法であるLIMESを紹介する。
我々は、特定のデータ分布に対する特定の分類器を導出するモデルパラメータの集合を1つ学習する。
Twitterデータを用いた一連の模範的なタスクの実験では、LIMESが代替手法よりも高い精度を達成することが示された。
- 参考スコア（独自算出の注目度）: 27.806085423595334
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce LIMES, a new method for learning with non-stationary streaming
data, inspired by the recent success of meta-learning. The main idea is not to
attempt to learn a single classifier that would have to work well across all
occurring data distributions, nor many separate classifiers, but to exploit a
hybrid strategy: we learn a single set of model parameters from which a
specific classifier for any specific data distribution is derived via
classifier adaptation. Assuming a multi-class classification setting with
class-prior shift, the adaptation step can be performed analytically with only
the classifier's bias terms being affected. Another contribution of our work is
an extrapolation step that predicts suitable adaptation parameters for future
time steps based on the previous data. In combination, we obtain a lightweight
procedure for learning from streaming data with varying class distribution that
adds no trainable parameters and almost no memory or computational overhead
compared to training a single model. Experiments on a set of exemplary tasks
using Twitter data show that LIMES achieves higher accuracy than alternative
approaches, especially with respect to the relevant real-world metric of lowest
within-day accuracy.
- Abstract（参考訳）: メタ学習の成功に触発された,非定常ストリーミングデータを用いた新たな学習方法であるLIMESを紹介する。
主なアイデアは、発生したすべてのデータ分布にまたがる単一の分類器を学習することではなく、多くの異なる分類器をうまく利用することであり、ハイブリッド戦略を生かすことである:我々は、特定のデータ分布の特定の分類器が分類器適応によって導出される単一のモデルパラメータを学習する。
クラス優先シフトを伴う多クラス分類設定を仮定すると、適応ステップは分類器のバイアス項のみが影響を受けるように解析的に行うことができる。
我々の研究のもう1つの貢献は、以前のデータに基づいて将来の時間ステップに適した適応パラメータを予測する補外ステップである。
そこで本研究では,トレーニング可能なパラメータを含まない,メモリや計算オーバーヘッドをほとんど含まない,クラス分布の異なるストリーミングデータから学習する軽量な手法を提案する。
twitterのデータを使った一連の模範的なタスクの実験では、limesが他のアプローチよりも高い精度を達成していることが示されている。
関連論文リスト
- Geometry-Aware Adaptation for Pretrained Models [15.715395029966812]
本稿では、argmaxをFr'echet平均に置き換え、標準予測規則のドロップイン置換を提案する。
提案したアプローチであるLokiは、ImageNet上のSimCLRよりも29.7%向上しています。
そのような指標が得られない場合、Lokiはクラス埋め込みから自己派生メトリクスを使用でき、事前訓練されたゼロショットモデルの10.5%の改善が得られる。
論文 参考訳（メタデータ） (2023-07-23T04:48:41Z) - RanPAC: Random Projections and Pre-trained Models for Continual Learning [59.07316955610658]
継続学習(CL)は、古いタスクを忘れずに、非定常データストリームで異なるタスク(分類など)を学習することを目的としている。
本稿では,事前学習モデルを用いたCLの簡潔かつ効果的なアプローチを提案する。
論文 参考訳（メタデータ） (2023-07-05T12:49:02Z) - Continual Learning with Optimal Transport based Mixture Model [17.398605698033656]
成熟最適輸送理論(OT-MM)の優れた性質に基づくオンライン混合モデル学習手法を提案する。
提案手法は,現在の最先端のベースラインを大きく上回ることができる。
論文 参考訳（メタデータ） (2022-11-30T06:40:29Z) - Intra-class Adaptive Augmentation with Neighbor Correction for Deep
Metric Learning [99.14132861655223]
深層学習のためのクラス内適応拡張(IAA)フレームワークを提案する。
クラスごとのクラス内変動を合理的に推定し, 適応型合成試料を生成し, 硬質試料の採掘を支援する。
本手法は,検索性能の最先端手法を3%～6%向上させる。
論文 参考訳（メタデータ） (2022-11-29T14:52:38Z) - Classifier Transfer with Data Selection Strategies for Online Support
Vector Machine Classification with Class Imbalance [1.2599533416395767]
我々は、格納されたトレーニングデータのサイズを制限するデータ選択戦略に焦点を当てる。
データ選択基準の正しい組み合わせを用いることで、分類器を適応させ、性能を大幅に向上させることができることを示す。
論文 参考訳（メタデータ） (2022-08-10T02:36:20Z) - CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。
本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文 参考訳（メタデータ） (2022-06-01T03:02:07Z) - CMW-Net: Learning a Class-Aware Sample Weighting Mapping for Robust Deep
Learning [55.733193075728096]
現代のディープニューラルネットワークは、破損したラベルやクラス不均衡を含むバイアス付きトレーニングデータに容易に適合する。
サンプル再重み付け手法は、このデータバイアス問題を緩和するために一般的に使用されている。
本稿では,データから直接明示的な重み付け方式を適応的に学習できるメタモデルを提案する。
論文 参考訳（メタデータ） (2022-02-11T13:49:51Z) - Few-Shot Incremental Learning with Continually Evolved Classifiers [46.278573301326276]
Few-shot Class-Incremental Learning(FSCIL)は、いくつかのデータポイントから新しい概念を継続的に学習できる機械学習アルゴリズムの設計を目指している。
難点は、新しいクラスからの限られたデータが、重大な過度な問題を引き起こすだけでなく、破滅的な忘れの問題も悪化させることにある。
我々は,適応のための分類器間のコンテキスト情報を伝達するグラフモデルを用いた連続進化型cif(cec)を提案する。
論文 参考訳（メタデータ） (2021-04-07T10:54:51Z) - Meta-Generating Deep Attentive Metric for Few-shot Classification [53.07108067253006]
本稿では,新しい数ショット学習タスクのための特定のメトリックを生成するための,新しい深度メタジェネレーション手法を提案する。
本研究では,各タスクの識別基準を生成するのに十分なフレキシブルな3層深い注意ネットワークを用いて,メトリクスを構造化する。
特に挑戦的なケースでは、最先端の競合他社よりも驚くほどパフォーマンスが向上しています。
論文 参考訳（メタデータ） (2020-12-03T02:07:43Z) - A Primal-Dual Subgradient Approachfor Fair Meta Learning [23.65344558042896]
ショットのメタ学習は、その高速適応能力と、未知のタスクへの精度の一般化で有名である。
そこで本研究では,ごく少数の例を用いて,公正な機械学習モデルのトレーニングを学習するPrimal-Dual Meta-learningフレームワーク,すなわちPDFMを提案する。
論文 参考訳（メタデータ） (2020-09-26T19:47:38Z) - Meta-Learned Confidence for Few-shot Learning [60.6086305523402]
数ショットのメトリックベースのアプローチのための一般的なトランスダクティブ推論手法は、最も確実なクエリ例の平均で、各クラスのプロトタイプを更新することである。
本稿では,各クエリの信頼度をメタラーニングして,ラベルのないクエリに最適な重みを割り当てる手法を提案する。
4つのベンチマークデータセットに対してメタ学習の信頼度で、少数ショットの学習モデルを検証した。
論文 参考訳（メタデータ） (2020-02-27T10:22:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。