論文の概要: Message Passing Adaptive Resonance Theory for Online Active
Semi-supervised Learning
- arxiv url: http://arxiv.org/abs/2012.01227v2
- Date: Wed, 24 Feb 2021 10:04:51 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-25 04:12:23.709547
- Title: Message Passing Adaptive Resonance Theory for Online Active
Semi-supervised Learning
- Title(参考訳): オンラインアクティブセミ教師付き学習のためのメッセージパッシング適応共鳴理論
- Authors: Taehyeong Kim, Injune Hwang, Hyundo Lee, Hyunseo Kim, Won-Seok Choi,
Joseph J. Lim, Byoung-Tak Zhang
- Abstract要約: オンラインのアクティブ半教師あり学習のためのメッセージパッシング適応共振理論(MPART)を提案する。
MPARTはラベルのないデータのクラスを推論し、トポロジグラフ上のノード間のメッセージパッシングを通じて情報的および代表的サンプルを選択する。
我々は,MPARTがオンラインのアクティブ学習環境において,競合モデルよりも優れていることを示す。
- 参考スコア(独自算出の注目度): 30.19936050747407
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Active learning is widely used to reduce labeling effort and training time by
repeatedly querying only the most beneficial samples from unlabeled data. In
real-world problems where data cannot be stored indefinitely due to limited
storage or privacy issues, the query selection and the model update should be
performed as soon as a new data sample is observed. Various online active
learning methods have been studied to deal with these challenges; however,
there are difficulties in selecting representative query samples and updating
the model efficiently. In this study, we propose Message Passing Adaptive
Resonance Theory (MPART) for online active semi-supervised learning. The
proposed model learns the distribution and topology of the input data online.
It then infers the class of unlabeled data and selects informative and
representative samples through message passing between nodes on the topological
graph. MPART queries the beneficial samples on-the-fly in stream-based
selective sampling scenarios, and continuously improve the classification model
using both labeled and unlabeled data. We evaluate our model with comparable
query selection strategies and frequencies, showing that MPART significantly
outperforms the competitive models in online active learning environments.
- Abstract(参考訳): アクティブラーニングはラベル付きデータから最も有益なサンプルのみを繰り返しクエリすることにより、ラベル付けの労力とトレーニング時間を短縮するために広く使われている。
ストレージやプライバシの問題によってデータが無期限に保存できない実世界の問題では、新しいデータサンプルが観察されると、クエリの選択とモデル更新を行う必要がある。
これらの課題に対処するために,様々なオンラインアクティブラーニング手法が研究されてきたが,代表的なクエリサンプルの選択やモデルの効率的な更新は困難である。
本研究では,オンラインアクティブセミ教師付き学習のためのメッセージパッシング適応共振理論(mpart)を提案する。
提案モデルは,入力データの分布とトポロジをオンラインで学習する。
その後、ラベルのないデータのクラスを推論し、トポロジカルグラフ上のノード間のメッセージパッシングを通じて情報および代表的なサンプルを選択する。
MPARTは、ストリームベースの選択的サンプリングシナリオにおいて、有効なサンプルをオンザフライでクエリし、ラベル付きデータとラベルなしデータの両方を使用して、分類モデルを継続的に改善する。
我々は,mpartがオンラインアクティブ学習環境における競争モデルを大幅に上回ることを示すため,クエリ選択戦略と頻度を比較検討した。
関連論文リスト
- Negotiated Representations for Machine Mearning Application [0.0]
オーバーフィッティング(Overfitting)は、機械学習モデルが長時間トレーニングされ、提供されたトレーニングラベルに対するトレーニングサンプルの正確な適合度に過度にフォーカスされた場合に発生する現象である。
本稿では,事前に決定されたクラスラベルを用いて,サンプルの出力表現を交渉可能にすることによって,機械学習モデルの分類精度を高める手法を提案する。
論文 参考訳(メタデータ) (2023-11-19T19:53:49Z) - Combating Label Noise With A General Surrogate Model For Sample
Selection [84.61367781175984]
本稿では,視覚言語サロゲートモデルCLIPを用いて,雑音の多いサンプルを自動的にフィルタリングする手法を提案する。
提案手法の有効性を実世界および合成ノイズデータセットで検証した。
論文 参考訳(メタデータ) (2023-10-16T14:43:27Z) - Tackling Diverse Minorities in Imbalanced Classification [80.78227787608714]
不均衡データセットは、様々な現実世界のアプリケーションで一般的に見られ、分類器の訓練において重要な課題が提示されている。
マイノリティクラスとマイノリティクラスの両方のデータサンプルを混合することにより、反復的に合成サンプルを生成することを提案する。
提案するフレームワークの有効性を,7つの公開ベンチマークデータセットを用いて広範な実験により実証する。
論文 参考訳(メタデータ) (2023-08-28T18:48:34Z) - Active Learning with Combinatorial Coverage [0.0]
アクティブな学習は、ラベル付けするデータを選択するプロセスを自動化する機械学習の実践的な分野である。
現在の手法はデータラベリングの負担を軽減するのに有効であるが、モデルに強く依存する。
これにより、サンプルデータの新しいモデルへの転送が不可能になり、サンプリングバイアスの問題も発生した。
本稿では,これらの課題を克服するために,カバレッジを活用した能動的学習手法を提案する。
論文 参考訳(メタデータ) (2023-02-28T13:43:23Z) - Forgetful Active Learning with Switch Events: Efficient Sampling for
Out-of-Distribution Data [13.800680101300756]
実際には、完全に訓練されたニューラルネットワークは、アウト・オブ・ディストリビューション(OOD)入力とランダムに相互作用する。
本稿では,スイッチイベント(FALSE)による忘れがちなアクティブラーニングについて紹介する。
270以上の実験で最大4.5%の精度向上が報告された。
論文 参考訳(メタデータ) (2023-01-12T16:03:14Z) - Temporal Output Discrepancy for Loss Estimation-based Active Learning [65.93767110342502]
ラベルのないサンプルが高損失を伴っていると信じられている場合に,データアノテーションのオラクルに問い合わせる,新しいディープラーニングアプローチを提案する。
本手法は,画像分類やセマンティックセグメンテーションタスクにおける最先端の能動学習手法よりも優れた性能を実現する。
論文 参考訳(メタデータ) (2022-12-20T19:29:37Z) - Frugal Reinforcement-based Active Learning [12.18340575383456]
本稿では,ラベル効率向上のための新しい能動的学習手法を提案する。
提案手法は反復的であり,多様性,表現性,不確実性の基準を混合した制約対象関数の最小化を目的としている。
また、強化学習に基づく新たな重み付け機構を導入し、各トレーニングイテレーションでこれらの基準を適応的にバランスさせる。
論文 参考訳(メタデータ) (2022-12-09T14:17:45Z) - CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。
本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文 参考訳(メタデータ) (2022-06-01T03:02:07Z) - Knowledge-driven Active Learning [70.37119719069499]
アクティブな学習戦略は、ディープラーニングモデルをトレーニングするために必要なラベル付きデータの量を最小限にすることを目的としている。
ほとんどの積極的な戦略は不確実なサンプルの選択に基づいており、しばしば決定境界に近いサンプルに制限される。
本稿では、一般的なドメイン知識を考慮し、エキスパートでないユーザがより少ないサンプルでモデルを訓練できるようにする。
論文 参考訳(メタデータ) (2021-10-15T06:11:53Z) - Online Active Model Selection for Pre-trained Classifiers [72.84853880948894]
我々は,任意のラウンドにおいて高い確率で最良のモデルをラベル付けし,出力する情報的サンプルを積極的に選択するオンライン選択的サンプリング手法を設計する。
我々のアルゴリズムは、敵とストリームの両方のオンライン予測タスクに利用できる。
論文 参考訳(メタデータ) (2020-10-19T19:53:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。