論文の概要: Teacher-Explorer-Student Learning: A Novel Learning Method for Open Set
Recognition
- arxiv url: http://arxiv.org/abs/2103.12871v1
- Date: Tue, 23 Mar 2021 22:32:32 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-25 14:13:46.741207
- Title: Teacher-Explorer-Student Learning: A Novel Learning Method for Open Set
Recognition
- Title(参考訳): 教師探索学習:オープンセット認識のための新しい学習方法
- Authors: Jaeyeon Jang and Chang Ouk Kim
- Abstract要約: 教師探索学生(T/E/S)学習は、未知のサンプルを拒絶し、既知のサンプルの分類性能の損失を最小限に抑えることを目的としている。
本手法では、未知の様々な可能性を探ることにより、深層学習分類器の一般化を著しく削減する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: If an unknown example that is not seen during training appears, most
recognition systems usually produce overgeneralized results and determine that
the example belongs to one of the known classes. To address this problem,
teacher-explorer-student (T/E/S) learning, which adopts the concept of open set
recognition (OSR) that aims to reject unknown samples while minimizing the loss
of classification performance on known samples, is proposed in this study. In
this novel learning method, overgeneralization of deep learning classifiers is
significantly reduced by exploring various possibilities of unknowns. Here, the
teacher network extracts some hints about unknowns by distilling the pretrained
knowledge about knowns and delivers this distilled knowledge to the student.
After learning the distilled knowledge, the student network shares the learned
information with the explorer network. Then, the explorer network shares its
exploration results by generating unknown-like samples and feeding the samples
to the student network. By repeating this alternating learning process, the
student network experiences a variety of synthetic unknowns, reducing
overgeneralization. Extensive experiments were conducted, and the experimental
results showed that each component proposed in this paper significantly
contributes to the improvement in OSR performance. As a result, the proposed
T/E/S learning method outperformed current state-of-the-art methods.
- Abstract(参考訳): 訓練中に見当たらない未知の例が現れると、ほとんどの認識システムは一般に一般化された結果を生成し、その例が既知のクラスの1つに属すると判断する。
そこで本研究では,未知のサンプルを拒否することを目的としたオープンセット認識(osr)の概念を取り入れ,既知のサンプルの分類性能の損失を最小限に抑える教師・研究者・学生(t/e/s)学習を提案する。
本手法では、未知の様々な可能性を探ることにより、深層学習分類器の一般化を著しく削減する。
ここで,教師ネットワークは,未学習の知識を蒸留して未知のヒントを抽出し,その知識を学生に提供する。
蒸留知識を学習した後、学生ネットワークは学習情報をエクスプローラネットワークと共有する。
そして、未知のサンプルを生成し、そのサンプルを学生ネットワークに供給することで、探索結果を共有する。
この交互学習プロセスを繰り返して、学生ネットワークは様々な合成未知を経験し、過剰一般化を減らす。
広範な実験を行い,本論文で提案する各コンポーネントがosrの性能向上に大きく寄与することを示した。
その結果,提案手法は現在の最先端手法よりも優れていた。
関連論文リスト
- OpenIncrement: A Unified Framework for Open Set Recognition and Deep
Class-Incremental Learning [4.278434830731282]
オープンな集合認識と統合された深層学習フレームワークを提案する。
提案手法は,クラスに学習した特徴を改良し,距離に基づくオープンセット認識に適応させる。
実験により,本手法が最先端のインクリメンタル学習技術より優れていることを確認した。
論文 参考訳(メタデータ) (2023-10-05T19:08:08Z) - Learning to Retain while Acquiring: Combating Distribution-Shift in
Adversarial Data-Free Knowledge Distillation [31.294947552032088]
データフリーな知識蒸留(DFKD)は、教師から学生ニューラルネットワークへの知識伝達を、訓練データがない状態で行うという基本的な考え方により、近年人気を集めている。
本稿では,メタトレインとメタテストとして,知識獲得(新たに生成されたサンプルからの学習)と知識保持(以前に得られたサンプルの知識の保持)の課題を取り扱うことで,メタ学習にインスパイアされたフレームワークを提案する。
論文 参考訳(メタデータ) (2023-02-28T03:50:56Z) - The Devil is in the Wrongly-classified Samples: Towards Unified Open-set
Recognition [61.28722817272917]
Open-set Recognition (OSR) は、トレーニングプロセス中にクラスが見えないテストサンプルを特定することを目的としている。
近年,Unified Open-set Recognition (UOSR) が提案されている。
論文 参考訳(メタデータ) (2023-02-08T11:34:04Z) - Learning with Recoverable Forgetting [77.56338597012927]
学習wIth Recoverable Forgettingは、タスクまたはサンプル固有の知識の除去とリカバリを明示的に処理する。
具体的には、LIRFは2つの革新的なスキーム、すなわち知識預金と離脱をもたらす。
いくつかのデータセットで実験を行い、提案したLIRF戦略が一般化能力を満足させる結果をもたらすことを示す。
論文 参考訳(メタデータ) (2022-07-17T16:42:31Z) - Class-Specific Semantic Reconstruction for Open Set Recognition [101.24781422480406]
オープンセット認識により、ディープニューラルネットワーク(DNN)は未知のクラスのサンプルを識別できる。
本稿では,自動エンコーダ(AE)とプロトタイプ学習を統合したCSSR(Class-Specific Semantic Reconstruction)を提案する。
複数のデータセットで実験を行った結果,提案手法は閉集合認識と開集合認識の両方において優れた性能を発揮することがわかった。
論文 参考訳(メタデータ) (2022-07-05T16:25:34Z) - A Unified End-to-End Retriever-Reader Framework for Knowledge-based VQA [67.75989848202343]
本稿では,知識に基づくVQAに向けて,エンド・ツー・エンドのレトリバー・リーダー・フレームワークを提案する。
我々は、視覚言語による事前学習モデルからの多モーダルな暗黙の知識に光を当て、知識推論の可能性を掘り下げた。
提案手法では,知識検索のガイダンスを提供するだけでなく,質問応答に対してエラーが発生しやすいケースも排除できる。
論文 参考訳(メタデータ) (2022-06-30T02:35:04Z) - Synthetic Unknown Class Learning for Learning Unknowns [0.0]
本稿では,新しい未知のクラス学習法を提案する。
生成したサンプル間の多様性を維持しながら未知のようなサンプルを生成し、これらのサンプルを学習する。
いくつかのベンチマークデータセットの実験により、提案手法は他の最先端手法よりも大幅に優れていることが示された。
論文 参考訳(メタデータ) (2021-11-15T19:46:41Z) - Collective Decision of One-vs-Rest Networks for Open Set Recognition [0.0]
厳密で洗練された決定境界を設定することでOSRの性能を最大化できるという直感に基づく,シンプルなオープンセット認識(OSR)手法を提案する。
提案手法は, オーバージェネリゼーションを効果的に低減し, 最先端の手法よりも優れた性能を示した。
論文 参考訳(メタデータ) (2021-03-18T13:06:46Z) - Learning Open Set Network with Discriminative Reciprocal Points [70.28322390023546]
オープンセット認識は、事前に定義されたクラスからサンプルを同時に分類し、残りを「未知」として識別することを目的としている。
本稿では,各既知圏に対応するクラス外空間のポテンシャル表現であるReciprocal Pointを提案する。
相互点によって構成される有界空間に基づいて、未知のリスクは多圏相互作用によって減少する。
論文 参考訳(メタデータ) (2020-10-31T03:20:31Z) - Conditional Gaussian Distribution Learning for Open Set Recognition [10.90687687505665]
オープンセット認識のための条件付きガウス分布学習(CGDL)を提案する。
未知のサンプルを検出することに加えて、異なる潜伏特徴を異なるガウスモデルに近似させることにより、既知のサンプルを分類することもできる。
いくつかの標準画像に対する実験により,提案手法はベースライン法を著しく上回り,新たな最先端結果が得られることが明らかになった。
論文 参考訳(メタデータ) (2020-03-19T14:32:08Z) - Learning From Multiple Experts: Self-paced Knowledge Distillation for
Long-tailed Classification [106.08067870620218]
我々は,LFME(Learning From Multiple Experts)と呼ばれる自己評価型知識蒸留フレームワークを提案する。
提案するLFMEフレームワークは,複数の'Experts'からの知識を集約して,統一された学生モデルを学ぶ。
提案手法は,最先端の手法に比べて優れた性能が得られることを示す。
論文 参考訳(メタデータ) (2020-01-06T12:57:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。