論文の概要: Self-Supervised Features Improve Open-World Learning
- arxiv url: http://arxiv.org/abs/2102.07848v1
- Date: Mon, 15 Feb 2021 21:03:05 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-17 15:15:54.934075
- Title: Self-Supervised Features Improve Open-World Learning
- Title(参考訳): 自己監督機能によるオープンワールド学習の改善
- Authors: Akshay Raj Dhamija, Touqeer Ahmad, Jonathan Schwan, Mohsen Jafarzadeh,
Chunchun Li, Terrance E. Boult
- Abstract要約: 本稿では,インクリメンタル学習,アウトオブディストリビューション検出,オープンワールド学習を組み合わせた統一オープンワールドフレームワークを提案する。
教師なしの特徴表現の下では、未知をラベル外空間または分布外検出のいずれかに分類する。
私たちのパイプラインのインクリメンタルな学習コンポーネントは、imagenet-100プロトコルの最先端と比較して実行するゼロ例のオンラインモデルです。
- 参考スコア(独自算出の注目度): 13.880789191591088
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This is a position paper that addresses the problem of Open-World learning
while proposing for the underlying feature representation to be learnt using
self-supervision. We also present an unifying open-world framework combining
three individual research dimensions which have been explored independently \ie
Incremental Learning, Out-of-Distribution detection and Open-World learning. We
observe that the supervised feature representations are limited and degenerate
for the Open-World setting and unsupervised feature representation is native to
each of these three problem domains. Under an unsupervised feature
representation, we categorize the problem of detecting unknowns as either
Out-of-Label-space or Out-of-Distribution detection, depending on the data used
during system training versus system testing. The incremental learning
component of our pipeline is a zero-exemplar online model which performs
comparatively against state-of-the-art on ImageNet-100 protocol and does not
require any back-propagation or retraining of the underlying deep-network. It
further outperforms the current state-of-the-art by simply using the same
number of exemplars as its counterparts. To evaluate our approach for
Open-World learning, we propose a new comprehensive protocol and evaluate its
performance in both Out-of-Label and Out-of-Distribution settings for each
incremental stage. We also demonstrate the adaptability of our approach by
showing how it can work as a plug-in with any of the recently proposed
self-supervised feature representation methods.
- Abstract(参考訳): 本論文は,オープンワールド学習の問題に対処しつつ,その基盤となる特徴表現を自己スーパービジョンを用いて学習することを提案する。
また,単発的学習,分散検出,オープンワールド学習の3つの個別研究次元を組み合わせた統一的なオープンワールドフレームワークを提案する。
オープンワールド設定において,教師付き特徴表現は限定的かつ退化的であり,教師なし特徴表現はこれらの3つの問題領域のそれぞれに固有のものである。
教師なし特徴表現では、システムトレーニングとシステムテストで使用されるデータに応じて、未知をラベル外空間または分散外検出として検出する問題を分類する。
パイプラインの漸進的な学習コンポーネントは、ImageNet-100プロトコルの最先端に対して相対的に動作し、基盤となるディープネットワークのバックプロパゲーションや再トレーニングは不要であるゼロのオンラインモデルである。
それは単に同等の例の同じ数を使用することによって現在の最先端の状態を更に上回ります。
オープンワールド学習に対する我々のアプローチを評価するため、我々は新しい包括的プロトコルを提案し、段階的な段階ごとにアウト・オブ・ラベルとアウト・オブ・ディストリビューションの両方でその性能を評価する。
また,最近提案された自己監督型特徴表現手法のいずれに対しても,プラグインとして機能することを示すことにより,アプローチの適応性を示す。
関連論文リスト
- Deepfake Detection via Joint Unsupervised Reconstruction and Supervised
Classification [25.84902508816679]
本稿では,再建作業と分類作業を同時に行うディープフェイク検出手法を提案する。
この方法は、あるタスクによって学習された情報を他のタスクと共有する。
提案手法は,一般的に使用されている3つのデータセットに対して,最先端の性能を実現する。
論文 参考訳(メタデータ) (2022-11-24T05:44:26Z) - Generalization Properties of Retrieval-based Models [50.35325326050263]
検索ベースの機械学習手法は、幅広い問題で成功をおさめた。
これらのモデルの約束を示す文献が増えているにもかかわらず、そのようなモデルの理論的基盤はいまだに解明されていない。
本稿では,その一般化能力を特徴付けるために,検索ベースモデルの形式的処理を行う。
論文 参考訳(メタデータ) (2022-10-06T00:33:01Z) - Adaptive Local-Component-aware Graph Convolutional Network for One-shot
Skeleton-based Action Recognition [54.23513799338309]
骨格に基づく行動認識のための適応的局所成分認識グラフ畳み込みネットワークを提案する。
我々の手法はグローバルな埋め込みよりも強力な表現を提供し、我々のモデルが最先端に到達するのに役立ちます。
論文 参考訳(メタデータ) (2022-09-21T02:33:07Z) - Modeling Multiple Views via Implicitly Preserving Global Consistency and
Local Complementarity [61.05259660910437]
複数の視点から表現を学習するために,グローバルな一貫性と相補性ネットワーク(CoCoNet)を提案する。
グローバルな段階では、重要な知識はビュー間で暗黙的に共有され、そのような知識を捕捉するためのエンコーダの強化は、学習された表現の識別性を向上させることができる。
最後に、局所的な段階において、横断的な識別的知識を結合する相補的要素を提案し、また、エンコーダが視点的識別性だけでなく、横断的な相補的情報も学習するように誘導する。
論文 参考訳(メタデータ) (2022-09-16T09:24:00Z) - PARTICUL: Part Identification with Confidence measure using Unsupervised
Learning [0.0]
PartICULは、きめ細かい認識に使われるデータセットから部分検出器を教師なしで学習するための新しいアルゴリズムである。
トレーニングセット内のすべての画像のマクロ類似性を利用して、事前訓練された畳み込みニューラルネットワークの特徴空間における繰り返しパターンをマイニングする。
我々の検出器は、その予測に対する信頼度を測りながら、物体の一部を一貫して強調することができることを示す。
論文 参考訳(メタデータ) (2022-06-27T13:44:49Z) - Towards Open-World Feature Extrapolation: An Inductive Graph Learning
Approach [62.774208717294805]
グラフ表現と学習を伴う新しい学習パラダイムを提案する。
本フレームワークは,1) 下位モデルとしてのバックボーンネットワーク(フィードフォワードニューラルネットなど)が,予測ラベルの入力および出力として機能を取り,2) 上位モデルとしてのグラフニューラルネットワークが,観測データから構築された特徴データグラフをメッセージパッシングすることで,新機能の埋め込みを外挿することを学ぶ。
論文 参考訳(メタデータ) (2021-10-09T09:02:45Z) - Crowdsourcing Learning as Domain Adaptation: A Case Study on Named
Entity Recognition [19.379850806513232]
この作業では、個々のアノテーションに関して、すべてのクラウドソースアノテーションをゴールドスタンダードとして扱う点が異なる。
クラウドソーシングはドメイン適応と非常によく似ており,近年のクロスドメイン手法の進歩は,クラウドソーシングにほぼ直接適用可能である。
本研究は,クラウドソーシングの非教師的および教師的双方の学習について検討し,小規模のエキスパートアノテーションが利用できないか,あるいは利用できないことを仮定する。
論文 参考訳(メタデータ) (2021-05-31T14:11:08Z) - Distribution Alignment: A Unified Framework for Long-tail Visual
Recognition [52.36728157779307]
長尾視覚認識のための分散アライメント戦略を提案する。
次に,二段階学習における一般化された再重み付け法を導入して,事前のクラスバランスをとる。
提案手法は, 4つの認識タスクすべてにおいて, 単純で統一されたフレームワークを用いて最先端の結果を得る。
論文 参考訳(メタデータ) (2021-03-30T14:09:53Z) - Exploiting Shared Representations for Personalized Federated Learning [54.65133770989836]
本稿では,クライアント間の共有データ表現と,クライアント毎のユニークなローカルヘッダを学習するための,新しいフェデレーション学習フレームワークとアルゴリズムを提案する。
提案アルゴリズムは, クライアント間の分散計算能力を利用して, 表現の更新毎に低次元の局所パラメータに対して, 多数の局所更新を行う。
この結果は、データ分布間の共有低次元表現を学習することを目的とした、幅広い種類の問題に対するフェデレーション学習以上の関心を持っている。
論文 参考訳(メタデータ) (2021-02-14T05:36:25Z) - Two-Level Adversarial Visual-Semantic Coupling for Generalized Zero-shot
Learning [21.89909688056478]
トレーニング中に推論ネットワークを用いて生成ネットワークを増強する2段階のジョイントアイデアを提案する。
これにより、ビジュアルドメインとセマンティックドメイン間の効果的な知識伝達のための強力な相互モーダル相互作用が提供される。
提案手法は,4つのベンチマークデータセットに対して,いくつかの最先端手法に対して評価し,その性能を示す。
論文 参考訳(メタデータ) (2020-07-15T15:34:09Z) - Semi-supervised Learning with a Teacher-student Network for Generalized
Attribute Prediction [7.462336024223667]
本稿では,視覚特性予測問題を解くための半教師付き学習について述べる。
提案手法は,ファッション属性予測のための様々なベンチマーク上での競合性能を実現する。
論文 参考訳(メタデータ) (2020-07-14T02:06:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。