論文の概要: Interventional Few-Shot Learning
- arxiv url: http://arxiv.org/abs/2009.13000v2
- Date: Fri, 4 Dec 2020 06:51:09 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-13 21:14:16.534406
- Title: Interventional Few-Shot Learning
- Title(参考訳): 介入的少数ショット学習
- Authors: Zhongqi Yue and Hanwang Zhang and Qianru Sun and Xian-Sheng Hua
- Abstract要約: 本稿では,新しいFew-Shot Learningパラダイム,Interventional Few-Shot Learningを提案する。
コードはhttps://github.com/yue-zhongqi/ifsl.comで公開されている。
- 参考スコア(独自算出の注目度): 88.31112565383457
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We uncover an ever-overlooked deficiency in the prevailing Few-Shot Learning
(FSL) methods: the pre-trained knowledge is indeed a confounder that limits the
performance. This finding is rooted from our causal assumption: a Structural
Causal Model (SCM) for the causalities among the pre-trained knowledge, sample
features, and labels. Thanks to it, we propose a novel FSL paradigm:
Interventional Few-Shot Learning (IFSL). Specifically, we develop three
effective IFSL algorithmic implementations based on the backdoor adjustment,
which is essentially a causal intervention towards the SCM of many-shot
learning: the upper-bound of FSL in a causal view. It is worth noting that the
contribution of IFSL is orthogonal to existing fine-tuning and meta-learning
based FSL methods, hence IFSL can improve all of them, achieving a new
1-/5-shot state-of-the-art on \textit{mini}ImageNet, \textit{tiered}ImageNet,
and cross-domain CUB. Code is released at https://github.com/yue-zhongqi/ifsl.
- Abstract(参考訳): 一般的なFew-Shot Learning(FSL)メソッドでは、見過ごされがちな欠陥が明らかになりました。
この発見は、事前学習された知識、サンプルの特徴、ラベルの因果関係に関する構造因果モデル(Structure Causal Model, SCM)という私たちの因果的仮定に根ざしている。
そこで我々は,新たなFSLパラダイムであるIFSL(Interventional Few-Shot Learning)を提案する。
具体的には、バックドア調整に基づく3つの効果的なIFSLアルゴリズムの実装を開発する。これは本質的に、多ショット学習のSCMに対する因果的介入である。
IFSLの貢献は、既存の微調整およびメタラーニングベースのFSLメソッドに直交しているため、IFSLは、新しい1/5ショットステート・オブ・ザ・アートを、 \textit{mini} ImageNet、 \textit{tiered} ImageNet、およびクロスドメインCUBで達成することで、そのすべてを改善することができる。
コードはhttps://github.com/yue-zhongqi/ifslでリリースされる。
関連論文リスト
- Towards Understanding Why FixMatch Generalizes Better Than Supervised Learning [97.1805039692731]
半教師付き学習(SSL)は、教師付き学習(SL)よりも大幅に一般化されている。
ディープニューラルネットワーク(DNN)に適用したFixMatchライクSSLで観測されたテスト精度向上のための最初の理論的正当性を示す。
分析フレームワークはFlexMatch、FreeMatch、Dash、SoftMatchといった他のFixMatchライクなSSLメソッドにも適用可能であることを示す。
論文 参考訳(メタデータ) (2024-10-15T02:47:57Z) - Erasing the Bias: Fine-Tuning Foundation Models for Semi-Supervised Learning [4.137391543972184]
半教師付き学習(SSL)は目覚ましい進歩をみせており、多くの方法のバリエーションをもたらしている。
本稿では,FinSSLという新しいSSLアプローチを提案する。
我々は、FineSSLが複数のベンチマークデータセットにSSLの新たな状態を設定し、トレーニングコストを6倍以上削減し、さまざまな微調整と現代的なSSLアルゴリズムをシームレスに統合できることを実証した。
論文 参考訳(メタデータ) (2024-05-20T03:33:12Z) - Instance-based Max-margin for Practical Few-shot Recognition [32.26577845735846]
IbM2は、数ショット学習のための新しいインスタンスベースのマックスマージン法である。
本稿では,IbM2がベースライン法に比べてほぼ常に改善されていることを示す。
論文 参考訳(メタデータ) (2023-05-27T04:55:13Z) - Constrained Few-Shot Learning: Human-Like Low Sample Complexity Learning
and Non-Episodic Text Classification [11.35732215154172]
ほとんどショット学習は、サンプルの複雑さの低い推論を学ぼうとする学習の創発的なパラダイムである。
認知理論に着想を得た新たなカテゴリー的コントラスト損失を用いたCFSL法を提案する。
論文 参考訳(メタデータ) (2022-08-17T06:05:41Z) - A Strong Baseline for Semi-Supervised Incremental Few-Shot Learning [54.617688468341704]
少ないショット学習は、限られたトレーニングサンプルを持つ新しいクラスに一般化するモデルを学ぶことを目的としている。
本研究では,(1)信頼できない擬似ラベルによる基本クラスと新クラスのあいまいさを緩和する高度に設計されたメタトレーニングアルゴリズム,(2)ラベルの少ないデータとラベルなしデータを用いて基礎知識を保ちながら,新クラスの識別的特徴を学習するモデル適応機構を提案する。
論文 参考訳(メタデータ) (2021-10-21T13:25:52Z) - End-to-end Generative Zero-shot Learning via Few-shot Learning [76.9964261884635]
ゼロショット学習(ZSL)の最先端アプローチでは、生成ネットをトレーニングし、提供されたメタデータに条件付きサンプルを合成する。
本稿では,このような手法をバックボーンとして使用し,合成した出力をFew-Shot Learningアルゴリズムに供給するエンドツーエンド生成ZSLフレームワークを提案する。
論文 参考訳(メタデータ) (2021-02-08T17:35:37Z) - TAFSSL: Task-Adaptive Feature Sub-Space Learning for few-shot
classification [50.358839666165764]
本稿では,タスク適応機能サブスペース学習(TAFSSL)により,Few-Shot Learningシナリオの性能を大幅に向上させることができることを示す。
具体的には、挑戦的な miniImageNet と tieredImageNet ベンチマークにおいて、TAFSSL はトランスダクティブおよび半教師付き FSL 設定の両方で現在の状態を改善することができることを示しています。
論文 参考訳(メタデータ) (2020-03-14T16:59:17Z) - AdarGCN: Adaptive Aggregation GCN for Few-Shot Learning [112.95742995816367]
FSFSLと呼ばれる新しい数発のスナップショット・ラーニング・セッティングを提案する。
FSFSLでは、ソースクラスとターゲットクラスの両方に限られたトレーニングサンプルがある。
また,無関係な画像を削除するためのグラフ畳み込みネットワーク (GCN) ベースのラベルデノイング (LDN) 手法を提案する。
論文 参考訳(メタデータ) (2020-02-28T10:34:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。