論文の概要: Revisiting Few-Shot Learning from a Causal Perspective
- arxiv url: http://arxiv.org/abs/2209.13816v1
- Date: Wed, 28 Sep 2022 03:46:02 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-29 16:01:16.980908
- Title: Revisiting Few-Shot Learning from a Causal Perspective
- Title(参考訳): 因果的観点からの少数学習の再検討
- Authors: Guoliang Lin, Hanjiang Lai
- Abstract要約: NウェイKショットスキームによるショット学習は、機械学習におけるオープンな課題である。
既存のアプローチは,正面調整の特定の形態と見なせることを示す。
本稿では,事例間の関係だけでなく,表現の多様性も考慮した,少数ショット学習のための一般的な因果的手法を提案する。
- 参考スコア(独自算出の注目度): 6.3130105746878264
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Few-shot learning with N-way K-shot scheme is an open challenge in machine
learning. Many approaches have been proposed to tackle this problem, e.g., the
Matching Networks and CLIP-Adapter. Despite that these approaches have shown
significant progress, the mechanism of why these methods succeed has not been
well explored. In this paper, we interpret these few-shot learning methods via
causal mechanism. We show that the existing approaches can be viewed as
specific forms of front-door adjustment, which is to remove the effects of
confounders. Based on this, we introduce a general causal method for few-shot
learning, which considers not only the relationship between examples but also
the diversity of representations. Experimental results demonstrate the
superiority of our proposed method in few-shot classification on various
benchmark datasets. Code is available in the supplementary material.
- Abstract(参考訳): NウェイKショットスキームによるショット学習は、機械学習におけるオープンな課題である。
この問題に対処するためには、Matching NetworksやCLIP-Adapterなど、多くのアプローチが提案されている。
これらのアプローチが著しく進歩しているにもかかわらず、これらの方法が成功した理由のメカニズムは十分に検討されていない。
本稿では,これらの小ショット学習手法を因果メカニズムを用いて解釈する。
既存のアプローチは、共同設立者の影響を取り除くための、特定の形態のドア調整として見ることができることを示す。
そこで本研究では,実例間の関係だけでなく,表現の多様性も考慮し,単発学習のための汎用因果法を提案する。
評価実験により,提案手法が,ベンチマークデータセット上でのマイトショット分類において優れていることを示した。
コードは補足資料で入手できる。
関連論文リスト
- CUCL: Codebook for Unsupervised Continual Learning [129.91731617718781]
本研究は,教師なし連続学習(UCL)の代替として,教師なし連続学習(UCL)に焦点を当てている。
本稿では,教師なし連続学習のためのCodebook for Unsupervised Continual Learning (CUCL) という手法を提案する。
本手法は教師なしおよび教師なしの手法の性能を大幅に向上させる。
論文 参考訳(メタデータ) (2023-11-25T03:08:50Z) - Active Learning Principles for In-Context Learning with Large Language
Models [65.09970281795769]
本稿では,アクティブ・ラーニング・アルゴリズムが,文脈内学習における効果的な実演選択手法としてどのように機能するかを検討する。
ALによる文脈内サンプル選択は,不確実性の低い高品質な事例を優先し,試験例と類似性を有することを示す。
論文 参考訳(メタデータ) (2023-05-23T17:16:04Z) - Causal Interventions-based Few-Shot Named Entity Recognition [5.961427870758681]
名前付きエンティティ認識(NER)システムは、いくつかのラベル付きサンプルに基づいて新しいエンティティのクラスを認識することを目的としている。
少数ショット学習における過度なオーバーフィッティングは主に、少数のサンプル選択バイアスによって引き起こされる刺激的な相関によって導かれる。
本稿では,因果的介入に基づく複数ショットNER法を提案する。
論文 参考訳(メタデータ) (2023-05-03T06:11:39Z) - Challenges in leveraging GANs for few-shot data augmentation [16.679224813570734]
本稿では,GANをベースとした小ショットデータ拡張を,小ショット分類性能を向上させる手法として活用することを検討する。
我々は、純粋に監督された体制の下で、このような生成モデルを訓練することの難しさに関連する問題を特定する。
これらの問題に対処するための,より実践的な方法として,半教師付き微調整手法を提案する。
論文 参考訳(メタデータ) (2022-03-30T20:36:49Z) - Towards A Conceptually Simple Defensive Approach for Few-shot
classifiers Against Adversarial Support Samples [107.38834819682315]
本研究は,数発の分類器を敵攻撃から守るための概念的簡便なアプローチについて検討する。
本稿では,自己相似性とフィルタリングの概念を用いた簡易な攻撃非依存検出法を提案する。
ミニイメージネット(MI)とCUBデータセットの攻撃検出性能は良好である。
論文 参考訳(メタデータ) (2021-10-24T05:46:03Z) - An Investigation of Replay-based Approaches for Continual Learning [79.0660895390689]
連続学習(CL)は機械学習(ML)の大きな課題であり、破滅的忘れ(CF)を伴わずに連続的に複数のタスクを学習する能力を記述する。
いくつかの解クラスが提案されており、その単純さと堅牢性から、いわゆるリプレイベースのアプローチは非常に有望であるように思われる。
連続学習におけるリプレイに基づくアプローチを実証的に検討し,応用の可能性を評価する。
論文 参考訳(メタデータ) (2021-08-15T15:05:02Z) - Few-shot Action Recognition with Prototype-centered Attentive Learning [88.10852114988829]
2つの新しい構成要素からなるプロトタイプ中心型注意学習(pal)モデル。
まず,従来のクエリ中心学習目標を補完するために,プロトタイプ中心のコントラスト学習損失を導入する。
第二に、PALは注意深いハイブリッド学習機構を統合しており、アウトレーヤの負の影響を最小限に抑えることができる。
論文 参考訳(メタデータ) (2021-01-20T11:48:12Z) - Simultaneous Perturbation Stochastic Approximation for Few-Shot Learning [0.5801044612920815]
本稿では, プロトタイプ型ネットワーク手法に基づく, プロトタイプライクな少数ショット学習手法を提案する。
ベンチマークデータセットを用いた実験の結果,提案手法は元のネットワークよりも優れていることが示された。
論文 参考訳(メタデータ) (2020-06-09T09:47:58Z) - Learning the Truth From Only One Side of the Story [58.65439277460011]
一般化線形モデルに焦点をあて、このサンプリングバイアスを調整しなければ、モデルは準最適に収束するか、あるいは最適解に収束しないかもしれないことを示す。
理論的保証を伴って適応的なアプローチを提案し、いくつかの既存手法を実証的に上回っていることを示す。
論文 参考訳(メタデータ) (2020-06-08T18:20:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。