論文の概要: Canonical Mean Filter for Almost Zero-Shot Multi-Task classification
- arxiv url: http://arxiv.org/abs/2204.03815v1
- Date: Fri, 8 Apr 2022 02:28:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-11 19:13:44.521608
- Title: Canonical Mean Filter for Almost Zero-Shot Multi-Task classification
- Title（参考訳）: ほぼゼロショットマルチタスク分類のための標準平均フィルタ
- Authors: Yong Li and Heng Wang and Xiang Ye
- Abstract要約: カノニカル平均フィルタ(CMF)モジュールは,特徴空間における平均埋め込みを集中的に安定にするために提案される。
CMF は CNAP をランダム行列であっても任意の固定支持集合に対して堅牢にする。
CMFは、内部タスクの不安定なパフォーマンス問題に対処するため、ワンショットタスクでCNAPより優れている。
- 参考スコア（独自算出の注目度）: 10.101708609769522
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The support set is a key to providing conditional prior for fast adaption of
the model in few-shot tasks. But the strict form of support set makes its
construction actually difficult in practical application. Motivated by ANIL, we
rethink the role of adaption in the feature extractor of CNAPs, which is a
state-of-the-art representative few-shot method. To investigate the role,
Almost Zero-Shot (AZS) task is designed by fixing the support set to replace
the common scheme, which provides corresponding support sets for the different
conditional prior of different tasks. The AZS experiment results infer that the
adaptation works little in the feature extractor. However, CNAPs cannot be
robust to randomly selected support sets and perform poorly on some datasets of
Meta-Dataset because of its scattered mean embeddings responded by the simple
mean operator. To enhance the robustness of CNAPs, Canonical Mean Filter (CMF)
module is proposed to make the mean embeddings intensive and stable in feature
space by mapping the support sets into a canonical form. CMFs make CNAPs robust
to any fixed support sets even if they are random matrices. This attribution
makes CNAPs be able to remove the mean encoder and the parameter adaptation
network at the test stage, while CNAP-CMF on AZS tasks keeps the performance
with one-shot tasks. It leads to a big parameter reduction. Precisely, 40.48\%
parameters are dropped at the test stage. Also, CNAP-CMF outperforms CNAPs in
one-shot tasks because it addresses inner-task unstable performance problems.
Classification performance, visualized and clustering results verify that CMFs
make CNAPs better and simpler.
- Abstract（参考訳）: サポートセットは、数ショットのタスクでモデルの迅速な適応のための条件付き事前を提供するためのキーです。
しかし、厳格なサポートセットは実際にその構築を実践的に困難にしている。
本稿では,CNAPsの特徴抽出における適応の役割を再考する。
この役割を解明するために、AZSタスクは、異なるタスクの前に異なる条件付きのサポートセットを提供する共通スキームを置き換えるためにサポートセットを固定することで設計される。
AZS実験の結果、特徴抽出器では適応がほとんど機能しないことが示された。
しかし、cnapsはランダムに選択されたサポートセットに対して頑健であり、単純な平均演算子が応答する散在平均埋め込みのため、メタデータセットのいくつかのデータセットではうまく動作しない。
CNAPのロバスト性を高めるために,Canonical Mean Filter (CMF)モジュールを提案し,サポートセットを標準形式にマッピングすることにより,特徴空間に平均埋め込みを集中的に安定させる。
CMFは、CNAPをランダム行列であっても任意の固定支持集合に対して堅牢にする。
この属性により、CNAPはテスト段階での平均エンコーダとパラメータ適応ネットワークを除去できる一方、AZSタスク上のCNAP-CMFは1ショットタスクでパフォーマンスを維持することができる。
これは大きなパラメータの削減につながる。
正確には、テスト段階で40.48\%のパラメータをドロップする。
また、CNAP-CMFは、内部タスクの不安定なパフォーマンス問題に対処するため、ワンショットタスクにおいてCNAPよりも優れている。
分類性能、可視化およびクラスタリングの結果、CMFがCNAPをよりシンプルにすることを確認した。
関連論文リスト
- CHASE: Learning Convex Hull Adaptive Shift for Skeleton-based Multi-Entity Action Recognition [10.045163723630159]
CHASEはサンプル適応正規化法として機能し、濃度間分布の相違を緩和する。
このアプローチはシングルエンタリティのバックボーンにシームレスに適応し、マルチエンタリティシナリオにおけるパフォーマンスを向上します。
論文 参考訳（メタデータ） (2024-10-09T17:55:43Z) - Bridge the Points: Graph-based Few-shot Segment Anything Semantically [79.1519244940518]
プレトレーニング技術の最近の進歩により、視覚基礎モデルの能力が向上した。
最近の研究はSAMをFew-shot Semantic segmentation (FSS)に拡張している。
本稿では,グラフ解析に基づく簡易かつ効果的な手法を提案する。
論文 参考訳（メタデータ） (2024-10-09T15:02:28Z) - CapS-Adapter: Caption-based MultiModal Adapter in Zero-Shot Classification [3.594351309950969]
CapS-Adapterは、イメージとキャプションの両方の機能を活用して、トレーニング不要シナリオにおける既存の最先端技術を超える革新的な方法である。
提案手法は,19個のベンチマークデータセットのゼロショット分類結果に優れており,従来の先行手法よりも2.19%精度が向上している。
論文 参考訳（メタデータ） (2024-05-26T14:50:40Z) - Spurious Feature Eraser: Stabilizing Test-Time Adaptation for Vision-Language Foundation Model [86.9619638550683]
視覚言語基礎モデルは、画像とテキストのペアデータに拡張性があるため、多数の下流タスクで顕著な成功を収めている。
しかし、これらのモデルは、決定ショートカットの結果、きめ細かな画像分類などの下流タスクに適用した場合に重大な制限を呈する」。
論文 参考訳（メタデータ） (2024-03-01T09:01:53Z) - Adaptive FSS: A Novel Few-Shot Segmentation Framework via Prototype
Enhancement [6.197356908000006]
Few-Shot (FSS) は、いくつかの注釈付き画像を用いて、新しいクラスセグメンテーションタスクを達成することを目的としている。
本稿では,既存のFSSモデルを新しいクラスに効率的に適応できるアダプタ機構,すなわちAdaptive FSSに基づく新しいフレームワークを提案する。
我々のアプローチは、エンコーダの層間にPAMを挿入するだけで、異なるバックボーンを持つ多様なFSSメソッドと互換性がある。
論文 参考訳（メタデータ） (2023-12-25T14:03:38Z) - Task-Distributionally Robust Data-Free Meta-Learning [99.56612787882334]
Data-Free Meta-Learning (DFML)は、複数の事前学習モデルを活用することで、独自のトレーニングデータを必要とせずに、新しいタスクを効率的に学習することを目的としている。
TDS(Task-Distribution Shift)とTDC(Task-Distribution Corruption)の2つの大きな課題を初めて明らかにした。
論文 参考訳（メタデータ） (2023-11-23T15:46:54Z) - Towards Robust Few-shot Point Cloud Semantic Segmentation [57.075074484313]
ショットポイントのクラウドセマンティックセグメンテーションは、少数のサポートセットのサンプルだけで、新しい見えないクラスに迅速に適応するようにモデルをトレーニングすることを目的としている。
本稿では,識別的特徴表現を学習するためのコンポーネントレベルクリーンノイズ分離(CCNS)表現学習を提案する。
また,MDNS(Multi-scale Degree-based Noise Suppression)方式を提案する。
論文 参考訳（メタデータ） (2023-09-20T11:40:10Z) - Few-shot Semantic Segmentation with Support-induced Graph Convolutional
Network [28.46908214462594]
Few-shot semantic segmentation (FSS) は、いくつかの注釈付きサンプルで新しいオブジェクトのセグメンテーションを実現することを目的としている。
本稿では,クエリ画像中の遅延コンテキスト構造を明示的に抽出するために,Support-induced Graph Convolutional Network (SiGCN)を提案する。
論文 参考訳（メタデータ） (2023-01-09T08:00:01Z) - Dynamic Prototype Convolution Network for Few-Shot Semantic Segmentation [33.93192093090601]
少数ショットセマンティックセグメンテーション(FSS)の鍵となる課題は、サポートとクエリ機能間の望ましいインタラクションをどのように調整するかである。
そこで本研究では,FSSの精度を高めるために,本発明のプロトタイプコンボリューションネットワーク(DPCN)を提案する。
当社のDPCNは、kショットFSS設定下でも柔軟で効率的です。
論文 参考訳（メタデータ） (2022-04-22T11:12:37Z) - Task Adaptive Parameter Sharing for Multi-Task Learning [114.80350786535952]
Adaptive Task Adapting Sharing(TAPS)は、階層の小さなタスク固有のサブセットを適応的に修正することで、ベースモデルを新しいタスクにチューニングする手法である。
他の手法と比較して、TAPSはダウンストリームタスクに対して高い精度を維持し、タスク固有のパラメータは少ない。
我々は,タスクやアーキテクチャ(ResNet,DenseNet,ViT)を微調整して評価し,実装が簡単でありながら最先端の性能を実現することを示す。
論文 参考訳（メタデータ） (2022-03-30T23:16:07Z) - Prior Guided Feature Enrichment Network for Few-Shot Segmentation [64.91560451900125]
最先端のセマンティックセグメンテーション手法は、良い結果を得るために十分なラベル付きデータを必要とする。
少数のラベル付きサポートサンプルを持つ新しいクラスに迅速に適応するモデルを学習することで,この問題に対処するためのショットセグメンテーションが提案されている。
これらのフレームワークは、高レベルのセマンティック情報の不適切な使用により、目に見えないクラスにおける一般化能力の低下という課題に直面している。
論文 参考訳（メタデータ） (2020-08-04T10:41:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。