論文の概要: Task Adaptive Feature Transformation for One-Shot Learning

• arxiv url: http://arxiv.org/abs/2304.06832v1
• Date: Thu, 13 Apr 2023 21:52:51 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-17 15:10:01.663176
• Title: Task Adaptive Feature Transformation for One-Shot Learning
• Title（参考訳）: 単発学習のためのタスク適応型特徴変換
• Authors: Imtiaz Masud Ziko, Freddy Lecue and Ismail Ben Ayed
• Abstract要約: 単発タスクのための固定された事前学習機能の上に微調整された単純な非線形埋め込み適応層を導入する。 様々なワンショットベンチマークに対して一貫した改善が見られ、最近の最先端の手法よりも優れています。
• 参考スコア（独自算出の注目度）: 21.20683465652298
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce a simple non-linear embedding adaptation layer, which is fine-tuned on top of fixed pre-trained features for one-shot tasks, improving significantly transductive entropy-based inference for low-shot regimes. Our norm-induced transformation could be understood as a re-parametrization of the feature space to disentangle the representations of different classes in a task specific manner. It focuses on the relevant feature dimensions while hindering the effects of non-relevant dimensions that may cause overfitting in a one-shot setting. We also provide an interpretation of our proposed feature transformation in the basic case of few-shot inference with K-means clustering. Furthermore, we give an interesting bound-optimization link between K-means and entropy minimization. This emphasizes why our feature transformation is useful in the context of entropy minimization. We report comprehensive experiments, which show consistent improvements over a variety of one-shot benchmarks, outperforming recent state-of-the-art methods.
• Abstract（参考訳）: 単発タスクのための固定トレーニング済み機能の上に細調整された単純な非線形埋め込み適応層を導入し、低ショットレシエーションに対するトランスダクティブエントロピーベースの推論を大幅に改善する。 我々のノルム誘起変換は、タスク固有の方法で異なるクラスの表現をアンタングルする特徴空間の再パラメータ化として理解することができる。 関連する機能次元に注目しながら、ワンショット設定でオーバーフィットを引き起こす可能性のある非関連次元の影響を妨げている。 また,k-meansクラスタリングを用いたマイトショット推論の基本ケースでは,提案する特徴変換の解釈を行う。 さらに、K平均とエントロピー最小化の間の興味深い境界最適化リンクを与える。 これは、エントロピーの最小化という文脈で機能変換が有用である理由を強調します。 我々は,様々な単発ベンチマークに対して一貫した改善を示す包括的な実験を報告し,最新の最新手法を上回っている。

関連論文リスト

• PseudoNeg-MAE: Self-Supervised Point Cloud Learning using Conditional Pseudo-Negative Embeddings [55.55445978692678]
  PseudoNeg-MAEは,ポイントマスク自動エンコーダのグローバルな特徴表現を強化する,自己教師型学習フレームワークである。 PseudoNeg-MAE は ModelNet40 と ScanObjectNN のデータセット上で最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2024-09-24T07:57:21Z)
• Enabling Tensor Decomposition for Time-Series Classification via A Simple Pseudo-Laplacian Contrast [26.28414569796961]
  本稿では, Pseudo Laplacian Contrast (PLC) テンソル分解フレームワークを提案する。 データ拡張とラプラシアンのクロスビューを統合し、クラス認識表現の抽出を可能にする。 様々なデータセットの実験は、我々のアプローチの有効性を実証している。
  論文  参考訳（メタデータ） (2024-09-23T16:48:13Z)
• Enhancing Robustness of Vision-Language Models through Orthogonality Learning and Self-Regularization [77.62516752323207]
  そこで本研究では,事前訓練した重みを効率よく微調整する直交微調整法を導入し,頑健さと一般化の強化を実現した。 自己正規化戦略は、OrthSRと呼ばれるVLMのゼロショット一般化の観点から安定性を維持するためにさらに活用される。 筆者らはCLIPとCoOpを再検討し,少数の画像のクラスフィシエーションシナリオにおけるモデルの改善を効果的に行う。
  論文  参考訳（メタデータ） (2024-07-11T10:35:53Z)
• Variable Substitution and Bilinear Programming for Aligning Partially Overlapping Point Sets [48.1015832267945]
  本研究では,RPMアルゴリズムの最小化目的関数を用いて要求を満たす手法を提案する。 分岐とバウンド(BnB)アルゴリズムが考案され、パラメータのみに分岐し、収束率を高める。 実験による評価は,非剛性変形,位置雑音,外れ値に対する提案手法の高剛性を示す。
  論文  参考訳（メタデータ） (2024-05-14T13:28:57Z)
• Fine-grained Retrieval Prompt Tuning [149.9071858259279]
  微粒な検索プロンプトチューニングは, サンプルプロンプトと特徴適応の観点から, きめの細かい検索タスクを実行するために, 凍結した事前学習モデルを操る。 学習可能なパラメータが少ないFRPTは、広く使われている3つの細粒度データセットの最先端性能を実現する。
  論文  参考訳（メタデータ） (2022-07-29T04:10:04Z)
• Deterministic Decoupling of Global Features and its Application to Data Analysis [0.0]
  部分多様体上の変換の定義に基づく新しい定式化を提案する。 これらの変換を通じて正規化を定義し、それを実証することで、微分可能な特徴を分離することができる。 本手法を,グローバルな記述子に基づく回帰・分類問題に対して,元のデータ領域とフィルタバンクの出力に適用する。
  論文  参考訳（メタデータ） (2022-07-05T15:54:39Z)
• Neural TMDlayer: Modeling Instantaneous flow of features via SDE Generators [37.92379202320938]
  本稿では, 微分方程式(SDE)に基づくアイデアが, コンピュータビジョンの一連の問題に対して, 既存のアルゴリズムに新たな修正をもたらすかを検討する。 ショットラーニング,ポイントクラウドトランスフォーマー,深部変分セグメンテーションなど,多数のビジョンタスクについて有望な実験を行った。
  論文  参考訳（メタデータ） (2021-08-19T19:54:04Z)
• Dynamic Feature Regularized Loss for Weakly Supervised Semantic Segmentation [37.43674181562307]
  動的に更新される浅度と深度の両方の機能を利用する新たな正規化損失を提案する。 提案手法は,新しい最先端性能を実現し,他の手法よりも6%以上のmIoU増加率で優れたマージンを達成している。
  論文  参考訳（メタデータ） (2021-08-03T05:11:00Z)
• Exploring Complementary Strengths of Invariant and Equivariant Representations for Few-Shot Learning [96.75889543560497]
  多くの現実世界では、多数のラベル付きサンプルの収集は不可能です。 少ないショット学習はこの問題に対処するための主要なアプローチであり、目的は限られた数のサンプルの存在下で新しいカテゴリに迅速に適応することです。 幾何学的変換の一般集合に対する等分散と不変性を同時に強制する新しい訓練機構を提案する。
  論文  参考訳（メタデータ） (2021-03-01T21:14:33Z)
• Invariant Integration in Deep Convolutional Feature Space [77.99182201815763]
  より深いニューラルネットワークアーキテクチャに事前知識を原則的に組み込む方法を示す。 本稿では,Rotated-MNISTデータセットの最先端性能について報告する。
  論文  参考訳（メタデータ） (2020-04-20T09:45:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。