論文の概要: Attentional meta-learners are polythetic classifiers

• arxiv url: http://arxiv.org/abs/2106.05317v1
• Date: Wed, 9 Jun 2021 18:11:54 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-11 14:17:45.850696
• Title: Attentional meta-learners are polythetic classifiers
• Title（参考訳）: 注意メタリアナーは多義的分類器である
• Authors: Ben Day, Ramon Vi\~nas, Nikola Simidjievski, Pietro Li\`o
• Abstract要約: 閾値メタラーナーは,これらの関数をエミュレートするために,特徴数の指数関数的な埋め込み次元を必要とすることを示す。 非識別的特徴を適応的に希釈する自己認識的特徴選択機構を提案する。
• 参考スコア（独自算出の注目度）: 5.543867614999908
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Polythetic classifications, based on shared patterns of features that need neither be universal nor constant among members of a class, are common in the natural world and greatly outnumber monothetic classifications over a set of features. We show that threshold meta-learners require an embedding dimension that is exponential in the number of features to emulate these functions. In contrast, attentional classifiers are polythetic by default and able to solve these problems with a linear embedding dimension. However, we find that in the presence of task-irrelevant features, inherent to meta-learning problems, attentional models are susceptible to misclassification. To address this challenge, we further propose a self-attention feature-selection mechanism that adaptively dilutes non-discriminative features. We demonstrate the effectiveness of our approach in meta-learning Boolean functions, and synthetic and real-world few-shot learning tasks.
• Abstract（参考訳）: クラスのメンバー間で普遍的でも定数的でもない特徴の共有パターンに基づく多義的分類は、自然界では一般的であり、一連の特徴に対する単義的分類を大幅に上回っている。 しきい値メタリーナーは、これらの関数をエミュレートする特徴の数に指数関数的な埋め込み次元を必要とする。 対照的に、注意分類器はデフォルトでは多義的であり、線形埋め込み次元でこれらの問題を解くことができる。 しかし,メタ学習問題に固有のタスク無関係な特徴の存在下では,注意モデルが誤分類の影響を受けやすいことが判明した。 この課題に対処するために,非識別的特徴を適応的に希釈する自己意図的特徴選択機構を提案する。 ブール関数のメタ学習における我々のアプローチの有効性と,合成および実世界の数ショット学習タスクの有効性を実証する。

関連論文リスト

• Class-specific feature selection for classification explainability [0.0]
  この研究はまず、特徴の選択と分類に焦点をあてて、クラス固有の概念の包括的なレビューを紹介する。 クラス固有の概念の基本的な考え方は、各特徴の重要性があるクラスから別のクラスに変化するという理解にある。 このクラス固有の観点は、各クラス固有の特徴を認識し、活用することによって、分類タスクに対するより効果的なアプローチを提供する。
  論文  参考訳（メタデータ） (2024-11-02T10:31:55Z)
• Impossibility of Characterizing Distribution Learning -- a simple solution to a long-standing problem [11.39656079889941]
  分散クラス学習の複雑さを特徴付ける次元の概念は存在しないことを示す。 特に,どのタスクにも次元(あるいは学習可能性の特性)を特徴づける概念は存在しないことを示す。
  論文  参考訳（メタデータ） (2023-04-18T03:23:39Z)
• Reconnoitering the class distinguishing abilities of the features, to know them better [6.026640792312181]
  説明可能性により、エンドユーザは、機械学習スキームの能力とユーティリティを透過的かつ人間的に参照することができる。 本稿では,これらの特徴をクラスやカテゴリ識別機能に基づいて説明する。 いくつかの実世界のマルチクラスデータセットで実証的に提案手法が与える説明可能性を検証する。
  論文  参考訳（メタデータ） (2022-11-23T08:39:41Z)
• Equivariance with Learned Canonicalization Functions [77.32483958400282]
  正規化を行うために小さなニューラルネットワークを学習することは、事前定義を使用することよりも優れていることを示す。 実験の結果,正準化関数の学習は多くのタスクで同変関数を学習する既存の手法と競合することがわかった。
  論文  参考訳（メタデータ） (2022-11-11T21:58:15Z)
• Learning Debiased and Disentangled Representations for Semantic Segmentation [52.35766945827972]
  セマンティックセグメンテーションのためのモデルに依存しない訓練手法を提案する。 各トレーニングイテレーションで特定のクラス情報をランダムに除去することにより、クラス間の機能依存を効果的に削減する。 提案手法で訓練したモデルは,複数のセマンティックセグメンテーションベンチマークにおいて強い結果を示す。
  論文  参考訳（メタデータ） (2021-10-31T16:15:09Z)
• Meta-learning Amidst Heterogeneity and Ambiguity [11.061517140668961]
  我々は異質性・曖昧性(MAHA)の中でメタラーニングと呼ばれる新しいメタラーニングフレームワークを考案する。 回帰と分類のいくつかの実験を広範囲に実施することにより、モデルの有効性を実証する。
  論文  参考訳（メタデータ） (2021-07-05T18:54:31Z)
• Intersection Regularization for Extracting Semantic Attributes [72.53481390411173]
  本稿では,ネットワーク抽出した特徴が意味属性のセットと一致するように,教師付き分類の問題を考える。 例えば、鳥類のイメージを種に分類することを学ぶとき、動物学者が鳥類を分類するために使用する特徴の出現を観察したい。 本稿では,複数層パーセプトロン(MLP)と並列決定木を併用した,離散的なトップレベルアクティベーションを持つニューラルネットワークのトレーニングを提案する。
  論文  参考訳（メタデータ） (2021-03-22T14:32:44Z)
• Learning Abstract Task Representations [0.6690874707758511]
  深層ニューラルネットワークにおける潜伏変数としての新しい抽象メタ特徴を誘導する手法を提案する。 深層ニューラルネットワークを特徴抽出器として用いた手法を実証する。
  論文  参考訳（メタデータ） (2021-01-19T20:31:02Z)
• A Trainable Optimal Transport Embedding for Feature Aggregation and its Relationship to Attention [96.77554122595578]
  固定サイズのパラメータ化表現を導入し、与えられた入力セットから、そのセットとトレーニング可能な参照の間の最適な輸送計画に従って要素を埋め込み、集約する。 我々のアプローチは大規模なデータセットにスケールし、参照のエンドツーエンドのトレーニングを可能にすると同時に、計算コストの少ない単純な教師なし学習メカニズムも提供する。
  論文  参考訳（メタデータ） (2020-06-22T08:35:58Z)
• Towards Efficient Processing and Learning with Spikes: New Approaches for Multi-Spike Learning [59.249322621035056]
  各種タスクにおける他のベースラインよりも優れた性能を示すための2つの新しいマルチスパイク学習ルールを提案する。 特徴検出タスクでは、教師なしSTDPの能力と、その制限を提示する能力を再検討する。 提案した学習ルールは,特定の制約を適用せずに,幅広い条件で確実にタスクを解くことができる。
  論文  参考訳（メタデータ） (2020-05-02T06:41:20Z)
• Learning Class Regularized Features for Action Recognition [68.90994813947405]
  本稿では,階層活性化のクラスベース正規化を行うクラス正規化手法を提案する。 動作認識に最先端CNNアーキテクチャのクラス正規化ブロックを用いることで,Kineetics,UCF-101,HMDB-51データセットにおいて,それぞれ1.8%,1.2%,1.4%の体系的改善が得られた。
  論文  参考訳（メタデータ） (2020-02-07T07:27:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。