論文の概要: Towards the Semantic Weak Generalization Problem in Generative Zero-Shot
Learning: Ante-hoc and Post-hoc
- arxiv url: http://arxiv.org/abs/2204.11280v1
- Date: Sun, 24 Apr 2022 13:54:42 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-26 12:59:13.322506
- Title: Towards the Semantic Weak Generalization Problem in Generative Zero-Shot
Learning: Ante-hoc and Post-hoc
- Title(参考訳): 生成ゼロショット学習における意味弱化問題:アンテホックとポストホック
- Authors: Dubing Chen, Yuming Shen, Haofeng Zhang, Philip H.S. Torr
- Abstract要約: 生成ゼロショット学習(ZSL)の性能上限を制限した未探索要素を簡易かつ効果的に削減する戦略を提案する。
まず、意味的一般化を正式に定義し、その後、意味的弱一般化問題を減らそうとするアプローチを検討する。
アンテホック相では、ジェネレータのセマンティック入力を増強し、ジェネレータの適合ターゲットを緩和する。
- 参考スコア(独自算出の注目度): 89.68803484284408
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we present a simple and effective strategy lowering the
previously unexplored factors that limit the performance ceiling of generative
Zero-Shot Learning (ZSL). We begin by formally defining semantic
generalization, then look into approaches for reducing the semantic weak
generalization problem and minimizing its negative influence on classifier
training. In the ante-hoc phase, we augment the generator's semantic input, as
well as relax the fitting target of the generator. In the post-hoc phase (after
generating simulated unseen samples), we derive from the gradient of the loss
function to minimize the gradient increment on seen classifier weights carried
by biased unseen distribution, which tends to cause misleading on intra-seen
class decision boundaries. Without complicated designs, our approach hit the
essential problem and significantly outperform the state-of-the-art on four
widely used ZSL datasets.
- Abstract(参考訳): 本稿では, 生成型ゼロショット学習(zsl)の性能天井を制限する, 従来未検討の因子を, 単純かつ効果的な戦略を提案する。
まず、意味的一般化を正式に定義し、その後、意味的弱一般化問題を減らし、分類器訓練における負の影響を最小化するためのアプローチを検討する。
ante-hocフェーズでは、ジェネレータのセマンティクス入力を増強するとともに、ジェネレータの適合ターゲットを緩和する。
模擬未確認サンプルの生成後) では, 偏差した未確認分布によって担持される分類器重みの勾配増加を最小化するため, 損失関数の勾配から導出する。
複雑な設計がなければ、我々のアプローチは重要な問題にぶつかり、広く使われている4つのZSLデータセットの最先端を著しく上回ります。
関連論文リスト
- Semi-Supervised Laplace Learning on Stiefel Manifolds [48.3427853588646]
グラフベースで教師付きサンプルを低ラベルレートで作成するためのフレームワークSequential Subspaceを開発した。
我々の手法は極めて低いレートで、高いラベルレートで達成できる。
論文 参考訳(メタデータ) (2023-07-31T20:19:36Z) - Explicit Regularization in Overparametrized Models via Noise Injection [14.492434617004932]
簡単な有限次元モデルに対して、小さな摂動が明示的な正則化をもたらすことを示す。
実験により,小摂動がバニラ勾配降下訓練よりも一般化性能の向上につながることが示された。
論文 参考訳(メタデータ) (2022-06-09T17:00:23Z) - Robust Unsupervised Learning via L-Statistic Minimization [38.49191945141759]
教師なし学習に焦点をあて、この問題に対する一般的なアプローチを提示する。
重要な仮定は、摂動分布は、許容モデルの特定のクラスに対するより大きな損失によって特徴付けられることである。
教師なし学習におけるいくつかのポピュラーモデルに対する提案基準に関して,一様収束境界を証明した。
論文 参考訳(メタデータ) (2020-12-14T10:36:06Z) - A Simple but Tough-to-Beat Data Augmentation Approach for Natural
Language Understanding and Generation [53.8171136907856]
カットオフと呼ばれる、シンプルで効果的なデータ拡張戦略のセットを紹介します。
カットオフはサンプリング一貫性に依存しているため、計算オーバーヘッドが少なくなる。
cutoffは、敵のトレーニングを一貫して上回り、IWSLT2014 German- English データセットで最先端の結果を達成する。
論文 参考訳(メタデータ) (2020-09-29T07:08:35Z) - Generalized Zero-Shot Learning via VAE-Conditioned Generative Flow [83.27681781274406]
一般化されたゼロショット学習は、意味的記述から視覚的表現へ知識を移すことによって、目に見えないクラスと見えないクラスの両方を認識することを目的としている。
近年のGZSLはデータ不足問題として定式化されており、主にGANやVAEを採用して、目に見えないクラスの視覚的特徴を生成する。
GZSLのための条件付き生成フロー,すなわちVAE-Conditioned Generative Flow (VAE-cFlow)を提案する。
論文 参考訳(メタデータ) (2020-09-01T09:12:31Z) - Unbiased Risk Estimators Can Mislead: A Case Study of Learning with
Complementary Labels [92.98756432746482]
我々は,補完ラベルを用いた学習という,弱教師付き問題を研究する。
勾配推定の品質はリスク最小化においてより重要であることを示す。
本稿では,ゼロバイアスと分散の低減を両立させる新しい補助的相補的損失(SCL)フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-05T04:19:37Z) - Adversarial Classification via Distributional Robustness with
Wasserstein Ambiguity [12.576828231302134]
ワッサーシュタインの曖昧さの下では、モデルは誤分類のリスクを最小限にすることを目的としている。
この分類の非整合性にもかかわらず、標準降下法はこの問題に対して収束しているように見える。
論文 参考訳(メタデータ) (2020-05-28T07:28:47Z) - Approximation Schemes for ReLU Regression [80.33702497406632]
我々はReLU回帰の根本的な問題を考察する。
目的は、未知の分布から引き出された2乗損失に対して、最も適したReLUを出力することである。
論文 参考訳(メタデータ) (2020-05-26T16:26:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。