論文の概要: Class-Level Logit Perturbation

• arxiv url: http://arxiv.org/abs/2209.05668v1
• Date: Tue, 13 Sep 2022 00:49:32 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-14 12:24:29.483507
• Title: Class-Level Logit Perturbation
• Title（参考訳）: クラスレベルロジット摂動
• Authors: Mengyang Li (1), Fengguang Su (1), Ou Wu (1), Ji Zhang (2) ((1) National Center for Applied Mathematics, Tianjin University, (2) University of Southern Queensland)
• Abstract要約: 特徴摂動とラベル摂動は、様々なディープラーニングアプローチにおいて有用であることが証明されている。 シングルラベルとマルチラベルの両方の分類タスクに対して,摂動ロジットを明示的に学習するための新しい手法が提案されている。 logit上でしか摂動しないため、既存の分類アルゴリズムと融合するためのプラグインとして使用できる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Features, logits, and labels are the three primary data when a sample passes through a deep neural network. Feature perturbation and label perturbation receive increasing attention in recent years. They have been proven to be useful in various deep learning approaches. For example, (adversarial) feature perturbation can improve the robustness or even generalization capability of learned models. However, limited studies have explicitly explored for the perturbation of logit vectors. This work discusses several existing methods related to class-level logit perturbation. A unified viewpoint between positive/negative data augmentation and loss variations incurred by logit perturbation is established. A theoretical analysis is provided to illuminate why class-level logit perturbation is useful. Accordingly, new methodologies are proposed to explicitly learn to perturb logits for both single-label and multi-label classification tasks. Extensive experiments on benchmark image classification data sets and their long-tail versions indicated the competitive performance of our learning method. As it only perturbs on logit, it can be used as a plug-in to fuse with any existing classification algorithms. All the codes are available at https://github.com/limengyang1992/lpl.
• Abstract（参考訳）: 特徴、ロジット、ラベルは、サンプルがディープニューラルネットワークを通過する3つの主要なデータである。 近年,特徴摂動とラベル摂動が注目されている。 これらは様々なディープラーニングアプローチで有用であることが証明されている。 例えば、(逆)特徴摂動は学習モデルのロバスト性や一般化能力を改善することができる。 しかし、ロジットベクトルの摂動についての研究は限定的である。 本稿では,クラスレベルのロジット摂動に関連する既存手法について述べる。 対流摂動による正/負のデータ増大と損失変動の統一的な視点を確立する。 クラスレベルのロジット摂動が役に立つ理由を照らすために理論的解析が提供されている。 そこで, 単一ラベルと複数ラベルの分類タスクに対して, 摂動ロジットを明示的に学習するための新しい手法を提案する。 ベンチマーク画像分類データセットとそのロングテールバージョンに関する広範な実験は,学習手法の競争力を示した。 logit上でしか摂動しないため、既存の分類アルゴリズムと融合するためのプラグインとして使用できる。 すべてのコードはhttps://github.com/limengyang1992/lplで入手できる。

関連論文リスト

• Open-World Semi-Supervised Learning for Node Classification [53.07866559269709]
  ノード分類のためのオープンワールド半教師付き学習(Open World SSL)は、グラフコミュニティにおいて実用的だが未探索の課題である。 オープンワールド半教師付きノード分類のためのIM Balance-AwareメソッドOpenIMAを提案する。
  論文  参考訳（メタデータ） (2024-03-18T05:12:54Z)
• Adjusting Logit in Gaussian Form for Long-Tailed Visual Recognition [37.62659619941791]
  特徴レベルの観点から、長い尾の視覚認識の問題について検討する。 2つの新しいロジット調整法が提案され,計算オーバーヘッドの緩やかなモデル性能が向上した。 ベンチマークデータセットを用いて行った実験は,提案手法の最先端手法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-05-18T02:06:06Z)
• Informative regularization for a multi-layer perceptron RR Lyrae classifier under data shift [3.303002683812084]
  本稿では,情報正規化とアドホックなトレーニング手法に基づくスケーラブルで容易に適応可能なアプローチを提案し,シフト問題を緩和する。 提案手法は,特徴量からの知識をニューラルネットワークに組み込むことで,基礎となるデータシフト問題を管理する。
  論文  参考訳（メタデータ） (2023-03-12T02:49:19Z)
• Intra-class Adaptive Augmentation with Neighbor Correction for Deep Metric Learning [99.14132861655223]
  深層学習のためのクラス内適応拡張(IAA)フレームワークを提案する。 クラスごとのクラス内変動を合理的に推定し, 適応型合成試料を生成し, 硬質試料の採掘を支援する。 本手法は,検索性能の最先端手法を3%～6%向上させる。
  論文  参考訳（メタデータ） (2022-11-29T14:52:38Z)
• Exploring Category-correlated Feature for Few-shot Image Classification [27.13708881431794]
  本稿では,従来の知識として,新しいクラスとベースクラスのカテゴリ相関を探索し,シンプルで効果的な特徴補正手法を提案する。 提案手法は, 広く使用されている3つのベンチマークにおいて, 一定の性能向上が得られる。
  論文  参考訳（メタデータ） (2021-12-14T08:25:24Z)
• Prototypical Classifier for Robust Class-Imbalanced Learning [64.96088324684683]
  埋め込みネットワークに付加的なパラメータを必要としないtextitPrototypealを提案する。 プロトタイプは、訓練セットがクラス不均衡であるにもかかわらず、すべてのクラスに対してバランスと同等の予測を生成する。 我々は, CIFAR-10LT, CIFAR-100LT, Webvision のデータセットを用いて, プロトタイプが芸術の状況と比較した場合, サブスタンスの改善が得られることを検証した。
  論文  参考訳（メタデータ） (2021-10-22T01:55:01Z)
• Robust Long-Tailed Learning under Label Noise [50.00837134041317]
  本研究では,長期ラベル分布におけるラベルノイズ問題について検討する。 本稿では,長期学習のための雑音検出を実現する頑健なフレームワークAlgoを提案する。 我々のフレームワークは、半教師付き学習アルゴリズムを自然に活用して一般化をさらに改善することができる。
  論文  参考訳（メタデータ） (2021-08-26T03:45:00Z)
• Theoretical Insights Into Multiclass Classification: A High-dimensional Asymptotic View [82.80085730891126]
  線形多クラス分類の最初の現代的精度解析を行う。 分析の結果,分類精度は分布に依存していることがわかった。 得られた洞察は、他の分類アルゴリズムの正確な理解の道を開くかもしれない。
  論文  参考訳（メタデータ） (2020-11-16T05:17:29Z)
• Learning with Out-of-Distribution Data for Audio Classification [60.48251022280506]
  我々は,OODインスタンスを破棄するよりも,特定のOODインスタンスを検出・復号化することで,学習に肯定的な影響を及ぼすことを示す。 提案手法は,畳み込みニューラルネットワークの性能を著しく向上させる。
  論文  参考訳（メタデータ） (2020-02-11T21:08:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。