論文の概要: Asymmetric Polynomial Loss For Multi-Label Classification

• arxiv url: http://arxiv.org/abs/2304.05361v1
• Date: Mon, 10 Apr 2023 14:35:47 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-12 13:57:33.280388
• Title: Asymmetric Polynomial Loss For Multi-Label Classification
• Title（参考訳）: 多段分類における非対称多項式損失
• Authors: Yusheng Huang, Jiexing Qi, Xinbing Wang, Zhouhan Lin
• Abstract要約: 上記の問題を緩和する有効な非対称多項式損失(APL)を提案する。 非対称集束機構を用いて, 負試料および正試料からの勾配寄与を補正する。 実験の結果、APLの損失はトレーニングの余分な負担を伴わずに、継続的にパフォーマンスを向上できることがわかった。
• 参考スコア（独自算出の注目度）: 24.67744795531103
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Various tasks are reformulated as multi-label classification problems, in which the binary cross-entropy (BCE) loss is frequently utilized for optimizing well-designed models. However, the vanilla BCE loss cannot be tailored for diverse tasks, resulting in a suboptimal performance for different models. Besides, the imbalance between redundant negative samples and rare positive samples could degrade the model performance. In this paper, we propose an effective Asymmetric Polynomial Loss (APL) to mitigate the above issues. Specifically, we first perform Taylor expansion on BCE loss. Then we ameliorate the coefficients of polynomial functions. We further employ the asymmetric focusing mechanism to decouple the gradient contribution from the negative and positive samples. Moreover, we validate that the polynomial coefficients can recalibrate the asymmetric focusing hyperparameters. Experiments on relation extraction, text classification, and image classification show that our APL loss can consistently improve performance without extra training burden.
• Abstract（参考訳）: 様々なタスクをマルチラベル分類問題として再構成し、よく設計されたモデルの最適化にバイナリクロスエントロピー(bce)損失を多用する。 しかし、バニラのBCE損失は様々なタスクに合わせることができず、結果として異なるモデルに準最適性能をもたらす。 さらに、冗長な負サンプルと稀な正サンプルの不均衡はモデル性能を低下させる可能性がある。 本稿では,上記の問題を緩和する有効な非対称多項式損失(APL)を提案する。 具体的には,まずBCE損失に対するTaylor拡張を行う。 次に多項式関数の係数を改良する。 さらに、非対称集束機構を用いて、勾配寄与を負および正のサンプルから分離する。 さらに, 多項式係数が非対称集束ハイパーパラメータを再検討できることを検証する。 関係抽出,テキスト分類,画像分類実験により,APLの損失はトレーニングの余分な負担を伴わずに一貫した性能向上を図っている。

関連論文リスト

• The Implicit Bias of Gradient Descent on Separable Multiclass Data [38.05903703331163]
  我々は、指数的尾特性のマルチクラス拡張を導入するために、置換同変と相対マージンベース(PERM)損失の枠組みを用いる。 提案手法は二分法の場合をよく反映しており,二分法と多分法のギャップを埋めるためのPERMフレームワークの威力を示すものである。
  論文  参考訳（メタデータ） (2024-11-02T19:39:21Z)
• Polyhedral Conic Classifier for CTR Prediction [8.728085874038229]
  本稿では,産業レコメンデーションシステムにおけるクリックスルー率(CTR)予測の新しい手法を提案する。 これは数値的不均衡と幾何学的非対称性の固有の課題に対処する。 我々は多面体円錐関数を用いたディープニューラルネットワーク分類器を用いた。
  論文  参考訳（メタデータ） (2024-06-06T09:26:48Z)
• Learning Layer-wise Equivariances Automatically using Gradients [66.81218780702125]
  畳み込みは等価対称性をニューラルネットワークにエンコードし、より優れた一般化性能をもたらす。 対称性は、ネットワークが表現できる機能、事前に指定する必要、適応できない機能に対して、固定されたハード制約を提供する。 私たちのゴールは、勾配を使ってデータから自動的に学習できるフレキシブル対称性の制約を可能にすることです。
  論文  参考訳（メタデータ） (2023-10-09T20:22:43Z)
• On the Implicit Geometry of Cross-Entropy Parameterizations for Label-Imbalanced Data [26.310275682709776]
  ラベインバランスデータの重み付きCE大モデルに代わるものとして,クロスエントロピー(CE)損失のロジット調整パラメータ化が提案されている。 マイノリティ不均衡比に関係なく,ロジット調整パラメータ化を適切に調整して学習することができることを示す。
  論文  参考訳（メタデータ） (2023-03-14T03:04:37Z)
• Leveraging Heteroscedastic Uncertainty in Learning Complex Spectral Mapping for Single-channel Speech Enhancement [20.823177372464414]
  ほとんどの音声強調(SE)モデルは、ポイント推定を学習し、学習過程における不確実性推定を利用しない。 本研究では,多変量ガウス陰性ログ類似度 (NLL) を最小化することにより,SE性能を余分なコストで向上させることにより,ヘテロスセダスティック不確実性をモデル化できることを示す。
  論文  参考訳（メタデータ） (2022-11-16T02:29:05Z)
• Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
  本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。 この問題は楕円分布のペナルティ化された最大推定値として表される。 楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
  論文  参考訳（メタデータ） (2022-10-21T13:19:45Z)
• Learning to Re-weight Examples with Optimal Transport for Imbalanced Classification [74.62203971625173]
  不均衡データは、ディープラーニングに基づく分類モデルに課題をもたらす。 不均衡なデータを扱うための最も広く使われているアプローチの1つは、再重み付けである。 本稿では,分布の観点からの最適輸送(OT)に基づく新しい再重み付け手法を提案する。
  論文  参考訳（メタデータ） (2022-08-05T01:23:54Z)
• On how to avoid exacerbating spurious correlations when models are overparameterized [33.315813572333745]
  VS-lossは、たとえスプリアス機能が強いとしても、マイノリティに公平なモデルを学ぶことを示す。 これまでの研究と比較すると、我々の境界はより一般的なモデルであり、それらは漸近的ではなく、極端な不均衡のシナリオにも適用される。
  論文  参考訳（メタデータ） (2022-06-25T21:53:44Z)
• Learning to Estimate Without Bias [57.82628598276623]
  ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。 本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。 BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
  論文  参考訳（メタデータ） (2021-10-24T10:23:51Z)
• Shaping Deep Feature Space towards Gaussian Mixture for Visual Classification [74.48695037007306]
  視覚分類のためのディープニューラルネットワークのためのガウス混合損失関数(GM)を提案する。 分類マージンと可能性正規化により、GM損失は高い分類性能と特徴分布の正確なモデリングの両方を促進する。 提案したモデルは、追加のトレーニング可能なパラメータを使わずに、簡単かつ効率的に実装できる。
  論文  参考訳（メタデータ） (2020-11-18T03:32:27Z)
• Probabilistic Circuits for Variational Inference in Discrete Graphical Models [101.28528515775842]
  変分法による離散的グラフィカルモデルの推論は困難である。 エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。 Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。 選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-22T05:04:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。