論文の概要: Xtreme Margin: A Tunable Loss Function for Binary Classification
Problems
- arxiv url: http://arxiv.org/abs/2211.00176v1
- Date: Mon, 31 Oct 2022 22:39:32 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-02 12:50:04.224227
- Title: Xtreme Margin: A Tunable Loss Function for Binary Classification
Problems
- Title(参考訳): Xtreme Margin:二項分類問題に対するTunable Loss関数
- Authors: Rayan Wali
- Abstract要約: 本稿では,新しい損失関数 Xtreme Margin の損失関数について概説する。
二進的クロスエントロピーやヒンジ損失関数とは異なり、この損失関数は研究者や実践者がトレーニングプロセスに柔軟性をもたらす。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Loss functions drive the optimization of machine learning algorithms. The
choice of a loss function can have a significant impact on the training of a
model, and how the model learns the data. Binary classification is one of the
major pillars of machine learning problems, used in medical imaging to failure
detection applications. The most commonly used surrogate loss functions for
binary classification include the binary cross-entropy and the hinge loss
functions, which form the focus of our study.
In this paper, we provide an overview of a novel loss function, the Xtreme
Margin loss function. Unlike the binary cross-entropy and the hinge loss
functions, this loss function provides researchers and practitioners
flexibility with their training process, from maximizing precision and AUC
score to maximizing conditional accuracy for a particular class, through
tunable hyperparameters $\lambda_1$ and $\lambda_2$, i.e., changing their
values will alter the training of a model.
- Abstract(参考訳): 損失関数は機械学習アルゴリズムの最適化を駆動する。
損失関数の選択はモデルのトレーニングやモデルがどのようにデータを学習するかに大きな影響を与える可能性がある。
バイナリ分類は、医療画像の故障検出に使用される機械学習問題の主要な柱の1つである。
二項分類において最も一般的に用いられるサーロゲート損失関数は二項クロスエントロピーとヒンジ損失関数であり、これは我々の研究の焦点となっている。
本稿では,新しい損失関数であるxtreme margin loss functionの概要について述べる。
2値のクロスエントロピーやヒンジ損失関数とは異なり、この損失関数は研究者や実践者が、精度とAUCスコアの最大化から、調整可能なハイパーパラメータ $\lambda_1$ と $\lambda_2$ を通じて、特定のクラスの条件精度の最大化まで、トレーニングプロセスの柔軟性を提供する。
関連論文リスト
- Optimizing for ROC Curves on Class-Imbalanced Data by Training over a
Family of Loss Functions [3.34836339238119]
条件付き損失訓練は、厳しい階級不均衡の下で信頼性の高い分類器を訓練するために使用することができる。
不均衡な分類問題に条件付き損失訓練を適用する方法を開発した。
論文 参考訳(メタデータ) (2024-02-08T04:31:21Z) - Reevaluating Loss Functions: Enhancing Robustness to Label Noise in Deep
Learning Models [0.0]
大きな注釈付きデータセットには、必然的に誤ったラベルが含まれているため、ディープニューラルネットワークのトレーニングには大きな課題となる。
ノイズロバストモデルを作成するための単純で効果的な方法は、ノイズロバスト損失関数を使用することである。
提案する損失関数が適用可能な状況について検討し,適切な損失を選択する方法について提案する。
これは、有界損失の学習を著しく改善するだけでなく、Cifar-100データセットにおけるクロスエントロピー損失よりも優れた平均絶対誤差の損失をもたらす。
論文 参考訳(メタデータ) (2023-06-08T18:38:55Z) - Class Anchor Margin Loss for Content-Based Image Retrieval [97.81742911657497]
距離学習パラダイムに該当する新しいレペラ・トラクタ損失を提案するが、ペアを生成する必要がなく、直接L2メトリックに最適化する。
CBIRタスクにおいて,畳み込みアーキテクチャと変圧器アーキテクチャの両方を用いて,少数ショットおよびフルセットトレーニングの文脈で提案した目的を評価する。
論文 参考訳(メタデータ) (2023-06-01T12:53:10Z) - GIF: A General Graph Unlearning Strategy via Influence Function [63.52038638220563]
Graph Influence Function (GIF)は、削除されたデータにおける$epsilon$-massの摂動に応答してパラメータの変化を効率的に正確に推定できる、モデルに依存しない未学習の手法である。
我々は,4つの代表的GNNモデルと3つのベンチマークデータセットについて広範な実験を行い,未学習の有効性,モデルの有用性,未学習効率の観点からGIFの優位性を正当化する。
論文 参考訳(メタデータ) (2023-04-06T03:02:54Z) - Alternate Loss Functions for Classification and Robust Regression Can
Improve the Accuracy of Artificial Neural Networks [7.5620539044013535]
本稿では,ニューラルネットワークのトレーニング速度と最終的な精度が,ニューラルネットワークのトレーニングに使用する損失関数に大きく依存することを示す。
様々なベンチマークタスクの性能を著しく向上させる2つの新しい分類損失関数を提案する。
論文 参考訳(メタデータ) (2023-03-17T12:52:06Z) - Online Loss Function Learning [13.744076477599707]
ロス関数学習は、機械学習モデルの損失関数を設計するタスクを自動化することを目的としている。
基本モデルパラメータへの更新毎に,損失関数をオンラインに適応的に更新する新しい損失関数学習手法を提案する。
論文 参考訳(メタデータ) (2023-01-30T19:22:46Z) - A survey and taxonomy of loss functions in machine learning [60.41650195728953]
ほとんどの最先端の機械学習技術は、損失関数の最適化を中心に進化している。
この調査は、初心者と高度な機械学習実践者の両方にとって最も重要な損失関数の参照を提供することを目的としている。
論文 参考訳(メタデータ) (2023-01-13T14:38:24Z) - Evaluating the Impact of Loss Function Variation in Deep Learning for
Classification [0.0]
損失関数は間違いなく、ニューラルネットワークにとって最も重要なハイパーパラメータの1つである。
ニューラルネットワークを教師付き分類設定で検討し、損失関数の選択がトレーニング結果に与える影響を分析する。
特定の損失関数は過度に最適に機能するが、我々の研究は、表現不足の損失が最先端の選択肢を大幅に上回っていることを実証的に示している。
論文 参考訳(メタデータ) (2022-10-28T09:10:10Z) - Adaptive Self-supervision Algorithms for Physics-informed Neural
Networks [59.822151945132525]
物理情報ニューラルネットワーク(PINN)は、損失関数のソフト制約として問題領域からの物理的知識を取り入れている。
これらのモデルの訓練性に及ぼす座標点の位置の影響について検討した。
モデルがより高い誤りを犯している領域に対して、より多くのコロケーションポイントを段階的に割り当てる適応的コロケーション方式を提案する。
論文 参考訳(メタデータ) (2022-07-08T18:17:06Z) - Searching for Robustness: Loss Learning for Noisy Classification Tasks [81.70914107917551]
テイラーを用いたフレキシブルな損失関数群をパラメタライズし、この空間におけるノイズロスの探索に進化的戦略を適用する。
その結果、ホワイトボックスの損失は、さまざまな下流タスクで効果的なノイズロバスト学習を可能にするシンプルで高速な「プラグアンドプレイ」モジュールを提供します。
論文 参考訳(メタデータ) (2021-02-27T15:27:22Z) - Loss Function Discovery for Object Detection via Convergence-Simulation
Driven Search [101.73248560009124]
本稿では,効率的な収束シミュレーションによる進化的探索アルゴリズムCSE-Autolossを提案する。
一般的な検出器上での損失関数探索の広範囲な評価を行い、探索された損失の優れた一般化能力を検証した。
実験の結果, 2段検出器と1段検出器のmAPでは, 最適損失関数の組み合わせが1.1%と0.8%を上回っていることがわかった。
論文 参考訳(メタデータ) (2021-02-09T08:34:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。