論文の概要: A survey and taxonomy of loss functions in machine learning

• arxiv url: http://arxiv.org/abs/2301.05579v2
• Date: Mon, 18 Nov 2024 12:01:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-19 14:28:42.493974
• Title: A survey and taxonomy of loss functions in machine learning
• Title（参考訳）: 機械学習における損失関数の調査と分類
• Authors: Lorenzo Ciampiconi, Adam Elwood, Marco Leonardi, Ashraf Mohamed, Alessandro Rozza,
• Abstract要約: 本稿では, 回帰, 分類, 生成モデル, ランキング, エネルギーベースモデリングなど, 主要なアプリケーションにまたがる最も広く使われている損失関数について概観する。 直感的な分類法で構築された43個の個別の損失関数を導入し,それらの理論的基礎,特性,最適な適用状況を明らかにした。
• 参考スコア（独自算出の注目度）: 51.35995529962554
• License:
• Abstract: Most state-of-the-art machine learning techniques revolve around the optimisation of loss functions. Defining appropriate loss functions is therefore critical to successfully solving problems in this field. In this survey, we present a comprehensive overview of the most widely used loss functions across key applications, including regression, classification, generative modeling, ranking, and energy-based modeling. We introduce 43 distinct loss functions, structured within an intuitive taxonomy that clarifies their theoretical foundations, properties, and optimal application contexts. This survey is intended as a resource for undergraduate, graduate, and Ph.D. students, as well as researchers seeking a deeper understanding of loss functions.
• Abstract（参考訳）: ほとんどの最先端の機械学習技術は、損失関数の最適化を中心に進化している。 したがって、適切な損失関数を定義することは、この分野における問題の解決に成功するために重要である。 本稿では, 回帰, 分類, 生成モデル, ランキング, エネルギーベースモデリングなど, 主要な応用において最も広く使用されている損失関数について概説する。 直感的な分類法で構築された43個の損失関数を導入し,その理論的基礎,特性,最適適用状況を明らかにした。 この調査は、学部生、大学院生、博士課程の学生、および損失関数のより深い理解を求める研究者の資源として意図されている。

関連論文リスト

• On the Dynamics Under the Unhinged Loss and Beyond [104.49565602940699]
  我々は、閉形式力学を解析するための数学的機会を提供する、簡潔な損失関数であるアンヒンジド・ロスを導入する。 アンヒンジされた損失は、時間変化学習率や特徴正規化など、より実践的なテクニックを検討することができる。
  論文  参考訳（メタデータ） (2023-12-13T02:11:07Z)
• Loss Functions and Metrics in Deep Learning [0.0]
  我々は、多くの異なるタイプのディープラーニングタスクで使用される最も一般的な損失関数とメトリクスの包括的概要を提供する。 本稿では,各損失とメトリクスの式を導入し,その強度と限界について考察し,これらの手法がディープラーニングの様々な問題に適用できる方法について述べる。
  論文  参考訳（メタデータ） (2023-07-05T23:53:55Z)
• Online Loss Function Learning [13.744076477599707]
  ロス関数学習は、機械学習モデルの損失関数を設計するタスクを自動化することを目的としている。 基本モデルパラメータへの更新毎に,損失関数をオンラインに適応的に更新する新しい損失関数学習手法を提案する。
  論文  参考訳（メタデータ） (2023-01-30T19:22:46Z)
• Xtreme Margin: A Tunable Loss Function for Binary Classification Problems [0.0]
  本稿では,新しい損失関数 Xtreme Margin の損失関数について概説する。 二進的クロスエントロピーやヒンジ損失関数とは異なり、この損失関数は研究者や実践者がトレーニングプロセスに柔軟性をもたらす。
  論文  参考訳（メタデータ） (2022-10-31T22:39:32Z)
• Evaluating the Impact of Loss Function Variation in Deep Learning for Classification [0.0]
  損失関数は間違いなく、ニューラルネットワークにとって最も重要なハイパーパラメータの1つである。 ニューラルネットワークを教師付き分類設定で検討し、損失関数の選択がトレーニング結果に与える影響を分析する。 特定の損失関数は過度に最適に機能するが、我々の研究は、表現不足の損失が最先端の選択肢を大幅に上回っていることを実証的に示している。
  論文  参考訳（メタデータ） (2022-10-28T09:10:10Z)
• A Survey of Learning Criteria Going Beyond the Usual Risk [7.335712499936906]
  グッドパフォーマンス」は、テストデータのランダムな引き分けに乗じて、十分に小さな平均損失という観点で記述されるのが一般的である。 平均的なパフォーマンスを最適化することは直感的であり、理論上は解析しやすく、実際は容易に実装できるが、そのような選択はトレードオフをもたらす。
  論文  参考訳（メタデータ） (2021-10-11T04:35:33Z)
• Meta-Learning with Task-Adaptive Loss Function for Few-Shot Learning [50.59295648948287]
  数ショットの学習シナリオでは、新しい目に見えない例を一般化し、うまく実行するのが課題だ。 各タスクに適応する損失関数を備えた新しいメタ学習フレームワークを導入する。 提案フレームワークはMeta-Learning with Task-Adaptive Loss Function (MeTAL) と名付けられ,様々な領域における有効性と柔軟性を示す。
  論文  参考訳（メタデータ） (2021-10-08T06:07:21Z)
• AutoLoss-Zero: Searching Loss Functions from Scratch for Generic Tasks [78.27036391638802]
  AutoLoss-Zeroは、ジェネリックタスクのスクラッチから損失関数を検索する最初のフレームワークである。 探索効率を向上させるために、損失低減プロトコルと勾配等価性チェック戦略を開発する。 様々なコンピュータビジョンタスクにおける実験により、検索損失関数は既存の損失関数と同等かそれ以上かが示されている。
  論文  参考訳（メタデータ） (2021-03-25T17:59:09Z)
• Loss Function Discovery for Object Detection via Convergence-Simulation Driven Search [101.73248560009124]
  本稿では,効率的な収束シミュレーションによる進化的探索アルゴリズムCSE-Autolossを提案する。 一般的な検出器上での損失関数探索の広範囲な評価を行い、探索された損失の優れた一般化能力を検証した。 実験の結果, 2段検出器と1段検出器のmAPでは, 最適損失関数の組み合わせが1.1%と0.8%を上回っていることがわかった。
  論文  参考訳（メタデータ） (2021-02-09T08:34:52Z)
• Auto Seg-Loss: Searching Metric Surrogates for Semantic Segmentation [56.343646789922545]
  そこで本研究では,各計量に対する相異なるサロゲート損失を探索することにより,計量固有損失関数の設計を自動化することを提案する。 PASCAL VOCとCityscapesの実験では、探索されたサロゲート損失は手動で設計した損失関数よりも優れていた。
  論文  参考訳（メタデータ） (2020-10-15T17:59:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。