論文の概要: CIRA Guide to Custom Loss Functions for Neural Networks in Environmental Sciences -- Version 1

• arxiv url: http://arxiv.org/abs/2106.09757v1
• Date: Thu, 17 Jun 2021 18:37:50 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-22 04:14:03.650562
• Title: CIRA Guide to Custom Loss Functions for Neural Networks in Environmental Sciences -- Version 1
• Title（参考訳）: CIRA Guide to Custom Loss Functions for Neural Networks in Environmental Sciences -- Version 1
• Authors: Imme Ebert-Uphoff, Ryan Lagerquist, Kyle Hilburn, Yoonjin Lee, Katherine Haynes, Jason Stock, Christina Kumler, and Jebb Q. Stewart
• Abstract要約: 本論文は,環境科学応用を対象としたカスタム損失関数の書き方に関するガイドを提供する。 トピックには、カスタム損失関数を書く基本、共通の落とし穴、損失関数に使用する関数、物理的制約を組み込む方法、離散的かつソフトな離散化、焦点、堅牢、適応的損失といった概念などが含まれる。
• 参考スコア（独自算出の注目度）: 3.96860384835525
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural networks are increasingly used in environmental science applications. Furthermore, neural network models are trained by minimizing a loss function, and it is crucial to choose the loss function very carefully for environmental science applications, as it determines what exactly is being optimized. Standard loss functions do not cover all the needs of the environmental sciences, which makes it important for scientists to be able to develop their own custom loss functions so that they can implement many of the classic performance measures already developed in environmental science, including measures developed for spatial model verification. However, there are very few resources available that cover the basics of custom loss function development comprehensively, and to the best of our knowledge none that focus on the needs of environmental scientists. This document seeks to fill this gap by providing a guide on how to write custom loss functions targeted toward environmental science applications. Topics include the basics of writing custom loss functions, common pitfalls, functions to use in loss functions, examples such as fractions skill score as loss function, how to incorporate physical constraints, discrete and soft discretization, and concepts such as focal, robust, and adaptive loss. While examples are currently provided in this guide for Python with Keras and the TensorFlow backend, the basic concepts also apply to other environments, such as Python with PyTorch. Similarly, while the sample loss functions provided here are from meteorology, these are just examples of how to create custom loss functions. Other fields in the environmental sciences have very similar needs for custom loss functions, e.g., for evaluating spatial forecasts effectively, and the concepts discussed here can be applied there as well. All code samples are provided in a GitHub repository.
• Abstract（参考訳）: ニューラルネットワークは環境科学の応用でますます使われている。 さらに、損失関数を最小化することでニューラルネットワークモデルを訓練し、正確に最適化されているものを決定するため、環境科学応用において損失関数を極めて慎重に選択することが重要である。 標準損失関数は環境科学のすべてのニーズをカバーするものではないため、科学者が独自の損失関数を開発することが重要であり、空間モデル検証のために開発されたものを含め、環境科学で既に開発された古典的なパフォーマンス対策の多くを実行することができる。 しかしながら、カスタム損失関数開発の基礎を包括的にカバーする資源は少なく、環境科学者のニーズに焦点を絞った知識が最善のものにはなりません。 本論文は,環境科学応用を対象としたカスタム損失関数の書き方に関するガイドを提供することで,このギャップを埋めようとしている。 トピックには、カスタム損失関数を書く基本、共通の落とし穴、損失関数で使用する関数、損失関数としての分数スキルスコアなどの例、物理的制約を組み込む方法、離散的およびソフトな離散化、焦点、堅牢、適応的損失といった概念が含まれる。 KerasとTensorFlowバックエンドを備えたPythonのこのガイドには現在サンプルが提供されているが、基本的な概念はPythonとPyTorchのような他の環境にも適用される。 同様に、ここで提供されるサンプル損失関数は気象学のものであるが、これらはカスタム損失関数の作り方の一例にすぎない。 環境科学の他の分野は、例えば空間予測を効果的に評価するためのカスタム損失関数に対して非常に類似したニーズを持ち、ここで議論される概念も適用できる。 すべてのコードサンプルはGitHubリポジトリで提供される。

関連論文リスト

• Unraveling the Hessian: A Key to Smooth Convergence in Loss Function Landscapes [0.0]
  我々は、完全に連結されたニューラルネットワークにおける損失景観の収束を理論的に解析し、新しいオブジェクトをサンプルに追加する際の損失関数値の差について上限を導出する。 画像分類作業における損失関数面の収束を実証し,これらの結果を様々なデータセットで検証した。
  論文  参考訳（メタデータ） (2024-09-18T14:04:15Z)
• Accelerated Neural Network Training with Rooted Logistic Objectives [13.400503928962756]
  我々は、少なくともロジスティック損失と同じくらい厳密なエムの厳密凸関数列を導出する。 その結果,根付き損失関数による学習はより早く収束し,性能が向上した。
  論文  参考訳（メタデータ） (2023-10-05T20:49:48Z)
• FourierLoss: Shape-Aware Loss Function with Fourier Descriptors [1.5659201748872393]
  この研究は、FourierLossという新しい形状認識損失関数を導入しました。 これは、地上の真実と予測されたセグメンテーションマップの間の形状の相違に依拠し、それらのオブジェクト上で計算されたフーリエ記述子を通し、ネットワークトレーニングにおけるこの相違を罰する。 提案した形状認識損失関数が肝セグメンテーションに有意な有意な有意な成績を示した。
  論文  参考訳（メタデータ） (2023-09-21T14:23:10Z)
• A survey and taxonomy of loss functions in machine learning [51.35995529962554]
  本稿では, 回帰, 分類, 生成モデル, ランキング, エネルギーベースモデリングなど, 主要なアプリケーションにまたがる最も広く使われている損失関数について概観する。 直感的な分類法で構築された43個の個別の損失関数を導入し,それらの理論的基礎,特性,最適な適用状況を明らかにした。
  論文  参考訳（メタデータ） (2023-01-13T14:38:24Z)
• Fundamental Limits of Two-layer Autoencoders, and Achieving Them with Gradient Methods [91.54785981649228]
  本稿では,非線形二層型オートエンコーダについて述べる。 本結果は,人口リスクの最小化要因を特徴付け,その最小化要因が勾配法によって達成されることを示す。 符号アクティベーション関数の特別な場合において、この解析は、シャローオートエンコーダによるガウス音源の損失圧縮の基本的な限界を確立する。
  論文  参考訳（メタデータ） (2022-12-27T12:37:34Z)
• Adaptive Self-supervision Algorithms for Physics-informed Neural Networks [59.822151945132525]
  物理情報ニューラルネットワーク(PINN)は、損失関数のソフト制約として問題領域からの物理的知識を取り入れている。 これらのモデルの訓練性に及ぼす座標点の位置の影響について検討した。 モデルがより高い誤りを犯している領域に対して、より多くのコロケーションポイントを段階的に割り当てる適応的コロケーション方式を提案する。
  論文  参考訳（メタデータ） (2022-07-08T18:17:06Z)
• Critical Investigation of Failure Modes in Physics-informed Neural Networks [0.9137554315375919]
  合成定式化による物理インフォームドニューラルネットワークは、最適化が難しい非学習損失面を生成することを示す。 また,2つの楕円問題に対する2つのアプローチを,より複雑な目標解を用いて評価する。
  論文  参考訳（メタデータ） (2022-06-20T18:43:35Z)
• AutoLoss-Zero: Searching Loss Functions from Scratch for Generic Tasks [78.27036391638802]
  AutoLoss-Zeroは、ジェネリックタスクのスクラッチから損失関数を検索する最初のフレームワークである。 探索効率を向上させるために、損失低減プロトコルと勾配等価性チェック戦略を開発する。 様々なコンピュータビジョンタスクにおける実験により、検索損失関数は既存の損失関数と同等かそれ以上かが示されている。
  論文  参考訳（メタデータ） (2021-03-25T17:59:09Z)
• Topological obstructions in neural networks learning [67.8848058842671]
  損失勾配関数フローのグローバル特性について検討する。 損失関数とそのモースコンプレックスの位相データ解析を用いて,損失面の大域的特性と勾配軌道に沿った局所的挙動を関連付ける。
  論文  参考訳（メタデータ） (2020-12-31T18:53:25Z)
• Auto Seg-Loss: Searching Metric Surrogates for Semantic Segmentation [56.343646789922545]
  そこで本研究では,各計量に対する相異なるサロゲート損失を探索することにより,計量固有損失関数の設計を自動化することを提案する。 PASCAL VOCとCityscapesの実験では、探索されたサロゲート損失は手動で設計した損失関数よりも優れていた。
  論文  参考訳（メタデータ） (2020-10-15T17:59:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。