論文の概要: Effect of the output activation function on the probabilities and errors in medical image segmentation

• arxiv url: http://arxiv.org/abs/2109.00903v1
• Date: Thu, 2 Sep 2021 12:51:14 GMT
• ステータス: 処理完了
• システム内更新日: 2021-09-03 20:43:57.274592
• Title: Effect of the output activation function on the probabilities and errors in medical image segmentation
• Title（参考訳）: 医用画像分割における出力活性化関数が確率と誤差に及ぼす影響
• Authors: Lars Nieradzik and Gerik Scheuermann and Dorothee Saur and Christina Gillmann
• Abstract要約: SigmoidActivationは、ニューラルネットワークによるバイナリ分類とセグメンテーションにおける標準出力アクティベーション機能である。 出力の活性化と損失関数の振る舞いが予測確率と対応するセグメンテーション誤差に与える影響を考察する。
• 参考スコア（独自算出の注目度）: 3.0625089376654664
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: The sigmoid activation is the standard output activation function in binary classification and segmentation with neural networks. Still, there exist a variety of other potential output activation functions, which may lead to improved results in medical image segmentation. In this work, we consider how the asymptotic behavior of different output activation and loss functions affects the prediction probabilities and the corresponding segmentation errors. For cross entropy, we show that a faster rate of change of the activation function correlates with better predictions, while a slower rate of change can improve the calibration of probabilities. For dice loss, we found that the arctangent activation function is superior to the sigmoid function. Furthermore, we provide a test space for arbitrary output activation functions in the area of medical image segmentation. We tested seven activation functions in combination with three loss functions on four different medical image segmentation tasks to provide a classification of which function is best suited in this application scenario.
• Abstract（参考訳）: シグモイド活性化は、二項分類とニューラルネットワークとのセグメンテーションにおける標準出力活性化関数である。 それでも、さまざまな潜在的な出力活性化機能があり、医療画像のセグメンテーションの結果が改善される可能性がある。 本研究では,出力の活性化と損失関数の漸近的挙動が予測確率と対応するセグメンテーション誤差に与える影響を考察する。 クロスエントロピーでは,アクティベーション関数の変化の速さはより良い予測と相関し,変化の遅さは確率のキャリブレーションを改善することを示した。 dice損失の場合、アルクタンジェント活性化関数はsgmoid関数より優れていることが判明した。 さらに,医療画像分割領域における任意の出力活性化機能のためのテスト空間を提供する。 4つの医用画像分割タスクにおいて、7つのアクティベーション関数と3つの損失関数を組み合わせてテストを行い,このシナリオに最も適した機能を分類した。

関連論文リスト

• Activation Scaling for Steering and Interpreting Language Models [55.59689963561315]
  モデルにうまく介入することは、内部の動作を解釈するための前提条件である、と我々は主張する。 成功した介入は、間違ったトークンで正しいことを正し、その逆を正すべきである。 勾配に基づく最適化を用いることで、特定の種類の効率的かつ解釈可能な介入を学習(そして後で評価)することができる。
  論文  参考訳（メタデータ） (2024-10-07T12:01:32Z)
• Not All Diffusion Model Activations Have Been Evaluated as Discriminative Features [115.33889811527533]
  拡散モデルは当初、画像生成のために設計されている。 近年の研究では、バックボーンの内部シグナルはアクティベーションと呼ばれ、様々な識別タスクの高密度な特徴として機能することが示されている。
  論文  参考訳（メタデータ） (2024-10-04T16:05:14Z)
• Trainable Highly-expressive Activation Functions [8.662179223772089]
  トレーニング可能な高表現能アクティベーション機能であるDiTACを紹介する。 DiTACはモデル表現性と性能を高め、しばしば大幅な改善をもたらす。 また、セマンティックセグメンテーション、画像生成、回帰問題、画像分類といったタスクにおいて、既存のアクティベーション関数(後者が固定可能かトレーニング可能かに関わらず)を上回っている。
  論文  参考訳（メタデータ） (2024-07-10T11:49:29Z)
• Your Network May Need to Be Rewritten: Network Adversarial Based on High-Dimensional Function Graph Decomposition [0.994853090657971]
  本稿では,上記の課題に対処するネットワーク敵手法を提案する。 これはネットワーク内で異なるアクティベーション関数を使用する最初の方法である。 トレーニング効率と予測精度の両面で,標準的なアクティベーション機能よりも大幅に向上した。
  論文  参考訳（メタデータ） (2024-05-04T11:22:30Z)
• Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
  線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。 ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
  論文  参考訳（メタデータ） (2023-04-17T14:23:43Z)
• Data-aware customization of activation functions reduces neural network error [0.35172332086962865]
  本稿では,データ認識によるアクティベーション関数のカスタマイズにより,ニューラルネットワークのエラーが大幅に低減されることを示す。 既に精製されたニューラルネットワークにおけるカモメの活性化機能への簡単な置換は、エラーのオーダー・オブ・マグニチュードの低減につながる可能性がある。
  論文  参考訳（メタデータ） (2023-01-16T23:38:37Z)
• Stochastic Adaptive Activation Function [1.9199289015460212]
  本研究では,単位の位置や入力の文脈に応じて,異なるしきい値と適応的なアクティベーションを促進する,シンプルで効果的なアクティベーション関数を提案する。 実験により,我々のアクティベーション関数は,多くのディープラーニングアプリケーションにおいて,より正確な予測と早期収束の利点を享受できることを示した。
  論文  参考訳（メタデータ） (2022-10-21T01:57:25Z)
• Transformers with Learnable Activation Functions [63.98696070245065]
  我々は、Rational Activation Function (RAF) を用いて、入力データに基づいてトレーニング中の最適なアクティベーション関数を学習する。 RAFは、学習されたアクティベーション関数に従って事前学習されたモデルを分析し、解釈するための新しい研究方向を開く。
  論文  参考訳（メタデータ） (2022-08-30T09:47:31Z)
• Inference on Strongly Identified Functionals of Weakly Identified Functions [71.42652863687117]
  本研究では,ニュアンス関数が存在しない場合でも,関数を強く識別するための新しい条件について検討する。 本稿では,プライマリおよびデバイアスのニュアンス関数に対するペナル化ミニマックス推定器を提案する。
  論文  参考訳（メタデータ） (2022-08-17T13:38:31Z)
• Activation Functions: Dive into an optimal activation function [1.52292571922932]
  既存のアクティベーション関数の重み付け和として定義することで、最適なアクティベーション関数を求める。 この研究は、ReLU、tanh、 sinという3つのアクティベーション関数を3つの人気のある画像データセットに使用しています。
  論文  参考訳（メタデータ） (2022-02-24T12:44:11Z)
• Why Do Better Loss Functions Lead to Less Transferable Features? [93.47297944685114]
  本稿では,画像ネット上で学習した畳み込みニューラルネットワークの隠れ表現が,学習対象の選択が伝達可能性に与える影響について検討する。 我々は,多くの目的が,バニラソフトマックスのクロスエントロピーよりも画像ネットの精度を統計的に有意に向上させることを示した。
  論文  参考訳（メタデータ） (2020-10-30T17:50:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。