論文の概要: Sauron U-Net: Simple automated redundancy elimination in medical image
segmentation via filter pruning
- arxiv url: http://arxiv.org/abs/2209.13590v1
- Date: Tue, 27 Sep 2022 17:59:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-28 14:51:37.712765
- Title: Sauron U-Net: Simple automated redundancy elimination in medical image
segmentation via filter pruning
- Title(参考訳): Sauron U-Net:フィルタプルーニングによる医用画像分割における簡便な冗長性除去
- Authors: Juan Miguel Valverde, Artem Shatillo, Jussi Tohka
- Abstract要約: 本稿では,冗長な特徴写像を除去するフィルタプルーニング手法であるSauronを提案する。
Sauronは、様々なメトリクスで示すように、特徴写像クラスタの形成を促進する正規化項を最小化する。
- 参考スコア(独自算出の注目度): 0.3867363075280544
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: We present Sauron, a filter pruning method that eliminates redundant feature
maps by discarding the corresponding filters with automatically-adjusted
layer-specific thresholds. Furthermore, Sauron minimizes a regularization term
that, as we show with various metrics, promotes the formation of feature maps
clusters. In contrast to most filter pruning methods, Sauron is single-phase,
similarly to typical neural network optimization, requiring fewer
hyperparameters and design decisions. Additionally, unlike other cluster-based
approaches, our method does not require pre-selecting the number of clusters,
which is non-trivial to determine and varies across layers. We evaluated Sauron
and three state-of-the-art filter pruning methods on three medical image
segmentation tasks. This is an area where filter pruning has received little
attention and where it can help building efficient models for medical grade
computers that cannot use cloud services due to privacy considerations. Sauron
achieved models with higher performance and pruning rate than the competing
pruning methods. Additionally, since Sauron removes filters during training,
its optimization accelerated over time. Finally, we show that the feature maps
of a Sauron-pruned model were highly interpretable. The Sauron code is publicly
available at https://github.com/jmlipman/SauronUNet.
- Abstract(参考訳): 自動調整層別しきい値で対応するフィルタを破棄することにより,冗長な特徴写像を除去するフィルタプルーニング手法であるSauronを提案する。
さらに、sauronは、さまざまなメトリクスで示すように、フィーチャーマップクラスタの形成を促進する正規化項を最小化する。
ほとんどのフィルタプルーニング法とは対照的に、サウロンは典型的なニューラルネットワーク最適化と同様に単相であり、ハイパーパラメータと設計決定を少なくする。
さらに、他のクラスタベースのアプローチとは異なり、我々の方法はクラスタの数を事前に選択する必要がない。
医用画像分割作業におけるSauronおよび3つの最先端フィルタプルーニング手法の評価を行った。
これは、フィルタの刈り取りがあまり注目されず、プライバシの配慮によりクラウドサービスを使用しない医療用グレードコンピュータの効率的なモデルを構築するのに役立つ領域である。
サウロンは競合するプルーニング法よりも高い性能とプルーニング率のモデルを達成した。
さらに、Sauronはトレーニング中にフィルタを削除するため、最適化は時間とともに加速した。
最後に, サウロン刈り込みモデルの特徴地図は, 高い解釈性を示した。
sauronのコードはhttps://github.com/jmlipman/sauronunetで公開されている。
関連論文リスト
- Structured Network Pruning by Measuring Filter-wise Interactions [6.037167142826297]
SNPFI (Structured Network Pruning by Measurement filter-wise Interaction) を用いた構造化ネットワークプルーニング手法を提案する。
刈取中、SNPFIはフィルタ利用強度に基づいて適切な間隔を自動的に割り当てる。
我々はSNPFIの有効性をいくつかの一般的なCNNモデルで実証的に実証した。
論文 参考訳(メタデータ) (2023-07-03T05:26:05Z) - Efficient CNNs via Passive Filter Pruning [23.661189257759535]
畳み込みニューラルネットワーク(CNN)は、様々なアプリケーションで最先端のパフォーマンスを示している。
CNNは、高い計算複雑性とメモリストレージを必要とするため、リソース不足である。
CNNにおける計算効率向上に向けた最近の取り組みには、フィルタプルーニング法がある。
論文 参考訳(メタデータ) (2023-04-05T09:19:19Z) - IterativePFN: True Iterative Point Cloud Filtering [18.51768749680731]
基本的な3Dビジョンタスクは、ポイントクラウドフィルタリング(point cloud filtering)またはデノイング(denoising)として知られるノイズの除去である。
本報告では,本フィルタを内部でモデル化する複数のイテレーションで構成されたIterativePFN(Iterative Cloud Filtering Network)を提案する。
我々の手法は最先端の手法よりも優れた性能が得られる。
論文 参考訳(メタデータ) (2023-04-04T04:47:44Z) - Asymptotic Soft Cluster Pruning for Deep Neural Networks [5.311178623385279]
フィルタプルーニング法は, 選択したフィルタを除去することにより, 構造的疎結合を導入する。
Asymptotic Soft Cluster Pruning と呼ばれる新しいフィルタプルーニング法を提案する。
提案手法は,多くの最先端アルゴリズムと比較して,競合的な結果が得られる。
論文 参考訳(メタデータ) (2022-06-16T13:58:58Z) - Interspace Pruning: Using Adaptive Filter Representations to Improve
Training of Sparse CNNs [69.3939291118954]
非構造プルーニングは畳み込みニューラルネットワーク(CNN)のメモリフットプリントを削減するのに適している
標準非構造化プルーニング(SP)はフィルタ要素をゼロにすることでCNNのメモリフットプリントを削減する。
既存のプルーニング法を改善する汎用ツールであるインタースペースプルーニング(IP)を導入する。
論文 参考訳(メタデータ) (2022-03-15T11:50:45Z) - Towards Uniform Point Distribution in Feature-preserving Point Cloud
Filtering [7.863178525014377]
本稿では,フィルタ中の点分布と特徴保存の両面を考慮した点群フィルタリング手法を提案する。
実験の結果,より均一な点分布(平均5.8times10-5$ Chamfer Distance)を数秒で得られることがわかった。
論文 参考訳(メタデータ) (2022-01-05T09:08:44Z) - Unsharp Mask Guided Filtering [53.14430987860308]
本論文の目的は,フィルタ中の構造伝達の重要性を強調した画像フィルタリングである。
アンシャープマスキングにインスパイアされたガイドフィルタの新しい簡易な定式化を提案する。
我々の定式化は低域フィルタに先立ってフィルタを楽しみ、単一の係数を推定することで明示的な構造伝達を可能にする。
論文 参考訳(メタデータ) (2021-06-02T19:15:34Z) - SCOP: Scientific Control for Reliable Neural Network Pruning [127.20073865874636]
本稿では,科学的制御を設定することにより,信頼性の高いニューラルネットワークプルーニングアルゴリズムを提案する。
冗長フィルタは、異なる特徴の逆数過程において発見できる。
提案手法では,ResNet-101のパラメータ57.8%,FLOP60.2%を削減できる。
論文 参考訳(メタデータ) (2020-10-21T03:02:01Z) - Training Interpretable Convolutional Neural Networks by Differentiating
Class-specific Filters [64.46270549587004]
畳み込みニューラルネットワーク(CNN)は、様々なタスクでうまく使われている。
CNNは、しばしば「ブラックボックス」と解釈可能性の欠如とみなされる。
本稿では,クラス固有のフィルタを奨励することで,解釈可能なCNNを訓練する新しい手法を提案する。
論文 参考訳(メタデータ) (2020-07-16T09:12:26Z) - Dependency Aware Filter Pruning [74.69495455411987]
重要でないフィルタを割ることは、推論コストを軽減するための効率的な方法である。
以前の作業は、その重み基準やそれに対応するバッチノームスケーリング要因に従ってフィルタをプルークする。
所望の空間性を達成するために,空間性誘導正規化を動的に制御する機構を提案する。
論文 参考訳(メタデータ) (2020-05-06T07:41:22Z) - Filter Grafting for Deep Neural Networks: Reason, Method, and
Cultivation [86.91324735966766]
フィルタは現代の畳み込みニューラルネットワーク(CNN)のキーコンポーネントである
本稿では,この目的を達成するためにフィルタグラフト(textbfMethod)を導入する。
我々は,フィルタの情報を測定するための新しい基準と,グラフトされた情報をネットワーク間でバランスをとるための適応重み付け戦略を開発する。
論文 参考訳(メタデータ) (2020-04-26T08:36:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。