論文の概要: Light-weight Deformable Registration using Adversarial Learning with
Distilling Knowledge
- arxiv url: http://arxiv.org/abs/2110.01293v1
- Date: Mon, 4 Oct 2021 09:59:01 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-05 15:17:01.353617
- Title: Light-weight Deformable Registration using Adversarial Learning with
Distilling Knowledge
- Title(参考訳): 蒸留知識を用いた逆学習による軽量変形型登録
- Authors: Minh Q. Tran, Tuong Do, Huy Tran, Erman Tjiputra, Quang D. Tran, Anh
Nguyen
- Abstract要約: 本稿では,競争精度を向上しつつ計算コストを大幅に削減する軽量変形型レジストレーションネットワークを提案する。
特に,有効だが高価な教師ネットワークから学生ネットワークへの有意義な情報を活用した蒸留知識アルゴリズムを用いた新たな逆学習を提案する。
各種公開データセットに対する実験結果から,提案手法は最先端の精度を達成できる一方で,最近の手法よりもはるかに高速であることがわかった。
- 参考スコア(独自算出の注目度): 17.475408305030278
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deformable registration is a crucial step in many medical procedures such as
image-guided surgery and radiation therapy. Most recent learning-based methods
focus on improving the accuracy by optimizing the non-linear spatial
correspondence between the input images. Therefore, these methods are
computationally expensive and require modern graphic cards for real-time
deployment. In this paper, we introduce a new Light-weight Deformable
Registration network that significantly reduces the computational cost while
achieving competitive accuracy. In particular, we propose a new adversarial
learning with distilling knowledge algorithm that successfully leverages
meaningful information from the effective but expensive teacher network to the
student network. We design the student network such as it is light-weight and
well suitable for deployment on a typical CPU. The extensively experimental
results on different public datasets show that our proposed method achieves
state-of-the-art accuracy while significantly faster than recent methods. We
further show that the use of our adversarial learning algorithm is essential
for a time-efficiency deformable registration method. Finally, our source code
and trained models are available at: https://github.com/aioz-ai/LDR_ALDK.
- Abstract(参考訳): 変形性登録は、画像誘導手術や放射線治療などの多くの医療処置において重要なステップである。
近年の学習手法は,入力画像間の非線形空間対応を最適化することにより精度の向上に重点を置いている。
したがって、これらの手法は計算コストが高く、リアルタイム展開には最新のグラフィックカードを必要とする。
本稿では,競争精度を向上しつつ,計算コストを大幅に削減する軽量変形型登録ネットワークを提案する。
特に,有効だが高価な教師ネットワークから学生ネットワークへの有意義な情報を活用した蒸留知識アルゴリズムを用いた新たな逆学習を提案する。
学生ネットワークは軽量で,典型的なCPU上での展開に適した設計をしている。
各種公開データセットに対する実験結果から,提案手法は最先端の精度を達成できる一方で,最近の手法よりもはるかに高速であることがわかった。
さらに、時間効率の変形可能な登録法には、逆学習アルゴリズムの使用が不可欠であることを示す。
最後に、ソースコードとトレーニングされたモデルは以下の通りである。
関連論文リスト
- Recurrent Inference Machine for Medical Image Registration [11.351457718409788]
本稿では,リカレント推論画像登録(RIIR)ネットワークと呼ばれる新しい画像登録手法を提案する。
RIIRは、メタラーニングによる登録問題の解法として反復的に定式化される。
実験の結果、RIIRはトレーニングデータの5%しか持たない深層学習法よりも優れていた。
論文 参考訳(メタデータ) (2024-06-19T10:06:35Z) - Scheduled Knowledge Acquisition on Lightweight Vector Symbolic Architectures for Brain-Computer Interfaces [18.75591257735207]
古典的特徴エンジニアリングは計算効率は高いが精度は低いが、最近のニューラルネットワーク(DNN)は精度を向上するが、計算コストが高く、レイテンシが高い。
有望な代替として、ベクトル記号アーキテクチャ(VSA)に基づく低次元計算(LDC)分類器は、古典的な特徴工学手法よりも小さいモデルサイズで精度が高い。
論文 参考訳(メタデータ) (2024-03-18T01:06:29Z) - Layer Attack Unlearning: Fast and Accurate Machine Unlearning via Layer
Level Attack and Knowledge Distillation [21.587358050012032]
本稿では,階層攻撃アンラーニング(Layer attack unlearning)と呼ばれる,高速で斬新な機械学習パラダイムを提案する。
そこで本研究では, 試料を効率よく検出する部分PGDアルゴリズムを提案する。
また,教師から意思決定境界を確実に学習するために知識蒸留(KD)も活用する。
論文 参考訳(メタデータ) (2023-12-28T04:38:06Z) - Incrementally-Computable Neural Networks: Efficient Inference for
Dynamic Inputs [75.40636935415601]
ディープラーニングは、センサーデータやユーザ入力などの動的入力を効率的に処理するという課題に直面していることが多い。
インクリメンタルな計算アプローチを採用し、入力の変化に応じて計算を再利用する。
本稿では,この手法をトランスフォーマーアーキテクチャに適用し,修正入力の分数に比例した複雑性を持つ効率的なインクリメンタル推論アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-07-27T16:30:27Z) - Efficient human-in-loop deep learning model training with iterative
refinement and statistical result validation [0.0]
本稿では,超音波イメージング機械学習パイプラインのデータクリーニングに必要なセグメンテーションを作成する方法を紹介する。
本研究では、自動生成したトレーニングデータと人間の視覚的チェックを高速に活用し、時間とコストを低く保ちながら、モデルの精度を向上させる4段階の手法を提案する。
本手法は、静的PHIを含む背景データを除去し、心臓超音波セグメンテーションタスクで実演する。
論文 参考訳(メタデータ) (2023-04-03T13:56:01Z) - Data Efficient Contrastive Learning in Histopathology using Active Sampling [0.0]
ディープラーニングアルゴリズムは、デジタル病理学において堅牢な定量的分析を提供することができる。
これらのアルゴリズムは大量の注釈付きトレーニングデータを必要とする。
アドホックなプリテキストタスクを用いて特徴を学習するための自己教師付き手法が提案されている。
そこで本研究では,小規模なプロキシネットワークを用いたトレーニングセットから情報的メンバを積極的に抽出する手法を提案する。
論文 参考訳(メタデータ) (2023-03-28T18:51:22Z) - Learning to Optimize Permutation Flow Shop Scheduling via Graph-based
Imitation Learning [70.65666982566655]
置換フローショップスケジューリング(PFSS)は製造業で広く使われている。
我々は,より安定かつ正確に収束を加速する専門家主導の模倣学習を通じてモデルを訓練することを提案する。
我々のモデルのネットワークパラメータはわずか37%に減少し、エキスパートソリューションに対する我々のモデルの解のギャップは平均6.8%から1.3%に減少する。
論文 参考訳(メタデータ) (2022-10-31T09:46:26Z) - BERT WEAVER: Using WEight AVERaging to enable lifelong learning for
transformer-based models in biomedical semantic search engines [49.75878234192369]
We present WEAVER, a simple, yet efficient post-processing method that infuse old knowledge into the new model。
WEAVERを逐次的に適用すると、同じ単語の埋め込み分布が、一度にすべてのデータに対する総合的なトレーニングとして得られることを示す。
論文 参考訳(メタデータ) (2022-02-21T10:34:41Z) - Efficient training of lightweight neural networks using Online
Self-Acquired Knowledge Distillation [51.66271681532262]
オンライン自己獲得知識蒸留(OSAKD)は、ディープニューラルネットワークの性能をオンライン的に向上することを目的としている。
出力特徴空間におけるデータサンプルの未知確率分布を推定するために、k-nnノンパラメトリック密度推定手法を用いる。
論文 参考訳(メタデータ) (2021-08-26T14:01:04Z) - Information Theoretic Meta Learning with Gaussian Processes [74.54485310507336]
情報理論の概念,すなわち相互情報と情報のボトルネックを用いてメタ学習を定式化する。
相互情報に対する変分近似を用いることで、メタ学習のための汎用的かつトラクタブルな枠組みを導出する。
論文 参考訳(メタデータ) (2020-09-07T16:47:30Z) - Confident Coreset for Active Learning in Medical Image Analysis [57.436224561482966]
本稿では,情報的サンプルを効果的に選択するための,不確実性と分散性を考慮した新しい能動的学習手法である信頼コアセットを提案する。
2つの医用画像解析タスクの比較実験により,本手法が他の活動的学習方法より優れていることを示す。
論文 参考訳(メタデータ) (2020-04-05T13:46:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。