論文の概要: Unsupervised 3D registration through optimization-guided cyclical
self-training
- arxiv url: http://arxiv.org/abs/2306.16997v1
- Date: Thu, 29 Jun 2023 14:54:10 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-30 12:58:55.629555
- Title: Unsupervised 3D registration through optimization-guided cyclical
self-training
- Title(参考訳): 最適化誘導巡回自己学習による教師なし3次元登録
- Authors: Alexander Bigalke, Lasse Hansen, Tony C. W. Mok, Mattias P. Heinrich
- Abstract要約: 最先端のディープラーニングベースの登録方法は、3つの異なる学習戦略を採用している。
本稿では,教師なし登録のための自己指導型学習パラダイムを提案する。
腹部, 肺の登録方法の評価を行い, 測定基準に基づく監督を一貫して上回り, 最先端の競争相手よりも優れていた。
- 参考スコア(独自算出の注目度): 71.75057371518093
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: State-of-the-art deep learning-based registration methods employ three
different learning strategies: supervised learning, which requires costly
manual annotations, unsupervised learning, which heavily relies on hand-crafted
similarity metrics designed by domain experts, or learning from synthetic data,
which introduces a domain shift. To overcome the limitations of these
strategies, we propose a novel self-supervised learning paradigm for
unsupervised registration, relying on self-training. Our idea is based on two
key insights. Feature-based differentiable optimizers 1) perform reasonable
registration even from random features and 2) stabilize the training of the
preceding feature extraction network on noisy labels. Consequently, we propose
cyclical self-training, where pseudo labels are initialized as the displacement
fields inferred from random features and cyclically updated based on more and
more expressive features from the learning feature extractor, yielding a
self-reinforcement effect. We evaluate the method for abdomen and lung
registration, consistently surpassing metric-based supervision and
outperforming diverse state-of-the-art competitors. Source code is available at
https://github.com/multimodallearning/reg-cyclical-self-train.
- Abstract(参考訳): 最先端のディープラーニングベースの登録には、3つの異なる学習戦略が採用されている: コストのかかる手動アノテーションを必要とする教師付き学習、ドメインの専門家が設計した手作りの類似度メトリクスに大きく依存する教師なし学習、ドメインシフトを導入する合成データからの学習。
これらの戦略の限界を克服するため,我々は,教師なし登録のための新しい自己教師あり学習パラダイムを提案する。
私たちの考えは2つの重要な洞察に基づいている。
特徴ベース微分可能最適化器
1)ランダムな特徴からでも合理的な登録を行う
2) ノイズラベルによる先行特徴抽出ネットワークの訓練を安定化させる。
その結果、ランダムな特徴から推定される変位場として擬似ラベルが初期化され、学習特徴抽出器からより表現的な特徴に基づいて循環的に更新され、自己強化効果が得られる循環自己学習を提案する。
腹部と肺の登録方法を評価し,メートル法に基づく監督を一貫して上回り,様々な最先端の競争相手を上回っている。
ソースコードはhttps://github.com/multimodallearning/reg-cyclical-self-trainで入手できる。
関連論文リスト
- Unified Speech Recognition: A Single Model for Auditory, Visual, and Audiovisual Inputs [73.74375912785689]
本稿では,音声認識システムのための統合学習戦略を提案する。
3つのタスクの1つのモデルをトレーニングすることで、VSRとAVSRの性能が向上することを示す。
また,非ラベル標本をより効果的に活用するために,強欲な擬似ラベリング手法を導入する。
論文 参考訳(メタデータ) (2024-11-04T16:46:53Z) - Incremental Self-training for Semi-supervised Learning [56.57057576885672]
ISTは単純だが有効であり、既存の自己学習に基づく半教師あり学習手法に適合する。
提案したISTを5つのデータセットと2種類のバックボーンで検証し,認識精度と学習速度を効果的に向上させる。
論文 参考訳(メタデータ) (2024-04-14T05:02:00Z) - A Study of Forward-Forward Algorithm for Self-Supervised Learning [65.268245109828]
本研究では,自己指導型表現学習におけるフォワードとバックプロパゲーションのパフォーマンスについて検討する。
我々の主な発見は、フォワードフォワードアルゴリズムが(自己教師付き)トレーニング中にバックプロパゲーションに相容れないように機能するのに対し、転送性能は研究されたすべての設定において著しく遅れていることである。
論文 参考訳(メタデータ) (2023-09-21T10:14:53Z) - Self-supervised Auxiliary Loss for Metric Learning in Music
Similarity-based Retrieval and Auto-tagging [0.0]
類似性に基づく検索課題に対処するために,自己教師付き学習アプローチに基づくモデルを提案する。
また, 微調整期間中の増員を控えることで, 良好な結果が得られた。
論文 参考訳(メタデータ) (2023-04-15T02:00:28Z) - Toward Open-domain Slot Filling via Self-supervised Co-training [2.7178968279054936]
スロットフィリングは現代の会話システムにおいて重要なタスクの1つである。
本研究では,SCotと呼ばれる自己教師付き協調学習フレームワークを提案する。
評価の結果,SCotはSGDおよびMultiWoZデータセットで45.57%,37.56%,最先端モデルよりも優れていた。
論文 参考訳(メタデータ) (2023-03-24T04:51:22Z) - Active Self-Training for Weakly Supervised 3D Scene Semantic
Segmentation [17.27850877649498]
本稿では,自己学習と能動的学習を組み合わせた3次元シーンの弱教師付きセグメンテーション手法を提案する。
提案手法は,従来の作業やベースラインよりもシーンセグメンテーションを改善する効果的な手法であることを示す。
論文 参考訳(メタデータ) (2022-09-15T06:00:25Z) - Distantly-Supervised Named Entity Recognition with Noise-Robust Learning
and Language Model Augmented Self-Training [66.80558875393565]
遠距離ラベル付きデータのみを用いて、名前付きエンティティ認識(NER)モデルを訓練する際の課題について検討する。
本稿では,新しい損失関数と雑音ラベル除去ステップからなるノイズロスバスト学習手法を提案する。
提案手法は,既存の遠隔教師付きNERモデルよりも優れた性能を実現する。
論文 参考訳(メタデータ) (2021-09-10T17:19:56Z) - Few-Shot Named Entity Recognition: A Comprehensive Study [92.40991050806544]
マルチショット設定のモデル一般化能力を向上させるための3つの手法を検討する。
ラベル付きデータの比率の異なる10の公開nerデータセットについて経験的比較を行う。
マルチショットとトレーニングフリーの両方の設定で最新の結果を作成します。
論文 参考訳(メタデータ) (2020-12-29T23:43:16Z) - Episodic Self-Imitation Learning with Hindsight [7.743320290728377]
エピソード自己像学習は、軌道選択モジュールと適応的損失関数を備えた新しい自己像アルゴリズムである。
更新の各エピソードから不正なサンプルをフィルタリングするために選択モジュールが導入された。
エピソード自己イメージ学習は、連続的な行動空間を持つ実世界の問題に適用できる可能性がある。
論文 参考訳(メタデータ) (2020-11-26T20:36:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。