論文の概要: Few-Shot Domain Adaptation with Polymorphic Transformers
- arxiv url: http://arxiv.org/abs/2107.04805v1
- Date: Sat, 10 Jul 2021 10:08:57 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-13 16:00:32.868574
- Title: Few-Shot Domain Adaptation with Polymorphic Transformers
- Title(参考訳): ポリモルフィックトランスフォーマによるマイノショット領域適応
- Authors: Shaohua Li, Xiuchao Sui, Jie Fu, Huazhu Fu, Xiangde Luo, Yangqin Feng,
Xinxing Xu, Yong Liu, Daniel Ting, Rick Siow Mong Goh
- Abstract要約: 1セットの医療画像でトレーニングされたディープニューラルネットワーク(DNN)は、しばしば目に見えないテスト画像に対して深刻なパフォーマンス低下を経験する。
少数のアノテーションで訓練されたモデルを適用するという、ほとんどショットのドメイン適応は、この場合非常に実用的で有用である。
本稿では,任意のDNNバックボーンに組み込んだポリモルフィックトランス (Polymorphic Transformer) を提案する。
- 参考スコア(独自算出の注目度): 50.128636842853155
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep neural networks (DNNs) trained on one set of medical images often
experience severe performance drop on unseen test images, due to various domain
discrepancy between the training images (source domain) and the test images
(target domain), which raises a domain adaptation issue. In clinical settings,
it is difficult to collect enough annotated target domain data in a short
period. Few-shot domain adaptation, i.e., adapting a trained model with a
handful of annotations, is highly practical and useful in this case. In this
paper, we propose a Polymorphic Transformer (Polyformer), which can be
incorporated into any DNN backbones for few-shot domain adaptation.
Specifically, after the polyformer layer is inserted into a model trained on
the source domain, it extracts a set of prototype embeddings, which can be
viewed as a "basis" of the source-domain features. On the target domain, the
polyformer layer adapts by only updating a projection layer which controls the
interactions between image features and the prototype embeddings. All other
model weights (except BatchNorm parameters) are frozen during adaptation. Thus,
the chance of overfitting the annotations is greatly reduced, and the model can
perform robustly on the target domain after being trained on a few annotated
images. We demonstrate the effectiveness of Polyformer on two medical
segmentation tasks (i.e., optic disc/cup segmentation, and polyp segmentation).
The source code of Polyformer is released at
https://github.com/askerlee/segtran.
- Abstract(参考訳): ある医療画像に対してトレーニングされたディープニューラルネットワーク(DNN)は、トレーニング画像(ソースドメイン)とテスト画像(ターゲットドメイン)とのさまざまなドメインの相違により、目に見えないテスト画像に深刻なパフォーマンス低下を経験することが多い。
臨床環境では、十分な注記対象領域データを短時間で収集することは困難である。
少数のアノテーションで訓練されたモデルを適用するようなドメイン適応は、この場合非常に実用的で有用である。
本稿では,任意のdnnバックボーンに組み込むことができるポリモーフィックトランス(polyformer)を提案する。
具体的には、ポリフォーマ層をソースドメインでトレーニングされたモデルに挿入した後、プロトタイプの埋め込みを抽出し、ソースドメインの特徴の"基底"と見ることができる。
対象領域では、ポリフォーム層は、画像特徴とプロトタイプ埋め込み間の相互作用を制御する投影層を更新するだけで適応する。
他のモデル重み(バッチノルムパラメータを除く)は適応中に凍結される。
これにより、アノテーションをオーバーフィットする可能性が大幅に減少し、いくつかの注釈付き画像でトレーニングした後、ターゲットドメインでロバストに実行することが可能となる。
本稿では,2つの医療的セグメンテーション課題(光ディスク/カップセグメンテーション,ポリープセグメンテーション)におけるPolyformerの有効性を示す。
Polyformerのソースコードはhttps://github.com/askerlee/segtranで公開されている。
関連論文リスト
- Spectral Adversarial MixUp for Few-Shot Unsupervised Domain Adaptation [72.70876977882882]
臨床応用においては、トレーニング画像(ソース領域)とテスト画像(ターゲット領域)が異なる分布下にある場合、ドメインシフトは一般的な問題である。
本稿では,Few-Shot Unsupervised Domain Adaptation (FSUDA) の新たな手法を提案する。
論文 参考訳(メタデータ) (2023-09-03T16:02:01Z) - Compositional Semantic Mix for Domain Adaptation in Point Cloud
Segmentation [65.78246406460305]
合成意味混合は、ポイントクラウドセグメンテーションのための最初の教師なし領域適応技術である。
本稿では、ソースドメイン(例えば合成)からの点雲とターゲットドメイン(例えば実世界)からの点雲を同時に処理できる2分岐対称ネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2023-08-28T14:43:36Z) - Zero-shot Generative Model Adaptation via Image-specific Prompt Learning [41.344908073632986]
CLIP誘導画像合成は、トレーニング済みのソースドメインジェネレータを未確認のターゲットドメインに適応する上で、魅力的な性能を示している。
本稿では,各ソース領域の画像に対して,特定のプロンプトベクトルを学習する画像固有プロンプト学習(IPL)手法を提案する。
IPLは、合成画像の品質と多様性を効果的に改善し、モード崩壊を軽減する。
論文 参考訳(メタデータ) (2023-04-06T14:48:13Z) - DynaGAN: Dynamic Few-shot Adaptation of GANs to Multiple Domains [26.95350186287616]
複数のドメインへのドメイン適応は、いくつかのトレーニングイメージから複数のドメインにまたがる複雑なイメージ分布を学習することを目的としている。
複数のターゲットドメインに対する新規な数ショットドメイン適応法であるDynaGANを提案する。
論文 参考訳(メタデータ) (2022-11-26T12:46:40Z) - Feather-Light Fourier Domain Adaptation in Magnetic Resonance Imaging [2.024988885579277]
ディープラーニングモデルの一般化性は、列車(ソースドメイン)とテスト(ターゲットドメイン)セットの分布の違いによって大きく影響を受ける可能性がある。
テスト時間領域適応を実現するための,極めて軽量かつ透明なアプローチを提案する。
論文 参考訳(メタデータ) (2022-07-31T17:28:42Z) - Polymorphic-GAN: Generating Aligned Samples across Multiple Domains with
Learned Morph Maps [94.10535575563092]
本稿では,複数の関連ドメインから一貫した画像サンプルを同時に生成できる生成逆ネットワークを提案する。
各ドメインにまたがる共有特徴を学習するポリモルフィックGANと、各ドメインに応じて共有特徴を共有化するためのドメインごとのモルフィック層を提案する。
論文 参考訳(メタデータ) (2022-06-06T21:03:02Z) - PIT: Position-Invariant Transform for Cross-FoV Domain Adaptation [53.428312630479816]
フィールド・オブ・ビュー(FoV)ギャップは、ソースとターゲットドメイン間の顕著なインスタンスの出現差を誘導する。
本研究では,異なる領域における画像の整合性を改善するために,textbfPosition-Invariant Transform (PIT)を提案する。
論文 参考訳(メタデータ) (2021-08-16T15:16:47Z) - Semi-Supervised Domain Adaptation with Prototypical Alignment and
Consistency Learning [86.6929930921905]
本稿では,いくつかの対象サンプルがラベル付けされていれば,ドメインシフトに対処するのにどの程度役立つか検討する。
ランドマークの可能性を最大限に追求するために、ランドマークから各クラスのターゲットプロトタイプを計算するプロトタイプアライメント(PA)モジュールを組み込んでいます。
具体的には,ラベル付き画像に深刻な摂動を生じさせ,PAを非自明にし,モデル一般化性を促進する。
論文 参考訳(メタデータ) (2021-04-19T08:46:08Z) - Self domain adapted network [6.040230864736051]
ドメインシフトは、臨床実践においてディープネットワークをデプロイする上で大きな問題である。
単体テスト対象に迅速に適応できる新しい自己ドメイン適応ネットワーク(SDA-Net)を提案する。
論文 参考訳(メタデータ) (2020-07-07T01:41:34Z) - Source-Relaxed Domain Adaptation for Image Segmentation [22.28746775804126]
ドメイン適応(DA)は、ラベル付けされたソースデータに基づいてトレーニングされたモデルを適用し、ラベル付けされていないまたは弱いラベル付けされたターゲットデータでうまく機能する能力に対して、高い関心を集めている。
最も一般的なDA技術は、ソースとターゲットドメインの両方の入力画像への同時アクセスを必要とする。
このような制約を緩和するセグメンテーションネットワークを適応するための新しい定式化を提案する。
論文 参考訳(メタデータ) (2020-05-07T18:46:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。