論文の概要: Transformer with Selective Shuffled Position Embedding using
ROI-Exchange Strategy for Early Detection of Knee Osteoarthritis
- arxiv url: http://arxiv.org/abs/2304.08364v1
- Date: Mon, 17 Apr 2023 15:26:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-18 14:29:36.540324
- Title: Transformer with Selective Shuffled Position Embedding using
ROI-Exchange Strategy for Early Detection of Knee Osteoarthritis
- Title(参考訳): ROI-Exchange 法を用いた選択的シャッフル位置埋め込みを用いた変形性膝関節症早期発見
- Authors: Zhe Wang and Aladine Chetouani and Rachid Jennane
- Abstract要約: Knee osteoArthritis (KOA) は高齢者の運動能力低下を引き起こす筋骨格障害である。
ディープニューラルネットワークトレーニングは、モデルの一般化能力を改善するために、データ拡張に強く依存する。
選択的シャッフル位置埋め込み(SSPE)とROI交換戦略を用いた視覚変換器(ViT)モデルに基づく新しいアプローチを提案する。
- 参考スコア(独自算出の注目度): 9.400820679110147
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knee OsteoArthritis (KOA) is a prevalent musculoskeletal disorder that causes
decreased mobility in seniors. The lack of sufficient data in the medical field
is always a challenge for training a learning model due to the high cost of
labelling. At present, deep neural network training strongly depends on data
augmentation to improve the model's generalization capability and avoid
over-fitting. However, existing data augmentation operations, such as rotation,
gamma correction, etc., are designed based on the data itself, which does not
substantially increase the data diversity. In this paper, we proposed a novel
approach based on the Vision Transformer (ViT) model with Selective Shuffled
Position Embedding (SSPE) and a ROI-exchange strategy to obtain different input
sequences as a method of data augmentation for early detection of KOA (KL-0 vs
KL-2). More specifically, we fixed and shuffled the position embedding of ROI
and non-ROI patches, respectively. Then, for the input image, we randomly
selected other images from the training set to exchange their ROI patches and
thus obtained different input sequences. Finally, a hybrid loss function was
derived using different loss functions with optimized weights. Experimental
results show that our proposed approach is a valid method of data augmentation
as it can significantly improve the model's classification performance.
- Abstract(参考訳): Knee osteoArthritis (KOA) は高齢者の運動能力低下を引き起こす筋骨格障害である。
医療分野における十分なデータ不足は、ラベル付けのコストが高いため、学習モデルのトレーニングにおいて常に課題となる。
現在、ディープニューラルネットワークトレーニングは、モデルの一般化能力を改善し、過度な適合を避けるために、データ拡張に強く依存している。
しかし、回転やガンマ補正などの既存のデータ拡張操作は、データ自体に基づいて設計されており、データの多様性を実質的に増やさない。
本稿では,sspe(selective shuffled position embedded)を用いた視覚トランスフォーマティブ(vit)モデルと,koa(kl-0 vs kl-2)の早期検出のためのデータ拡張手法として,異なる入力シーケンスを得るroi交換戦略に基づく新しい手法を提案する。
具体的には、ROIと非ROIパッチの埋め込み位置をそれぞれ修正し、シャッフルしました。
そして、入力画像に対して、トレーニングセットから他の画像をランダムに選択してROIパッチを交換し、異なる入力シーケンスを得る。
最後に、最適化重み付き異なる損失関数を用いてハイブリッド損失関数を導出した。
実験の結果,提案手法はモデルの分類性能を著しく向上できるため,有効なデータ拡張手法であることがわかった。
関連論文リスト
- Depression detection in social media posts using transformer-based models and auxiliary features [6.390468088226495]
ソーシャルメディア投稿における抑うつの検出は、メンタルヘルス問題の増加により重要である。
従来の機械学習アルゴリズムは複雑なテキストパターンのキャプチャに失敗することが多く、抑うつを識別する効果を制限している。
本研究では,メタデータと言語マーカーを組み合わせたトランスフォーマーモデルを利用したニューラルネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2024-09-30T07:53:39Z) - Model Inversion Attacks Through Target-Specific Conditional Diffusion Models [54.69008212790426]
モデル反転攻撃(MIA)は、ターゲット分類器のトレーニングセットからプライベートイメージを再構築することを目的としており、それによってAIアプリケーションにおけるプライバシー上の懸念が高まる。
従来のGANベースのMIAは、GANの固有の欠陥と潜伏空間における最適化の偏りにより、劣った遺伝子的忠実度に悩まされる傾向にある。
これらの問題を緩和するために拡散モデル反転(Diff-MI)攻撃を提案する。
論文 参考訳(メタデータ) (2024-07-16T06:38:49Z) - Exploring the Efficacy of Base Data Augmentation Methods in Deep
Learning-Based Radiograph Classification of Knee Joint Osteoarthritis [0.12289361708127876]
変形性膝関節症 (KOA) の診断は, 微妙なX線学的指標と疾患の進展により困難である。
本研究では,敵対的拡張を含む様々なデータ拡張手法について検討し,KOA分類モデルの性能に与える影響について検討した。
論文 参考訳(メタデータ) (2023-11-10T15:35:00Z) - Adaptive Variance Thresholding: A Novel Approach to Improve Existing
Deep Transfer Vision Models and Advance Automatic Knee-Joint Osteoarthritis
Classification [0.11249583407496219]
Knee-Joint型変形性関節症(KOA)は、世界的な障害の原因であり、診断に本質的に複雑である。
1つの有望な分類経路は、ディープラーニングの手法を適用することである。
本研究は,学習後特殊分類器を改善するための新しいパラダイムを提案する。
論文 参考訳(メタデータ) (2023-11-10T00:17:07Z) - 1D-Convolutional transformer for Parkinson disease diagnosis from gait [7.213855322671065]
本稿では,歩行からパーキンソン病の診断に有効なディープニューラルネットワークモデルを提案する。
本稿では,重症度を検知し,病状を正確に診断するためのハイブリッドConvNetTransform-erアーキテクチャを提案する。
提案手法は歩行データからパーキンソン病の異なる段階を検出するのに有効であることが示された。
論文 参考訳(メタデータ) (2023-11-06T15:17:17Z) - The effect of data augmentation and 3D-CNN depth on Alzheimer's Disease
detection [51.697248252191265]
この研究は、データハンドリング、実験設計、モデル評価に関するベストプラクティスを要約し、厳密に観察する。
我々は、アルツハイマー病(AD)の検出に焦点を当て、医療における課題のパラダイム的な例として機能する。
このフレームワークでは,3つの異なるデータ拡張戦略と5つの異なる3D CNNアーキテクチャを考慮し,予測15モデルを訓練する。
論文 参考訳(メタデータ) (2023-09-13T10:40:41Z) - Automatic diagnosis of knee osteoarthritis severity using Swin
transformer [55.01037422579516]
変形性膝関節症 (KOA) は膝関節の慢性的な痛みと硬直を引き起こす疾患である。
我々は,Swin Transformer を用いて KOA の重大度を予測する自動手法を提案する。
論文 参考訳(メタデータ) (2023-07-10T09:49:30Z) - Remote Sensing Change Detection With Transformers Trained from Scratch [62.96911491252686]
トランスフォーマーベースの変更検出(CD)アプローチでは、大規模なイメージ分類でトレーニングされた事前トレーニングモデルを使用するか、別のCDデータセットで最初の事前トレーニングを頼りにしてから、ターゲットのベンチマークを微調整する。
我々は、4つの公開ベンチマークにおいて、スクラッチからトレーニングされながら最先端のパフォーマンスを実現するトランスフォーマーを用いたエンドツーエンドCDアプローチを開発した。
論文 参考訳(メタデータ) (2023-04-13T17:57:54Z) - TWINS: A Fine-Tuning Framework for Improved Transferability of
Adversarial Robustness and Generalization [89.54947228958494]
本稿では,様々な分類タスクにおいて,逆向きに事前訓練されたモデルの微調整に焦点を当てる。
本稿では,TWINS(Two-WIng NormliSation)ファインチューニングフレームワークを提案する。
TWINSは、一般化とロバスト性の両方の観点から、幅広い画像分類データセットに有効であることが示されている。
論文 参考訳(メタデータ) (2023-03-20T14:12:55Z) - Key-Exchange Convolutional Auto-Encoder for Data Augmentation in Early
Knee OsteoArthritis Classification [9.400820679110147]
膝骨関節炎(KOA)は高齢者の移動を損なう筋骨格疾患である。
畳み込み型オートエンコーダに基づく学習モデルと,KOA早期診断のための新たなデータを生成するハイブリッド損失戦略を提案する。
論文 参考訳(メタデータ) (2023-02-26T15:45:19Z) - Cross-Site Severity Assessment of COVID-19 from CT Images via Domain
Adaptation [64.59521853145368]
CT画像によるコロナウイルス病2019(COVID-19)の早期かつ正確な重症度評価は,集中治療単位のイベント推定に有効である。
ラベル付きデータを拡張し、分類モデルの一般化能力を向上させるためには、複数のサイトからデータを集約する必要がある。
この課題は、軽度の感染症と重度の感染症の集団不均衡、部位間のドメイン分布の相違、不均一な特徴の存在など、いくつかの課題に直面する。
論文 参考訳(メタデータ) (2021-09-08T07:56:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。