論文の概要: Transformer with Selective Shuffled Position Embedding and Key-Patch
Exchange Strategy for Early Detection of Knee Osteoarthritis
- arxiv url: http://arxiv.org/abs/2304.08364v2
- Date: Fri, 30 Jun 2023 21:12:04 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-04 13:42:05.629500
- Title: Transformer with Selective Shuffled Position Embedding and Key-Patch
Exchange Strategy for Early Detection of Knee Osteoarthritis
- Title(参考訳): 変形性膝関節症早期発見のための選択的シャッフル位置埋め込みとキーパッチ交換法
- Authors: Zhe Wang and Aladine Chetouani and Mohamed Jarraya and Didier Hans and
Rachid Jennane
- Abstract要約: 膝骨関節炎(KOA)は、高齢者の運動に深刻な影響を与える筋骨格障害である。
不十分な医療データは、データラベリングに伴う高コストのため、モデルを効果的に訓練する上で重要な障害となる。
本稿では,従来のSelective Shuffled Position Embedding (SSPE) とキーパッチ交換戦略を用いたビジョントランスフォーマー(ViT)モデルに基づく新しいアプローチを提案する。
- 参考スコア(独自算出の注目度): 7.656764569447645
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knee OsteoArthritis (KOA) is a widespread musculoskeletal disorder that can
severely impact the mobility of older individuals. Insufficient medical data
presents a significant obstacle for effectively training models due to the high
cost associated with data labelling. Currently, deep learning-based models
extensively utilize data augmentation techniques to improve their
generalization ability and alleviate overfitting. However, conventional data
augmentation techniques are primarily based on the original data and fail to
introduce substantial diversity to the dataset. In this paper, we propose a
novel approach based on the Vision Transformer (ViT) model with original
Selective Shuffled Position Embedding (SSPE) and key-patch exchange strategies
to obtain different input sequences as a method of data augmentation for early
detection of KOA (KL-0 vs KL-2). More specifically, we fix and shuffle the
position embedding of key and non-key patches, respectively. Then, for the
target image, we randomly select other candidate images from the training set
to exchange their key patches and thus obtain different input sequences.
Finally, a hybrid loss function is developed by incorporating multiple loss
functions for different types of the sequences. According to the experimental
results, the generated data are considered valid as they lead to a notable
improvement in the model's classification performance.
- Abstract(参考訳): 膝骨関節炎(KOA)は、高齢者の運動に深刻な影響を与える筋骨格障害である。
不十分な医療データは、データラベリングに伴う高コストのため、モデルを効果的に訓練する上で重要な障害となる。
現在、ディープラーニングベースのモデルは、データ拡張技術を利用して一般化能力を改善し、過剰適合を軽減する。
しかし、従来のデータ拡張技術は主に元のデータに基づいており、データセットにかなりの多様性を導入できない。
本稿では,KL-0 対 KL-2 対 KOA の早期検出のためのデータ拡張手法として,元の Selective Shuffled Position Embedding (SSPE) と Key-patch Exchange 戦略を用いた Vision Transformer (ViT) モデルに基づく新しい手法を提案する。
具体的には、キーパッチと非キーパッチの位置埋め込みをそれぞれ修正し、シャッフルする。
そして、対象画像に対して、トレーニングセットから他の候補画像をランダムに選択して、キーパッチを交換し、異なる入力シーケンスを得る。
最後に、異なる種類の配列に対して複数の損失関数を組み込んだハイブリッド損失関数を開発する。
実験結果によると, 生成したデータは, モデル分類性能の顕著な向上につながるため, 有効と考えられる。
関連論文リスト
- Domain Adaptive Diabetic Retinopathy Grading with Model Absence and Flowing Data [45.75724873443564]
ドメインシフトは、糖尿病網膜症などの臨床応用において重要な課題である。
本稿では,データ中心の観点から適応可能なGUES(Generative Unadversarial Examples)を提案する。
論文 参考訳(メタデータ) (2024-12-02T07:14:25Z) - Depression detection in social media posts using transformer-based models and auxiliary features [6.390468088226495]
ソーシャルメディア投稿における抑うつの検出は、メンタルヘルス問題の増加により重要である。
従来の機械学習アルゴリズムは複雑なテキストパターンのキャプチャに失敗することが多く、抑うつを識別する効果を制限している。
本研究では,メタデータと言語マーカーを組み合わせたトランスフォーマーモデルを利用したニューラルネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2024-09-30T07:53:39Z) - Model Inversion Attacks Through Target-Specific Conditional Diffusion Models [54.69008212790426]
モデル反転攻撃(MIA)は、ターゲット分類器のトレーニングセットからプライベートイメージを再構築することを目的としており、それによってAIアプリケーションにおけるプライバシー上の懸念が高まる。
従来のGANベースのMIAは、GANの固有の欠陥と潜伏空間における最適化の偏りにより、劣った遺伝子的忠実度に悩まされる傾向にある。
これらの問題を緩和するために拡散モデル反転(Diff-MI)攻撃を提案する。
論文 参考訳(メタデータ) (2024-07-16T06:38:49Z) - Adaptive Variance Thresholding: A Novel Approach to Improve Existing
Deep Transfer Vision Models and Advance Automatic Knee-Joint Osteoarthritis
Classification [0.11249583407496219]
Knee-Joint型変形性関節症(KOA)は、世界的な障害の原因であり、診断に本質的に複雑である。
1つの有望な分類経路は、ディープラーニングの手法を適用することである。
本研究は,学習後特殊分類器を改善するための新しいパラダイムを提案する。
論文 参考訳(メタデータ) (2023-11-10T00:17:07Z) - 1D-Convolutional transformer for Parkinson disease diagnosis from gait [7.213855322671065]
本稿では,歩行からパーキンソン病の診断に有効なディープニューラルネットワークモデルを提案する。
本稿では,重症度を検知し,病状を正確に診断するためのハイブリッドConvNetTransform-erアーキテクチャを提案する。
提案手法は歩行データからパーキンソン病の異なる段階を検出するのに有効であることが示された。
論文 参考訳(メタデータ) (2023-11-06T15:17:17Z) - The effect of data augmentation and 3D-CNN depth on Alzheimer's Disease
detection [51.697248252191265]
この研究は、データハンドリング、実験設計、モデル評価に関するベストプラクティスを要約し、厳密に観察する。
我々は、アルツハイマー病(AD)の検出に焦点を当て、医療における課題のパラダイム的な例として機能する。
このフレームワークでは,3つの異なるデータ拡張戦略と5つの異なる3D CNNアーキテクチャを考慮し,予測15モデルを訓練する。
論文 参考訳(メタデータ) (2023-09-13T10:40:41Z) - Automatic diagnosis of knee osteoarthritis severity using Swin
transformer [55.01037422579516]
変形性膝関節症 (KOA) は膝関節の慢性的な痛みと硬直を引き起こす疾患である。
我々は,Swin Transformer を用いて KOA の重大度を予測する自動手法を提案する。
論文 参考訳(メタデータ) (2023-07-10T09:49:30Z) - Remote Sensing Change Detection With Transformers Trained from Scratch [62.96911491252686]
トランスフォーマーベースの変更検出(CD)アプローチでは、大規模なイメージ分類でトレーニングされた事前トレーニングモデルを使用するか、別のCDデータセットで最初の事前トレーニングを頼りにしてから、ターゲットのベンチマークを微調整する。
我々は、4つの公開ベンチマークにおいて、スクラッチからトレーニングされながら最先端のパフォーマンスを実現するトランスフォーマーを用いたエンドツーエンドCDアプローチを開発した。
論文 参考訳(メタデータ) (2023-04-13T17:57:54Z) - TWINS: A Fine-Tuning Framework for Improved Transferability of
Adversarial Robustness and Generalization [89.54947228958494]
本稿では,様々な分類タスクにおいて,逆向きに事前訓練されたモデルの微調整に焦点を当てる。
本稿では,TWINS(Two-WIng NormliSation)ファインチューニングフレームワークを提案する。
TWINSは、一般化とロバスト性の両方の観点から、幅広い画像分類データセットに有効であることが示されている。
論文 参考訳(メタデータ) (2023-03-20T14:12:55Z) - Key-Exchange Convolutional Auto-Encoder for Data Augmentation in Early Knee Osteoarthritis Detection [8.193689534916988]
Key-Exchange Convolutional Auto-Encoder (KECAE)は、初期のKOA分類のためのAIベースのデータ拡張戦略である。
我々のモデルは、合成画像を生成する新しいキー交換機構を備えた畳み込みオートエンコーダを用いる。
実験結果から,KECAEが生成したデータはKOA分類モデルの性能を大幅に向上することが示された。
論文 参考訳(メタデータ) (2023-02-26T15:45:19Z) - Cross-Site Severity Assessment of COVID-19 from CT Images via Domain
Adaptation [64.59521853145368]
CT画像によるコロナウイルス病2019(COVID-19)の早期かつ正確な重症度評価は,集中治療単位のイベント推定に有効である。
ラベル付きデータを拡張し、分類モデルの一般化能力を向上させるためには、複数のサイトからデータを集約する必要がある。
この課題は、軽度の感染症と重度の感染症の集団不均衡、部位間のドメイン分布の相違、不均一な特徴の存在など、いくつかの課題に直面する。
論文 参考訳(メタデータ) (2021-09-08T07:56:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。