論文の概要: PatchDropout: Economizing Vision Transformers Using Patch Dropout

• arxiv url: http://arxiv.org/abs/2208.07220v1
• Date: Wed, 10 Aug 2022 14:08:55 GMT
• ステータス: 処理完了
• システム内更新日: 2022-08-28 22:10:15.921880
• Title: PatchDropout: Economizing Vision Transformers Using Patch Dropout
• Title（参考訳）: パッチドロップアウト:パッチドロップアウトによる視覚トランスフォーマーの緩和
• Authors: Yue Liu, Christos Matsoukas, Fredrik Strand, Hossein Azizpour, Kevin Smith
• Abstract要約: 入力画像パッチをランダムにドロップすることで、標準のViTモデルを高解像度で効率的に訓練できることを示す。 我々はPatchDropoutを使って計算とメモリの5倍の節約と性能の向上を観察する。
• 参考スコア（独自算出の注目度）: 9.243684409949436
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Vision transformers have demonstrated the potential to outperform CNNs in a variety of vision tasks. But the computational and memory requirements of these models prohibit their use in many applications, especially those that depend on high-resolution images, such as medical image classification. Efforts to train ViTs more efficiently are overly complicated, necessitating architectural changes or intricate training schemes. In this work, we show that standard ViT models can be efficiently trained at high resolution by randomly dropping input image patches. This simple approach, PatchDropout, reduces FLOPs and memory by at least 50% in standard natural image datasets such as ImageNet, and those savings only increase with image size. On CSAW, a high-resolution medical dataset, we observe a 5 times savings in computation and memory using PatchDropout, along with a boost in performance. For practitioners with a fixed computational or memory budget, PatchDropout makes it possible to choose image resolution, hyperparameters, or model size to get the most performance out of their model.
• Abstract（参考訳）: 視覚トランスフォーマーは、様々な視覚タスクでcnnを上回る可能性を実証した。 しかし、これらのモデルの計算とメモリ要件は、多くのアプリケーション、特に医療画像分類のような高解像度画像に依存するアプリケーションでの使用を禁止している。 ViTをより効率的に訓練する努力は、過度に複雑で、アーキテクチャの変更や複雑なトレーニングスキームを必要とします。 本研究では,標準vitモデルをランダムに入力画像パッチを落として高分解能で効率的に訓練できることを示す。 この単純なアプローチであるpatchdropoutは、imagenetのような標準的な自然画像データセットにおいて、フロップとメモリを少なくとも50%削減し、画像サイズでしか節約できない。 高解像度の医療データセットであるCSAWでは、PatchDropoutを使用して計算とメモリの5倍の節約と性能の向上を観察する。 PatchDropoutは、固定された計算やメモリ予算を持つ実践者に対して、画像解像度、ハイパーパラメータ、モデルサイズを選択して、モデルから最高のパフォーマンスを得られるようにする。

関連論文リスト

• ConvLLaVA: Hierarchical Backbones as Visual Encoder for Large Multimodal Models [77.59651787115546]
  高解像度のLMM(Large Multimodal Models)は、過度な視覚トークンと二次的な視覚的複雑さの課題に直面する。 本稿では,LMMのビジュアルエンコーダとして,階層的なバックボーンであるConvNeXtを用いるConvLLaVAを提案する。 ConvLLaVAは高解像度画像を情報豊富な視覚特徴に圧縮し、過剰な視覚トークンの発生を効果的に防止する。
  論文  参考訳（メタデータ） (2024-05-24T17:34:15Z)
• MeLo: Low-rank Adaptation is Better than Fine-tuning for Medical Image Diagnosis [63.59184480010552]
  ヴィジュアルトランスフォーマー(ViT)は、医療画像のコミュニティにとってずっと大きく、アクセスしにくくなっている。 MeLo(医療画像低ランク適応)は、リソース要求の微調整の代わりに低ランク適応を採用する。 提案手法は,4つの異なる医用画像データセット上で,完全に微調整されたVTモデルに匹敵する性能を実現する。
  論文  参考訳（メタデータ） (2023-11-14T15:18:54Z)
• Reversible Vision Transformers [74.3500977090597]
  Reversible Vision Transformersは、視覚認識のためのメモリ効率の良いアーキテクチャである。 我々は2つの人気モデル、すなわちビジョン変換器とマルチスケールビジョン変換器を可逆的変種に適用する。 より深いモデルでは、アクティベーションを再計算する際の計算負荷が過大評価されている。
  論文  参考訳（メタデータ） (2023-02-09T18:59:54Z)
• Patch Gradient Descent: Training Neural Networks on Very Large Images [13.969180905165533]
  大規模画像上で既存のCNNアーキテクチャを学習するためのパッチグラディエントDescent(PatchGD)を提案する。 PatchGDは、画像全体の勾配ベースの更新を一度に実行する代わりに、画像の小さな部分のみでモデル更新を行うことで、優れたソリューションを実現することができる、という仮説に基づいている。 評価の結果,PatchGDは大きな画像を扱う際の標準勾配差法よりも安定かつ効率的であることがわかった。
  論文  参考訳（メタデータ） (2023-01-31T18:04:35Z)
• FlexiViT: One Model for All Patch Sizes [100.52574011880571]
  ビジョントランスフォーマーは、それらをパッチにスライスすることで、画像をシーケンスに変換する。 これらのパッチのサイズは速度/精度のトレードオフを制御し、より小さなパッチはより高い計算コストで高い精度に繋がる。 トレーニング時にパッチサイズをランダムにすると、一組の重み付けが発生し、広範囲のパッチサイズでうまく機能することを示す。
  論文  参考訳（メタデータ） (2022-12-15T18:18:38Z)
• Iterative Patch Selection for High-Resolution Image Recognition [10.847032625429717]
  本稿では,メモリ使用量を入力サイズから分離する単純な手法であるIPSを提案する。 IPSは、最も健全なパッチだけを選択してこれを達成し、画像認識のためのグローバルな表現に集約する。 本手法は,最小のアクセラレータメモリを使用しながら,異なる領域,トレーニング体制,画像サイズにまたがって高い性能を示し,幅広い適用性を有する。
  論文  参考訳（メタデータ） (2022-10-24T07:55:57Z)
• Swin Transformer V2: Scaling Up Capacity and Resolution [45.462916348268664]
  我々はSwin Transformerを最大30億のパラメータにスケーリングし、最大1,536$times$1,536解像度の画像でトレーニングできるようにする。 キャパシティと解像度をスケールアップすることで、Swin Transformerは4つの代表的なビジョンベンチマークに新しいレコードを設定する。
  論文  参考訳（メタデータ） (2021-11-18T18:59:33Z)
• Restormer: Efficient Transformer for High-Resolution Image Restoration [118.9617735769827]
  畳み込みニューラルネットワーク(CNN)は、大規模データから一般化可能な画像の事前学習をうまく行う。 トランスフォーマーは、自然言語とハイレベルな視覚タスクにおいて、顕著なパフォーマンス向上を示している。 我々のモデルであるRecovery Transformer (Restormer) は、いくつかの画像復元タスクにおいて最先端の結果を得る。
  論文  参考訳（メタデータ） (2021-11-18T18:59:10Z)
• Patch Slimming for Efficient Vision Transformers [107.21146699082819]
  与えられたネットワーク上で冗長な計算を行うことにより,視覚変換器の効率性について検討する。 我々は、トップダウンパラダイムで無駄なパッチを捨てる、新しいパッチスリム化アプローチを提案する。 ベンチマークによる実験結果から,提案手法は視覚変換器の計算コストを大幅に削減できることが示された。
  論文  参考訳（メタデータ） (2021-06-05T09:46:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。