論文の概要: Understanding the Benefits of Image Augmentations

• arxiv url: http://arxiv.org/abs/2306.06254v1
• Date: Fri, 9 Jun 2023 20:52:44 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-13 20:13:04.982832
• Title: Understanding the Benefits of Image Augmentations
• Title（参考訳）: 画像強化のメリットを理解する
• Authors: Matthew Iceland, Christopher Kanan
• Abstract要約: Centered Kernel Alignment (CKA) を用いて, 残留ニューラルネットワーク(ResNet)のどの層が最も影響を受けているかを検討した。 このパターンはモデルの深さに依存しており、2つの画像から情報を利用する拡張で訓練されたネットワークは、1つの画像で操作する拡張よりも、学習した重みに大きく影響することがわかった。
• 参考スコア（独自算出の注目度）: 21.484165019581482
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Image Augmentations are widely used to reduce overfitting in neural networks. However, the explainability of their benefits largely remains a mystery. We study which layers of residual neural networks (ResNets) are most affected by augmentations using Centered Kernel Alignment (CKA). We do so by analyzing models of varying widths and depths, as well as whether their weights are initialized randomly or through transfer learning. We find that the pattern of how the layers are affected depends on the model's depth, and that networks trained with augmentation that use information from two images affect the learned weights significantly more than augmentations that operate on a single image. Deeper layers of ResNets initialized with ImageNet-1K weights and fine-tuned receive more impact from the augmentations than early layers. Understanding the effects of image augmentations on CNNs will have a variety of applications, such as determining how far back one needs to fine-tune a network and which layers should be frozen when implementing layer freezing algorithms.
• Abstract（参考訳）: 画像拡張は、ニューラルネットワークの過剰フィッティングを減らすために広く使われている。 しかし、その利点の説明可能性はほとんど謎のままである。 残留ニューラルネットワーク(resnet)のどの層がセンタード・カーネルアライメント(cka)を用いた拡張によって最も影響を受けるかを検討した。 私たちは、幅と深さの異なるモデルを分析し、その重みがランダムに初期化されているか、転送学習を通して行われるかを分析します。 このパターンはモデルの深さに依存しており、2つの画像から情報を利用する拡張で訓練されたネットワークは、1つの画像で操作する拡張よりも学習重量に大きく影響している。 ImageNet-1Kの重みと微調整で初期化されたResNetの深いレイヤは、初期レイヤよりも拡張の影響が大きい。 CNNに対する画像強化の効果を理解するには、ネットワークを微調整するために必要な後方と、層凍結アルゴリズムを実装する際にどの層を凍結すべきかを決定するなど、さまざまなアプリケーションがある。

関連論文リスト

• Adaptive Convolutional Neural Network for Image Super-resolution [43.06377001247278]
  画像超解像のための適応畳み込みニューラルネットワーク(ADSRNet)を提案する。 上層ネットワークは、コンテキスト情報、カーネルマッピングの健全な情報関係、浅い層と深い層の関連性を高めることができる。 下位のネットワークは対称アーキテクチャを使用して、異なるレイヤの関係を強化し、より構造的な情報をマイニングする。
  論文  参考訳（メタデータ） (2024-02-24T03:44:06Z)
• Random Weights Networks Work as Loss Prior Constraint for Image Restoration [50.80507007507757]
  「画像復元の優先制約としてランダムウェイトネットワークを機能させることができる」という信念を提示する。」 我々の信念は、計算コストのトレーニングやテストなしに、既存のネットワークに直接挿入することができる。 強調しておきたいのは、損失関数の領域を刺激し、現在無視されている状態を保存することです。
  論文  参考訳（メタデータ） (2023-03-29T03:43:51Z)
• MSR: Making Self-supervised learning Robust to Aggressive Augmentations [98.6457801252358]
  本稿では,弱いペアと攻撃的なペアの役割のバランスをとることによって,意味変化の影響に対処する新たなSSLパラダイムを提案する。 我々は,BYOLを2.5%改善したResNet-50を200エポックとして,ImageNet-1Kで73.1%のTop-1精度を実現したことを示す。
  論文  参考訳（メタデータ） (2022-06-04T14:27:29Z)
• Background Invariant Classification on Infrared Imagery by Data Efficient Training and Reducing Bias in CNNs [1.2891210250935146]
  畳み込みニューラルネットワークは 画像中の物体を 正確に分類できます ネットワークの注意が常にシーンのセマンティックな重要な領域にあるとは限らないことはよく知られている。 我々は、赤外線画像とRGBデータの両方におけるCNNのバイアスを低減するために、textitsplit trainingと呼ばれる2段階のトレーニング手順を提案する。
  論文  参考訳（メタデータ） (2022-01-22T23:29:42Z)
• Is Deep Image Prior in Need of a Good Education? [57.3399060347311]
  画像再構成に有効な先行画像として, 奥行き画像が導入された。 その印象的な再建性にもかかわらず、学習技術や伝統的な再建技術と比べてアプローチは遅い。 計算課題に対処する2段階の学習パラダイムを開発する。
  論文  参考訳（メタデータ） (2021-11-23T15:08:26Z)
• Generic Perceptual Loss for Modeling Structured Output Dependencies [78.59700528239141]
  トレーニングされた重みではなく、ネットワーク構造が重要であることを示す。 我々は、出力の構造化依存関係をモデル化するためにランダムに重み付けされたディープcnnが使用できることを実証する。
  論文  参考訳（メタデータ） (2021-03-18T23:56:07Z)
• Image Restoration by Deep Projected GSURE [115.57142046076164]
  Ill-posed inverse problem は、デブロアリングや超解像など、多くの画像処理アプリケーションに現れる。 本稿では,一般化されたSteinUnbiased Risk Estimator(GSURE)の「投影変換」とCNNによる潜在画像のパラメータ化を含む損失関数の最小化に基づく,新たな画像復元フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-02-04T08:52:46Z)
• An analysis of the transfer learning of convolutional neural networks for artistic images [1.9336815376402716]
  巨大な自然画像データセットからのトランスファー学習は、アート分析アプリケーションの中核となっている。 本稿ではまず,ネットワークの内部表現を可視化する手法を用いて,ネットワークが芸術的イメージで何を学んだかを理解するための手がかりを提供する。 特徴空間とパラメータ空間の両方のメトリクスと、最大アクティベーション画像のセットで計算されたメトリクスのおかげで、学習プロセスが導入した変化を定量的に分析する。
  論文  参考訳（メタデータ） (2020-11-05T09:45:32Z)
• Neural Sparse Representation for Image Restoration [116.72107034624344]
  スパース符号化に基づく画像復元モデルの堅牢性と効率に触発され,深部ネットワークにおけるニューロンの空間性について検討した。 本手法は,隠れたニューロンに対する空間的制約を構造的に強制する。 実験により、複数の画像復元タスクのためのディープニューラルネットワークではスパース表現が不可欠であることが示されている。
  論文  参考訳（メタデータ） (2020-06-08T05:15:17Z)
• A Light-Weighted Convolutional Neural Network for Bitemporal SAR Image Change Detection [40.58864817923371]
  計算と空間の複雑さを低減するために,軽量なニューラルネットワークを提案する。 提案するネットワークでは、通常の畳み込み層を、入力と出力の間に同じ数のチャネルを保持するボトルネック層に置き換える。 両時間SAR画像の4つのセット上で、重み付けされたニューラルネットワークを検証する。
  論文  参考訳（メタデータ） (2020-05-29T04:01:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。