論文の概要: Shape-Texture Debiased Neural Network Training

• arxiv url: http://arxiv.org/abs/2010.05981v2
• Date: Tue, 30 Mar 2021 19:16:30 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-08 07:24:59.504804
• Title: Shape-Texture Debiased Neural Network Training
• Title（参考訳）: 形状テクスチュアデバイアスニューラルネットワークトレーニング
• Authors: Yingwei Li, Qihang Yu, Mingxing Tan, Jieru Mei, Peng Tang, Wei Shen, Alan Yuille, Cihang Xie
• Abstract要約: 畳み込みニューラルネットワークは、トレーニングデータセットによって、テクスチャまたは形状にバイアスされることが多い。 形状・テクスチャ・デバイアスド学習のためのアルゴリズムを開発した。 実験により,本手法は複数の画像認識ベンチマークにおけるモデル性能の向上に成功していることが示された。
• 参考スコア（独自算出の注目度）: 50.6178024087048
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Shape and texture are two prominent and complementary cues for recognizing objects. Nonetheless, Convolutional Neural Networks are often biased towards either texture or shape, depending on the training dataset. Our ablation shows that such bias degenerates model performance. Motivated by this observation, we develop a simple algorithm for shape-texture debiased learning. To prevent models from exclusively attending on a single cue in representation learning, we augment training data with images with conflicting shape and texture information (eg, an image of chimpanzee shape but with lemon texture) and, most importantly, provide the corresponding supervisions from shape and texture simultaneously. Experiments show that our method successfully improves model performance on several image recognition benchmarks and adversarial robustness. For example, by training on ImageNet, it helps ResNet-152 achieve substantial improvements on ImageNet (+1.2%), ImageNet-A (+5.2%), ImageNet-C (+8.3%) and Stylized-ImageNet (+11.1%), and on defending against FGSM adversarial attacker on ImageNet (+14.4%). Our method also claims to be compatible with other advanced data augmentation strategies, eg, Mixup, and CutMix. The code is available here: https://github.com/LiYingwei/ShapeTextureDebiasedTraining.
• Abstract（参考訳）: 形状とテクスチャは、物体を認識するための2つの顕著で相補的な手がかりである。 それでも、畳み込みニューラルネットワークはしばしば、トレーニングデータセットによってテクスチャまたは形状に偏っている。 我々のアブレーションは、このようなバイアスがモデル性能を低下させることを示している。 この観察により,形状・テクスチュア・デバイアス学習のための簡単なアルゴリズムを開発した。 表現学習において,モデルが単一キューにのみ参加することを防止するため,コンフリクト形状とテクスチャ情報(チンパンジー形状のイメージだがレモンテクスチャも含む)でトレーニングデータを増強し,かつ,それに対応する形状とテクスチャの監督を同時に行う。 実験により,複数の画像認識ベンチマークにおけるモデル性能向上と対向ロバスト性の向上が得られた。 例えば、ImageNetでトレーニングすることで、ResNet-152がImageNet(+1.2%)、ImageNet-A(+5.2%)、ImageNet-C(+8.3%)、Stylized-ImageNet(+11.1%)の大幅な改善を実現し、ImageNetのFGSM敵攻撃者(+14.4%)に対する防御に役立っている。 我々の手法は、他の高度なデータ拡張戦略、例えば、Mixup、CutMixと互換性があると主張している。 コードはここで入手できる。 https://github.com/liyingwei/shapetexturedebiasedtraining。

関連論文リスト

• CatLIP: CLIP-level Visual Recognition Accuracy with 2.7x Faster Pre-training on Web-scale Image-Text Data [40.88256210436378]
  本稿では,Web スケールの画像テキストデータに基づく視覚モデルの弱教師付き事前学習を提案する。 提案手法は,画像テキストデータに基づく事前学習を分類タスクとして再編成する。 Webスケールのデータに対する対照的な学習に比べて、トレーニング速度の2.7倍の加速を実現している。
  論文  参考訳（メタデータ） (2024-04-24T05:13:28Z)
• ImageNet-D: Benchmarking Neural Network Robustness on Diffusion Synthetic Object [78.58860252442045]
  我々は、深層モデルの堅牢性をベンチマークするハードイメージのためのデータソースとして、生成モデルを紹介した。 このベンチマークを ImageNet-D と呼ぶ以前の作業よりも、背景、テクスチャ、材料が多様化したイメージを生成することができます。 我々の研究は、拡散モデルが視覚モデルをテストするのに効果的な情報源となることを示唆している。
  論文  参考訳（メタデータ） (2024-03-27T17:23:39Z)
• EfficientTrain: Exploring Generalized Curriculum Learning for Training Visual Backbones [80.662250618795]
  本稿では視覚バックボーン(例えば視覚変換器)の効率的なトレーニングのための新しいカリキュラム学習手法を提案する。 オフザシェルフ方式として、様々な人気モデルのウォールタイムトレーニングコストを、精度を犠牲にすることなく、ImageNet-1K/22Kで1.5倍に削減する。
  論文  参考訳（メタデータ） (2022-11-17T17:38:55Z)
• Decoupled Mixup for Generalized Visual Recognition [71.13734761715472]
  視覚認識のためのCNNモデルを学習するための新しい「デカップリング・ミクスアップ」手法を提案する。 本手法は,各画像を識別領域と雑音発生領域に分離し,これらの領域を均一に組み合わせてCNNモデルを訓練する。 実験結果から,未知のコンテキストからなるデータに対する本手法の高一般化性能を示す。
  論文  参考訳（メタデータ） (2022-10-26T15:21:39Z)
• Adaptive Convolutional Dictionary Network for CT Metal Artifact Reduction [62.691996239590125]
  本稿では,金属人工物削減のための適応畳み込み辞書ネットワーク(ACDNet)を提案する。 我々のACDNetは、トレーニングデータを介して、アーティファクトフリーCT画像の事前を自動で学習し、入力されたCT画像ごとに表現カーネルを適応的に調整することができる。 本手法は,モデルに基づく手法の明確な解釈可能性を継承し,学習に基づく手法の強力な表現能力を維持する。
  論文  参考訳（メタデータ） (2022-05-16T06:49:36Z)
• Identical Image Retrieval using Deep Learning [0.0]
  私たちは最先端のモデルであるBigTransfer Modelを使用しています。 我々は、K-Nearest Neighborモデルで重要な特徴を抽出し、最も近い隣人を得るために訓練する。 本モデルの応用は,低推論時間でテキストクエリによって実現し難い,類似した画像を見つけることである。
  論文  参考訳（メタデータ） (2022-05-10T13:34:41Z)
• Robust Contrastive Learning Using Negative Samples with Diminished Semantics [23.38896719740166]
  慎重に設計された負のサンプルを生成することで、コントラスト学習がより堅牢な表現を学習できることが示される。 我々は, テクスチャベースとパッチベースの拡張という2つの手法を開発し, 負のサンプルを生成する。 また,本手法と生成したテクスチャベースサンプルを分析し,特定のイメージネットクラスを分類するにはテクスチャの特徴が不可欠であることを示す。
  論文  参考訳（メタデータ） (2021-10-27T05:38:00Z)
• Automated Cleanup of the ImageNet Dataset by Model Consensus, Explainability and Confident Learning [0.0]
  ImageNetは、ILSVRC12Netでトレーニングされた様々な畳み込みニューラルネットワーク(CNN)のバックボーンである。 本稿では,モデルのコンセンサス,説明可能性,自信のある学習に基づく自動アプリケーションについて述べる。 ImageNet-CleanはSqueezeNetおよびEfficientNet-B0モデルのモデルパフォーマンスを2-2.4%向上させる。
  論文  参考訳（メタデータ） (2021-03-30T13:16:35Z)
• Increasing the Robustness of Semantic Segmentation Models with Painting-by-Numbers [39.95214171175713]
  我々は,物体の形状に対するネットワークバイアスを増大させることにより,出力を改善することができる画像分類からの洞察に基づいて構築する。 我々の基本的な考え方は、RGBトレーニング画像の一部を偽画像でアルファブレンドすることであり、各クラスラベルには、固定されたランダムに選択された色が与えられる。 各種ネットワークバックボーン,MobileNet-V2,ResNets,Xceptionを用いたDeepLabv3+のトレーニングスキーマの有効性を実証し,Cityscapesデータセットで評価した。
  論文  参考訳（メタデータ） (2020-10-12T07:42:39Z)
• Informative Dropout for Robust Representation Learning: A Shape-bias Perspective [84.30946377024297]
  Informative Dropout (InfoDrop) と呼ばれる軽量モデル非依存の手法を提案し, 解釈性の向上とテクスチャバイアスの低減を図る。 具体的には、画像中の局所的な自己情報に基づいて形状からテクスチャを識別し、Dropoutのようなアルゴリズムを用いて局所的なテクスチャからのモデル出力をデコレーションする。
  論文  参考訳（メタデータ） (2020-08-10T16:52:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。