論文の概要: Proper Reuse of Image Classification Features Improves Object Detection

• arxiv url: http://arxiv.org/abs/2204.00484v1
• Date: Fri, 1 Apr 2022 14:44:47 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-04 13:52:22.037313
• Title: Proper Reuse of Image Classification Features Improves Object Detection
• Title（参考訳）: 画像分類機能の適正再利用によるオブジェクト検出の改善
• Authors: Cristina Vasconcelos, Vighnesh Birodkar, Vincent Dumoulin
• Abstract要約: トランスファーラーニングの一般的な実践は、データに基づく上流タスクで事前学習することで、下流モデルの重み付けを初期化することである。 近年の研究では、長いトレーニング体制下では必須ではないことが示されており、背骨をスクラッチからトレーニングするためのレシピを提供している。 知識保存の極端な形態 -- 分類器dのバックボーンを凍結する -- が、一貫して多くの異なる検出モデルを改善していることを示す。
• 参考スコア（独自算出の注目度）: 4.240984948137734
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A common practice in transfer learning is to initialize the downstream model weights by pre-training on a data-abundant upstream task. In object detection specifically, the feature backbone is typically initialized with Imagenet classifier weights and fine-tuned on the object detection task. Recent works show this is not strictly necessary under longer training regimes and provide recipes for training the backbone from scratch. We investigate the opposite direction of this end-to-end training trend: we show that an extreme form of knowledge preservation -- freezing the classifier-initialized backbone -- consistently improves many different detection models, and leads to considerable resource savings. We hypothesize and corroborate experimentally that the remaining detector components capacity and structure is a crucial factor in leveraging the frozen backbone. Immediate applications of our findings include performance improvements on hard cases like detection of long-tail object classes and computational and memory resource savings that contribute to making the field more accessible to researchers with access to fewer computational resources.
• Abstract（参考訳）: トランスファーラーニングの一般的な実践は、データに基づく上流タスクで事前学習することで、下流モデルの重み付けを初期化することである。 特にオブジェクト検出では、機能バックボーンはimagenet分類器で初期化され、オブジェクト検出タスクで微調整される。 近年の研究では、長いトレーニング体制下では必須ではないことが示されており、背骨をスクラッチからトレーニングするためのレシピを提供している。 我々は、このエンドツーエンドのトレーニングトレンドの反対方向を調査し、知識保存の極端な形態 -- 分類器初期化バックボーンの凍結 -- が、多くの異なる検出モデルを改善し、かなりのリソース節約につながることを示した。 凍結したバックボーンを有効利用するためには,残りの検出器部品の容量と構造が重要な要素である,という仮説とコロボケートを実験的に検討した。 私たちの研究の即時的な応用には、長い尾のオブジェクトクラスの検出や、計算資源が少ない研究者がフィールドにアクセスしやすいようにするための計算およびメモリリソースの節約など、ハードケースのパフォーマンス改善が含まれる。

関連論文リスト

• Learning from Neighbors: Category Extrapolation for Long-Tail Learning [62.30734737735273]
  より粒度の細かいデータセットは、データの不均衡の影響を受けにくい傾向があります。 既存のクラスと視覚的に類似したオープンセット補助クラスを導入し、頭と尾の両方の表現学習を強化することを目的とした。 補助授業の圧倒的な存在がトレーニングを混乱させるのを防ぐために,近隣のサイレンシング障害を導入する。
  論文  参考訳（メタデータ） (2024-10-21T13:06:21Z)
• Rethinking Feature Backbone Fine-tuning for Remote Sensing Object Detection [10.896464615994494]
  リモートセンシングオブジェクト検出における機能バックボーン微細調整のためのDBF(Dynamic Backbone Freezing)を提案する。 本手法は,背骨が低レベルなジェネリック特徴を引き出すべきか,あるいはリモートセンシング領域の特定の知識を持つべきか,というジレンマを扱うことを目的としている。 提案手法は,計算コストを大幅に削減しつつ,より正確なモデル学習を可能にする。
  論文  参考訳（メタデータ） (2024-07-21T12:32:00Z)
• InfRS: Incremental Few-Shot Object Detection in Remote Sensing Images [11.916941756499435]
  本稿では,リモートセンシング画像におけるインクリメンタルな数ショット物体検出の複雑な課題について検討する。 本稿では,新しい授業の漸進的な学習を促進するために,InfRSと呼ばれる先駆的な微調整技術を導入する。 我々はワッサーシュタイン距離に基づく原型校正戦略を開発し、破滅的な忘れ問題を軽減する。
  論文  参考訳（メタデータ） (2024-05-18T13:39:50Z)
• Fractals as Pre-training Datasets for Anomaly Detection and Localization [0.0]
  異常検出は、欠陥部分の検出とローカライズを支援するため、大規模製造業において不可欠である。 大規模データセットの事前トレーニング機能抽出は、このタスクの一般的なアプローチである。 動的に生成されたフラクタル画像を用いて事前学習した8つの最先端手法の性能を評価する。
  論文  参考訳（メタデータ） (2024-05-11T10:35:42Z)
• Back to Basics: A Simple Recipe for Improving Out-of-Domain Retrieval in Dense Encoders [63.28408887247742]
  得られたモデルにおいて,より優れた一般化能力を得るために,トレーニング手順の改善が可能であるかを検討する。 我々は、高密度エンコーダをトレーニングするための簡単なレシピを推奨する: LoRAのようなパラメータ効率のよいMSMARCOのトレーニング。
  論文  参考訳（メタデータ） (2023-11-16T10:42:58Z)
• Proposal-Contrastive Pretraining for Object Detection from Fewer Data [11.416621957617334]
  本稿では,新しい教師なし総合事前学習手法ProSeCoを提案する。 ProSeCoは、コントラスト学習のために検出器によって生成される多数のオブジェクト提案を使用する。 本手法は,標準および新しいベンチマークにおいて,対象検出のための教師なし事前学習において,最先端の手法であることを示す。
  論文  参考訳（メタデータ） (2023-10-25T17:59:26Z)
• CoDo: Contrastive Learning with Downstream Background Invariance for Detection [10.608660802917214]
  下流背景不変性(CoDo)を用いたコントラスト学習という,オブジェクトレベルの自己教師型学習手法を提案する。 プリテキストタスクは、さまざまなバックグラウンド、特に下流データセットのインスタンス位置モデリングに集中するように変換される。 MSCOCOの実験では、共通のバックボーンを持つCoDoであるResNet50-FPNが、オブジェクト検出に強力な転送学習結果をもたらすことを示した。
  論文  参考訳（メタデータ） (2022-05-10T01:26:15Z)
• Incremental-DETR: Incremental Few-Shot Object Detection via Self-Supervised Learning [60.64535309016623]
  本稿では,DeTRオブジェクト検出器上での微調整および自己教師型学習によるインクリメンタル・デクリメンタル・デクリメンタル・デクリメンタル・オブジェクト検出を提案する。 まず,DeTRのクラス固有のコンポーネントを自己監督で微調整する。 さらに,DeTRのクラス固有のコンポーネントに知識蒸留を施した数発の微調整戦略を導入し,破滅的な忘れを伴わずに新しいクラスを検出するネットワークを奨励する。
  論文  参考訳（メタデータ） (2022-05-09T05:08:08Z)
• Instance Localization for Self-supervised Detection Pretraining [68.24102560821623]
  インスタンスローカリゼーションと呼ばれる,新たな自己監視型プリテキストタスクを提案する。 境界ボックスを事前学習に組み込むことで、より優れたタスクアライメントとアーキテクチャアライメントが促進されることを示す。 実験結果から, オブジェクト検出のための最先端の転送学習結果が得られた。
  論文  参考訳（メタデータ） (2021-02-16T17:58:57Z)
• Automatic Recall Machines: Internal Replay, Continual Learning and the Brain [104.38824285741248]
  ニューラルネットワークのリプレイには、記憶されたサンプルを使ってシーケンシャルなデータのトレーニングが含まれる。 本研究では,これらの補助サンプルをフライ時に生成する手法を提案する。 代わりに、評価されたモデル自体内の学習したサンプルの暗黙の記憶が利用されます。
  論文  参考訳（メタデータ） (2020-06-22T15:07:06Z)
• One-Shot Object Detection without Fine-Tuning [62.39210447209698]
  本稿では,第1ステージのMatching-FCOSネットワークと第2ステージのStructure-Aware Relation Moduleからなる2段階モデルを提案する。 また,検出性能を効果的に向上する新たなトレーニング戦略を提案する。 提案手法は,複数のデータセット上で一貫した最先端のワンショット性能を上回る。
  論文  参考訳（メタデータ） (2020-05-08T01:59:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。