論文の概要: A New Knowledge Distillation Network for Incremental Few-Shot Surface Defect Detection

• arxiv url: http://arxiv.org/abs/2209.00519v1
• Date: Thu, 1 Sep 2022 15:08:44 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-02 13:19:54.844065
• Title: A New Knowledge Distillation Network for Incremental Few-Shot Surface Defect Detection
• Title（参考訳）: インクリメンタルFew-Shot表面欠陥検出のための新しい知識蒸留ネットワーク
• Authors: Chen Sun, Liang Gao, Xinyu Li, Yiping Gao
• Abstract要約: 本稿では,DKAN(Dual Knowledge Align Network)と呼ばれる新しい知識蒸留ネットワークを提案する。 提案したDKAN法は,事前学習型ファインタニング伝達学習パラダイムを踏襲し,ファインタニングのための知識蒸留フレームワークを設計した。 Few-shot NEU-DETデータセットをインクリメンタルに実験した結果、DKANは様々なシーンで他の手法よりも優れていることが示された。
• 参考スコア（独自算出の注目度）: 20.712532953953808
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Surface defect detection is one of the most essential processes for industrial quality inspection. Deep learning-based surface defect detection methods have shown great potential. However, the well-performed models usually require large training data and can only detect defects that appeared in the training stage. When facing incremental few-shot data, defect detection models inevitably suffer from catastrophic forgetting and misclassification problem. To solve these problems, this paper proposes a new knowledge distillation network, called Dual Knowledge Align Network (DKAN). The proposed DKAN method follows a pretraining-finetuning transfer learning paradigm and a knowledge distillation framework is designed for fine-tuning. Specifically, an Incremental RCNN is proposed to achieve decoupled stable feature representation of different categories. Under this framework, a Feature Knowledge Align (FKA) loss is designed between class-agnostic feature maps to deal with catastrophic forgetting problems, and a Logit Knowledge Align (LKA) loss is deployed between logit distributions to tackle misclassification problems. Experiments have been conducted on the incremental Few-shot NEU-DET dataset and results show that DKAN outperforms other methods on various few-shot scenes, up to 6.65% on the mean Average Precision metric, which proves the effectiveness of the proposed method.
• Abstract（参考訳）: 表面欠陥検出は産業品質検査において最も重要なプロセスの1つである。 深層学習に基づく表面欠陥検出手法は大きな可能性を秘めている。 しかし、性能の良いモデルは、通常、大きなトレーニングデータを必要とし、トレーニング段階で現れる欠陥のみを検出することができる。 インクリメンタルな少数ショットデータに直面すると、欠陥検出モデルは必然的に壊滅的な忘れや誤分類の問題に直面する。 そこで本研究では,DKAN(Dual Knowledge Align Network)と呼ばれる新しい知識蒸留ネットワークを提案する。 提案したDKAN法は,事前学習型ファインタニング伝達学習パラダイムを踏襲し,ファインタニングのための知識蒸留フレームワークを設計した。 具体的には、異なるカテゴリの分離された安定な特徴表現を実現するために、インクリメンタルRCNNを提案する。 本フレームワークでは,クラスに依存しない機能マップ間でのFKA(Feature Knowledge Align)の損失が破滅的な忘れ問題に対処するように設計され,ロジット分布間でLKA(Logit Knowledge Align)の損失が展開され,誤分類問題に対処する。 インクリメンタルなFew-shot NEU-DETデータセットを用いて実験を行った結果、DKANは様々な撮影シーンにおいて、平均精度の6.65%で他の手法よりも優れており、提案手法の有効性が証明されている。

関連論文リスト

• Diffusion Denoising Process for Perceptron Bias in Out-of-distribution Detection [63.40694518175685]
  我々は、判別器モデルが入力空間のいくつかの部分領域に対してより敏感であるという新しい仮定を提供する。 この仮定に基づき,新しい検出法と指標スコアを設計する。 我々の手法は最先端の手法と競合する結果を得る。
  論文  参考訳（メタデータ） (2022-11-21T08:45:08Z)
• Taguchi based Design of Sequential Convolution Neural Network for Classification of Defective Fasteners [0.08795040582681389]
  本研究は, 田口による実験・解析の設計を用いて, 頑健な自動システムの開発を行う。 提案されたシーケンシャルCNNは96.3%のバリデーション精度、0.277のバリデーション損失0.001の学習率を持つ。
  論文  参考訳（メタデータ） (2022-07-22T10:26:07Z)
• Scale-Equivalent Distillation for Semi-Supervised Object Detection [57.59525453301374]
  近年のSemi-Supervised Object Detection (SS-OD) 法は主に自己学習に基づいており、教師モデルにより、ラベルなしデータを監視信号としてハードな擬似ラベルを生成する。 実験結果から,これらの手法が直面する課題を分析した。 本稿では,大規模オブジェクトサイズの分散とクラス不均衡に頑健な簡易かつ効果的なエンド・ツー・エンド知識蒸留フレームワークであるSED(Scale-Equivalent Distillation)を提案する。
  論文  参考訳（メタデータ） (2022-03-23T07:33:37Z)
• Impact of Channel Variation on One-Class Learning for Spoof Detection [5.549602650463701]
  スポット検出はASVシステムの信頼性を高めるが、チャネルの変動により著しく低下する。 MCTに最適なデータ供給戦略は何か?スプーフ検出では分かっていない。 本研究は、データ供給とミニバッチの低重要度プロセスが、より良いパフォーマンスのために改善する必要性の認識を高めることの関連性を強調した。
  論文  参考訳（メタデータ） (2021-09-30T07:56:16Z)
• Multi-Scale Aligned Distillation for Low-Resolution Detection [68.96325141432078]
  本稿では,高分解能モデルや多分解能モデルから知識を抽出することで,低分解能モデルの性能を向上させることに焦点を当てる。 いくつかのインスタンスレベルの検出タスクとデータセットにおいて,本手法を用いて訓練された低解像度モデルと,従来のマルチスケールトレーニングによる訓練された高解像度モデルとを競合的に処理する。
  論文  参考訳（メタデータ） (2021-09-14T12:53:35Z)
• TL-SDD: A Transfer Learning-Based Method for Surface Defect Detection with Few Samples [17.884998028369026]
  表面欠陥検出のための新しいトランスファーラーニング法TL-SDDを提案する。 我々は、共通の欠陥クラスから稀な欠陥クラスに知識を移すための2段階のトレーニングスキームを採用する。 基準法と比較すると, 稀な欠陥クラスに対して, 提案手法の性能は1.98%向上した。
  論文  参考訳（メタデータ） (2021-08-16T07:24:00Z)
• Explainability: Relevance based Dynamic Deep Learning Algorithm for Fault Detection and Diagnosis in Chemical Processes [0.0]
  産業環境における統計的プロセス制御(SPC)の2つの重要な応用は、故障検出と診断(FDD)である。 本研究では,FDDに対して深層学習(DL)に基づく方法論を提案する。 本研究では,比較的少ないサンプル数のデータセットを用いた深層ニューラルネットワークモデルのfdd精度向上のための説明可能性概念の適用について検討する。
  論文  参考訳（メタデータ） (2021-03-22T23:10:05Z)
• Few-shot Action Recognition with Prototype-centered Attentive Learning [88.10852114988829]
  2つの新しい構成要素からなるプロトタイプ中心型注意学習(pal)モデル。 まず,従来のクエリ中心学習目標を補完するために,プロトタイプ中心のコントラスト学習損失を導入する。 第二に、PALは注意深いハイブリッド学習機構を統合しており、アウトレーヤの負の影響を最小限に抑えることができる。
  論文  参考訳（メタデータ） (2021-01-20T11:48:12Z)
• NADS: Neural Architecture Distribution Search for Uncertainty Awareness [79.18710225716791]
  機械学習(ML)システムは、トレーニングデータとは異なるディストリビューションから来るテストデータを扱う場合、しばしばOoD(Out-of-Distribution)エラーに遭遇する。 既存のOoD検出アプローチはエラーを起こしやすく、時にはOoDサンプルに高い確率を割り当てることもある。 本稿では,すべての不確実性を考慮したアーキテクチャの共通構築ブロックを特定するために,ニューラルアーキテクチャ分布探索(NADS)を提案する。
  論文  参考訳（メタデータ） (2020-06-11T17:39:07Z)
• Rectified Meta-Learning from Noisy Labels for Robust Image-based Plant Disease Diagnosis [64.82680813427054]
  植物病は食料安全保障と作物生産に対する主要な脅威の1つである。 1つの一般的なアプローチは、葉画像分類タスクとしてこの問題を変換し、強力な畳み込みニューラルネットワーク(CNN)によって対処できる。 本稿では,正規化メタ学習モジュールを共通CNNパラダイムに組み込んだ新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-17T09:51:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。