論文の概要: Embracing the Dark Knowledge: Domain Generalization Using Regularized Knowledge Distillation

• arxiv url: http://arxiv.org/abs/2107.02629v1
• Date: Tue, 6 Jul 2021 14:08:54 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-07 14:01:39.080400
• Title: Embracing the Dark Knowledge: Domain Generalization Using Regularized Knowledge Distillation
• Title（参考訳）: 暗黒知識を受け入れる:正規化知識蒸留を用いた領域一般化
• Authors: Yufei Wang, Haoliang Li, Lap-pui Chau, Alex C. Kot
• Abstract要約: 十分なデータと代表データがない場合の一般化能力の欠如は、その実践的応用を妨げる課題の1つである。 我々はKDDG(Knowledge Distillation for Domain Generalization)という,シンプルで効果的な,プラグアンドプレイのトレーニング戦略を提案する。 教師ネットワークからの「より豊かな暗黒知識」と、我々が提案した勾配フィルタの両方が、マッピングの学習の難しさを軽減することができる。
• 参考スコア（独自算出の注目度）: 65.79387438988554
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Though convolutional neural networks are widely used in different tasks, lack of generalization capability in the absence of sufficient and representative data is one of the challenges that hinder their practical application. In this paper, we propose a simple, effective, and plug-and-play training strategy named Knowledge Distillation for Domain Generalization (KDDG) which is built upon a knowledge distillation framework with the gradient filter as a novel regularization term. We find that both the ``richer dark knowledge" from the teacher network, as well as the gradient filter we proposed, can reduce the difficulty of learning the mapping which further improves the generalization ability of the model. We also conduct experiments extensively to show that our framework can significantly improve the generalization capability of deep neural networks in different tasks including image classification, segmentation, reinforcement learning by comparing our method with existing state-of-the-art domain generalization techniques. Last but not the least, we propose to adopt two metrics to analyze our proposed method in order to better understand how our proposed method benefits the generalization capability of deep neural networks.
• Abstract（参考訳）: 畳み込みニューラルネットワークは様々なタスクで広く使われているが、十分なデータと代表データがない場合の一般化能力の欠如は、その実用的応用を妨げる課題の1つである。 本稿では,グラデーションフィルタを新しい正規化項とする知識蒸留フレームワークを基盤とした,知識蒸留法(kddg)と呼ばれる,単純かつ効果的かつプラグ・アンド・プレイの訓練戦略を提案する。 教師ネットワークからの「よりリッチなダークナレッジ」と、提案した勾配フィルタの両方が、マッピングの学習の難しさを低減し、モデルの一般化能力をさらに向上させることが判明した。 また,本手法を既存の最先端ドメイン一般化手法と比較することにより,画像分類,セグメンテーション,強化学習などさまざまなタスクにおけるディープニューラルネットワークの一般化能力を大幅に向上できることを示す実験を行った。 最後に,提案手法がディープニューラルネットワークの一般化にどのように役立つかを理解するため,提案手法を分析するために2つの指標を適用することを提案する。

関連論文リスト

• Component-based Sketching for Deep ReLU Nets [55.404661149594375]
  各種タスクのためのディープネットコンポーネントに基づくスケッチ手法を開発した。 我々はディープネットトレーニングを線形経験的リスク最小化問題に変換する。 提案したコンポーネントベーススケッチは飽和関数の近似においてほぼ最適であることを示す。
  論文  参考訳（メタデータ） (2024-09-21T15:30:43Z)
• Towards Improving Robustness Against Common Corruptions using Mixture of Class Specific Experts [10.27974860479791]
  本稿では,クラス特化エキスパートアーキテクチャの混合として知られる新しいパラダイムを紹介する。 提案したアーキテクチャは、一般的なニューラルネットワーク構造に関連する脆弱性を軽減することを目的としている。
  論文  参考訳（メタデータ） (2023-11-16T20:09:47Z)
• Manifold Regularization for Memory-Efficient Training of Deep Neural Networks [18.554311679277212]
  本稿では,従来のニューラルネットワークを学習する過程において,メモリ効率の向上を実現するためのフレームワークを提案する。 フレームワークの使用により、従来の学習技術と比較して絶対的性能と経験的一般化誤差が改善される。
  論文  参考訳（メタデータ） (2023-05-26T17:40:15Z)
• TANGOS: Regularizing Tabular Neural Networks through Gradient Orthogonalization and Specialization [69.80141512683254]
  TANGOS(Tbular Neural Gradient Orthogonalization and gradient)を紹介する。 TANGOSは、潜在ユニット属性上に構築された表の設定を正規化するための新しいフレームワークである。 提案手法は,他の一般的な正規化手法よりも優れ,サンプル外一般化性能の向上につながることを実証する。
  論文  参考訳（メタデータ） (2023-03-09T18:57:13Z)
• Low-light Image Enhancement by Retinex Based Algorithm Unrolling and Adjustment [50.13230641857892]
  本稿では,低照度画像強調(LIE)問題に対する新たなディープラーニングフレームワークを提案する。 提案フレームワークは,大域的明るさと局所的明るさ感度の両方を考慮したアルゴリズムアンロールと調整ネットワークに着想を得た分解ネットワークを含む。 一連の典型的なLIEデータセットの実験では,既存の手法と比較して,定量的かつ視覚的に,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2022-02-12T03:59:38Z)
• Explainability-aided Domain Generalization for Image Classification [0.0]
  説明可能性文献から手法やアーキテクチャを適用することで、ドメインの一般化という困難な課題に対して最先端のパフォーマンスを達成できることを示す。 そこで我々は,勾配に基づくクラスアクティベーションマップを用いて学習中にネットワークが指導を受ける手法であるDivCAMを含む新しいアルゴリズムを開発し,多様な識別機能に焦点をあてる。 これらの手法は、説明可能性に加えて競合性能を提供するため、深層ニューラルネットワークアーキテクチャのロバスト性を改善するツールとして使用できると論じる。
  論文  参考訳（メタデータ） (2021-04-05T02:27:01Z)
• Sparsity Aware Normalization for GANs [32.76828505875087]
  GAN(Generative adversarial Network)は、トレーニング中の批判的(差別的)ネットワークの正規化または正規化の恩恵を受けることが知られている。 本稿では,一般のスペクトル正規化スキームを分析し,有意な欠点を見つけ,GANトレーニングの安定化のための新たなアプローチであるスパーシャリティ認識正規化(SAN)を導入する。
  論文  参考訳（メタデータ） (2021-03-03T15:05:18Z)
• Learning Connectivity of Neural Networks from a Topological Perspective [80.35103711638548]
  本稿では,ネットワークを解析のための完全なグラフに表現するためのトポロジ的視点を提案する。 接続の規模を反映したエッジに学習可能なパラメータを割り当てることにより、学習プロセスを異なる方法で行うことができる。 この学習プロセスは既存のネットワークと互換性があり、より大きな検索空間と異なるタスクへの適応性を持っている。
  論文  参考訳（メタデータ） (2020-08-19T04:53:31Z)
• Regularizing Meta-Learning via Gradient Dropout [102.29924160341572]
  メタ学習モデルは、メタ学習者が一般化するのに十分なトレーニングタスクがない場合、過度に適合する傾向がある。 本稿では,勾配に基づくメタ学習において過度に適合するリスクを軽減するための,シンプルで効果的な手法を提案する。
  論文  参考訳（メタデータ） (2020-04-13T10:47:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。