論文の概要: Teacher-Class Network: A Neural Network Compression Mechanism
- arxiv url: http://arxiv.org/abs/2004.03281v3
- Date: Fri, 29 Oct 2021 18:58:25 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-15 22:46:01.022698
- Title: Teacher-Class Network: A Neural Network Compression Mechanism
- Title（参考訳）: 教師級ネットワーク:ニューラルネットワークの圧縮機構
- Authors: Shaiq Munir Malik, Muhammad Umair Haider, Mohbat Tharani, Musab
Rasheed and Murtaza Taj
- Abstract要約: 提案手法は,1人の生徒にのみ知識を伝達する代わりに,各生徒に知識の一部を伝達する。
我々の学生は問題固有のロジットの訓練を受けておらず、教師ネットワークで学んだ知識(センス表現)を模倣するように訓練されている。
提案した教師クラスアーキテクチャは,MNIST,Fashion MNIST,IMDB Movie Reviews,CAMVid,CIFAR-10,ImageNetなどのベンチマークデータセットで評価される。
- 参考スコア（独自算出の注目度）: 2.257416403770908
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: To reduce the overwhelming size of Deep Neural Networks (DNN) teacher-student
methodology tries to transfer knowledge from a complex teacher network to a
simple student network. We instead propose a novel method called the
teacher-class network consisting of a single teacher and multiple student
networks (i.e. class of students). Instead of transferring knowledge to one
student only, the proposed method transfers a chunk of knowledge to each
student. Our students are not trained for problem-specific logits, they are
trained to mimic knowledge (dense representation) learned by the teacher
network thus the combined knowledge learned by the class of students can be
used to solve other problems as well. The proposed teacher-class architecture
is evaluated on several benchmark datasets such as MNIST, Fashion MNIST, IMDB
Movie Reviews, CAMVid, CIFAR-10 and ImageNet on multiple tasks including image
classification, sentiment classification and segmentation. Our approach
outperforms the state of-the-art single student approach in terms of accuracy
as well as computational cost while achieving 10-30 times reduction in
parameters.
- Abstract（参考訳）: 複雑な教師ネットワークから単純な学生ネットワークへ知識を転送しようとする、ディープニューラルネットワーク(dnn)の教師・学生方法論の圧倒的なサイズを削減する。
そこで本研究では,教師と複数の学生ネットワーク(生徒のクラス)からなる,教師級ネットワークと呼ばれる新しい手法を提案する。
提案手法は,1人の生徒にのみ知識を伝達する代わりに,各生徒に知識の一部を伝達する。
我々の生徒は問題固有のロジットの訓練を受けておらず、教師ネットワークで学んだ知識(センス表現)を模倣するように訓練されており、生徒のクラスで学んだ知識を他の問題にも活用することができる。
提案手法は,MNIST,Fashion MNIST,IMDB Movie Reviews,CAMVid,CIFAR-10,ImageNetなどのベンチマークデータセットを用いて,画像分類,感情分類,セグメンテーションを含む複数のタスクについて評価する。
提案手法は,10～30倍のパラメータ削減を実現しつつ,精度と計算コストの面で,最先端のシングル学生アプローチを上回っている。
関連論文リスト
- Incremental Neural Implicit Representation with Uncertainty-Filtered
Knowledge Distillation [59.95692054302568]
最近の神経暗黙表現(NIR)は、3次元再構成と新しいビュー合成のタスクにおいて大きな成功を収めている。
ストリーミングデータから継続的に学習する場合、これまで見てきたデータを再考することなく、悲惨な忘れがちな問題に悩まされる。
破滅的な忘れの問題を軽減するために,学生と教師の枠組みを設計する。
論文 参考訳（メタデータ） (2022-12-21T11:43:20Z) - Collaborative Multi-Teacher Knowledge Distillation for Learning Low
Bit-width Deep Neural Networks [28.215073725175728]
マルチ教師による知識蒸留とネットワーク量子化を併用した,低ビット幅DNN学習のための新しいフレームワークを提案する。
CIFAR100 と ImageNet のデータセットを用いた実験結果から,本手法で訓練した小型量子化学生モデルによる競争結果が得られた。
論文 参考訳（メタデータ） (2022-10-27T01:03:39Z) - PrUE: Distilling Knowledge from Sparse Teacher Networks [4.087221125836262]
本稿では,教師をシンプルにするために,予測不確実性向上(PrUE)と呼ばれるプルーニング手法を提案する。
CIFAR-10/100, Tiny-ImageNet, ImageNet を用いた実験により提案手法の有効性を実証的に検討した。
提案手法により,より深いネットワークから知識を抽出し,学生をさらに改善することができる。
論文 参考訳（メタデータ） (2022-07-03T08:14:24Z) - ORC: Network Group-based Knowledge Distillation using Online Role Change [3.735965959270874]
複数の教師による知識蒸留におけるオンラインの役割変化戦略を提案する。
学生グループの上位ネットワークは、各イテレーションで教師グループに昇格することができる。
CIFAR-10, CIFAR-100, ImageNetにおける提案手法の優位性を検証した。
論文 参考訳（メタデータ） (2022-06-01T10:28:18Z) - Distilling Knowledge via Knowledge Review [69.15050871776552]
教師と学生のネットワーク間の接続経路のクロスレベル要因を研究し、その大きな重要性を明らかにします。
知識蒸留において初めて, クロスステージ接続経路が提案されている。
最終的に設計されたネストでコンパクトなフレームワークは、無視できるオーバーヘッドを必要とし、さまざまなタスクで他のメソッドよりも優れています。
論文 参考訳（メタデータ） (2021-04-19T04:36:24Z) - Knowledge Distillation By Sparse Representation Matching [107.87219371697063]
本稿では,一方の畳み込みネットワーク(cnn)から他方へ,スパース表現を用いて中間知識を伝達するスパース表現マッチング(srm)を提案する。
勾配降下を利用して効率的に最適化し、任意のCNNにプラグアンドプレイで統合できるニューラルプロセッシングブロックとして定式化します。
実験の結果,教師と生徒のネットワーク間のアーキテクチャの違いに頑健であり,複数のデータセットにまたがる他のkd技術よりも優れていた。
論文 参考訳（メタデータ） (2021-03-31T11:47:47Z) - Fixing the Teacher-Student Knowledge Discrepancy in Distillation [72.4354883997316]
本稿では,教師の知識を学生とより整合させる,新たな学生依存型蒸留法である知識一貫型蒸留を提案する。
この手法は非常に柔軟で,他の最先端手法と容易に組み合わせることができる。
論文 参考訳（メタデータ） (2021-03-31T06:52:20Z) - Exploring Knowledge Distillation of a Deep Neural Network for
Multi-Script identification [8.72467690936929]
多言語スクリプト識別は、シーンテキスト画像に複雑な背景を持つ異なる言語からなる難しいタスクである。
深層ニューラルネットワークは教師モデルとして採用され、教師モデルの予測を利用して小さな学生ネットワークを訓練する。
論文 参考訳（メタデータ） (2021-02-20T12:54:07Z) - Densely Guided Knowledge Distillation using Multiple Teacher Assistants [5.169724825219126]
モデルサイズを徐々に小さくする複数の教師アシスタントを用いた知識蒸留法を提案する。
また,ミニバッチ毎に,教師や教師のアシスタントがランダムにドロップされるような授業も設計する。
これは、学生ネットワークの教育効率を向上させるために、レギュラーライザとして機能する。
論文 参考訳（メタデータ） (2020-09-18T13:12:52Z) - Point Adversarial Self Mining: A Simple Method for Facial Expression
Recognition [79.75964372862279]
本稿では,表情認識における認識精度を向上させるために,PASM(Point Adversarial Self Mining)を提案する。
PASMは、目標タスクに関連する最も情報性の高い位置を見つけるために、ポイント敵攻撃法と訓練された教師ネットワークを使用する。
適応学習教材の生成と教師/学生の更新を複数回行うことができ、ネットワーク能力が反復的に向上する。
論文 参考訳（メタデータ） (2020-08-26T06:39:24Z) - Efficient Crowd Counting via Structured Knowledge Transfer [122.30417437707759]
クラウドカウントはアプリケーション指向のタスクであり、その推論効率は現実世界のアプリケーションにとって不可欠である。
本稿では,学生ネットワークを軽量かつ高効率に構築する構造的知識伝達フレームワークを提案する。
我々のモデルはNvidia 1080 GPUで最低6.5$times$のスピードアップを取得し、最先端のパフォーマンスも達成しています。
論文 参考訳（メタデータ） (2020-03-23T08:05:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。