論文の概要: Interactive Knowledge Distillation

• arxiv url: http://arxiv.org/abs/2007.01476v3
• Date: Thu, 15 Apr 2021 07:21:43 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-14 04:54:37.724444
• Title: Interactive Knowledge Distillation
• Title（参考訳）: 対話型知識蒸留
• Authors: Shipeng Fu, Zhen Li, Jun Xu, Ming-Ming Cheng, Zitao Liu, Xiaomin Yang
• Abstract要約: 本稿では,効率的な知識蒸留のための対話型指導戦略を活用するために,対話型知識蒸留方式を提案する。 蒸留工程では,教師と学生のネットワーク間の相互作用を交換操作により行う。 教員ネットワークの典型的な設定による実験により,IAKDで訓練された学生ネットワークは,従来の知識蒸留法で訓練された学生ネットワークよりも優れた性能を示した。
• 参考スコア（独自算出の注目度）: 79.12866404907506
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Knowledge distillation is a standard teacher-student learning framework to train a light-weight student network under the guidance of a well-trained large teacher network. As an effective teaching strategy, interactive teaching has been widely employed at school to motivate students, in which teachers not only provide knowledge but also give constructive feedback to students upon their responses, to improve their learning performance. In this work, we propose an InterActive Knowledge Distillation (IAKD) scheme to leverage the interactive teaching strategy for efficient knowledge distillation. In the distillation process, the interaction between teacher and student networks is implemented by a swapping-in operation: randomly replacing the blocks in the student network with the corresponding blocks in the teacher network. In the way, we directly involve the teacher's powerful feature transformation ability to largely boost the student's performance. Experiments with typical settings of teacher-student networks demonstrate that the student networks trained by our IAKD achieve better performance than those trained by conventional knowledge distillation methods on diverse image classification datasets.
• Abstract（参考訳）: 知識蒸留は、教師ネットワークの指導のもと、軽量の学生ネットワークを訓練する標準的な教師学生学習フレームワークである。 効果的な授業戦略として,教師が知識を提供するだけでなく,生徒の反応に応じて建設的なフィードバックを与え,学習能力を向上させるための対話型授業が学校で広く採用されている。 本研究では,効率的な知識蒸留のための対話型指導戦略を活用するために,IAKD(InterActive Knowledge Distillation)方式を提案する。 本発明の蒸留プロセスでは,教師ネットワーク内のブロックを教師ネットワーク内の対応するブロックにランダムに置き換えるスワッピングイン操作により,教師ネットワークと学生ネットワーク間のインタラクションを実現する。 このように、教師の強力な特徴変換能力に直接関与し、学生のパフォーマンスを大幅に向上させる。 教師学生ネットワークの典型的な設定による実験により、IAKDで訓練された学生ネットワークは、多様な画像分類データセットにおける従来の知識蒸留法で訓練された学生ネットワークよりも優れた性能を示した。

関連論文リスト

• Student-Oriented Teacher Knowledge Refinement for Knowledge Distillation [11.754014876977422]
  本報告では,学生のニーズに合うように教師の知識を改良し,学生を意識した視点を新たに導入する。 本稿では,訓練中に学習可能な機能拡張戦略を取り入れた学生指向知識蒸留(SoKD)について紹介する。 また,教師と学生の相互関心領域を特定するために,DAM(Distinctive Area Detection Module)をデプロイした。
  論文  参考訳（メタデータ） (2024-09-27T14:34:08Z)
• Augmenting Knowledge Distillation With Peer-To-Peer Mutual Learning For Model Compression [2.538209532048867]
  相互学習(ML)は、複数の単純な学生ネットワークが知識を共有することで恩恵を受ける、代替戦略を提供する。 そこで本研究では,KDとMLを併用して,より優れたパフォーマンスを実現する,単教師多学生フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-10-21T09:59:31Z)
• Iterative Teacher-Aware Learning [136.05341445369265]
  人間の教育において、教師と学生はコミュニケーション効率を最大化するために適応的に交流することができる。 本稿では,教師の協調意図を可能性関数に組み込むことができる,勾配最適化に基づく教師認識学習者を提案する。
  論文  参考訳（メタデータ） (2021-10-01T00:27:47Z)
• Fixing the Teacher-Student Knowledge Discrepancy in Distillation [72.4354883997316]
  本稿では,教師の知識を学生とより整合させる,新たな学生依存型蒸留法である知識一貫型蒸留を提案する。 この手法は非常に柔軟で,他の最先端手法と容易に組み合わせることができる。
  論文  参考訳（メタデータ） (2021-03-31T06:52:20Z)
• Student Network Learning via Evolutionary Knowledge Distillation [22.030934154498205]
  教師知識の伝達効率を改善するための進化的知識蒸留手法を提案する。 進化的教師は、固定された予習教師の代わりにオンラインで学習され、学生ネットワーク学習を監督するために、中間的知識を継続的に伝達する。 このようにして、学生は豊富な内部知識を同時に獲得し、その成長過程を捉え、効果的なネットワーク学習につながる。
  論文  参考訳（メタデータ） (2021-03-23T02:07:15Z)
• Learning Student-Friendly Teacher Networks for Knowledge Distillation [50.11640959363315]
  本研究では,教師から学生への暗黒知識の伝達を容易にする新しい知識蒸留手法を提案する。 事前教育を受けた教師に与えた学習モデルの効果的な学習方法のほとんどとは対照的に,学生に親しみやすい教師モデルを学ぶことを目的とする。
  論文  参考訳（メタデータ） (2021-02-12T07:00:17Z)
• Densely Guided Knowledge Distillation using Multiple Teacher Assistants [5.169724825219126]
  モデルサイズを徐々に小さくする複数の教師アシスタントを用いた知識蒸留法を提案する。 また,ミニバッチ毎に,教師や教師のアシスタントがランダムにドロップされるような授業も設計する。 これは、学生ネットワークの教育効率を向上させるために、レギュラーライザとして機能する。
  論文  参考訳（メタデータ） (2020-09-18T13:12:52Z)
• Point Adversarial Self Mining: A Simple Method for Facial Expression Recognition [79.75964372862279]
  本稿では,表情認識における認識精度を向上させるために,PASM(Point Adversarial Self Mining)を提案する。 PASMは、目標タスクに関連する最も情報性の高い位置を見つけるために、ポイント敵攻撃法と訓練された教師ネットワークを使用する。 適応学習教材の生成と教師/学生の更新を複数回行うことができ、ネットワーク能力が反復的に向上する。
  論文  参考訳（メタデータ） (2020-08-26T06:39:24Z)
• Peer Collaborative Learning for Online Knowledge Distillation [69.29602103582782]
  Peer Collaborative Learningメソッドは、オンラインアンサンブルとネットワークコラボレーションを統合フレームワークに統合する。 CIFAR-10, CIFAR-100, ImageNetによる実験により, 提案手法は種々のバックボーンネットワークの一般化を著しく改善することを示した。
  論文  参考訳（メタデータ） (2020-06-07T13:21:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。