論文の概要: Student-Teacher Learning from Clean Inputs to Noisy Inputs

• arxiv url: http://arxiv.org/abs/2103.07600v1
• Date: Sat, 13 Mar 2021 02:29:35 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-16 14:32:00.308615
• Title: Student-Teacher Learning from Clean Inputs to Noisy Inputs
• Title（参考訳）: クリーン入力からノイズ入力への学生教師の学習
• Authors: Guanzhe Hong, Zhiyuan Mao, Xiaojun Lin, Stanley H. Chan
• Abstract要約: 特徴に基づく教員学習は,教員ネットワークから学生ネットワークに知識を移すことで実証的に成功している。 本手法はディープリニアネットワークを用いて理論的に解析し,非線形ネットワークを用いて実験的に解析する。
• 参考スコア（独自算出の注目度）: 20.428469418957544
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Feature-based student-teacher learning, a training method that encourages the student's hidden features to mimic those of the teacher network, is empirically successful in transferring the knowledge from a pre-trained teacher network to the student network. Furthermore, recent empirical results demonstrate that, the teacher's features can boost the student network's generalization even when the student's input sample is corrupted by noise. However, there is a lack of theoretical insights into why and when this method of transferring knowledge can be successful between such heterogeneous tasks. We analyze this method theoretically using deep linear networks, and experimentally using nonlinear networks. We identify three vital factors to the success of the method: (1) whether the student is trained to zero training loss; (2) how knowledgeable the teacher is on the clean-input problem; (3) how the teacher decomposes its knowledge in its hidden features. Lack of proper control in any of the three factors leads to failure of the student-teacher learning method.
• Abstract（参考訳）: 教師ネットワークを模倣するために生徒の隠れた機能を奨励する学習手法である特徴ベース学習は,事前学習した教師ネットワークから生徒ネットワークへの知識の伝達に経験的に成功している。 さらに,最近の実験結果から,教師の特徴は,生徒の入力サンプルがノイズにより破損した場合でも,生徒ネットワークの一般化を促進することが示されている。 しかしながら、このような異種タスク間で知識を転送する手法が成功する理由や方法に関する理論的洞察が欠落している。 本手法はディープリニアネットワークを用いて理論的に解析し,非線形ネットワークを用いて実験的に解析する。 本手法の成功には,(1)生徒が訓練損失ゼロに訓練されているか,(2)教師がクリーンインプット問題にどの程度知識を持っているか,(3)教師がその知識を隠れた特徴に分解するか,の3つの重要な要因を明らかにする。 3つの要因のいずれかで適切な制御の欠如は、学生教師の学習方法の失敗につながります。

関連論文リスト

• Random Teachers are Good Teachers [19.74244993871716]
  自己蒸留における教師-学生の学習力学によって引き起こされる暗黙の正規化について検討する。 このような無作為な教師に学生を蒸留する際には,その教師に対して高い精度で蒸留した生徒の強い改善を観察する。
  論文  参考訳（メタデータ） (2023-02-23T15:26:08Z)
• Iterative Teacher-Aware Learning [136.05341445369265]
  人間の教育において、教師と学生はコミュニケーション効率を最大化するために適応的に交流することができる。 本稿では,教師の協調意図を可能性関数に組み込むことができる,勾配最適化に基づく教師認識学習者を提案する。
  論文  参考訳（メタデータ） (2021-10-01T00:27:47Z)
• Does Knowledge Distillation Really Work? [106.38447017262183]
  知識蒸留は学生の一般化を改善することができるが、一般的に理解されているようには機能しない。 学生が教師に合わない理由として,最適化の難しさがあげられる。
  論文  参考訳（メタデータ） (2021-06-10T17:44:02Z)
• Fixing the Teacher-Student Knowledge Discrepancy in Distillation [72.4354883997316]
  本稿では,教師の知識を学生とより整合させる,新たな学生依存型蒸留法である知識一貫型蒸留を提案する。 この手法は非常に柔軟で,他の最先端手法と容易に組み合わせることができる。
  論文  参考訳（メタデータ） (2021-03-31T06:52:20Z)
• Student Network Learning via Evolutionary Knowledge Distillation [22.030934154498205]
  教師知識の伝達効率を改善するための進化的知識蒸留手法を提案する。 進化的教師は、固定された予習教師の代わりにオンラインで学習され、学生ネットワーク学習を監督するために、中間的知識を継続的に伝達する。 このようにして、学生は豊富な内部知識を同時に獲得し、その成長過程を捉え、効果的なネットワーク学習につながる。
  論文  参考訳（メタデータ） (2021-03-23T02:07:15Z)
• Point Adversarial Self Mining: A Simple Method for Facial Expression Recognition [79.75964372862279]
  本稿では,表情認識における認識精度を向上させるために,PASM(Point Adversarial Self Mining)を提案する。 PASMは、目標タスクに関連する最も情報性の高い位置を見つけるために、ポイント敵攻撃法と訓練された教師ネットワークを使用する。 適応学習教材の生成と教師/学生の更新を複数回行うことができ、ネットワーク能力が反復的に向上する。
  論文  参考訳（メタデータ） (2020-08-26T06:39:24Z)
• Interactive Knowledge Distillation [79.12866404907506]
  本稿では,効率的な知識蒸留のための対話型指導戦略を活用するために,対話型知識蒸留方式を提案する。 蒸留工程では,教師と学生のネットワーク間の相互作用を交換操作により行う。 教員ネットワークの典型的な設定による実験により,IAKDで訓練された学生ネットワークは,従来の知識蒸留法で訓練された学生ネットワークよりも優れた性能を示した。
  論文  参考訳（メタデータ） (2020-07-03T03:22:04Z)
• Student-Teacher Curriculum Learning via Reinforcement Learning: Predicting Hospital Inpatient Admission Location [4.359338565775979]
  本研究では,この問題に対処するための強化学習を通して,学生と教師のネットワークを提案する。 生徒ネットワークの重みの表現を状態として扱い、教師ネットワークへの入力として供給する。 教師ネットワークの行動は、エントロピーに応じてソートされたトレーニングセットから、生徒ネットワークをトレーニングするための最も適切なデータのバッチを選択することである。
  論文  参考訳（メタデータ） (2020-07-01T15:00:43Z)
• Neural Multi-Task Learning for Teacher Question Detection in Online Classrooms [50.19997675066203]
  教師の音声記録から質問を自動的に検出するエンドツーエンドのニューラルネットワークフレームワークを構築している。 マルチタスク学習手法を取り入れることで,質問の種類によって意味的関係の理解を深めることが可能となる。
  論文  参考訳（メタデータ） (2020-05-16T02:17:04Z)
• Understanding the Power and Limitations of Teaching with Imperfect Knowledge [30.588367257209388]
  本研究では,教師が学習者に対して特定の課題を学習するための学習例を選択する際に,教師と学生/学生の相互作用について検討する。 教育における機械教育の現実的な応用に着想を得て,教師の知識が限られ,騒々しい環境を考える。 最適学習セットを構築する際に,不完全な知識が対応する機械教育問題に対する教師の解決にどう影響するかを示す。
  論文  参考訳（メタデータ） (2020-03-21T17:53:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。