論文の概要: Iterative Teacher-Aware Learning
- arxiv url: http://arxiv.org/abs/2110.00137v1
- Date: Fri, 1 Oct 2021 00:27:47 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-04 14:42:14.984589
- Title: Iterative Teacher-Aware Learning
- Title(参考訳): 反復型教員意識学習
- Authors: Luyao Yuan, Dongruo Zhou, Junhong Shen, Jingdong Gao, Jeffrey L. Chen,
Quanquan Gu, Ying Nian Wu, Song-Chun Zhu
- Abstract要約: 人間の教育において、教師と学生はコミュニケーション効率を最大化するために適応的に交流することができる。
本稿では,教師の協調意図を可能性関数に組み込むことができる,勾配最適化に基づく教師認識学習者を提案する。
- 参考スコア(独自算出の注目度): 136.05341445369265
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In human pedagogy, teachers and students can interact adaptively to maximize
communication efficiency. The teacher adjusts her teaching method for different
students, and the student, after getting familiar with the teacher's
instruction mechanism, can infer the teacher's intention to learn faster.
Recently, the benefits of integrating this cooperative pedagogy into machine
concept learning in discrete spaces have been proved by multiple works.
However, how cooperative pedagogy can facilitate machine parameter learning
hasn't been thoroughly studied. In this paper, we propose a gradient
optimization based teacher-aware learner who can incorporate teacher's
cooperative intention into the likelihood function and learn provably faster
compared with the naive learning algorithms used in previous machine teaching
works. We give theoretical proof that the iterative teacher-aware learning
(ITAL) process leads to local and global improvements. We then validate our
algorithms with extensive experiments on various tasks including regression,
classification, and inverse reinforcement learning using synthetic and real
data. We also show the advantage of modeling teacher-awareness when agents are
learning from human teachers.
- Abstract(参考訳): 教育学では、教師と生徒はコミュニケーション効率を最大化するために適応的に対話することができる。
教師は異なる生徒のために指導方法を調整し、生徒は教師の指導機構を熟知した後、より速く学ぶという教師の意図を推測することができる。
近年、この協同教育を離散空間における機械概念学習に統合する利点が複数の研究によって証明されている。
しかし,協調的教育が機械パラメータ学習をいかに促進できるかは十分に研究されていない。
本稿では,教師の協調的意図を確率関数に組み込むことができる勾配最適化に基づく教師認識学習者を提案する。
反復型教師認識学習(ITAL)プロセスが局所的およびグローバル的改善につながるという理論的証明を与える。
次に,合成および実データを用いた回帰,分類,逆強化学習など,様々なタスクに関する広範囲な実験を行い,アルゴリズムを検証する。
また,エージェントが人間教師から学習している場合,教師の意識をモデル化する利点を示す。
関連論文リスト
- Representational Alignment Supports Effective Machine Teaching [81.19197059407121]
我々は,機械教育の知見と実践的なコミュニケーションを,表現的アライメントに関する文献と統合する。
教師の精度から表現的アライメントを遠ざける教師付き学習環境を設計する。
論文 参考訳(メタデータ) (2024-06-06T17:48:24Z) - YODA: Teacher-Student Progressive Learning for Language Models [82.0172215948963]
本稿では,教師が指導するプログレッシブ・ラーニング・フレームワークであるYodaを紹介する。
モデルファインチューニングの有効性を向上させるために,教師の教育過程をエミュレートする。
実験の結果, YODAのデータによるLLaMA2のトレーニングにより, SFTは大幅に向上した。
論文 参考訳(メタデータ) (2024-01-28T14:32:15Z) - Revealing Networks: Understanding Effective Teacher Practices in
AI-Supported Classrooms using Transmodal Ordered Network Analysis [0.9187505256430948]
本研究は,AI教師と連携した数学教室において,システム内学習の伝統的な指標に関連する効果的な教員の実践を理解するために,トランスモーダル順序ネットワーク分析を用いた。
教師の実践を学生の学習率で比較すると,低学率の生徒はモニタリング後,より有意な使用感を示した。
学習率の低い生徒は、高学率の学生と同様の学習行動を示し、教師の正しい試みを繰り返した。
論文 参考訳(メタデータ) (2023-12-17T21:50:02Z) - Know Thy Student: Interactive Learning with Gaussian Processes [11.641731210416102]
そこで本研究では,ガウス過程を用いた簡単な診断アルゴリズムを提案する。
本研究は,教師が生徒に実演を行い,余分な軌跡の送出を避けるためのオフライン強化学習環境である。
本実験は,対話型教師の助けを借りて,学生がより効率的に学習できる方法を示す。
論文 参考訳(メタデータ) (2022-04-26T04:43:57Z) - Student Network Learning via Evolutionary Knowledge Distillation [22.030934154498205]
教師知識の伝達効率を改善するための進化的知識蒸留手法を提案する。
進化的教師は、固定された予習教師の代わりにオンラインで学習され、学生ネットワーク学習を監督するために、中間的知識を継続的に伝達する。
このようにして、学生は豊富な内部知識を同時に獲得し、その成長過程を捉え、効果的なネットワーク学習につながる。
論文 参考訳(メタデータ) (2021-03-23T02:07:15Z) - Learning Student-Friendly Teacher Networks for Knowledge Distillation [50.11640959363315]
本研究では,教師から学生への暗黒知識の伝達を容易にする新しい知識蒸留手法を提案する。
事前教育を受けた教師に与えた学習モデルの効果的な学習方法のほとんどとは対照的に,学生に親しみやすい教師モデルを学ぶことを目的とする。
論文 参考訳(メタデータ) (2021-02-12T07:00:17Z) - Teaching to Learn: Sequential Teaching of Agents with Inner States [20.556373950863247]
学習者の内的状態が授業の相互作用によって変化するようなマルチエージェントの定式化を導入する。
このような学習者を指導するために,学習者の今後のパフォーマンスを考慮に入れた最適制御手法を提案する。
論文 参考訳(メタデータ) (2020-09-14T07:03:15Z) - Point Adversarial Self Mining: A Simple Method for Facial Expression
Recognition [79.75964372862279]
本稿では,表情認識における認識精度を向上させるために,PASM(Point Adversarial Self Mining)を提案する。
PASMは、目標タスクに関連する最も情報性の高い位置を見つけるために、ポイント敵攻撃法と訓練された教師ネットワークを使用する。
適応学習教材の生成と教師/学生の更新を複数回行うことができ、ネットワーク能力が反復的に向上する。
論文 参考訳(メタデータ) (2020-08-26T06:39:24Z) - Interactive Knowledge Distillation [79.12866404907506]
本稿では,効率的な知識蒸留のための対話型指導戦略を活用するために,対話型知識蒸留方式を提案する。
蒸留工程では,教師と学生のネットワーク間の相互作用を交換操作により行う。
教員ネットワークの典型的な設定による実験により,IAKDで訓練された学生ネットワークは,従来の知識蒸留法で訓練された学生ネットワークよりも優れた性能を示した。
論文 参考訳(メタデータ) (2020-07-03T03:22:04Z) - Iterative Machine Teaching without Teachers [12.239246363539634]
既存の反復型機械教育の研究は、すべての指導例の真の答えを知っている教師がいると仮定している。
本研究では,そのような教師が存在しない教師なしの事例について考察する。
生徒は各イテレーションで指導例を与えられるが、対応するラベルが正しいかどうか保証はない。
論文 参考訳(メタデータ) (2020-06-27T11:21:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。