論文の概要: Nonparametric Teaching for Multiple Learners

• arxiv url: http://arxiv.org/abs/2311.10318v1
• Date: Fri, 17 Nov 2023 04:04:11 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-22 15:04:13.694063
• Title: Nonparametric Teaching for Multiple Learners
• Title（参考訳）: 複数学習者に対するノンパラメトリック教育
• Authors: Chen Zhang, Xiaofeng Cao, Weiyang Liu, Ivor Tsang, James Kwok
• Abstract要約: MINT(Multi-learner Nonparametric teaching)を導入した新しいフレームワークについて紹介する。 MINTは、複数の学習者を指導することを目的としており、各学習者はスカラー値のターゲットモデルを学習することに集中している。 我々は,MINTがシングルラーナー教育を繰り返すよりも指導のスピードアップが優れていることを実証した。
• 参考スコア（独自算出の注目度）: 20.75580803325611
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study the problem of teaching multiple learners simultaneously in the nonparametric iterative teaching setting, where the teacher iteratively provides examples to the learner for accelerating the acquisition of a target concept. This problem is motivated by the gap between current single-learner teaching setting and the real-world scenario of human instruction where a teacher typically imparts knowledge to multiple students. Under the new problem formulation, we introduce a novel framework -- Multi-learner Nonparametric Teaching (MINT). In MINT, the teacher aims to instruct multiple learners, with each learner focusing on learning a scalar-valued target model. To achieve this, we frame the problem as teaching a vector-valued target model and extend the target model space from a scalar-valued reproducing kernel Hilbert space used in single-learner scenarios to a vector-valued space. Furthermore, we demonstrate that MINT offers significant teaching speed-up over repeated single-learner teaching, particularly when the multiple learners can communicate with each other. Lastly, we conduct extensive experiments to validate the practicality and efficiency of MINT.
• Abstract（参考訳）: 本研究では,教師が目標概念の獲得を加速するための事例を反復的に提示するノンパラメトリック反復学習環境において,複数の学習者を同時に教えるという課題について検討する。 この問題は、現在の独学の指導環境と、教師が複数の生徒に知識を与えるような、人間の指導の現実のシナリオとのギャップに動機づけられている。 本稿では,新しい問題定式化手法であるマルチリーナー非パラメトリック教育(mint)を提案する。 MINTでは、教師は複数の学習者を指導することを目的としており、各学習者はスカラー値のターゲットモデルを学習することに集中している。 これを実現するために、ベクトル値のターゲットモデルを教え、ターゲットモデル空間を単一階層シナリオで使用されるスカラー値の再生カーネルヒルベルト空間からベクトル値の空間に拡張する。 さらに,複数の学習者が相互にコミュニケーション可能な場合において,mintは単学学習の繰り返しよりも指導速度が向上することを示す。 最後に,MINTの実用性と効率性を検証するため,広範囲な実験を行った。

関連論文リスト

• YODA: Teacher-Student Progressive Learning for Language Models [82.0172215948963]
  本稿では,教師が指導するプログレッシブ・ラーニング・フレームワークであるYodaを紹介する。 モデルファインチューニングの有効性を向上させるために,教師の教育過程をエミュレートする。 実験の結果, YODAのデータによるLLaMA2のトレーニングにより, SFTは大幅に向上した。
  論文  参考訳（メタデータ） (2024-01-28T14:32:15Z)
• Distantly-Supervised Named Entity Recognition with Adaptive Teacher Learning and Fine-grained Student Ensemble [56.705249154629264]
  NERモデルの堅牢性を改善するために,自己学習型教員学生フレームワークを提案する。 本稿では,2つの教員ネットワークからなる適応型教員学習を提案する。 微粒な学生アンサンブルは、教師モデルの各フラグメントを、生徒の対応するフラグメントの時間移動平均で更新し、各モデルフラグメントのノイズに対する一貫した予測を強化する。
  論文  参考訳（メタデータ） (2022-12-13T12:14:09Z)
• One-shot Machine Teaching: Cost Very Few Examples to Converge Faster [45.96956111867065]
  単発機械教育という,よりインテリジェントな教育パラダイムについて検討する。 学習セットからモデルパラメータへの抽出可能なマッピングを確立する。 この写像が主観的であることを証明し、最適指導セットの存在を保証する。
  論文  参考訳（メタデータ） (2022-12-13T07:51:17Z)
• Collaborative Multi-Teacher Knowledge Distillation for Learning Low Bit-width Deep Neural Networks [28.215073725175728]
  マルチ教師による知識蒸留とネットワーク量子化を併用した,低ビット幅DNN学習のための新しいフレームワークを提案する。 CIFAR100 と ImageNet のデータセットを用いた実験結果から,本手法で訓練した小型量子化学生モデルによる競争結果が得られた。
  論文  参考訳（メタデータ） (2022-10-27T01:03:39Z)
• Iterative Teacher-Aware Learning [136.05341445369265]
  人間の教育において、教師と学生はコミュニケーション効率を最大化するために適応的に交流することができる。 本稿では,教師の協調意図を可能性関数に組み込むことができる,勾配最適化に基づく教師認識学習者を提案する。
  論文  参考訳（メタデータ） (2021-10-01T00:27:47Z)
• Distribution Matching for Machine Teaching [64.39292542263286]
  機械学習の逆問題である機械学習は、学習者の目標仮説に向けて学習者を操ることを目的としている。 機械教育に関するこれまでの研究は、それらの最良の指導例を見つけるための教育のリスクとコストのバランスに重点を置いていた。 本稿では,分布マッチングに基づく機械教育戦略を提案する。
  論文  参考訳（メタデータ） (2021-05-06T09:32:57Z)
• Adaptive Multi-Teacher Multi-level Knowledge Distillation [11.722728148523366]
  適応型多段階知識蒸留学習フレームワーク(AMTML-KD)を提案する。 i)各教師と潜在表現を関連付けて、インスタンスレベルの教師の重要性の重みを適応的に学習する。 そのため、学生モデルはAMMTML-KDを介して複数の教師から多レベルの知識を学ぶことができます。
  論文  参考訳（メタデータ） (2021-03-06T08:18:16Z)
• Teaching to Learn: Sequential Teaching of Agents with Inner States [20.556373950863247]
  学習者の内的状態が授業の相互作用によって変化するようなマルチエージェントの定式化を導入する。 このような学習者を指導するために,学習者の今後のパフォーマンスを考慮に入れた最適制御手法を提案する。
  論文  参考訳（メタデータ） (2020-09-14T07:03:15Z)
• The Sample Complexity of Teaching-by-Reinforcement on Q-Learning [40.37954633873304]
  本研究は,TDim (Teaching dimension) と称される授業の複雑さを,TDim(Teaching dimension,TDim,TDim,TDim,TDim,TDim,TDim,TDim,TDim,TDim,TDim,TDim,TDim,TDim,TDim,TDim,TDim,TDim,TDim, TDim,TDim,TDim,TDim,TDim,TDim,TDim,TDim) 本稿では,TDimを,環境に対する制御能力の異なる教師によって特徴付ける,強化学習アルゴリズム,Q-ラーニング,TDimの特定のファミリーに焦点をあてる。 TDimの結果は、強化学習に必要なサンプルの最小数を提供し、標準的なPACスタイルのRLサンプルの複雑さと、実演によるサンプルの複雑さとを関連づける。
  論文  参考訳（メタデータ） (2020-06-16T17:06:04Z)
• Neural Multi-Task Learning for Teacher Question Detection in Online Classrooms [50.19997675066203]
  教師の音声記録から質問を自動的に検出するエンドツーエンドのニューラルネットワークフレームワークを構築している。 マルチタスク学習手法を取り入れることで,質問の種類によって意味的関係の理解を深めることが可能となる。
  論文  参考訳（メタデータ） (2020-05-16T02:17:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。