論文の概要: Meta Transfer Learning for Early Success Prediction in MOOCs
- arxiv url: http://arxiv.org/abs/2205.01064v1
- Date: Mon, 25 Apr 2022 09:19:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-09 01:35:53.009425
- Title: Meta Transfer Learning for Early Success Prediction in MOOCs
- Title(参考訳): MOOCの早期成功予測のためのメタトランスファー学習
- Authors: Vinitra Swamy, Mirko Marras, Tanja K\"aser
- Abstract要約: 対象の介入に対する学生の成功の早期予測は、コースに学生が残っていないことを保証するために不可欠である。
MOOCの成功予測には、主に個々のコースをスクラッチからトレーニングするモデルに焦点を当てた大きな研究団体が存在する。
本稿では,(1)多種多様なコースでモデルを事前学習すること,(2)コースのメタ情報を含む事前学習モデルを活用すること,(3)過去のコースの反復でモデルを微調整すること,の3つの新しい方法を提案する。
- 参考スコア(独自算出の注目度): 6.43486245025846
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite the increasing popularity of massive open online courses (MOOCs),
many suffer from high dropout and low success rates. Early prediction of
student success for targeted intervention is therefore essential to ensure no
student is left behind in a course. There exists a large body of research in
success prediction for MOOCs, focusing mainly on training models from scratch
for individual courses. This setting is impractical in early success prediction
as the performance of a student is only known at the end of the course. In this
paper, we aim to create early success prediction models that can be transferred
between MOOCs from different domains and topics. To do so, we present three
novel strategies for transfer: 1) pre-training a model on a large set of
diverse courses, 2) leveraging the pre-trained model by including meta
information about courses, and 3) fine-tuning the model on previous course
iterations. Our experiments on 26 MOOCs with over 145,000 combined enrollments
and millions of interactions show that models combining interaction data and
course information have comparable or better performance than models which have
access to previous iterations of the course. With these models, we aim to
effectively enable educators to warm-start their predictions for new and
ongoing courses.
- Abstract(参考訳): 大規模なオープンオンラインコース(MOOC)の人気が高まっているにもかかわらず、多くは高いドロップアウトと低い成功率に悩まされている。
したがって、学生が授業に残らないようにするには、学生の早期的成功の予測が不可欠である。
MOOCの成功予測には、主に個々のコースをスクラッチからトレーニングするモデルに焦点を当てた大きな研究団体が存在する。
この設定は、学生のパフォーマンスがコースの最後にしか知られていないため、初期の成功予測では実用的ではない。
本稿では,異なるドメインとトピックのmooc間で転送可能な,早期の成功予測モデルの構築を目標とする。
そのため、転送のための3つの新しい戦略を提示する。
1)多様なコースの大きなセットでモデルを事前訓練すること。
2)授業に関するメタ情報を含む事前学習モデルを活用すること、
3) 前のコースのイテレーションでモデルを微調整する。
145,000以上の登録と数百万のインタラクションを持つ26のmoocに関する実験では、インタラクションデータとコース情報を組み合わせたモデルが、以前のコースのイテレーションにアクセス可能なモデルと同等あるいは優れたパフォーマンスを持っていることが分かりました。
これらのモデルにより、教育者は、新しいコースや進行中コースの予測を効果的に開始できる。
関連論文リスト
- Exploring and Enhancing the Transfer of Distribution in Knowledge Distillation for Autoregressive Language Models [62.5501109475725]
知識蒸留(KD)は、より小さな学生モデルを模倣するように訓練することで、大きな教師モデルを圧縮する技術である。
本稿では、教師ネットワークが小さなオンラインモジュールを統合し、学生モデルと同時学習するオンライン知識蒸留(OKD)について紹介する。
OKDは、様々なモデルアーキテクチャやサイズにおけるリードメソッドのパフォーマンスを達成または超え、トレーニング時間を最大4倍に短縮する。
論文 参考訳(メタデータ) (2024-09-19T07:05:26Z) - Annealed Winner-Takes-All for Motion Forecasting [48.200282332176094]
本稿では,AWTAの損失を最先端のモーション予測モデルと統合して性能を向上させる方法を示す。
我々の手法は、WTAを用いて訓練された任意の軌道予測モデルに容易に組み込むことができる。
論文 参考訳(メタデータ) (2024-09-17T13:26:17Z) - A Fair Post-Processing Method based on the MADD Metric for Predictive Student Models [1.055551340663609]
予測的学生モデルにおけるアルゴリズム的公正性を評価するために,新しい尺度が開発された。
本稿では,適切な予測モデルの結果の正確性を保ちつつ,公平性を向上することを目的とした後処理手法を提案する。
我々は、シミュレーションと実世界の教育データを用いて、オンラインコースにおける学生の成功を予測するタスクについて実験を行った。
論文 参考訳(メタデータ) (2024-07-07T14:53:41Z) - Universal Semi-supervised Model Adaptation via Collaborative Consistency
Training [92.52892510093037]
我々は、Universal Semi-supervised Model Adaptation (USMA)と呼ばれる現実的で挑戦的なドメイン適応問題を導入する。
本稿では,2つのモデル間の予測整合性を規則化する協調的整合性トレーニングフレームワークを提案する。
実験により,いくつかのベンチマークデータセットにおける本手法の有効性が示された。
論文 参考訳(メタデータ) (2023-07-07T08:19:40Z) - Large-scale Multi-Modal Pre-trained Models: A Comprehensive Survey [66.18478838828231]
マルチモーダルな事前訓練型大型モデルは近年ますます注目を集めている。
本稿では, 自然言語処理, コンピュータビジョン, 音声処理における従来の深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・
次に,マルチモーダル・プレトレーニング・モデル(MM-PTM)のタスク定義,課題,メリットを紹介し,データ,目的,ネットワーク,知識強化による事前トレーニングに着目して,MM-PTMについて議論する。
論文 参考訳(メタデータ) (2023-02-20T15:34:03Z) - Synthetic Model Combination: An Instance-wise Approach to Unsupervised
Ensemble Learning [92.89846887298852]
ラベル付きデータのトレーニングセットから学ぶ機会のない、新しいテストデータに対する予測を検討する。
専門家モデルのセットと予測へのアクセスと、トレーニングに使用するデータセットに関する制限された情報を提供すること。
論文 参考訳(メタデータ) (2022-10-11T10:20:31Z) - Self-Distillation for Further Pre-training of Transformers [83.84227016847096]
我々は、さらなる事前学習段階の正則化として自己蒸留を提案する。
画像およびテキスト分類タスクのための様々なベンチマークデータセットにおける自己蒸留の有効性を実証的に検証する。
論文 参考訳(メタデータ) (2022-09-30T02:25:12Z) - Transferable Student Performance Modeling for Intelligent Tutoring
Systems [24.118429574890055]
移動学習技術は,既存のコースのログデータを活用することで,新しいコースの正確な性能予測を提供する方法であると考えている。
実世界の大規模ITSにおける47,000人以上の学生のデータを含む5つの数学コースの学生相互作用シーケンスデータを用いて,提案手法の評価を行った。
論文 参考訳(メタデータ) (2022-02-08T16:36:27Z) - Context-aware Non-linear and Neural Attentive Knowledge-based Models for
Grade Prediction [12.592903558338444]
コース選択の過程において,学生と指導員を支援できるため,学生がまだ受け取っていない将来のコースのグレード予測が重要である。
将来のコースにおける生徒の成績を正確に予測するための成功したアプローチの1つは、累積的知識ベース回帰モデル(CKRM)である。
CKRMは、学生の成績を、自分の知識状態と対象コースとの類似性として予測する浅い線形モデルを学ぶ。
本研究では,学習者の事前学習情報から,学習者の知識状態をより正確に推定できる文脈認識型非線形・ニューラル注意モデルを提案する。
論文 参考訳(メタデータ) (2020-03-09T20:20:48Z) - Academic Performance Estimation with Attention-based Graph Convolutional
Networks [17.985752744098267]
学生の過去のデータから、学生のパフォーマンス予測の課題は、将来のコースにおける生徒の成績を予測することである。
学生のパフォーマンス予測の伝統的な方法は、通常、複数のコース間の基礎となる関係を無視する。
本稿では,学生のパフォーマンス予測のための新しい注目型グラフ畳み込みネットワークモデルを提案する。
論文 参考訳(メタデータ) (2019-12-26T23:11:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。