論文の概要: HiTSKT: A Hierarchical Transformer Model for Session-Aware Knowledge
Tracing
- arxiv url: http://arxiv.org/abs/2212.12139v3
- Date: Tue, 6 Jun 2023 13:05:01 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-07 21:16:16.444662
- Title: HiTSKT: A Hierarchical Transformer Model for Session-Aware Knowledge
Tracing
- Title(参考訳): HiTSKT:セッション認識知識追跡のための階層型トランスフォーマーモデル
- Authors: Fucai Ke, Weiqing Wang, Weicong Tan, Lan Du, Yuan Jin, Yujin Huang and
Hongzhi Yin
- Abstract要約: 知識追跡(KT)は、学生の学習履歴を活用して、事前に定義された一連のスキルに基づいて熟達レベルを推定することを目的としており、それに対応する将来のパフォーマンスを正確に予測できる。
実際には、学生の学習履歴は、単に独立した回答の列であるのではなく、セッションとして知られる、大量の質問の集合に対する回答を含んでいる。
既存のKTモデルは、学生の知識状態のセッションシフトを捉えずに、学生の学習記録を単一の継続シーケンスとして扱う。
- 参考スコア(独自算出の注目度): 35.02243127325724
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Knowledge tracing (KT) aims to leverage students' learning histories to
estimate their mastery levels on a set of pre-defined skills, based on which
the corresponding future performance can be accurately predicted. As an
important way of providing personalized experience for online education, KT has
gained increased attention in recent years. In practice, a student's learning
history comprises answers to sets of massed questions, each known as a session,
rather than merely being a sequence of independent answers. Theoretically,
within and across these sessions, students' learning dynamics can be very
different. Therefore, how to effectively model the dynamics of students'
knowledge states within and across the sessions is crucial for handling the KT
problem. Most existing KT models treat student's learning records as a single
continuing sequence, without capturing the sessional shift of students'
knowledge state. To address the above issue, we propose a novel hierarchical
transformer model, named HiTSKT, comprises an interaction(-level) encoder to
capture the knowledge a student acquires within a session, and a
session(-level) encoder to summarise acquired knowledge across the past
sessions. To predict an interaction in the current session, a knowledge
retriever integrates the summarised past-session knowledge with the previous
interactions' information into proper knowledge representations. These
representations are then used to compute the student's current knowledge state.
Additionally, to model the student's long-term forgetting behaviour across the
sessions, a power-law-decay attention mechanism is designed and deployed in the
session encoder, allowing it to emphasize more on the recent sessions.
Extensive experiments on three public datasets demonstrate that HiTSKT achieves
new state-of-the-art performance on all the datasets compared with six
state-of-the-art KT models.
- Abstract(参考訳): 知識追跡(KT)は、学生の学習履歴を活用して、事前に定義された一連のスキルに基づいて熟達レベルを推定することを目的としており、それに対応する将来のパフォーマンスを正確に予測できる。
オンライン教育にパーソナライズされた体験を提供する重要な方法として、KTは近年注目を集めている。
実際には、学生の学習履歴は、単に独立した回答の列であるのではなく、セッションとして知られる一連の集団的な質問に対する回答を含んでいる。
理論的には、これらのセッションの中で、学生の学習力学は非常に異なる。
したがって、KT問題に対処するためには、セッション内外の学生の知識状態のダイナミクスを効果的にモデル化する方法が不可欠である。
既存のKTモデルは、学生の知識状態のセッションシフトを捉えずに、学生の学習記録を単一の継続シーケンスとして扱う。
上記の課題に対処するため,HiTSKTと呼ばれる新しい階層型トランスフォーマーモデルを提案する。セッション内で取得した知識をキャプチャするインタラクション(レベル)エンコーダと,過去のセッション間で取得した知識を要約するセッション(レベル)エンコーダを備える。
現在のセッションにおけるインタラクションを予測するために、知識検索者は、要約された過去の知識と過去のインタラクションの情報とを適切な知識表現に統合する。
これらの表現は、生徒の現在の知識状態を計算するために使われる。
さらに、学生の長期的忘れ行動をセッション全体にわたってモデル化するために、セッションエンコーダにパワーロー・デカイ・アテンションメカニズムを設計し、デプロイすることで、最近のセッションをより強調することができる。
3つの公開データセットに対する大規模な実験は、HiTSKTが6つの最先端KTモデルと比較して、すべてのデータセットで新しい最先端のパフォーマンスを達成することを示した。
関連論文リスト
- Exploiting the Semantic Knowledge of Pre-trained Text-Encoders for Continual Learning [70.64617500380287]
継続的な学習は、モデルが学習した知識を維持しながら、新しいデータから学習することを可能にする。
画像のラベル情報で利用できるセマンティック知識は、以前に取得したセマンティッククラスの知識と関連する重要なセマンティック情報を提供する。
テキスト埋め込みを用いて意味的類似性を把握し,タスク内およびタスク間のセマンティックガイダンスの統合を提案する。
論文 参考訳(メタデータ) (2024-08-02T07:51:44Z) - SINKT: A Structure-Aware Inductive Knowledge Tracing Model with Large Language Model [64.92472567841105]
知識追跡(KT)は、学生が次の質問に正しく答えるかどうかを判断することを目的としている。
大規模言語モデルを用いた構造認識帰納的知識追跡モデル(SINKT)
SINKTは、学生の知識状態と質問表現とを相互作用させることで、対象の質問に対する学生の反応を予測する。
論文 参考訳(メタデータ) (2024-07-01T12:44:52Z) - A Question-centric Multi-experts Contrastive Learning Framework for Improving the Accuracy and Interpretability of Deep Sequential Knowledge Tracing Models [26.294808618068146]
知識追跡は,学生の今後の業績を予測する上で重要な役割を担っている。
ディープニューラルネットワーク(DNN)は、KT問題を解決する大きな可能性を示している。
しかし、KTプロセスのモデル化にディープラーニング技術を適用する際には、いくつかの重要な課題がある。
論文 参考訳(メタデータ) (2024-03-12T05:15:42Z) - CTP: Towards Vision-Language Continual Pretraining via Compatible
Momentum Contrast and Topology Preservation [128.00940554196976]
Vision-Language Continual Pretraining (VLCP)は、大規模なデータセット上でオフラインでトレーニングすることで、さまざまな下流タスクに対して印象的な結果を示している。
VLCP(Vision-Language Continual Pretraining)の研究を支援するために,我々はまず,包括的で統一されたベンチマークデータセットP9Dをコントリビュートする。
独立したタスクとしての各業界からのデータは、継続的な学習をサポートし、Webデータの事前学習をシミュレートする現実世界のロングテールな性質に準拠している。
論文 参考訳(メタデータ) (2023-08-14T13:53:18Z) - Quiz-based Knowledge Tracing [61.9152637457605]
知識追跡は、学習相互作用に基づいて個人の進化する知識状態を評価することを目的としている。
QKTは、既存の方法と比較して最先端のパフォーマンスを実現している。
論文 参考訳(メタデータ) (2023-04-05T12:48:42Z) - DKT-STDRL: Spatial and Temporal Representation Learning Enhanced Deep
Knowledge Tracing for Learning Performance Prediction [11.75131482747055]
DKT-STDRLモデルは、学生の運動シーケンスの空間的特徴情報を抽出するためにCNNを使用する。
BiLSTM部は、共同学習特徴から時間的特徴を抽出し、次のステップで学生が正しく答えるかどうかの予測情報を得る。
ASSISTment2009, ASSISTment2015, Synthetic-5, ASSISTchall, Statics 2011 の公開教育データセットの実験は、DKT-STDRLがDKTやCKTよりも優れた予測効果を達成できることを証明している。
論文 参考訳(メタデータ) (2023-02-15T09:23:21Z) - Transition-Aware Multi-Activity Knowledge Tracing [2.9778695679660188]
知識追跡は、学生の学習活動のシーケンスから学生の知識状態をモデル化することを目的としている。
現在のKTソリューションは、非評価学習活動からの学習をモデル化するのに適していない。
遷移対応多行動知識追跡(TAMKOT)を提案する。
論文 参考訳(メタデータ) (2023-01-26T21:49:24Z) - Responsible Active Learning via Human-in-the-loop Peer Study [88.01358655203441]
我々は,データプライバシを同時に保持し,モデルの安定性を向上させるために,Pear Study Learning (PSL) と呼ばれる責任あるアクティブラーニング手法を提案する。
まず,クラウドサイドのタスク学習者(教師)から未学習データを分離する。
トレーニング中、タスク学習者は軽量なアクティブ学習者に指示し、アクティブサンプリング基準に対するフィードバックを提供する。
論文 参考訳(メタデータ) (2022-11-24T13:18:27Z) - LANA: Towards Personalized Deep Knowledge Tracing Through
Distinguishable Interactive Sequences [21.67751919579854]
今後の質問に対する学生の回答を予測するために、Leveled Attentive KNowledge TrAcing(LANA)を提案します。
新しい学生関連特徴抽出装置(SRFE)を使用して、学生固有の特性をそれぞれのインタラクティブシーケンスから蒸留します。
ピボットモジュールは、個々の学生のためのデコーダを再構築し、グループのためのレベル付き学習特化エンコーダにより、パーソナライズされたDKTを実現した。
論文 参考訳(メタデータ) (2021-04-21T02:57:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。