論文の概要: Enhancing Knowledge Tracing via Adversarial Training

• arxiv url: http://arxiv.org/abs/2108.04430v1
• Date: Tue, 10 Aug 2021 03:35:13 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-11 14:13:28.344872
• Title: Enhancing Knowledge Tracing via Adversarial Training
• Title（参考訳）: 対人訓練による知識トラクションの強化
• Authors: Xiaopeng Guo, Zhijie Huang, Jie Gao, Mingyu Shang, Maojing Shu, Jun Sun
• Abstract要約: 本研究では,学生の知識習得を時間とともに追跡することを目的とした知識追跡問題(KT)について検討する。 KTの最近の進歩は、KTの性能を改善するためにディープニューラルネットワーク(DNN)の探索に集中している。 我々は,効率的なATベースKT法(ATKT)を提案し,KTモデルの一般化を強化し,KTの限界を推し進める。
• 参考スコア（独自算出の注目度）: 5.461665809706664
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study the problem of knowledge tracing (KT) where the goal is to trace the students' knowledge mastery over time so as to make predictions on their future performance. Owing to the good representation capacity of deep neural networks (DNNs), recent advances on KT have increasingly concentrated on exploring DNNs to improve the performance of KT. However, we empirically reveal that the DNNs based KT models may run the risk of overfitting, especially on small datasets, leading to limited generalization. In this paper, by leveraging the current advances in adversarial training (AT), we propose an efficient AT based KT method (ATKT) to enhance KT model's generalization and thus push the limit of KT. Specifically, we first construct adversarial perturbations and add them on the original interaction embeddings as adversarial examples. The original and adversarial examples are further used to jointly train the KT model, forcing it is not only to be robust to the adversarial examples, but also to enhance the generalization over the original ones. To better implement AT, we then present an efficient attentive-LSTM model as KT backbone, where the key is a proposed knowledge hidden state attention module that adaptively aggregates information from previous knowledge hidden states while simultaneously highlighting the importance of current knowledge hidden state to make a more accurate prediction. Extensive experiments on four public benchmark datasets demonstrate that our ATKT achieves new state-of-the-art performance. Code is available at: \color{blue} {\url{https://github.com/xiaopengguo/ATKT}}.
• Abstract（参考訳）: 本研究では,学生の知識習得度を時間とともに追跡し,将来の成績を予測することを目的とした知識追跡(KT)問題について検討する。 ディープニューラルネットワーク(DNN)の優れた表現能力のため、KTの最近の進歩は、KTの性能を改善するためにDNNの探索に集中している。 しかし、我々は、DNNベースのKTモデルが、特に小さなデータセットにおいて過度に適合するリスクを負う可能性があることを実証的に明らかにした。 本稿では, 対戦訓練(AT)の現在の進歩を活用して, KTモデルの一般化を向上し, KTの限界を推し進めるため, 効率的なATベースKT法を提案する。 具体的には、まず対向摂動を構築し、元の相互作用埋め込みを対向例として追加する。 元の例と逆例は、KTモデルを共同で訓練するためにさらに使われ、逆例に対して堅牢であるだけでなく、元の例よりも一般化を高めるためにも用いられる。 そこでキーとなるのは,従来の知識隠れ状態から情報を適応的に集約し,現在の知識隠れ状態の重要性を強調してより正確な予測を行う,提案する知識隠れ状態注意モジュールである。 4つの公開ベンチマークデータセットに対する大規模な実験は、ATKTが新しい最先端のパフォーマンスを達成することを示す。 コードは以下の通りである。 \color{blue} {\url{https://github.com/xiaopengguo/ATKT}}。

関連論文リスト

• Beyond Right and Wrong: Mitigating Cold Start in Knowledge Tracing Using Large Language Model and Option Weight [0.14999444543328289]
  知識追跡(KT)は教育データマイニングにおいて不可欠であり、パーソナライズされた学習を可能にする。 本研究では,LOKT(Large Language Model Option-weighted Knowledge Tracing)モデルを導入し,コールドスタート問題に対処する。
  論文  参考訳（メタデータ） (2024-10-14T16:25:48Z)
• Automated Knowledge Concept Annotation and Question Representation Learning for Knowledge Tracing [59.480951050911436]
  自動知識概念アノテーションと質問表現学習のためのフレームワークであるKCQRLを提案する。 実世界の2つの学習データセット上で、15KTアルゴリズムにまたがるKCQRLの有効性を実証する。
  論文  参考訳（メタデータ） (2024-10-02T16:37:19Z)
• Towards Robust Knowledge Tracing Models via k-Sparse Attention [33.02197868261949]
  textscsparseKTは、注意に基づくDLKTアプローチの堅牢性と一般化を改善するための、シンプルで効果的なフレームワークである。 我々のテキストスパースKTは、注意的なKTモデルが無関係な学生の相互作用を取り除くのに役立つことを示す。
  論文  参考訳（メタデータ） (2024-07-24T08:49:18Z)
• Improving Low-Resource Knowledge Tracing Tasks by Supervised Pre-training and Importance Mechanism Fine-tuning [25.566963415155325]
  上記の課題に対処するため,低リソースのKTフレームワークであるLoReKTを提案する。 一般的な"事前学習と微調整"パラダイムにインスパイアされた我々は、リッチリソースのKTデータセットから転送可能なパラメータと表現を学習することを目指している。 複数のKTデータソースからの学生のインタラクションを組み込むエンコーディング機構を設計する。
  論文  参考訳（メタデータ） (2024-03-11T13:44:43Z)
• Retrieval-Enhanced Contrastive Vision-Text Models [61.783728119255365]
  そこで本研究では,メモリから取得したクロスモーダルな情報を推論時に表現することで,その埋め込みを洗練できる視覚テキストモデルを提案する。 注目すべきことに、これは凍ったCLIPの上に軽量の単層核融合トランスを用いて行うことができる。 検索強化コントラスト訓練(RECO)がCLIPの性能を大幅に向上することを示す。
  論文  参考訳（メタデータ） (2023-06-12T15:52:02Z)
• Beyond Transfer Learning: Co-finetuning for Action Localisation [64.07196901012153]
  同時に、複数のアップストリームとダウンストリームのタスクで1つのモデルをトレーニングする。 共ファインタニングは、同じデータ量を使用する場合、従来のトランスファーラーニングよりも優れていることを示す。 さらに、複数のアップストリームデータセットへのアプローチを簡単に拡張して、パフォーマンスをさらに向上する方法も示しています。
  論文  参考訳（メタデータ） (2022-07-08T10:25:47Z)
• pyKT: A Python Library to Benchmark Deep Learning based Knowledge Tracing Models [46.05383477261115]
  知識追跡(KT)は、学生の履歴学習インタラクションデータを用いて、時間とともに知識の熟達をモデル化するタスクである。 DLKTアプローチはいまだに不明であり、これらのアプローチの適切な測定と分析は依然として課題である。 我々は、DLKTメソッド間の有効な比較を保証するために、包括的なpythonベースのベンチマークプラットフォームであるtextscpyKTを導入する。
  論文  参考訳（メタデータ） (2022-06-23T02:42:47Z)
• Consistency and Monotonicity Regularization for Neural Knowledge Tracing [50.92661409499299]
  人間の知識獲得を追跡する知識追跡(KT)は、オンライン学習と教育におけるAIの中心的なコンポーネントです。 本稿では, 新たなデータ拡張, 代替, 挿入, 削除の3種類と, 対応する正規化損失を提案する。 さまざまなKTベンチマークに関する広範な実験は、私たちの正規化スキームがモデルのパフォーマンスを一貫して改善することを示しています。
  論文  参考訳（メタデータ） (2021-05-03T02:36:29Z)
• On the Interpretability of Deep Learning Based Models for Knowledge Tracing [5.120837730908589]
  知識追跡により、Intelligent Tutoring Systemsは、学生が習得したトピックやスキルを推測することができる。 Deep Knowledge Tracing(DKT)やDynamic Key-Value Memory Network(DKVMN)といったディープラーニングベースのモデルは、大幅に改善されている。 しかし、これらのディープラーニングベースのモデルは、ディープニューラルネットワークによって学習される意思決定プロセスが完全には理解されていないため、他のモデルほど解釈できない。
  論文  参考訳（メタデータ） (2021-01-27T11:55:03Z)
• Context-Aware Attentive Knowledge Tracing [21.397976659857793]
  本稿では、フレキシブルアテンションに基づくニューラルネットワークモデルと、新しい解釈可能なモデルコンポーネントを結合した注意知識追跡手法を提案する。 AKTは、学習者の将来の応答と過去の応答に対する評価質問を関連付ける新しいモノトニックアテンションメカニズムを使用する。 AKT は,既存の KT 手法(場合によっては AUC で最大6% 以上)よりも,将来の学習者応答の予測に優れることを示す。
  論文  参考訳（メタデータ） (2020-07-24T02:45:43Z)
• Towards Interpretable Deep Learning Models for Knowledge Tracing [62.75876617721375]
  本稿では,深層学習に基づく知識追跡(DLKT)モデルの解釈可能性問題に対処するポストホック手法を提案する。 具体的には、RNNに基づくDLKTモデルを解釈するために、レイヤワイズ関連伝搬法(LRP)を適用することに焦点をあてる。 実験結果から,DLKTモデルの予測をLRP法で解釈できることを示す。
  論文  参考訳（メタデータ） (2020-05-13T04:03:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。