論文の概要: Improving Knowledge Tracing via Pre-training Question Embeddings
- arxiv url: http://arxiv.org/abs/2012.05031v1
- Date: Wed, 9 Dec 2020 13:21:23 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-16 01:52:02.445862
- Title: Improving Knowledge Tracing via Pre-training Question Embeddings
- Title(参考訳): 事前学習による知識追跡の改善
- Authors: Yunfei Liu, Yang Yang, Xianyu Chen, Jian Shen, Haifeng Zhang, Yong Yu
- Abstract要約: 知識追跡(KT)は、学生が過去の回答に基づいて正しい質問に答えられるかどうかを予測するタスクを定義する。
本稿では,豊富な側情報に対する各質問に対する埋め込みを事前学習することで,KTに対する大きな利得を実現することができることを示す。
具体的には、質問難易度と、質問とスキルの間の2部グラフに含まれる3種類の関係性を含む。
- 参考スコア(独自算出の注目度): 25.611547414936553
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knowledge tracing (KT) defines the task of predicting whether students can
correctly answer questions based on their historical response. Although much
research has been devoted to exploiting the question information, plentiful
advanced information among questions and skills hasn't been well extracted,
making it challenging for previous work to perform adequately. In this paper,
we demonstrate that large gains on KT can be realized by pre-training
embeddings for each question on abundant side information, followed by training
deep KT models on the obtained embeddings. To be specific, the side information
includes question difficulty and three kinds of relations contained in a
bipartite graph between questions and skills. To pre-train the question
embeddings, we propose to use product-based neural networks to recover the side
information. As a result, adopting the pre-trained embeddings in existing deep
KT models significantly outperforms state-of-the-art baselines on three common
KT datasets.
- Abstract(参考訳): 知識追跡(KT)は、学生が過去の回答に基づいて正しい質問に答えられるかどうかを予測するタスクを定義する。
質問情報の利用に多くの研究が費やされているが、質問やスキルの高度な情報は十分に抽出されていないため、以前の作業が適切に実行されることは困難である。
本稿では,豊富な側情報に対する各質問に対する埋め込みを事前学習し,得られた埋め込みに関する深いKTモデルを訓練することにより,KTに対する大きな利得を実現できることを示す。
具体的には、質問の難易度と、質問とスキルの間の二部グラフに含まれる3種類の関係を含む。
質問の埋め込みを事前学習するために,製品ベースのニューラルネットワークを用いて副次情報を復元することを提案する。
その結果、既存の深部KTモデルに事前トレーニングされた埋め込みを採用することで、3つの共通KTデータセットの最先端ベースラインを著しく上回る結果となった。
関連論文リスト
- Automatic Question-Answer Generation for Long-Tail Knowledge [65.11554185687258]
テールエンティティのための特別なQAデータセットを生成するための自動アプローチを提案する。
我々は,新たに生成された長尾QAデータセットに事前学習したLLMを用いて広範な実験を行う。
論文 参考訳(メタデータ) (2024-03-03T03:06:31Z) - Do We Fully Understand Students' Knowledge States? Identifying and
Mitigating Answer Bias in Knowledge Tracing [12.31363929361146]
知識追跡は、概念に関連した質問との学習相互作用を通じて、学生の進化する知識状態を監視することを目的としている。
解答バイアスの一般的な現象、すなわち、各質問に対する正解と誤解の高度に不均衡な分布がある。
既存のモデルは、KTで高い予測性能を達成するためのショートカットとして解答バイアスを記憶する傾向がある。
論文 参考訳(メタデータ) (2023-08-15T13:56:29Z) - A Survey on Temporal Knowledge Graph Completion: Taxonomy, Progress, and
Prospects [73.44022660932087]
時間的特性は、かなりの量の知識で顕著に明らかである。
新たな知識の継続的な出現、構造化されていないデータから構造化された情報を抽出するアルゴリズムの弱点、ソースデータセットにおける情報の欠如を引用する。
TKGC(Temporal Knowledge Graph Completion)のタスクは、利用可能な情報に基づいて行方不明アイテムを予測することを目的として、注目を集めている。
論文 参考訳(メタデータ) (2023-08-04T16:49:54Z) - Enhancing Deep Knowledge Tracing with Auxiliary Tasks [24.780533765606922]
本稿では,emphAT-DKTによる知識追跡モデルの予測性能の向上について述べる。
実世界の3つの教育データセットに関する総合的な実験を行い、提案手法を深部逐次KTモデルと非逐次モデルの両方と比較する。
論文 参考訳(メタデータ) (2023-02-14T08:21:37Z) - Improving Interpretability of Deep Sequential Knowledge Tracing Models
with Question-centric Cognitive Representations [22.055683237994696]
上記の課題に対処する質問中心の解釈可能なKTモデルQIKTを提案する。
提案したQIKTアプローチは、学生の知識状態の変動をきめ細かいレベルで明示的にモデル化する。
より優れたモデル解釈性を備えた予測精度で、幅広いディープラーニングベースのKTモデルより優れています。
論文 参考訳(メタデータ) (2023-02-14T08:14:30Z) - Knowledge-Routed Visual Question Reasoning: Challenges for Deep
Representation Embedding [140.5911760063681]
VQAモデル評価のためのナレッジルーティング視覚質問推論という新しいデータセットを提案する。
視覚ゲノムシーングラフと外部知識ベースの両方に基づいて,制御プログラムを用いて質問応答対を生成する。
論文 参考訳(メタデータ) (2020-12-14T00:33:44Z) - Inquisitive Question Generation for High Level Text Comprehension [60.21497846332531]
InQUISITIVEは、文書を読みながら19K質問を抽出するデータセットである。
我々は,読者が情報を求めるための実践的な戦略に携わることを示す。
我々は, GPT-2に基づく質問生成モデルを評価し, 妥当な質問を生成することができることを示す。
論文 参考訳(メタデータ) (2020-10-04T19:03:39Z) - GIKT: A Graph-based Interaction Model for Knowledge Tracing [36.07642261246016]
上記の問題に対処するために,知識追跡のためのグラフベースインタラクションモデルを提案する。
より具体的には、GIKTはグラフ畳み込みネットワーク(GCN)を使用して、質問スキル相関を実質的に組み込んでいる。
3つのデータセットの実験では、GIKTが新しい最先端のパフォーマンスを実現し、少なくとも1%の絶対AUC改善を実現している。
論文 参考訳(メタデータ) (2020-09-13T12:50:32Z) - A Survey on Complex Question Answering over Knowledge Base: Recent
Advances and Challenges [71.4531144086568]
知識ベース(KB)に対する質問回答(QA)は、自然言語の質問に自動的に答えることを目的としている。
研究者は、よりKBのトリプルと制約推論を必要とする単純な質問から複雑な質問へと注意を移した。
論文 参考訳(メタデータ) (2020-07-26T07:13:32Z) - qDKT: Question-centric Deep Knowledge Tracing [29.431121650577396]
DKTの変種であるqDKTを導入し、各学習者の成功確率を時間とともにモデル化する。
qDKTはグラフラプラシア正規化を各スキルの下で滑らかな予測に組み込む。
いくつかの実世界のデータセットの実験により、qDKTは学習結果の予測において最先端のパフォーマンスを達成することが示された。
論文 参考訳(メタデータ) (2020-05-25T23:43:55Z) - Knowledge as Priors: Cross-Modal Knowledge Generalization for Datasets
without Superior Knowledge [55.32035138692167]
クロスモーダルな知識蒸留は、優れたモーダルで訓練されたモデルから弱いモーダルで訓練された別のモデルに知識を移すことを扱う。
本研究では,教師が利用できないターゲットデータセットにおいて,生徒を訓練するための新しいスキームを提案する。
論文 参考訳(メタデータ) (2020-04-01T00:28:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。