論文の概要: MUSE: Multi-Scale Temporal Features Evolution for Knowledge Tracing
- arxiv url: http://arxiv.org/abs/2102.00228v1
- Date: Sat, 30 Jan 2021 13:52:46 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-02 16:19:43.538223
- Title: MUSE: Multi-Scale Temporal Features Evolution for Knowledge Tracing
- Title(参考訳): MUSE: 知識追跡のためのマルチスケール時間的特徴進化
- Authors: Chengwei Zhang, Yangzhou Jiang, Wei Zhang, Chengyu Gu
- Abstract要約: 提案モデルでは,ユーザの知識状態の動的変化を異なる時間範囲で捉えることができる。
私たちの方法は,Riiid AIEd Challenge 2020で3,395チームが5位になった。
- 参考スコア(独自算出の注目度): 5.986817051464923
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Transformer based knowledge tracing model is an extensively studied problem
in the field of computer-aided education. By integrating temporal features into
the encoder-decoder structure, transformers can processes the exercise
information and student response information in a natural way. However, current
state-of-the-art transformer-based variants still share two limitations. First,
extremely long temporal features cannot well handled as the complexity of
self-attention mechanism is O(n2). Second, existing approaches track the
knowledge drifts under fixed a window size, without considering different
temporal-ranges. To conquer these problems, we propose MUSE, which is equipped
with multi-scale temporal sensor unit, that takes either local or global
temporal features into consideration. The proposed model is capable to capture
the dynamic changes in users knowledge states at different temporal-ranges, and
provides an efficient and powerful way to combine local and global features to
make predictions. Our method won the 5-th place over 3,395 teams in the Riiid
AIEd Challenge 2020.
- Abstract(参考訳): トランスフォーマーに基づく知識追跡モデルは、コンピュータ支援教育の分野で広く研究されている問題です。
エンコーダ・デコーダ構造に時間的特徴を統合することで、トランスフォーマーは運動情報と学生応答情報を自然な方法で処理することができる。
しかし、現在の変圧器ベースの変種には2つの制限がある。
第一に、非常に長い時間的特徴は自己注意機構の複雑さが O(n2) であるためうまく扱えない。
第2に、既存のアプローチでは、時間範囲の違いを考慮せずに、ウィンドウサイズの固定された知識ドリフトを追跡する。
これらの問題を解決するために,局所的・グローバルな時間的特徴を考慮したマルチスケールの時間的センサユニットを備えたMUSEを提案する。
提案されたモデルは、異なる時間範囲におけるユーザ知識状態の動的変化をキャプチャし、ローカル機能とグローバル機能を組み合わせて予測を行う効率的かつ強力な方法を提供する。
本手法はriiid aied challenge 2020で3,395チームで5位となった。
関連論文リスト
- TempoFormer: A Transformer for Temporally-aware Representations in Change Detection [12.063146420389371]
本研究では,動的表現学習のためのタスク依存型トランスフォーマーと時間認識型モデルであるTempoFormerを紹介する。
本手法はコンテキスト間の動的および内部的力学を共同で訓練し,回転位置埋め込みの時間的変化を新たに導入する。
3つの異なるリアルタイム変化検出タスクに対して新しいSOTA性能を示す。
論文 参考訳(メタデータ) (2024-08-28T10:25:53Z) - Scalable Multi-Temporal Remote Sensing Change Data Generation via
Simulating Stochastic Change Process [21.622442722863028]
生成モデルを用いたスケーラブルなマルチ時間リモートセンシングデータ生成手法を提案する。
私たちの一番のアイデアは、時間とともに変化するプロセスをシミュレートすることです。
これら2つの問題を解決するため、GANベースのGPCMである変更生成器(Changen)を提案し、制御可能なオブジェクト変更データ生成を可能にする。
論文 参考訳(メタデータ) (2023-09-29T07:37:26Z) - Diagnostic Spatio-temporal Transformer with Faithful Encoding [54.02712048973161]
本稿では,データ生成プロセスが複合時間(ST)依存性を持つ場合の異常診断の課題について述べる。
我々は、ST依存を時系列分類の副産物として学習する、教師付き依存発見として問題を定式化する。
既存のST変圧器で使用される時間的位置符号化は、高周波数(短時間スケール)の周波数をキャプチャする重大な制限を有することを示す。
また、空間的および時間的方向の両方で容易に消費可能な診断情報を提供する新しいST依存性発見フレームワークを提案する。
論文 参考訳(メタデータ) (2023-05-26T05:31:23Z) - Global-to-Local Modeling for Video-based 3D Human Pose and Shape
Estimation [53.04781510348416]
フレーム内精度とフレーム間スムーズさにより,映像に基づく3次元人間のポーズと形状推定を評価する。
エンドツーエンドフレームワークGLoT(Global-to-Local Transformer)における長期的・短期的相関のモデル化を構造的に分離することを提案する。
我々のGLoTは、一般的なベンチマーク(3DPW、MPI-INF-3DHP、Human3.6M)において、最も低いモデルパラメータを持つ従来の最先端の手法を上回る。
論文 参考訳(メタデータ) (2023-03-26T14:57:49Z) - FormerTime: Hierarchical Multi-Scale Representations for Multivariate
Time Series Classification [53.55504611255664]
formerTimeは、多変量時系列分類タスクの分類能力を改善する階層的表現モデルである。
1)時系列データから階層的なマルチスケール表現を学習し、(2)トランスフォーマーと畳み込みネットワークの強さを継承し、(3)自己維持メカニズムによって引き起こされる効率の課題に取り組む。
論文 参考訳(メタデータ) (2023-02-20T07:46:14Z) - Inference from Real-World Sparse Measurements [21.194357028394226]
実世界の問題は、しばしば複雑で非構造的な測定セットが伴うが、これはセンサーが空間または時間に狭く配置されているときに起こる。
セットからセットまで様々な位置で測定セットを処理し、どこででも読み出しを抽出できるディープラーニングアーキテクチャは、方法論的に困難である。
本稿では,適用性と実用的堅牢性に着目したアテンションベースモデルを提案する。
論文 参考訳(メタデータ) (2022-10-20T13:42:20Z) - Gait Recognition in the Wild with Multi-hop Temporal Switch [81.35245014397759]
野生での歩行認識は、より実践的な問題であり、マルチメディアとコンピュータビジョンのコミュニティの注目を集めています。
本稿では,現実のシーンにおける歩行パターンの効果的な時間的モデリングを実現するために,新しいマルチホップ時間スイッチ方式を提案する。
論文 参考訳(メタデータ) (2022-09-01T10:46:09Z) - Adaptive Latent Space Tuning for Non-Stationary Distributions [62.997667081978825]
本稿では,ディープエンコーダ・デコーダ方式cnnの低次元潜在空間の適応チューニング法を提案する。
粒子加速器における時間変動荷電粒子ビームの特性を予測するためのアプローチを実証する。
論文 参考訳(メタデータ) (2021-05-08T03:50:45Z) - Transformers Solve the Limited Receptive Field for Monocular Depth
Prediction [82.90445525977904]
畳み込みニューラルネットワークとトランスの両方の恩恵を受けるアーキテクチャであるTransDepthを提案します。
連続ラベルを含む画素単位での予測問題にトランスフォーマーを適用する最初の論文である。
論文 参考訳(メタデータ) (2021-03-22T18:00:13Z) - DEFM: Delay E mbedding based Forecast Machine for Time Series Forecasting by Spatiotemporal Information Transformation [27.196988830046756]
Delay-Embedding-based Forecast Machine (DEFM) は,高次元観測に基づいて,対象変数の将来値を予測する。
DEFMはディープニューラルネットワークを使用して、観測された時系列から空間的および時間的関連情報を効果的に抽出する。
DEFMは、ターゲット変数の遅延埋め込みを通じてパラメータを変換することで、将来のパラメータを正確に予測することができる。
論文 参考訳(メタデータ) (2020-05-16T01:48:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。