論文の概要: An Approach for Combining Multimodal Fusion and Neural Architecture
Search Applied to Knowledge Tracing
- arxiv url: http://arxiv.org/abs/2111.04497v1
- Date: Mon, 8 Nov 2021 13:43:46 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-09 17:26:38.066157
- Title: An Approach for Combining Multimodal Fusion and Neural Architecture
Search Applied to Knowledge Tracing
- Title(参考訳): 知識追跡に適用したマルチモーダル融合とニューラル・アーキテクチャ・サーチを組み合わせたアプローチ
- Authors: Xinyi Ding, Tao Han, Yili Fang, Eric Larson
- Abstract要約: 本稿では,マルチモーダル融合とニューラルアーキテクチャ探索を組み合わせた逐次モデルに基づく最適化手法を提案する。
得られたモデルが優れた性能を達成できることを示す2つの公開実データに対して,本手法の評価を行った。
- 参考スコア(独自算出の注目度): 6.540879944736641
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knowledge Tracing is the process of tracking mastery level of different
skills of students for a given learning domain. It is one of the key components
for building adaptive learning systems and has been investigated for decades.
In parallel with the success of deep neural networks in other fields, we have
seen researchers take similar approaches in the learning science community.
However, most existing deep learning based knowledge tracing models either: (1)
only use the correct/incorrect response (ignoring useful information from other
modalities) or (2) design their network architectures through domain expertise
via trial and error. In this paper, we propose a sequential model based
optimization approach that combines multimodal fusion and neural architecture
search within one framework. The commonly used neural architecture search
technique could be considered as a special case of our proposed approach when
there is only one modality involved. We further propose to use a new metric
called time-weighted Area Under the Curve (weighted AUC) to measure how a
sequence model performs with time. We evaluate our methods on two public real
datasets showing the discovered model is able to achieve superior performance.
Unlike most existing works, we conduct McNemar's test on the model predictions
and the results are statistically significant.
- Abstract(参考訳): 知識トレース(英: knowledge tracing)とは、特定の学習領域において、生徒の異なるスキルの習得レベルを追跡するプロセスである。
適応学習システムを構築する上で重要な要素の1つであり、数十年にわたって研究されてきた。
他の分野でのディープニューラルネットワークの成功と並行して、研究者は学習科学コミュニティで同様のアプローチをとっている。
しかし、既存のディープラーニングベースの知識トレースモデルの多くは、(1)正しい/誤った応答(他のモダリティから有用な情報を無視する)のみを使用するか、(2)試行錯誤によるドメイン専門知識を通じてネットワークアーキテクチャを設計するかのいずれかである。
本稿では,マルチモーダル融合とニューラルネットワークの探索を1つのフレームワークで組み合わせた逐次モデルに基づく最適化手法を提案する。
一般的なニューラルアーキテクチャ探索手法は,1つのモダリティしか含まない場合,提案手法の特別な場合と考えることができる。
さらに、時間重み付き曲線(重み付きAUC)と呼ばれる新しい計量を用いて、シーケンスモデルが時間とともにどのように機能するかを測定することを提案する。
得られたモデルが優れた性能を達成できることを示す2つの公開実データに対して,本手法の評価を行った。
多くの既存の研究とは異なり、モデル予測に関するマクネマールのテストを行い、その結果は統計的に有意である。
関連論文リスト
- A Pairwise Comparison Relation-assisted Multi-objective Evolutionary Neural Architecture Search Method with Multi-population Mechanism [58.855741970337675]
ニューラルアーキテクチャサーチ(NAS)により、リサーチ者は広大なサーチスペースを自動的に探索し、効率的なニューラルネットワークを見つけることができる。
NASは重要なボトルネックに悩まされており、探索プロセス中に多くのアーキテクチャを評価する必要がある。
SMEM-NASは,多集団構造に基づく多目的進化アルゴリズムである。
論文 参考訳(メタデータ) (2024-07-22T12:46:22Z) - Multi-conditioned Graph Diffusion for Neural Architecture Search [8.290336491323796]
本稿では、離散的な条件付きグラフ拡散プロセスを用いて、高性能ニューラルネットワークアーキテクチャを生成するグラフ拡散に基づくNAS手法を提案する。
6つの標準ベンチマークで有望な結果を示し、新しいアーキテクチャとユニークなアーキテクチャを高速に実現します。
論文 参考訳(メタデータ) (2024-03-09T21:45:31Z) - Deep networks for system identification: a Survey [56.34005280792013]
システム識別は、入力出力データから動的システムの数学的記述を学習する。
同定されたモデルの主な目的は、以前の観測から新しいデータを予測することである。
我々は、フィードフォワード、畳み込み、リカレントネットワークなどの文献で一般的に採用されているアーキテクチャについて論じる。
論文 参考訳(メタデータ) (2023-01-30T12:38:31Z) - A Unified Continuous Learning Framework for Multi-modal Knowledge
Discovery and Pre-training [73.7507857547549]
本稿では,継続的学習フレームワークにおける知識発見とマルチモーダル事前学習の統合を提案する。
知識発見のために、事前訓練されたモデルを用いてグラフ上のクロスモーダルリンクを識別する。
モデル事前トレーニングでは、モデル更新をガイドする外部知識として知識グラフが使用される。
論文 参考訳(メタデータ) (2022-06-11T16:05:06Z) - Model-Based Deep Learning: On the Intersection of Deep Learning and
Optimization [101.32332941117271]
決定アルゴリズムは様々なアプリケーションで使われている。
数理モデルに頼らずにデータから調整された高度パラメトリックアーキテクチャを使用するディープラーニングアプローチが、ますます人気が高まっている。
モデルに基づく最適化とデータ中心のディープラーニングは、しばしば異なる規律とみなされる。
論文 参考訳(メタデータ) (2022-05-05T13:40:08Z) - Fast and scalable neuroevolution deep learning architecture search for
multivariate anomaly detection [0.0]
この研究は、異常検出のための多段階神経進化アプローチの改善に焦点を当てている。
提案フレームワークは,任意の非教師なしタスクに対して,効率的な学習ネットワークアーキテクチャ手法として利用することができる。
論文 参考訳(メタデータ) (2021-12-10T16:14:43Z) - Interleaving Learning, with Application to Neural Architecture Search [12.317568257671427]
インターリーブ学習(IL)と呼ばれる新しい機械学習フレームワークを提案する。
私たちのフレームワークでは、一連のモデルが相互に連携してデータエンコーダを学習します。
CIFAR-10, CIFAR-100, ImageNetの画像分類にインターリービング学習を適用した。
論文 参考訳(メタデータ) (2021-03-12T00:54:22Z) - Model-Based Deep Learning [155.063817656602]
信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。
ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。
私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
論文 参考訳(メタデータ) (2020-12-15T16:29:49Z) - NASE: Learning Knowledge Graph Embedding for Link Prediction via Neural
Architecture Search [9.634626241415916]
リンク予測は、知識グラフ(KG)におけるエンティティ間の欠落した接続を予測するタスクである
これまでの研究では、Automated Machine Learning(AutoML)を使用して、データセットに最適なモデルを探していた。
リンク予測タスクのための新しいニューラルネットワーク探索(NAS)フレームワークを提案する。
論文 参考訳(メタデータ) (2020-08-18T03:34:09Z) - Unpaired Multi-modal Segmentation via Knowledge Distillation [77.39798870702174]
本稿では,不対向画像分割のための新しい学習手法を提案する。
提案手法では,CTおよびMRI間での畳み込みカーネルの共有により,ネットワークパラメータを多用する。
我々は2つの多クラスセグメンテーション問題に対するアプローチを広範囲に検証した。
論文 参考訳(メタデータ) (2020-01-06T20:03:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。