論文の概要: Multi-Task Learning based Online Dialogic Instruction Detection with
Pre-trained Language Models
- arxiv url: http://arxiv.org/abs/2107.07119v1
- Date: Thu, 15 Jul 2021 04:57:57 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-16 14:14:55.358557
- Title: Multi-Task Learning based Online Dialogic Instruction Detection with
Pre-trained Language Models
- Title(参考訳): 事前学習言語モデルを用いたマルチタスク学習に基づくオンライン対話命令検出
- Authors: Yang Hao, Hang Li, Wenbiao Ding, Zhongqin Wu, Jiliang Tang, Rose
Luckin, Zitao Liu
- Abstract要約: コントラッシブ・ロスによりカテゴリ間のマージンを大きくすることで、異なるクラスのインスタンスを識別する能力を向上するマルチタスク・パラダイムを提案する。
実世界のオンライン教育データセットを用いた実験により,本手法が代表的ベースラインよりも優れた性能を発揮することが示された。
- 参考スコア(独自算出の注目度): 34.66425105076059
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, we study computational approaches to detect online dialogic
instructions, which are widely used to help students understand learning
materials, and build effective study habits. This task is rather challenging
due to the widely-varying quality and pedagogical styles of dialogic
instructions. To address these challenges, we utilize pre-trained language
models, and propose a multi-task paradigm which enhances the ability to
distinguish instances of different classes by enlarging the margin between
categories via contrastive loss. Furthermore, we design a strategy to fully
exploit the misclassified examples during the training stage. Extensive
experiments on a real-world online educational data set demonstrate that our
approach achieves superior performance compared to representative baselines. To
encourage reproducible results, we make our implementation online available at
\url{https://github.com/AIED2021/multitask-dialogic-instruction}.
- Abstract(参考訳): 本研究では,学習教材の理解や効果的な学習習慣構築に広く利用されているオンライン対話的指示を検出するための計算手法について検討する。
この課題は、ダイアログ命令の幅広い品質と教育的スタイルのため、かなり難しい。
これらの課題に対処するために,事前学習した言語モデルを用いて,クラス間のマージンをコントラスト損失によって拡大することにより,異なるクラスのインスタンスを識別する能力を高めるマルチタスクパラダイムを提案する。
さらに,トレーニング段階での誤分類例を十分に活用するための戦略を考案する。
実世界のオンライン教育データセットに対する大規模な実験により,本手法が代表的ベースラインよりも優れた性能を発揮することが示された。
再現性のある結果を促進するため,我々は,<url{https://github.com/AIED2021/multitask-dialogic-instruction} で実装をオンラインで提供する。
関連論文リスト
- Mastering Robot Manipulation with Multimodal Prompts through Pretraining and Multi-task Fine-tuning [49.92517970237088]
我々はマルチモーダルなプロンプトを理解するためにロボットを訓練する問題に取り組む。
このようなタスクは、視覚と言語信号の相互接続と相補性を理解するロボットの能力にとって大きな課題となる。
マルチモーダルプロンプトを用いてロボット操作を行うためのポリシーを学習する効果的なフレームワークを提案する。
論文 参考訳(メタデータ) (2023-10-14T22:24:58Z) - On the Effectiveness of Offline RL for Dialogue Response Generation [33.23689417744758]
このような目的を最大化するために,様々なオフライン強化学習法(RL)の有効性を検討した。
オフラインRLは、トレーニング不安定を誘発したり、実践的なトレーニング予算を犠牲にすることなく、教師の強制よりも明らかなパフォーマンス改善を示す。
論文 参考訳(メタデータ) (2023-07-23T20:43:21Z) - Opportunities and Challenges in Neural Dialog Tutoring [54.07241332881601]
言語学習のための2つの対話学習データセットを用いて、様々な生成言語モデルを厳密に分析する。
現在のアプローチでは、制約のある学習シナリオでチューリングをモデル化できますが、制約の少ないシナリオではパフォーマンスが悪くなります。
人的品質評価では, モデルと接地木アノテーションの両方が, 同等のチュータリングの点で低い性能を示した。
論文 参考訳(メタデータ) (2023-01-24T11:00:17Z) - Multimodal Lecture Presentations Dataset: Understanding Multimodality in
Educational Slides [57.86931911522967]
学習内容のマルチモーダル理解における機械学習モデルの能力を検証する。
このデータセットには,180時間以上のビデオと9000時間以上のスライドが,各科目から10人の講師が参加している。
マルチモーダル・トランスフォーマーであるPolyViLTを導入する。
論文 参考訳(メタデータ) (2022-08-17T05:30:18Z) - Wide & Deep Learning for Judging Student Performance in Online
One-on-one Math Classes [27.07952179997629]
雑音の多い教室の会話データから詳細な予測表現を学習するためのフレームワークを構築した。
本研究では,実例質問の熟達度を推定する作業について実験を行った。
論文 参考訳(メタデータ) (2022-07-13T01:38:57Z) - DialogID: A Dialogic Instruction Dataset for Improving Teaching
Effectiveness in Online Environments [24.094249468028664]
本稿では,30,431の効果的な対話型命令を含むオンライン対話型命令検出データセット,textscDialogIDを提案する。
本稿では,対話型命令検出の品質と一般化を向上する,シンプルで効果的な対向学習パラダイムを提案する。
論文 参考訳(メタデータ) (2022-06-24T02:07:12Z) - Findings from Experiments of On-line Joint Reinforcement Learning of
Semantic Parser and Dialogue Manager with real Users [3.9686445409447617]
本論文では,これらの困難を緩和する便利な方法として,オンライン学習を追求する。
新しい課題は、ユーザが生み出すオンライン学習のコストを制御することである。
論文 参考訳(メタデータ) (2021-10-25T18:51:41Z) - Continual Learning in Task-Oriented Dialogue Systems [49.35627673523519]
タスク指向対話システムにおける継続的な学習は、システム全体のリトレーニングのコストを伴わずに、時間を通じて新しいドメインや機能を追加できる。
37ドメインのタスク指向対話システムを4つの設定で継続的に学習するための継続的学習ベンチマークを提案する。
論文 参考訳(メタデータ) (2020-12-31T08:44:25Z) - Online Bag-of-Visual-Words Generation for Unsupervised Representation
Learning [59.29452780994169]
本研究では,コンベネットを訓練して画像のバッフル・オブ・ビジュアルワード(bow)表現を再構築し,表現を学習する教師・学生計画を提案する。
私たちの戦略は、教師ネットワーク(BoWターゲットを生成する役割)と学生ネットワーク(表現を学ぶ役割)の両方のオンライントレーニングと、ビジュアルワード語彙のオンライン更新を実行します。
論文 参考訳(メタデータ) (2020-12-21T18:31:21Z) - Neural Multi-Task Learning for Teacher Question Detection in Online
Classrooms [50.19997675066203]
教師の音声記録から質問を自動的に検出するエンドツーエンドのニューラルネットワークフレームワークを構築している。
マルチタスク学習手法を取り入れることで,質問の種類によって意味的関係の理解を深めることが可能となる。
論文 参考訳(メタデータ) (2020-05-16T02:17:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。