Fugu-MT 論文翻訳(概要): Automated Essay Scoring using Transformers

論文の概要: Automated Essay Scoring using Transformers

arxiv url: http://arxiv.org/abs/2210.12809v1
Date: Sun, 23 Oct 2022 18:13:30 GMT
ステータス: 処理完了
システム内更新日: 2022-10-25 13:36:35.935402
Title: Automated Essay Scoring using Transformers
Title（参考訳）: 変圧器を用いた自動エッセイスコーリング
Authors: Kshitij Gupta
Abstract要約: 本研究では,BERT,RoBERTaなどのトランスフォーマーモデルについて検討する。本研究では,変圧器モデルとデータ拡張の有効性を実証的に実証し,複数のトピックにまたがる自動エッセイを1つのモデルで評価する。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by-sa/4.0/
Abstract: Despite being investigated for over five decades, the task of automated essay scoring continues to draw a lot of attention in the NLP community, in part because of its commercial and educational values as well as the associated research challenges. Large pre-trained models have made remarkable progress in NLP. Data augmentation techniques have also helped build state-of-the-art models for automated essay scoring. Many works in the past have attempted to solve this problem by using RNNs, LSTMs, etc. This work examines the transformer models like BERT, RoBERTa, etc. We empirically demonstrate the effectiveness of transformer models and data augmentation for automated essay grading across many topics using a single model.
Abstract（参考訳）: 50年以上にわたって調査されてきたにもかかわらず、自動エッセイ評価の課題は、商業的、教育的価値と関連する研究課題のために、NLPコミュニティで注目されている。大型の事前訓練型モデルは、NLPにおいて顕著な進歩を遂げた。データ拡張技術は、自動エッセイ評価のための最先端モデルの構築にも役立っている。過去にも RNN や LSTM などを用いてこの問題を解決しようとする研究が数多くある。本研究では,BERT,RoBERTaなどのトランスフォーマーモデルについて検討する。本研究では,変圧器モデルとデータ拡張の有効性を実証的に実証し,複数のトピックにまたがる自動エッセイを1つのモデルで評価する。

関連論文リスト

AIDE: An Automatic Data Engine for Object Detection in Autonomous Driving [68.73885845181242]
本稿では,問題を自動的に識別し,データを効率よくキュレートし,自動ラベル付けによりモデルを改善する自動データエンジン(AIDE)を提案する。さらに,AVデータセットのオープンワールド検出のためのベンチマークを構築し,様々な学習パラダイムを包括的に評価し,提案手法の優れた性能を低コストで実証する。
論文参考訳（メタデータ） (2024-03-26T04:27:56Z)
QualEval: Qualitative Evaluation for Model Improvement [82.73561470966658]
モデル改善のための手段として,自動定性評価による定量的スカラー指標を付加するQualEvalを提案する。 QualEvalは強力なLCM推論器と新しいフレキシブルリニアプログラミングソルバを使用して、人間の読みやすい洞察を生成する。例えば、その洞察を活用することで、Llama 2モデルの絶対性能が最大15%向上することを示す。
論文参考訳（メタデータ） (2023-11-06T00:21:44Z)
AutoConv: Automatically Generating Information-seeking Conversations with Large Language Models [74.10293412011455]
合成会話生成のためのAutoConvを提案する。具体的には,会話生成問題を言語モデリングタスクとして定式化する。我々は、情報探索プロセスの特徴を捉えるために、人間同士の会話でLLMを微調整する。
論文参考訳（メタデータ） (2023-08-12T08:52:40Z)
A Comprehensive Survey on Applications of Transformers for Deep Learning Tasks [60.38369406877899]
Transformerは、シーケンシャルデータ内のコンテキスト関係を理解するために自己認識メカニズムを使用するディープニューラルネットワークである。 Transformerモデルは、入力シーケンス要素間の長い依存関係を処理し、並列処理を可能にする。我々の調査では、トランスフォーマーベースのモデルのためのトップ5のアプリケーションドメインを特定します。
論文参考訳（メタデータ） (2023-06-11T23:13:51Z)
On Robustness of Finetuned Transformer-based NLP Models [11.063628128069736]
CKAとSTIRの2つの指標を用いて、事前訓練された言語モデルと微調整された言語モデル間の変化を特徴付ける。 GPT-2表現はBERTやT5よりも複数の入力摂動に対して堅牢である。この研究は、人気のあるTransformerベースのモデルの摂動固有の弱点に関する貴重な洞察を提供する。
論文参考訳（メタデータ） (2023-05-23T18:25:18Z)
BERT for Long Documents: A Case Study of Automated ICD Coding [0.4148566088629261]
本稿では,BERTなどの既存の変換器モデルを用いて,長文の処理をシンプルかつスケーラブルに行う方法を提案する。本手法は,ICD符号化におけるトランスフォーマーモデルに対する従来の結果を大幅に改善し,CNN方式よりも優れていることを示す。
論文参考訳（メタデータ） (2022-11-04T15:24:19Z)
Improving Performance of Automated Essay Scoring by using back-translation essays and adjusted scores [0.0]
バックトランスレーションとスコア調整を用いたエッセイスコアペア数を増やす手法を提案する。先行作業から得られたモデルを用いて,拡張データの有効性を評価する。モデルをトレーニングするために拡張データを使用することで、モデルの性能が向上した。
論文参考訳（メタデータ） (2022-03-01T11:05:43Z)
Automated essay scoring using efficient transformer-based language models [0.5161531917413708]
Automated Essay Scoring(AES)は、教育、言語学、自然言語処理(NLP)を含む学際的な取り組みです。大規模なプリトレーニングトランスフォーマーベースの言語モデルは、多くのNLPタスクで現在の最先端を支配しています。この論文は、AESに関しては、より大きなNLPのパラダイムに挑むことを目的としています。
論文参考訳（メタデータ） (2021-02-25T19:28:39Z)
Compression of Deep Learning Models for Text: A Survey [6.532867867011488]
近年,自然言語処理 (NLP) や情報検索 (IR) の分野では大きな進歩を遂げている。 Recurrent Neural Networks (RNN)、Gated Recurrent Units (GRUs)、Long Short-Term Memory (LSTMs)networks、Transformer [120]などのディープラーニングモデル(BERT) [24]、Generative Pre-training Transformer (GPT-2) [94]、Multi-task Deep Neural Network (MT-DNN) [73]、Extra-Long Network (XLNet) [134]、Text-to-text Transferなど)。
論文参考訳（メタデータ） (2020-08-12T10:42:14Z)
Evaluation Toolkit For Robustness Testing Of Automatic Essay Scoring Systems [64.4896118325552]
モデル逆算評価スキームと関連するメトリクスを用いて、現状のAESモデルを評価する。 AESモデルは非常に過大評価されていることがわかった。質問の話題に関係のない内容の重い修正(25%まで)でさえ、モデルが生み出すスコアを低下させることはない。
論文参考訳（メタデータ） (2020-07-14T03:49:43Z)
MiniLM: Deep Self-Attention Distillation for Task-Agnostic Compression of Pre-Trained Transformers [117.67424061746247]
本稿では,大規模トランスフォーマーをベースとした事前学習モデルの簡易かつ効率的な圧縮手法を提案する。本稿では,教師の最後のトランスフォーマー層の自己保持モジュールを蒸留することを提案する。実験結果から, 単言語モデルでは, 学生モデルのパラメータサイズの違いにより, 最先端のベースラインよりも優れた結果が得られた。
論文参考訳（メタデータ） (2020-02-25T15:21:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。