論文の概要: Teaching Language Models How to Code Like Learners: Conversational Serialization for Student Simulation
- arxiv url: http://arxiv.org/abs/2604.10720v1
- Date: Sun, 12 Apr 2026 16:38:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-14 20:13:16.187843
- Title: Teaching Language Models How to Code Like Learners: Conversational Serialization for Student Simulation
- Title(参考訳): 言語モデルに学習者のようにコーディングする方法を教える:学生シミュレーションのための会話シリアライズ
- Authors: Charles Koutcheme, Arto Hellas, Juho Leinonen,
- Abstract要約: 本稿では,学生プロセスデータを用いたオープンウェイトな人工プログラミング学習者の学習方法を提案する。
提案手法では,時間的ログトレースを対話形式にシリアライズし,各生徒の問題解決プロセスを表現する。
学生のコード提出とテスト結果、成績、エラートレースなどの環境フィードバックは、交互に会話のターンを形成する。
- 参考スコア(独自算出の注目度): 4.361813083295904
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Artificial models that simulate how learners act and respond within educational systems are a promising tool for evaluating tutoring strategies and feedback mechanisms at scale. However, many existing approaches in programming education rely on prompting large, proprietary language models, raising concerns around privacy, cost, and dependence. In this work, we propose a method for training open-weight artificial programming learners using authentic student process data. Our approach serializes temporal log traces into a conversational format, representing each student's problem-solving process as a dialogue between the learner and their automated assessment system. Student code submissions and environment feedback, such as test outcomes, grades, and error traces, form alternating conversational turns, enabling models to learn from the iterative debugging process. We additionally introduce a training pipeline combining supervised fine-tuning with preference optimization to align models with authentic student debugging behavior. We evaluate our framework by training Qwen models at 4B and 8B scales on a large-scale dataset of real student submissions to Python programming assignments. Our results show that incorporating environment feedback strengthens the models' ability to replicate student debugging behavior, improving over both prior code-only approaches and prompted large language models baselines in functional alignment and code similarity. We release our code to support reproducibility.
- Abstract(参考訳): 学習者が教育システム内でどのように行動し、反応するかをシミュレートする人工モデルは、学習戦略やフィードバックメカニズムを大規模に評価するための有望なツールである。
しかし、プログラミング教育における既存の多くのアプローチは、大規模でプロプライエタリな言語モデルを推進し、プライバシ、コスト、依存に関する懸念を提起することに依存している。
本研究では,学生プロセスデータを用いて,オープンウェイトな人工プログラミング学習者の学習方法を提案する。
提案手法は,学習者とその自動評価システム間の対話として,各生徒の問題解決プロセスを表す,時間的トレースを対話形式にシリアライズする。
学生のコード提出とテスト結果、成績、エラートレースなどの環境フィードバックは、反復的なデバッグプロセスからモデルを学習できるように、会話のターンを交互に形成する。
また、教師付き微調整と選好最適化を組み合わせたトレーニングパイプラインを導入し、モデルと生徒のデバッグ動作を一致させる。
我々は,Qwenモデルを4Bおよび8Bスケールで学習し,Pythonプログラミングの課題に対する実際の学生応募の大規模データセットを用いて評価した。
その結果,環境フィードバックを取り入れることで,学生のデバッグ動作を再現するモデルの能力が向上し,従来のコードのみのアプローチよりも改善され,機能的アライメントとコード類似性において大きな言語モデルがベースライン化されることが示唆された。
再現性をサポートするためにコードをリリースします。
関連論文リスト
- Improving Interactive In-Context Learning from Natural Language Feedback [28.01292402237836]
正しいフィードバックに基づいて思考プロセスを適用することは、人間の学習に不可欠な能力である。
本稿では,この対話型インコンテキスト学習能力を,個別で訓練可能なスキルとして扱うフレームワークを提案する。
提案手法によりトレーニングされたモデルにより,言語フィードバックから対話的に学習する能力が劇的に向上することを示す。
論文 参考訳(メタデータ) (2026-02-17T22:44:10Z) - Modeling Student Learning with 3.8 Million Program Traces [52.153493498021895]
Pencil Codeのユーザによる380万を越えるプログラミング推論のデータセットを紹介します。
実際のトレースに基づいてトレーニングされたモデルは、多様な学生の振る舞いをモデル化する上で、より強力であることがわかった。
我々は、コード生成モデルを操り、より正しいコードをもたらす一連の編集を識別することで、学生がミスから回復するのを支援できることを示します。
論文 参考訳(メタデータ) (2025-10-06T17:37:17Z) - ParaStudent: Generating and Evaluating Realistic Student Code by Teaching LLMs to Struggle [24.691302820912888]
大規模言語モデル(LLM)は、プログラミングタスクに強いパフォーマンスを示していますが、実際の学生のように、学生のようなコードを生成することができますか?
本稿では,LLMをベースとした「学生的」コード生成の体系的研究であるParaStudentについて紹介する。
論文 参考訳(メタデータ) (2025-07-16T23:12:14Z) - Learning Code-Edit Embedding to Model Student Debugging Behavior [2.1485350418225244]
本稿では,学生の連続的なコード入力間で有意義なコード編集を学習するエンコーダ-デコーダモデルを提案する。
テストケースの正確性を改善しながら、生徒のコーディングスタイルを維持するための、パーソナライズされた次のステップのコード提案を可能にする。
論文 参考訳(メタデータ) (2025-02-26T18:54:39Z) - Simulated Interactive Debugging [7.3742419367796535]
我々は,学生がデバッグプロセスに沿って対話的に指導する「シミュレート・インタラクティブ」という手法を提案する。
このガイダンスは、生徒がソリューションを修復し、適切な学習経験を持つことを奨励することを目的としている。
従来のフォールトローカライズ手法と大規模言語モデルを用いた実装を開発した。
論文 参考訳(メタデータ) (2025-01-16T17:47:18Z) - Enhancing LLM Reasoning via Critique Models with Test-Time and Training-Time Supervision [120.40788744292739]
本稿では、推論と批判モデルの役割を分離する2人プレイヤパラダイムを提案する。
まず、批判データを収集する自動化およびスケーラブルなフレームワークであるAutoMathCritiqueを提案する。
テスト時間における難解なクエリに対するアクターのパフォーマンスを,批判モデルが一貫して改善することが実証された。
論文 参考訳(メタデータ) (2024-11-25T17:11:54Z) - Code Representation Learning At Scale [75.04686476303436]
2段階の事前学習スキームを用いて,大量のコードデータを用いてコード表現学習を行う。
まず、マスキング言語モデリングにおけるランダム性と、プログラミング言語の構造的側面の両方を活用して、エンコーダを訓練する。
そして、教師なしの方法で強陰性かつ強正に構築された対照的な学習を通して表現を強化する。
論文 参考訳(メタデータ) (2024-02-02T22:19:15Z) - Chain of Hindsight Aligns Language Models with Feedback [62.68665658130472]
我々は,その極性に関係なく,任意の形式のフィードバックから学習し,最適化が容易な新しい手法であるChain of Hindsightを提案する。
我々は、あらゆる種類のフィードバックを文のシーケンスに変換し、それをモデルを微調整するために使用する。
そうすることで、モデルはフィードバックに基づいて出力を生成するように訓練され、負の属性やエラーを特定し修正する。
論文 参考訳(メタデータ) (2023-02-06T10:28:16Z) - ProtoTransformer: A Meta-Learning Approach to Providing Student Feedback [54.142719510638614]
本稿では,フィードバックを数発の分類として提供するという課題について考察する。
メタラーナーは、インストラクターによるいくつかの例から、新しいプログラミング質問に関する学生のコードにフィードバックを与えるように適応します。
本手法は,第1段階の大学が提供したプログラムコースにおいて,16,000名の学生試験ソリューションに対するフィードバックの提供に成功している。
論文 参考訳(メタデータ) (2021-07-23T22:41:28Z) - Unsupervised Paraphrasing with Pretrained Language Models [85.03373221588707]
教師なし環境で,事前学習した言語モデルを用いて高品質なパラフレーズを生成する訓練パイプラインを提案する。
提案手法は,タスク適応,自己スーパービジョン,動的ブロッキング(Dynamic Blocking)という新しい復号アルゴリズムから構成される。
提案手法は,Quora Question PairとParaNMTの両方のデータセット上で,最先端の性能を達成できることを示す。
論文 参考訳(メタデータ) (2020-10-24T11:55:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。