論文の概要: LLMs Are Already Good Tutors: Training-Free Prompt Optimization for Pedagogical Math Tutoring
- arxiv url: http://arxiv.org/abs/2605.27088v1
- Date: Tue, 26 May 2026 14:35:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-27 17:51:42.229199
- Title: LLMs Are Already Good Tutors: Training-Free Prompt Optimization for Pedagogical Math Tutoring
- Title(参考訳): LLMは、すでに良いチュータである:教育用数学チュータのためのトレーニング不要のプロンプト最適化
- Authors: Unggi Lee, Minchul Shin, Yeil Jeong, Sookbun Lee, Jeongsu Moon, Kyungtae Joo, Eunjoo Lee, Hoilym Kwon,
- Abstract要約: 本稿では,API呼び出しによるシステムプロンプトのみのトレーニングフリーなプロンプト最適化が,実用的な代替手段であるかどうかを検討する。
提案手法は,OODベンチマークスイートを5条件で評価し,7つの方法に適応し,5つの教育特化手法を提案する。
82符号の教育コードブックを用いた行動分析により,RL学習モデルの2~3倍の学習知識パターンに依存する学習自由な手法が明らかになった。
- 参考スコア(独自算出の注目度): 1.4976621159818981
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Aligning LLMs for math tutoring typically requires RL-based training with multi-GPU infrastructure. We investigate whether training-free prompt optimization-evolving only the system prompt via API calls-can serve as a practical alternative. We adapt 7 published methods and propose 5 education-specialized methods, evaluating these 12 methods under 5 conditions on 2 OOD benchmark suites. All 12 best-per-method configurations surpass the strongest RL-trained baseline (R_total = 0.633), and our ParetoGrad achieves the best Pareto balance across post-test solve rate, leak control, and helpfulness, rather than dominating any single component. Behavioral analysis with an 82-code educational codebook reveals that training-free methods rely on teaching-knowledge patterns at 2-3x the rate of RL-trained models, with a compensating ~10 percentage-point reduction in intent-level scaffolding. We also find a task-dependent reasoning mode effect consistent across training-free and RL-based paradigms. Our approach enables efficient development of pedagogically aligned LLM tutors with prompts alone and minimal compute.
- Abstract(参考訳): 数学のチュータリングのためのLLMの調整は通常、マルチGPUインフラストラクチャによるRLベースのトレーニングを必要とする。
本稿では,APIコールによるシステムプロンプトのみのトレーニングフリープロンプト最適化が,実用的な代替手段であるかどうかを検討する。
提案手法は,OODベンチマークスイートを5条件で評価し,7つの方法に適応し,5つの教育特化手法を提案する。
最強のRLトレーニングベースライン(R_total = 0.633)を超越し,我々のParetoGradは,テスト後の解決率,リーク制御,有用性の両面で最高のParetoバランスを達成する。
82符号の教育コードブックによる行動分析により、学習自由法はRL学習モデルの2~3倍の学習知識パターンに依存しており、インテントレベルの足場における約10ポイントの削減を補償していることが明らかになった。
また,学習自由度とRLに基づくパラダイム間で,タスク依存の推論モード効果が一致していることも見いだした。
提案手法は,プロンプトのみと最小限の計算量で,教育的に整列したLLMチュータの効率的な開発を可能にする。
関連論文リスト
- DiFFPO: Training Diffusion LLMs to Reason Fast and Furious via Reinforcement Learning [37.20873499361773]
マスク付き拡散大言語モデル (dLLM) を学習し, より優れた推論を行うための統一フレームワークを提案する。
我々はまず,既存の基本方針を,真のdLLM政策の近似としてはるかに難易度の高い,政治外RLによるサロゲート政策の訓練により統一する。
RLでは、各プロンプトに対して推論閾値を適応的に割り当てることによって、dLLMの自然なマルチトークン予測能力をインセンティブ化する。
論文 参考訳(メタデータ) (2025-10-02T16:57:24Z) - Revolutionizing Reinforcement Learning Framework for Diffusion Large Language Models [49.911784762244814]
TraceRLは拡散言語モデル(DLM)のための軌道対応強化学習フレームワークである
我々は最先端の拡散言語モデル、すなわち TraDo を導出する。
TraDo-8B-InstructはQwen2.5-7B-Instructで6.1%、Llama3.1-8B-Instructで51.3%の精度向上を実現している。
論文 参考訳(メタデータ) (2025-09-08T17:58:06Z) - Ring-lite: Scalable Reasoning via C3PO-Stabilized Reinforcement Learning for LLMs [51.21041884010009]
Ring-liteは、強化学習(RL)により最適化されたMixture-of-Experts(MoE)ベースの大規模言語モデルである
我々のアプローチは、挑戦的なベンチマーク上でのSOTA(State-of-the-art)の小規模推論モデルの性能と一致する。
論文 参考訳(メタデータ) (2025-06-17T17:12:34Z) - On the Emergence of Thinking in LLMs I: Searching for the Right Intuition [34.32871896067864]
自己学習による強化学習(RLSP)というポストトレーニングフレームワークを提案する。
RLSPは、推論プロセスの人間または合成的なデモンストレーションによる微調整、多種多様な効率的な推論行動を促進するための探索報酬信号の使用、報酬ハッキングを予防しながら正当性を確保するための結果検証器によるRLトレーニングの3段階を含む。
数学領域における実証的研究は、RLSPが推論を改善することを示している。
論文 参考訳(メタデータ) (2025-02-10T18:52:04Z) - Kimi k1.5: Scaling Reinforcement Learning with LLMs [84.95584393629998]
我々は、強化学習で訓練された最新のマルチモーダル言語モデル、Kimi k1.5の訓練実践について報告する。
長いコンテキストスケーリングと改善されたポリシー最適化手法が、我々のアプローチの鍵となる要素である。
本システムは,複数のベンチマークやモダリティに対して,最先端の推論性能を実現する。
論文 参考訳(メタデータ) (2025-01-22T02:48:14Z) - Model-Based Transfer Learning for Contextual Reinforcement Learning [5.5597941107270215]
文脈RL問題の解法としてモデルベーストランスファー学習を導入する。
理論的には,本手法は訓練作業数のサブリニアな後悔を示す。
都市交通と標準連続制御ベンチマークを用いて,提案手法を実験的に検証した。
論文 参考訳(メタデータ) (2024-08-08T14:46:01Z) - DigiRL: Training In-The-Wild Device-Control Agents with Autonomous Reinforcement Learning [61.10299147201369]
本稿では,Wild デバイス制御エージェントをトレーニングするための新しい自律型 RL 手法である DigiRL を提案する。
VLMベースの評価器を備えた,スケーラブルで並列化可能なAndroid学習環境を構築する。
我々はAndroid-in-the-Wildデータセットを使用してDigiRLの有効性を実証し、RLでトレーニングした1.3B VLMは49.5%の絶対改善を実現した。
論文 参考訳(メタデータ) (2024-06-14T17:49:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。