論文の概要: DICE: Decoupling Capability from Intervention Necessity in LLM Tutoring
- arxiv url: http://arxiv.org/abs/2610.04825v1
- Date: Sun, 04 Oct 2026 00:17:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-11 08:35:47.431488
- Title: DICE: Decoupling Capability from Intervention Necessity in LLM Tutoring
- Title(参考訳): DICE: LLMチューニングにおけるインターベンションニーズからのキャパビリティの分離
- Abstract要約: 我々は、介入決定を応答生成から切り離すフレームワークであるDICEを紹介する。
DICEは、学習効果を維持しながら選択的に介入することを学ぶ。
模擬チューターセッションでは、DICEはオーバーインターベンション率をほぼゼロに下げる。
- 参考スコア(独自算出の注目度): 24.37499310882767
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Fluent guidance is not the same as useful intervention. LLM tutors are typically trained to generate the next teacher utterance, implicitly assuming that every student turn warrants a response. However, our experiments indicate that this conflates tutoring capability (what to say) with intervention necessity (whether to say it). We introduce DICE, a framework that decouples intervention decisions from response generation by first selecting an explicit pedagogical action. To calibrate this action selection policy, we define Intervention Value (IV), a rollout-grounded counterfactual metric that compares each action against non-intervention. IV shows that many prescribed interventions provide little or no marginal benefit. We further introduce DICE-Bench, a multi-variant math tutoring benchmark with skill-preserving problem variants for session-level evaluation. Using IV-weighted and KL-regularized policy optimization, DICE learns to intervene selectively while preserving tutoring effectiveness. In simulated tutoring sessions, DICE reduces the over-intervention rate to near zero while guiding students to correct solutions in approximately 3-4 fewer turns on average than existing Socratic tutoring baselines.
- Abstract(参考訳): 急激な指導は役に立つ介入と同じではない。
LLM教師は通常、次の教師の発話を生成するために訓練され、すべての生徒が応答を保証していると暗黙に仮定する。
しかし,本実験は,指導能力(言い換えればよい)と介入の必要性(言い換えるかどうか)が混ざり合っていることを示唆している。
我々は、まず明示的な教育行動を選択することで、介入決定を応答生成から切り離すフレームワークであるDICEを紹介する。
このアクション選択ポリシーを校正するために、各アクションを非干渉と比較するロールアウトグラウンドの反ファクトメトリックであるインターベンション値(IV)を定義する。
IVは、多くの所定の介入が限界的な利益をほとんど、または全く与えないことを示している。
さらにDICE-Benchは、セッションレベルの評価のために、スキル保存問題のある多変量学習ベンチマークである。
IV重化およびKL正規化ポリシ最適化を用いて、DICEは学習効率を保ちながら選択的に介入することを学ぶ。
模擬チューターセッションでは、DICEは生徒に既存のソクラテスのチューターベースラインよりも平均3,4分の1のターンで解の修正を指導しながら、オーバーインターベンション率をほぼゼロに下げる。
関連論文リスト
- OPSRD: On-Policy Self-Role Distillation [7.947611649764756]
OPSRDは、参照ソリューションを使わずに、政治上の自己蒸留のための特権的な教育コンテキストとして、固定された専門家の役割を使用する。
ロールフリーの学生は軌道を生成し、同じベースモデルの凍結インスタンスはその正確なプレフィックスにロール条件の分布を提供する。
フォワードKLは、個々の語彙への貢献を制限するクリッピングによって、学生が過小評価する代替案をターゲットにしている。
論文 参考訳(メタデータ) (2026-09-30T14:56:10Z) - Understanding Off- vs On-Policy Distillation: A Tale of Distinct Training Objectives [51.632660339442616]
複数の教員からの連続蒸留について検討し,そこでは学生が教師からの平均的な分散を最小限に抑える。
オフ・ポリティクスとオン・ポリティクスのフィードバックの下でこれらの目標を学習するアルゴリズムを開発する。
OPDの利点と脆弱性の両方を説明するのに役立つメカニズムを同定する。
論文 参考訳(メタデータ) (2026-09-29T23:47:58Z) - What Does Privileged Information Add to On-Policy Self-Distillation? [57.872246350931306]
オンラインの自己蒸留(On-policy self-distillation)により、言語モデルは、答や解決方法を見る、自分自身の凍結したコピーから学ぶことができる。
AMPLE-Mathは、5,319の数学的問題からなる再利用可能なスイートで、同じ答えを6つの推論ビューで共有する。
直接応答型ロールアウトを監督する思考能力のある教師によって、Qwen3-1.7Bの改良の大部分は参照レス蒸留によるものである。
論文 参考訳(メタデータ) (2026-09-17T15:57:10Z) - CA-OPD: Confidence-Aware On-Policy Distillation for Structured Visual Prediction [12.346416465825627]
信頼できるオン・ポリシィ蒸留(CA-OPD)は、信頼性の高いロールアウト構築と適応的な監視を結合するフレームワークである。
GUIグラウンディングと光学文字認識のためのマルチ教師設定で評価され、CA-OPDはQwen3.5-0.8Bベースラインを大幅に改善する。
論文 参考訳(メタデータ) (2026-09-02T10:11:59Z) - H$^2$SD: Hybrid Hindsight Self-Distillation [61.71131241473028]
検証可能な報酬付き強化学習(RLVR)は、言語モデル推論のための信頼性の高い結果監視を提供する。
既存の自己蒸留法は特権教師を追加するが、通常は一定の役割を割り当てる。
本稿では,教師のコンテキストに適応し,トラジェクタの正当性を更新するHybrid Hindsight Self-Distillation(MathrmH2mathrmSD$)を紹介する。
論文 参考訳(メタデータ) (2026-07-21T10:47:27Z) - PIVOT: Preference-based Intervention Vectors for Pedagogical Tutor Steering [8.127497003823702]
PIVOTは, 冷凍LDMチューターに対して, 好みに基づく介入ベクトルをオンラインで学習する, アクティベーションステアリングフレームワークである。
PIVOTは、保持された、ドメイン外のチューターデータ全体で、関係性と流布を保ちながら、チューターの動きを制御する。
30人の教師によるユーザスタディでは、73.3%の参加者が中立的なベースラインインタラクションよりもステアリング会話を好んだ。
論文 参考訳(メタデータ) (2026-06-29T14:18:43Z) - SAGE-OPD: Selective Agent-Guided Intervention for Multi-Turn On-Policy Distillation [25.25989941933095]
マルチターンOPD用に設計された検証不要な選択的介入フレームワークであるSAGE-OPDを提案する。
SAGE-OPDは、教師の監督を全ターンで均一に行うのではなく、まず環境フィードバックを観察し、各生徒の反応をスキップするか介入するかを決定するために教師の判断を使用する。
エージェントタスクの実験では、SAGE-OPDはベースラインよりも一貫して改善され、ALFWorldの13.3%の相対的な改善を実現している。
論文 参考訳(メタデータ) (2026-06-17T23:58:14Z) - Adversarial Dual On-Policy Distillation from Expressive Teacher [53.63143943452487]
フローマッチングの教師は、デモから学び、軽量の学生と共同で訓練される。
教師は学生のロールアウトに2つの補完的な信号を提供します。
アクションチャネルは、学生が訪問する州で密集したローカルターゲットを提供し、搾取を安定化させる。
論文 参考訳(メタデータ) (2026-05-26T14:38:03Z) - Teacher-Guided Policy Optimization for LLM Distillation [90.49982387646861]
Teacher-Guided Policy Optimization (TGPO) は、生徒のロールアウトに条件付き教師予測を活用することで、高密度な方向性誘導を取り入れたオンラインアルゴリズムである。
複雑な推論ベンチマークの実験では、TGPOは標準ベースラインを著しく上回り、異なる教師にとって堅牢であることが示されている。
論文 参考訳(メタデータ) (2026-05-13T09:20:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。