論文の概要: What Should a Self-Teacher See? Privileged Context Design for On-Policy Self-Distillation

• arxiv url: http://arxiv.org/abs/2609.25623v2
• Date: Sat, 26 Sep 2026 13:35:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-29 21:31:51.620456
• Title: What Should a Self-Teacher See? Privileged Context Design for On-Policy Self-Distillation
• Title（参考訳）: 自己教師が見るべきことは何か? オン・ポリティィ自己蒸留のための予備的文脈設計
• Abstract要約: 本研究では,自己学習者が特権的文脈下で生徒自身のロールアウトをスコアする,政治自己蒸留(OPSD)の緊張度について検討する。 オフラインでコンパイルされた3つの抽象化、名前付き戦略、メソッドに依存しないフレーミング、問題カテゴリを比較します。
• 参考スコア（独自算出の注目度）: 31.665758312770212
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: More privileged information does not always make a better teacher. We study this tension in on-policy self-distillation (OPSD), where a self-teacher scores the student's own rollouts under privileged context, conventionally a complete reference solution that bundles the final answer with one particular reasoning path. Holding the student view and training fixed within each scale, we compare that default against three abstractions compiled offline, a named strategy, a method-independent framing, and a problem category, and against an answer-only control that keeps the destination but removes the path. In the primary runs on competition mathematics, the best intermediate contexts improve the in-domain peak mean over the full solution by 1.4 points at 4B and 1.6 at 8B, while storing an order of magnitude fewer hint tokens. Comparisons across three seeds also show positive mean gains for the framing and category contexts at both scales. Answer-only conditioning remains competitive in the primary runs, within 0.2 points of the full solution at these scales. The preferred context varies with student scale and task. Initial teacher-student KL does not order downstream performance. What a self-teacher should see is therefore not everything it could, but the level of abstraction its student can still act on.
• Abstract（参考訳）: より特権的な情報は、必ずしも良い教師になるとは限らない。 我々は,この緊張感を,自己学習者が特権的文脈下で生徒自身のロールアウトをスコアリングする,オンライン自己蒸留(OPSD)において研究する。 学生のビューとトレーニングを各スケールで固定すると、デフォルトはオフラインでコンパイルされた3つの抽象化、名前付き戦略、メソッドに依存しないフレーミング、問題カテゴリ、目的地を維持するがパスを削除する答えのみのコントロールとを比較します。 競争数学の第一段階において、最も優れた中間文脈は、全解に対するドメイン内ピーク平均を4Bで1.4ポイント、8Bで1.6ポイント改善し、極端に少ないヒントトークンを保存している。 また, 3種の種子の比較では, いずれの尺度においても, フレーミングおよびカテゴリーの文脈において正の平均ゲインが認められた。 回答のみ条件付けは、これらのスケールでの完全な解の0.2ポイント以内の一次実行において競争力を維持している。 好みの文脈は、学生の規模や課題によって異なる。 初期の教師-学生KLは下流のパフォーマンスを注文しない。 そのため、自己学習者が見るべきことは、できる限りのものではないが、学生が行動できる抽象化のレベルは依然としてある。

関連論文リスト

• What Does Privileged Information Add to On-Policy Self-Distillation? [57.872246350931306]
  オンラインの自己蒸留(On-policy self-distillation)により、言語モデルは、答や解決方法を見る、自分自身の凍結したコピーから学ぶことができる。 AMPLE-Mathは、5,319の数学的問題からなる再利用可能なスイートで、同じ答えを6つの推論ビューで共有する。 直接応答型ロールアウトを監督する思考能力のある教師によって、Qwen3-1.7Bの改良の大部分は参照レス蒸留によるものである。
  論文  参考訳（メタデータ） (2026-09-17T15:57:10Z)
• Privileged Solutions or Context-Induced Teacher Behavior? Dissecting On-Policy Self-Distillation [6.053609157192373]
  On-Policy Self-Distillation (OPSD) は、一般的に特権情報の転送と解釈される。 ターゲット固有の特権を$mathrmOP2mathrmSD$で検討する。
  論文  参考訳（メタデータ） (2026-08-10T07:51:45Z)
• Rethinking Reward Supervision: Rubric-Conditioned Self-Distillation [60.55792673956761]
  我々は, ルブリックを構造化, きめ細かいフィードバックとして組み込んだフレームワークであるtextbfRubric-Conditioned Self-Distillationを提案する。 その結果, ルーリック条件の自己蒸留は, ルーリックレベルの基準をトークンレベルのガイダンスに効果的に変換することを示した。
  論文  参考訳（メタデータ） (2026-06-17T17:54:04Z)
• Zone of Proximal Policy Optimization: Teacher in Prompts, Not Gradients [89.89504265663057]
  近親政策最適化ゾーン(ZPPO)は、ヴィゴツキーの近親開発ゾーンに触発されたものである。 ZPPOは1つの正しい教師の反応と1つの間違った学生の反応を、生徒が識別しなければならない匿名候補としてペアリングする。 プロンプト再生バッファは、生徒の平均ロールアウト精度が半分に達するか、FIFOが削除されるまで、各難問を再循環する。
  論文  参考訳（メタデータ） (2026-06-16T17:46:02Z)
• The Role of Feedback Alignment in Self-Distillation [0.3580891736370874]
  自己蒸留は、文脈が存在しないときにこの改善を維持するようモデルを訓練する。 本研究では,凍結した評論家からのフィードバックに基づいて,解法を訓練し,自己蒸留のための文脈設計について検討する。
  論文  参考訳（メタデータ） (2026-06-09T17:50:09Z)
• Prefix Teach, Suffix Fade: Local Teachability Collapse in Strong-to-Weak On-Policy Distillation [49.117085054884676]
  オンライン蒸留は、より強い教師からの強いフィードバックを使って、学生モデルを独自のロールアウトで訓練する。 我々は、この原則を軌跡固有のリリースルールで運用する。 強弱蒸留作業による実験結果から, この放出規則は標準全軌道PDよりも一貫して優れていたことが示唆された。
  論文  参考訳（メタデータ） (2026-05-13T15:05:30Z)
• PAINT: Partial-Solution Adaptive Interpolated Training for Self-Distilled Reasoners [9.324642081509756]
  大規模言語モデル(LLM)推論には、モデル自身のテスト時間状態とトークンレベルの情報の両方に整合した監視が必要である。 近年の独占型自己蒸留は,同じモデルによる学生のロールアウトを,検証済みのソリューションコンテキスト下で評価することによって中等地を探索している。 ロールアウト-参照重なりに応じて検証された解を隠蔽し、エントロピー-ミスマッチトークンのスパースセットに小さなエネルギー空間を適用したPAINTを提案する。
  論文  参考訳（メタデータ） (2026-04-29T11:56:07Z)
• Self-Point-Flow: Self-Supervised Scene Flow Estimation from Point Clouds with Optimal Transport and Random Walk [59.87525177207915]
  シーンフローを近似する2点雲間の対応性を確立するための自己教師型手法を開発した。 本手法は,自己教師付き学習手法の最先端性能を実現する。
  論文  参考訳（メタデータ） (2021-05-18T03:12:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。