論文の概要: Activation-Conditioned Self-Distillation

• arxiv url: http://arxiv.org/abs/2609.38342v1
• Date: Tue, 29 Sep 2026 18:06:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:26.560125
• Title: Activation-Conditioned Self-Distillation
• Title（参考訳）: アクティベーション・コンディション・セルフ蒸留
• Abstract要約: オンラインの自己蒸留は、モデルを独自の教師として利用し、推論のための密集した監督を提供する。 本稿では, 自己生成トラジェクトリの活性化を対比することにより, ステアリングベクトルを抽出する, アクティベーション・コンディション・セルフ蒸留(ACSD)を導入する。 ACSDは評価手法の中で4つの数学的ベンチマークよりも高い平均精度を達成している。
• 参考スコア（独自算出の注目度）: 25.28242612860113
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: On-policy self-distillation uses a model as its own teacher to provide dense supervision for reasoning, often through reference-solution conditioning. Providing privileged information does not by itself ensure effective token-level supervision throughout long responses. We introduce Activation-Conditioned Self-Distillation (ACSD), which extracts a steering vector by contrasting activations of self-generated trajectories that reach verified correct answers within a generation budget with those of all remaining trajectories. A frozen copy of the base model applies this vector at each prediction position, and the student learns from its next-token distributions on student-generated prefixes. Outcome verification is used for direction construction and calibration; distillation requires neither problem-specific reference text nor teacher parameter updates. The distilled student is used alone at inference. On each of five models, ACSD achieves the highest mean accuracy over four mathematical benchmarks among the evaluated methods. On DeepSeek-R1-0528-Qwen3-8B, mean mathematical accuracy reaches 71.9\% and LiveCodeBench v6 pass@12 reaches 70.9\%, compared with 69.0\% and 66.3\% for the reference-conditioned OPSD baseline. Contrasts among correct trajectories also support distillation, and extracted directions can be reused across mathematical training datasets. On fixed student trajectories, ACSD maintains more stable late-position logit-update magnitudes than OPSD.
• Abstract（参考訳）: オンライン自己蒸留は、しばしば参照ソリューション条件付けを通じて、推論の厳密な監督を提供するために、モデルを独自の教師として使用する。 特権情報の提供は、長いレスポンスを通じて効果的なトークンレベルの監視を保証するものではない。 本稿では, 自己生成トラジェクトリのアクティベーションを, 残ったトラジェクトリのすべてと, 世代予算内で正解に達するような活性化を対比することにより, ステアリングベクトルを抽出する Activation-Conditioned Self-Distillation (ACSD) を提案する。 基本モデルの凍結コピーが各予測位置にこのベクトルを適用し、学生が生成した接頭辞の次点分布から学習する。 出力検証は方向設定と校正に使われ、蒸留は問題固有の参照テキストも教師パラメータの更新も必要としない。 蒸留された学生は推論に一人で使用されます。 5つのモデルそれぞれにおいて、ACSDは評価手法の中で4つの数学的ベンチマークよりも高い平均精度を達成している。 DeepSeek-R1-0528-Qwen3-8Bでは、平均的な数学的精度は71.9\%に達し、LiveCodeBench v6 pass@12は70.9\%に達した。 正しい軌道のコントラストは蒸留もサポートし、抽出された方向を数学的訓練データセット間で再利用することができる。 固定された学生軌道では、ACSDはOPSDよりも安定なレイトポジションのロジット更新等級を維持している。

関連論文リスト

• Teach Yourself Where to Look: On-Policy Attention Self-Distillation for Reasoning [5.87050475730812]
  自衛隊の自衛隊は、認証されたソリューションにアクセス可能な特権教師からの密集したトークン配布指導を用いて、自衛隊の自衛隊のモデルを推論する。 我々は, トークンレベルの監視と, 溶液条件の注意蒸留を補完する, OPASD(On-Policy Attention Self-Distillation)を導入する。 OPASDはトークンのみのOPSDを一貫して上回り、平均精度は4.98から8.40ポイント向上した。
  論文  参考訳（メタデータ） (2026-09-27T04:38:41Z)
• iSDFT: Information-Proximal Self-Distillation for Continual Learning in LLMs [14.98696153981461]
  自己蒸留ファインチューニングは、忘れを減らしながらデモから新しいスキルを学ぶが、常に実演条件の完全な教師に向かわせる。 本稿では,教師を情報源として扱う情報プロクシマルSDFTについて紹介する。
  論文  参考訳（メタデータ） (2026-09-21T14:21:50Z)
• GradCuit: Credit-Assigned Gradient Flow Enables Robust and Interpretable Test-Time Latent Reasoning [61.67411833252235]
  本稿では,プロンプトの隠蔽表現と生成された継続の間に,選択したTransformer層に最適化可能な潜在状態を挿入するGradCuitを紹介する。 5つの命令調整されたバックボーン、3つの推論ベンチマーク、2つの回答フォーマットで、GradCuitの平均精度は64.5%である。 解釈可能性について、トークンレベルの勾配属性は、遅延の影響が推論・接続子トークンに集中していることを明らかにする一方、層解析は、初期から中間のトランスフォーマー層を最も効果的な最適化空間として認識する。
  論文  参考訳（メタデータ） (2026-08-03T17:55:24Z)
• H$^2$SD: Hybrid Hindsight Self-Distillation [61.71131241473028]
  検証可能な報酬付き強化学習(RLVR)は、言語モデル推論のための信頼性の高い結果監視を提供する。 既存の自己蒸留法は特権教師を追加するが、通常は一定の役割を割り当てる。 本稿では,教師のコンテキストに適応し,トラジェクタの正当性を更新するHybrid Hindsight Self-Distillation(MathrmH2mathrmSD$)を紹介する。
  論文  参考訳（メタデータ） (2026-07-21T10:47:27Z)
• Self-Distilled RLVR [57.37526213765131]
  特権教師からのみ派生した学習信号が,情報漏洩と不安定な長期学習をもたらすことを示す。 textbfSelf-textbfDistillationを用いたtextbfRLSD(textbfRLVR)を提案する。 これにより、RSSDはRLVRとOPSDの両方の強度を同時に利用でき、高い収束天井と優れたトレーニング安定性を実現することができる。
  論文  参考訳（メタデータ） (2026-04-03T15:50:07Z)
• GATES: Self-Distillation under Privileged Context with Consensus Gating [89.62339954332248]
  我々は、監督が信頼できない環境で自己蒸留を研究する。 非対称な文脈で回答する文書に焦点をあてる。 複数の文書ベース推論トレースをサンプリングすることにより、教師のコンセンサスからオンラインでの監督を導出する。
  論文  参考訳（メタデータ） (2026-02-24T05:56:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。