論文の概要: Stabilizing language models under continual learning via condition-anchored distillation
- arxiv url: http://arxiv.org/abs/2610.06940v1
- Date: Sat, 03 Oct 2026 07:22:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.473954
- Title: Stabilizing language models under continual learning via condition-anchored distillation
- Title（参考訳）: 条件付き蒸留による連続学習における言語モデルの安定化
- Abstract要約: 言語モデルの継続的な適応は、以前の学習したプロンプトで出力分布を変更することができるが、古いプロンプトとアンサーのペアを全て保持することは望ましくない、あるいは不可能である。
本研究は,CAGD (Consumed-anchored Generative distillation) について検討し, 古いプロンプトを少量保持し, 凍結前のモデルを用いて完成状態と生成状態を復元し, 次の課題を学習しながら予測分布と一致させる。
- 参考スコア（独自算出の注目度）: 8.714454059716838
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Continual adaptation of language models can change their output distribution on prompts learned earlier, while retaining every old prompt-answer pair may be undesirable or impossible. We study condition-anchored generative distillation (CAGD): retain a small set of old prompts, use a frozen previous model to reconstruct completions and generation states, and match its predictive distributions while learning the next task. The formulation separates three roles that ordinary replay conflates: conditions select the behavior to protect, teacher generations locate relevant states, and soft targets specify how predictions may change. For autoregressive language generation, teacher-rollout distillation admits an exact chain-rule decomposition of sequence divergence. For masked-diffusion language modeling, our implementation directly controls local denoising drift on teacher-generated completions. In continual adaptation of a 219M masked diffusion language model, CAGD reduces four-task final held-out loss from 2.927 to 1.114 in one task order and from 2.168 to 0.891 in exact reverse. The same soft targets lower final average loss by 0.055 over hard replay when teacher-generated support is held identical. The direction persists on fresh facts and natural instructions across SMDM and Qwen3. On GSM8K, Qwen adaptation preserves answer-format compliance, but exact-match retention is seed-mixed at 0.6B and worsens at 1.7B. These results support condition-anchored functional preservation as a common design principle across the tested language-generation objectives.
- Abstract（参考訳）: 言語モデルの継続的な適応は、以前の学習したプロンプトで出力分布を変更することができるが、古いプロンプトとアンサーのペアを全て保持することは望ましくない、あるいは不可能である。
本研究は,CAGD (Consumed-anchored Generative distillation) について検討し, 古いプロンプトを少量保持し, 凍結前のモデルを用いて完成状態と生成状態を復元し, 次の課題を学習しながら予測分布と一致させる。
この定式化は、通常のリプレイが混ざり合う3つの役割を分けている: 条件は保護する行動を選択し、教師世代は関連する状態を特定し、ソフトターゲットは予測がどのように変化するかを特定する。
自己回帰言語生成では、教師ロールアウト蒸留は、シーケンスの分岐の正確な連鎖ルール分解を許容する。
マスク付き拡散言語モデリングでは,教師生成完了に対する局所的な認知ドリフトを直接制御する。
219Mのマスク付き拡散言語モデルの継続的適応において、CAGDは4つのタスクの最終的な保留損失を1つのタスク順序で2.927から1.114、正確には2.168から0.891に削減する。
同じソフトは、教師生成支援が同一に保持された場合のハードリプレイに対する最終平均損失を0.055減少させる。
この方向は、SMDMとQwen3にまたがる新鮮な事実と自然な指示に依存している。
GSM8Kでは、Qwen適応は応答形式のコンプライアンスを保っているが、正確なマッチ保持は0.6Bでシード混合され、1.7Bで悪化する。
これらの結果は,テスト対象言語生成における共通設計原則として,条件付き機能保存を支援する。
関連論文リスト
- Hierarchical Continuous Diffusion Language Models [50.34180702812139]
階層型連続拡散言語モデル(HC-DLM)を提案する。
HC-DLMは離散トークン生成と連続的な潜在軌道を1つの原理化過程で結合する。
これは、一致したモデルサイズでの離散的かつ連続的な拡散ベースライン、スドゥークとカウントダウンのパズル精度、およびLM1Bの生成パープレキシティを向上する。
論文 参考訳（メタデータ） (2026-10-01T17:59:39Z) - Alpha Diffusion Language Models: Factorization Alone Is Not the Problem [62.502296537560824]
離散拡散言語モデルは複数のトークンを並列に生成できるが、デノナイジングステップの数を減らすことは矛盾した予測につながる。
アルファ拡散言語モデル(AlphaDLM)を紹介する。
シーケンスレベルのアルファロスで訓練され、アルファの消滅の限界でクロスエントロピーを回復し、アルファ1で共同モードの最適値を持つ。
論文 参考訳（メタデータ） (2026-09-29T17:31:02Z) - SpikeOPD: Stable On-Policy Distillation for Autoregressive Spiking Language Models [20.042917849171115]
スパイキングニューラルネットワーク(SNN)は、スパースエンコーディングとイベント駆動計算によるエネルギー効率の高い言語モデリングへの道を提供する。
既存のマイグレーションアプローチは固定されたコーパスプレフィックスを蒸留するが、自己生成プレフィックスの自己回帰推論条件はプレフィックスソースミスマッチを生成する。
本研究では,自己生成プレフィックスから学習し,安定性を維持しながら学習する自己回帰SNNのための安定なオンライン蒸留フレームワークであるSpikeOPDを提案する。
論文 参考訳（メタデータ） (2026-08-28T03:05:21Z) - TTSD-FAR: Test-Time Self-Distillation with Fisher-Anchored Restoration for Missing-Modality Emotion Recognition in LVLMs [83.78708832901194]
大規模ビデオ言語モデル(LVLM)は、野生のマルチモーダル感情認識(ER)のようなマルチモーダルタスクにおいて顕著なパフォーマンスを示している。
しかし、現実のデプロイメントは依然として困難であり、テスト時にモダリティが欠落したりうる。
凍結した教師が自己蒸留により適応的な低学級の生徒を指導する手法を提案する。
MELD, DFEW, BAHを0%-50%のモダリティで実験した結果, この統一型適応復元設計はエントロピーベースの適応, RAG, およびパープレキシティベースの生成より一貫して優れていた。
論文 参考訳（メタデータ） (2026-08-18T23:40:28Z) - Any-OPD: Heterogeneous On-Policy Distillation for Flow-Matching Models via Representation-Space Bridging [13.653084100002737]
教師が生徒自身が生成するサンプルを補正するオンライン蒸留は、2つのモデルが同じ言語を話すことを前提にしている。
我々は、Any-OPDについて、任意対の潜流整合発生器間のオンライン蒸留のための最初のフレームワークについて述べる。
論文 参考訳（メタデータ） (2026-08-04T08:23:57Z) - OPTD: On-Policy Transition Distillation with Consistency-Guided Adaptive Compression for Few-Step Diffusion Language Models [39.15861870749305]
OPTD, On-Policy Transition Distillation with consistency-guided Adaptive compression。
これは、数段階の学生自身の軌跡から部分的な状態をサンプリングし、凍結した質問のみの教師を使用して結果に整合した将来の候補者を特定し、現状の信頼でそれらを注文する。
品質効率のトレードオフを継続的に改善し、評価された数ステップのベースラインの中で、全体的な品質に制約のあるAUPを最強に達成します。
論文 参考訳（メタデータ） (2026-08-03T23:09:43Z) - UNIFUSION: Adapting Autoregressive Language Models into Discrete Diffusion under a Unified Reverse-Rate Objective [17.48959208263029]
本稿では,事前学習したGPT2チェックポイントを均一な雑音拡散に適応させるための,簡易な事前学習手法を提案する。
我々の研究は、サンプリング予算の増加に伴い、生成的複雑度(GenPPL)とユニグラムエントロピーのトレードオフを着実に改善する。
両スケールで比較した拡散モデルの中で,WinoGrande,SIQA,BBHの精度が最も高い。
論文 参考訳（メタデータ） (2026-07-27T14:40:26Z) - Purified OPSD: On-Policy Self-Distillation Without Losing How to Think [52.879387744920415]
オンライン自己蒸留(OPSD)は長いチェーン・オブ・ソート(Long-CoT)推論モデルでは一貫して失敗する。
まず,教師が指導信号の非伝達可能成分を分離するために,参照のみの教師を構築する。
第2に、この残差をよく形成されたPMIターゲット分布に変換するメカニズムとして、ポイントワイズ相互情報(PMI)を用いる。
論文 参考訳（メタデータ） (2026-07-02T14:33:07Z) - Shuffle the Context: RoPE-Perturbed Self-Distillation for Long-Context Adaptation [86.62036852878354]
大規模言語モデル(LLM)は、信頼性の高い長文理解を必要とする設定でますます運用される。
位置ロバスト性を向上させるトレーニングレギュレータであるRoPE-Perturbed Self-Distillationを提案する。
Llama-3-8BとQwen-3-4Bの長文適応実験は、長文ベンチマークにおいて一貫した利得を示す。
論文 参考訳（メタデータ） (2026-04-15T18:46:35Z) - EDIT: Early Diffusion Inference Termination for dLLMs Based on Dynamics of Training Gradients [6.736735746633275]
拡散に基づく大規模言語モデル (dLLMs) は反復的妄想を通じてトークン生成を洗練させるが、全てのステップが完了する前に答えは安定することが多い。
本稿では,トレーニング時推論に対する十分な推論安定性が検出された場合に,適応的にデノイングを停止する推論時基準であるEDITを提案する。
論文 参考訳（メタデータ） (2025-11-29T23:47:47Z) - Multi-Granularity Semantic Revision for Large Language Model Distillation [66.03746866578274]
LLM蒸留における多粒性セマンティックリビジョン法を提案する。
シーケンスレベルでは、シーケンス修正と再生戦略を提案する。
トークンレベルでは、蒸留目的関数として、Kulback-Leibler損失を補正する分布適応クリッピングを設計する。
スパンレベルでは、シーケンスのスパン前処理を利用して、スパン内の確率相関を計算し、教師と学生の確率相関を一貫性に制約する。
論文 参考訳（メタデータ） (2024-07-14T03:51:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。