論文の概要: NADS: Navigator-Guided Data Selection for Mitigating Catastrophic Forgetting in Fine-Tuning

• arxiv url: http://arxiv.org/abs/2610.25751v1
• Date: Mon, 19 Oct 2026 04:02:54 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 22:22:45.459692
• Title: NADS: Navigator-Guided Data Selection for Mitigating Catastrophic Forgetting in Fine-Tuning
• Title（参考訳）: NADS: 微調整におけるカタストロフィック留置の緩和のためのナビゲータガイドデータ選択
• Abstract要約: 大型言語モデル(LLM)の単一段階微調整における破壊的忘れは中心的障害である LLMのための微調整フレームワークである Navigator-Guided Data Selection (NADS) を提案する。 実験により、NADSは、新しいタスク性能と一般的な機能保存のバランスを強くすることが示された。
• 参考スコア（独自算出の注目度）: 11.391558650449172
• License:
• Abstract: Catastrophic forgetting is a central obstacle in single-stage fine-tuning of large language models (LLMs) on a new task, especially when the original pretraining data are unavailable. Synthetic data offers a practical mitigation path, but candidate pools are often noisy and redundant, making effective selection essential. Existing methods often rely on indirect proxy signals whose alignment with actual training benefit can be limited, while utility--diversity selection over large candidate pools remains computationally demanding. To address these challenges, we propose NAvigator-guided Data Selection (NADS), a fine-tuning framework for LLMs. NADS first follows the target fine-tuning recipe without preservation regularization to obtain a navigator model, whose deviation from the pretrained model exposes recipe-induced capability drift. It then uses the predictive divergence between the navigator and the pretrained model to score forgetting-aware utility for each synthetic candidate, and constructs a constraint set through an efficient utility--diversity selection strategy. Finally, NADS fine-tunes on the new-task data while distilling pretrained behavior on the selected constraints to preserve general capabilities. Experiments show that NADS delivers a stronger balance between new-task performance and general capability preservation, while reducing utility--diversity selection overhead. Code at: https://github.com/zjh-vinky/NADS.
• Abstract（参考訳）: 大規模言語モデル(LLM)の単一段階微調整において,特に事前学習データが利用できない場合において,カタストロフィックな忘れ込みが中心的な障害となる。 合成データは実用的な緩和経路を提供するが、候補プールはしばしばノイズが多く冗長であり、効果的な選択が不可欠である。 既存の方法は、多くの場合、実際のトレーニング利益との整合性が制限される間接的なプロキシ信号に依存するが、大きな候補プールに対するユーティリティ-多様性の選択は、計算的に要求される。 これらの課題に対処するため、我々はLCMのための微調整フレームワークであるNAvigator-Guided Data Selection (NADS)を提案する。 NADSは、まず、保存規則化せずにターゲットの微調整レシピに従い、予め訓練されたモデルから逸脱したナビゲータモデルを得る。 次に、ナビゲータと事前訓練されたモデルとの予測的ばらつきを利用して、各合成候補に対する忘れ認識ユーティリティをスコアし、効率的なユーティリティ-多様性選択戦略によって制約セットを構築する。 最後に、NADSは、選択された制約に対する事前訓練された振る舞いを蒸留しながら、新しいタスクデータに基づいて微調整を行い、汎用性を維持する。 実験の結果,NADSは新タスク性能と汎用能力のバランスを保ちつつ,実用性-多様性選択のオーバーヘッドを低減できることがわかった。 コードネームはhttps://github.com/zjh-vinky/NADS。

関連論文リスト

• One Knob to Rule Them All: A Unified Optimal Transport View of Cold-Start Active Learning [19.504724272527515]
  Cold-Start Active Learning (CSAL)は、事前の知識や人的支援なしにラベルのないプールから価値のあるサブセットを選択することを目的としている。 真の課題は、もう1つの選択を設計することではなく、CSALを手元にあるデータやタスクに自動的に適応させることである、と私たちは主張する。 我々は、Sinkhornベースの新しいCSALアルゴリズムを、$-Adaptive Selection($-AS)と呼ぶ。
  論文  参考訳（メタデータ） (2026-08-04T07:21:39Z)
• Beyond What to Select: A Plug-and-play Oscillatory Data-Volume Scheduling for Efficient Model Training [36.289092974454796]
  選択データ学習は、瞬時選択比による暗黙の正則化効果を誘導することを示す。 これは、選択によって引き起こされる正規化を低くするのに対して、高い比率はデータカバレッジを保っている、という重要なトレードオフを明らかにします。 PODSは既存の静的および動的選択メソッドと互換性があり、トレーニングパラダイムに広く適用できる。
  論文  参考訳（メタデータ） (2026-05-14T12:37:11Z)
• Utility-Diversity Aware Online Batch Selection for LLM Supervised Fine-tuning [49.04912820721943]
  Supervised Fine-tuning (SFT) は計算コストが高く、時にはオーバーフィットやバイアス増幅に悩まされる。 本研究は、トレーニングプロセス中にサンプルを動的にスコア付け、フィルタリングするオンラインバッチ選択ファミリについて研究する。 SFTにおける効率的なオンラインバッチ選択のためのフレームワークである textbfUDS (Utility-Diversity Sampling) を開発した。
  論文  参考訳（メタデータ） (2025-10-19T15:32:01Z)
• Adapt-$\infty$: Scalable Continual Multimodal Instruction Tuning via Dynamic Data Selection [89.42023974249122]
  Adapt-$infty$は、生涯のインストラクションチューニングのための、新しいマルチウェイおよびアダプティブなデータ選択アプローチである。 勾配に基づくサンプルベクトルをグループ化して擬似スキルクラスタを構築する。 セレクタエキスパートのプールから各スキルクラスタの最高のパフォーマンスデータセレクタを選択する。 このデータセレクタは、トレーニングのために各スキルクラスタから最も重要なサンプルのサブセットをサンプリングする。
  論文  参考訳（メタデータ） (2024-10-14T15:48:09Z)
• Towards Free Data Selection with General-Purpose Models [71.92151210413374]
  望ましいデータ選択アルゴリズムは、限られたアノテーション予算の有用性を最大化するために、最も情報性の高いサンプルを効率的に選択することができる。 アクティブな学習手法で表現された現在のアプローチは、通常、時間を要するモデルのトレーニングとバッチデータ選択を繰り返し繰り返す、面倒なパイプラインに従う。 FreeSelは重いバッチ選択プロセスをバイパスし、効率を大幅に改善し、既存のアクティブラーニングメソッドよりも530倍高速である。
  論文  参考訳（メタデータ） (2023-09-29T15:50:14Z)
• Task-Customized Self-Supervised Pre-training with Scalable Dynamic Routing [76.78772372631623]
  セルフ教師付き事前トレーニングの一般的な実践は、できるだけ多くのデータを使用することである。 しかし、特定のダウンストリームタスクでは、事前トレーニングで無関係なデータを含むと、ダウンストリームのパフォーマンスが低下する可能性がある。 異なるタスクのための事前トレーニングで、異なるダウンストリームタスクにカスタマイズされたデータセットを使用することは、重荷であり、実現不可能である。
  論文  参考訳（メタデータ） (2022-05-26T10:49:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。