論文の概要: SLAP: Stratified Loss-based Pruning for On-Policy Data-Efficient Instruction Tuning

• arxiv url: http://arxiv.org/abs/2605.23969v1
• Date: Wed, 13 May 2026 06:36:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-01 02:55:42.986874
• Title: SLAP: Stratified Loss-based Pruning for On-Policy Data-Efficient Instruction Tuning
• Title（参考訳）: SLAP: オンデマンドデータ効率なインストラクションチューニングのための階層化ロスベースプルーニング
• Abstract要約: 我々は,新しいバッチ対応データ選択フレームワークである textbfSLAP を提案する。 SLAPは、個別ではなく、バッチ構成全体の学習可能性を評価する。 SLAPは完全なデータセットトレーニングよりも20～40%少ないトレーニングデータで優れたパフォーマンスを実現している。
• 参考スコア（独自算出の注目度）: 14.87050258251449
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Instruction tuning has optimized the specialized capabilities of large language models (LLMs), but it often requires extensive datasets and prolonged training times. The challenge lies in developing specific capabilities by identifying useful data and efficiently fine-tuning. High-quality and diverse pruned data can help models achieve lossless performance at a lower cost. In this paper, we propose \textbf{SLAP}, a novel batch-aware data selection framework that evaluates the learnability of entire batch compositions rather than individual. SLAP ensures comprehensive data distribution coverage through distribution-aware stratified sampling while maximizing intra-batch diversity through relative distance optimization. By leveraging Hessian-approximated gradient information for dynamic batch selection, SLAP significantly outperforms existing state-of-the-art methods across multiple model architectures (LLaMA, ChatGLM) and diverse downstream tasks including multi-turn dialogue, multilingual translation, and question answering. Most notably, SLAP achieves superior performance with 20-40\% less training data compared to full dataset training, substantially reducing computational costs while maintaining or improving model capabilities. These results establish SLAP as a powerful approach for efficient and effective instruction tuning of large language models.
• Abstract（参考訳）: インストラクションチューニングは、大規模言語モデル(LLM)の特殊機能に最適化されている。 この課題は、有用なデータを特定し、効率的に微調整することで、特定の機能を開発することである。 高品質で多様なデータは、モデルが損失のないパフォーマンスを低コストで達成するのに役立ちます。 本稿では,個別ではなく,バッチ構成全体の学習性を評価する新しいバッチ対応データ選択フレームワークである \textbf{SLAP} を提案する。 SLAPは、相対的距離最適化によりバッチ内多様性を最大化しつつ、分布認識型階層化サンプリングによる包括的データ配信のカバレッジを保証する。 動的バッチ選択にヘシアン近似勾配情報を活用することで、SLAPは、複数のモデルアーキテクチャ(LLaMA、ChatGLM)とマルチターン対話、多言語翻訳、質問応答を含む様々な下流タスクにおいて、既存の最先端メソッドよりも大幅に優れている。 最も注目すべきは、SLAPが完全なデータセットトレーニングに比べて20～40倍のトレーニングデータで優れたパフォーマンスを実現し、モデル機能を維持したり改善したりしながら、計算コストを大幅に削減することです。 これらの結果から、SLAPは大規模言語モデルの効率的かつ効果的な命令チューニングのための強力なアプローチとして確立された。

関連論文リスト

• Learning Multi-Indicator Weights for Data Selection: A Joint Task-Model Adaptation Framework with Efficient Proxies [50.39041754816285]
  本稿では、下流タスクと特定のモデルの両方にデータ選択を併用する多変数重み学習フレームワークを提案する。 提案手法は,GSM8Kのトレーニングサンプルの30%しか使用せず,フルデータセットチューニングに匹敵する性能を実現する。
  論文  参考訳（メタデータ） (2026-05-10T17:30:16Z)
• Learn More, Forget Less: A Gradient-Aware Data Selection Approach for LLM [51.21051698747157]
  大規模言語モデル(LLM)の教師付き微調整のための自己適応型勾配対応データ選択手法(GrADS)を提案する。 具体的には、勾配の大きさと統計的分布を利用した自己指導型基準を設計し、モデルの学習プロセスに最も寄与する例を優先する。 GrADSは、医学、法学、金融など様々な分野にまたがる様々なLLMの広範な実験を通じて、大幅な効率性と費用対効果を示してきた。
  論文  参考訳（メタデータ） (2025-11-07T08:34:50Z)
• Utility-Diversity Aware Online Batch Selection for LLM Supervised Fine-tuning [49.04912820721943]
  Supervised Fine-tuning (SFT) は計算コストが高く、時にはオーバーフィットやバイアス増幅に悩まされる。 本研究は、トレーニングプロセス中にサンプルを動的にスコア付け、フィルタリングするオンラインバッチ選択ファミリについて研究する。 SFTにおける効率的なオンラインバッチ選択のためのフレームワークである textbfUDS (Utility-Diversity Sampling) を開発した。
  論文  参考訳（メタデータ） (2025-10-19T15:32:01Z)
• InfiAlign: A Scalable and Sample-Efficient Framework for Aligning LLMs to Enhance Reasoning Capabilities [27.09178257629886]
  InfiAlignは、大規模言語モデル(LLM)のためのスケーラブルでサンプル効率の良いポストトレーニングフレームワークである InfiAlignの中核は、オープンソースの推論から高品質なアライメントデータを自動的にキュレートする堅牢なデータ選択パイプラインである。 本結果は,基本データ選択とフルステージポストトレーニングの併用の有効性を強調した。
  論文  参考訳（メタデータ） (2025-08-07T15:34:06Z)
• SPaRFT: Self-Paced Reinforcement Fine-Tuning for Large Language Models [51.74498855100541]
  大規模言語モデル(LLM)は、強化学習(RL)による微調整時に強い推論能力を示す。 トレーニング対象のモデルの性能に基づいて,効率的な学習を可能にする自己評価学習フレームワークである textbfSPaRFT を提案する。
  論文  参考訳（メタデータ） (2025-08-07T03:50:48Z)
• LASER: Stratified Selective Sampling for Instruction Tuning with Dedicated Scoring Strategy [5.130520244165049]
  マルチステップパイプラインを使用することで、データ選択が効率的かつ普遍的に可能であることを示す。 タスクベースの分類を用いて最終データの構成を制御する。 この統合戦略は、最小限のオーバーヘッドで高性能な微調整を可能にする。
  論文  参考訳（メタデータ） (2025-05-28T09:22:25Z)
• A CLIP-Powered Framework for Robust and Generalizable Data Selection [51.46695086779598]
  実世界のデータセットは、しばしば冗長でノイズの多いデータを含み、トレーニング効率とモデルパフォーマンスに悪影響を及ぼす。 データ選択は、データセット全体から最も代表的なサンプルを特定することを約束している。 より堅牢で一般化可能なサンプル選択にマルチモーダル情報を活用するCLIPを利用した新しいデータ選択フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-15T03:00:58Z)
• LESS: Selecting Influential Data for Targeted Instruction Tuning [64.78894228923619]
  本稿では,データの影響を推定し,命令データ選択のための低ランクグレーディエント類似度探索を行うアルゴリズムであるLESSを提案する。 LESS選択したデータの5%のトレーニングは、さまざまなダウンストリームタスクにわたる完全なデータセットでのトレーニングよりも優れています。 我々の方法は、意図した下流アプリケーションに必要な推論スキルを識別するために、表面的なフォームキューを超えています。
  論文  参考訳（メタデータ） (2024-02-06T19:18:04Z)
• RPLKG: Robust Prompt Learning with Knowledge Graph [14.531071492983767]
  CLIPのようなマルチモーダル事前トレーニングモデルでは、さまざまな実験でパフォーマンスが大幅に向上した。 既存の手法はしばしば解釈可能性に欠け、高い計算コストを課す。 本稿では,知識グラフを用いたロバスト・プロンプト学習(RPLKG)を提案する。
  論文  参考訳（メタデータ） (2023-04-21T08:22:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。