Fugu-MT 論文翻訳(概要): MADS: Model-Aware Diverse Core Set Selection for Instruction Tuning

論文の概要: MADS: Model-Aware Diverse Core Set Selection for Instruction Tuning

arxiv url: http://arxiv.org/abs/2605.30857v1
Date: Fri, 29 May 2026 05:28:36 GMT
ステータス: 翻訳完了
システム内更新日: 2026-06-01 20:56:50.401894
Title: MADS: Model-Aware Diverse Core Set Selection for Instruction Tuning
Title（参考訳）: MADS:インストラクションチューニングのためのモデル対応ディバースコアセットの選択
Abstract要約: 本稿では,モデル対応のディバースコアセット選択法を提案する。この方法は、推論中の神経活性化状態に基づいて、データ特徴を識別する。本手法は,全データセットのトレーニングと比較して,4つの大きなベースモデルを微調整する際の平均2.5%の改善を実現する。
参考スコア（独自算出の注目度）: 33.27239788672601
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Instruction fine-tuning is employed to enhance the instruction-following ability of large language models (LLMs). As the amount of instruction fine-tuning data increases, selecting the optimal core set becomes particularly important. However, ensuring the diversity of the core set remains a significant challenge. Existing methods predominantly distinguish different training data based on the text features themselves, decoupled from LLMs' own understanding and representation of the data. To address this issue, we propose a Model-Aware Diverse Core Set Selection method, which distinguishes data features based on the neural activation states during LLM inference. This approach serves as an efficient instantiation of coverage-based selection using model-intrinsic activation features to ensure the diversity in the core set. We extensively evaluate our method on six benchmarks that cover five distinct tasks. In our method, the core set selected by the 3B-parameter LLM performs effectively when utilized to fine-tune larger models with 7B, 8B, and 13B parameters. Experimental results on the Alpaca-GPT4 dataset, which comprises 52K instruction-response pairs, show that the core set, sized at 15\% of the original dataset and selected by Llama-3.2-3B-Instruct, achieves an average improvement of 2.5\% when fine-tuning four larger base models compared with training on the full dataset. The experimental results demonstrate that our method enhances model performance on multiple downstream tasks while reducing data requirements.
Abstract（参考訳）: インストラクション微調整は、大規模言語モデル(LLM)の命令追従能力を高めるために用いられる。命令微調整データの量が増加するにつれて、最適なコアセットを選択することが特に重要になる。しかし、コアセットの多様性を保証することは依然として大きな課題である。既存の方法は、テキストの特徴自体に基づいて異なるトレーニングデータを主に区別し、LLM自体の理解とデータの表現から分離する。この問題に対処するために,LLM推論中のニューラルアクティベーション状態に基づいてデータ特徴を識別するモデル対応ディバースコアセット選択法を提案する。このアプローチは、コアセットの多様性を保証するために、モデル固有のアクティベーション機能を使用してカバレッジベースの選択を効率的にインスタンス化する。 5つの異なるタスクをカバーする6つのベンチマークで、我々の手法を広範囲に評価した。本研究では, 3Bパラメータ LLM で選択したコアセットを用いて, 7B, 8B, 13B パラメータを持つ大型モデルの微調整を行う。 52Kの命令-応答ペアからなるAlpaca-GPT4データセットの実験結果は、Llama-3.2-3B-Instructによって選択された元のデータセットの15倍の大きさのコアセットが、フルデータセットのトレーニングと比較して4つの大きなベースモデルを微調整すると平均2.5倍の改善が得られることを示している。実験により,本手法はデータ要求を低減しつつ,複数の下流タスクにおけるモデル性能を向上させることを示す。

関連論文リスト

Learning Multi-Indicator Weights for Data Selection: A Joint Task-Model Adaptation Framework with Efficient Proxies [50.39041754816285]
本稿では、下流タスクと特定のモデルの両方にデータ選択を併用する多変数重み学習フレームワークを提案する。提案手法は,GSM8Kのトレーニングサンプルの30%しか使用せず,フルデータセットチューニングに匹敵する性能を実現する。
論文参考訳（メタデータ） (2026-05-10T17:30:16Z)
From Insight to Action: A Novel Framework for Interpretability-Guided Data Selection in Large Language Models [73.72877445629383]
Interpretability-Guided Data Selection (IGDS) は、まず周波数リコールと干渉フィルタリングによって因果タスクの特徴を識別するフレームワークである。我々は,数学的推論,要約,翻訳タスクに関するIGDSをGemma-2,LLaMA-3.1,Qwen3モデルで検証する。
論文参考訳（メタデータ） (2026-04-28T03:16:24Z)
T-SHIRT: Token-Selective Hierarchical Data Selection for Instruction Tuning [5.963754140027611]
Token-Selective HIeRarchical Data Selection for Instruction Tuning (T-SHIRT)は、新しいデータ選択フレームワークである。我々は、キュレートされたデータセットでチューニングされたモデルが、大規模データセット全体においてトレーニングされたモデルよりも優れていることを実証した。
論文参考訳（メタデータ） (2025-06-02T04:59:17Z)
RICo: Refined In-Context Contribution for Automatic Instruction-Tuning Data Selection [29.459431336830267]
本研究では,タスクレベルとグローバルレベルの両方のモデル性能に対して,個々のサンプルの微細な寄与を定量化する勾配のない手法を提案する。我々は、RICoスコアに基づいて訓練された軽量な選択パラダイムを導入し、厳密な線形推論の複雑さでスケーラブルなデータ選択を可能にする。
論文参考訳（メタデータ） (2025-05-08T15:17:37Z)
MAmmoTH-VL: Eliciting Multimodal Reasoning with Instruction Tuning at Scale [66.73529246309033]
MLLM(Multimodal large language model)は、多モーダルタスクにおいて大きな可能性を秘めている。既存の命令チューニングデータセットは、中間的合理性のないフレーズレベルの答えのみを提供する。そこで本研究では,大規模マルチモーダル・インストラクション・チューニング・データセットを構築するためのスケーラブルで費用対効果の高い手法を提案する。
論文参考訳（メタデータ） (2024-12-06T18:14:24Z)
TAGCOS: Task-agnostic Gradient Clustered Coreset Selection for Instruction Tuning Data [29.45013725650798]
完全なデータセットに匹敵するパフォーマンスを達成する命令データセットのサブセットを抽出することが不可欠である。タスク非依存のグラディエントクラスタ化コレセット選択(TAGCOS)を提案する。具体的には、サンプル勾配をデータ表現として利用し、類似したデータをグループ化するためにクラスタリングを行い、コアセット選択に効率的なグリーディアルゴリズムを適用する。
論文参考訳（メタデータ） (2024-07-21T17:59:20Z)
DataComp-LM: In search of the next generation of training sets for language models [200.5293181577585]
DataComp for Language Models (DCLM)は、制御されたデータセット実験のためのテストベッドであり、言語モデルを改善することを目的としている。我々は、Common Crawlから抽出された240Tトークンの標準化コーパス、OpenLMフレームワークに基づく効果的な事前学習レシピ、53の下流評価スイートを提供する。 DCLMベンチマークの参加者は、412Mから7Bパラメータのモデルスケールでの重複、フィルタリング、データ混合などのデータキュレーション戦略を実験することができる。
論文参考訳（メタデータ） (2024-06-17T17:42:57Z)
DsDm: Model-Aware Dataset Selection with Datamodels [81.01744199870043]
標準的なプラクティスは、データ品質という人間の考え方にマッチする例をフィルタリングすることです。質の高い"データソースとの類似性に応じた選択は、ランダムに選択するデータに比べてパフォーマンスが向上しない(さらに傷つく)可能性がある。我々のフレームワークは、データ品質に関する手作業による概念を回避し、学習プロセスがターゲットタスクの予測にデータポイントをトレーニングする方法を明確にモデル化する。
論文参考訳（メタデータ） (2024-01-23T17:22:00Z)
One-Shot Learning as Instruction Data Prospector for Large Language Models [108.81681547472138]
textscNuggetsはワンショット学習を使用して、広範なデータセットから高品質な命令データを選択する。我々は,textscNuggets がキュレートした例の上位1%による命令チューニングが,データセット全体を用いた従来の手法よりも大幅に優れていることを示す。
論文参考訳（メタデータ） (2023-12-16T03:33:12Z)
Self-Evolved Diverse Data Sampling for Efficient Instruction Tuning [47.02160072880698]
モデル自体が等しくあるいはそれ以上に効果的であるサブセットを積極的にサンプリングできる自己進化メカニズムを導入します。データサンプリング技術の鍵は、選択したサブセットの多様性の向上にあります。 3つのデータセットとベンチマークにわたる大規模な実験は、DiverseEvolの有効性を示している。
論文参考訳（メタデータ） (2023-11-14T14:10:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。