論文の概要: Query-based Submodular Data Selection for Efficient Instruction Tuning

• arxiv url: http://arxiv.org/abs/2611.04059v1
• Date: Mon, 02 Nov 2026 23:03:43 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-04 17:53:13.122849
• Title: Query-based Submodular Data Selection for Efficient Instruction Tuning
• Title（参考訳）: 効率的なインストラクションチューニングのための問合せに基づく部分モジュラーデータ選択
• Abstract要約: そこで本稿では, 対象方向を推定し, それらを満たすための合成例を生成するための勾配誘導合成法を提案する。 Llama-2、Llama-3、MistralをまたいだMMLU、BBH、TydiQAの実験では、QSGSは0.5%の予算で一致し、Mistral-7Bの完全なデータ性能を上回っている。
• 参考スコア（独自算出の注目度）: 12.32495049023305
• License:
• Abstract: As large language models are fine-tuned for increasingly specialized tasks, their performance depends more on which training examples are selected than on how many. Given a large heterogeneous training pool and a small target set specifying the desired capability, targeted data selection aims to find a compact subset that maximizes downstream performance. Existing methods score each candidate independently against the target and select the top-ranked examples, yet this point-wise strategy ignores inter-example interactions: at tight budgets the selected subset is dominated by near-redundant points that waste capacity on overlapping information. We propose Query-based Submodular functions with Gradient-guided Synthesis (QSGS), which formulates targeted selection as a submodular graph cut over a gradient similarity graph. A modular relevance term pulls selected examples toward the target task, while a pairwise dispersion penalty suppresses intra-subset redundancy. The resulting objective balances target relevance and intra-subset redundancy using the same formulation across different selection budgets. Empirically, the benefit of diversity-aware selection becomes increasingly pronounced as the data budget decreases. To further close coverage gaps that no selection from existing data can bridge, we introduce a gradient-guided synthesis step that identifies under-covered target directions via residual subspace analysis and generates synthetic examples to fill them. Experiments on MMLU, BBH, and TydiQA across Llama-2, Llama-3, and Mistral, show that QSGS at a 0.5% budget matches or exceeds full-data performance on Mistral-7B, outperforms the strongest baseline across all benchmarks, and yields increasing gains as the budget shrinks.
• Abstract（参考訳）: 大規模言語モデルは、ますます専門化されたタスクのために微調整されているため、そのパフォーマンスは、どのトレーニング例が選択されるかに、何人よりも依存している。 大きな不均一なトレーニングプールと、所望の能力を示す小さなターゲットセットが与えられた場合、ターゲットデータの選択は、下流のパフォーマンスを最大化するコンパクトなサブセットを見つけることを目的としている。 既存の手法では、各候補を目標に対して独立してスコア付けし、上位の例を選択するが、このポイントワイズ戦略は、サンプル間相互作用を無視している。 本稿では、勾配類似性グラフを切断した部分モジュラグラフとして、目的の選択を定式化する、勾配誘導合成(QSGS)を用いたクエリベースの部分モジュラ関数を提案する。 モジュラー関連項は、選択された例を目標タスクへ引き寄せ、ペアワイズ分散ペナルティはサブセット内冗長を抑制する。 得られた目的は、異なる選択予算にまたがる同じ定式化を用いて、目標の妥当性とサブセット内冗長性をバランスさせる。 経験的に、データ予算が減少するにつれて、多様性に配慮した選択の利点がますます顕著になる。 既存のデータから選択できない範囲を埋めるために、残余部分空間解析により未発見の目標方向を識別し、それらを補うための合成例を生成する勾配誘導合成ステップを導入する。 MMLU、BBH、TydiQAをLlama-2、Llama-3、Mistralで行った実験では、QSGSが0.5%の予算で一致し、Mistral-7Bの完全なデータ性能を上回っ、全てのベンチマークで最強のベースラインを上回り、予算が縮小するにつれて利益が増加することを示した。

関連論文リスト

• Complement Submodular Information Measures for Balanced and Robust Data Selection [0.20305676256390934]
  補足サブモジュール情報(CSI)は補足サブモジュールの新たなクラスである。 CSIの目標は、ロバストな部分集合選択における標準部分モジュラー目標よりも一貫して優れていることを示す。 特にCSIの目的は、コヒーレントなレア/テールの意味構造の保存を著しく改善することである。
  論文  参考訳（メタデータ） (2026-05-23T23:43:24Z)
• From Instance Selection to Fixed-Pool Data Recipe Search for Supervised Fine-Tuning [19.659110958894335]
  Supervised Fine-tuning (SFT) データ選択は、一般的にインスタンスランキングとして定式化される。 効果的なSFTトレーニングサブセットは、しばしば順序づけられたキュレーションレシピによって生成される。 キャッシュされたタスク、データ、モデル側信号に基づいて、固定プールの実体化を分離する2層解法であるAutoSelectionを導入する。
  論文  参考訳（メタデータ） (2026-05-13T03:27:21Z)
• A Critical Look at Targeted Instruction Selection: Disentangling What Matters (and What Doesn't) [14.070675074621043]
  インストラクションの微調整では、ターゲットタスクから小さなクエリセットを使用して、大きな候補プールから命令トレーニングデータのサブセットを選択する。 関心が高まりつつも、対象とする命令の選択に関する文献は断片化され、不透明なままである。 本研究では,データ表現と選択アルゴリズムという2つの中核成分を分離し,体系的に分析することで,この景観に明瞭さをもたらすことを目的とする。
  論文  参考訳（メタデータ） (2026-02-16T12:33:05Z)
• Uncertainty-Aware Gradient Signal-to-Noise Data Selection for Instruction Tuning [16.648609404000428]
  現代の命令データセットは、大きく、騒々しく、冗長であり、完全なデータの微調整はコストが高く、不要である。 本稿では,客観的な不確実性を考慮したデータ選択フレームワークであるGRADingを提案する。 本手法は, マルチアズ・ア・ジャッジ評価や人的評価において, ランダムなサブセットと強いベースラインとを一致させるか, あるいは超える。
  論文  参考訳（メタデータ） (2026-01-20T07:51:32Z)
• Add-One-In: Incremental Sample Selection for Large Language Models via a Choice-Based Greedy Paradigm [50.492124556982674]
  本稿では,新しい選択型サンプル選択フレームワークを提案する。 個々のサンプル品質の評価から、異なるサンプルのコントリビューション値の比較へと焦点をシフトする。 われわれのアプローチをより大きな医療データセットで検証し、現実の応用における実用性を強調した。
  論文  参考訳（メタデータ） (2025-03-04T07:32:41Z)
• Adapt-$\infty$: Scalable Continual Multimodal Instruction Tuning via Dynamic Data Selection [89.42023974249122]
  Adapt-$infty$は、生涯のインストラクションチューニングのための、新しいマルチウェイおよびアダプティブなデータ選択アプローチである。 勾配に基づくサンプルベクトルをグループ化して擬似スキルクラスタを構築する。 セレクタエキスパートのプールから各スキルクラスタの最高のパフォーマンスデータセレクタを選択する。 このデータセレクタは、トレーニングのために各スキルクラスタから最も重要なサンプルのサブセットをサンプリングする。
  論文  参考訳（メタデータ） (2024-10-14T15:48:09Z)
• LESS: Selecting Influential Data for Targeted Instruction Tuning [64.78894228923619]
  本稿では,データの影響を推定し,命令データ選択のための低ランクグレーディエント類似度探索を行うアルゴリズムであるLESSを提案する。 LESS選択したデータの5%のトレーニングは、さまざまなダウンストリームタスクにわたる完全なデータセットでのトレーニングよりも優れています。 我々の方法は、意図した下流アプリケーションに必要な推論スキルを識別するために、表面的なフォームキューを超えています。
  論文  参考訳（メタデータ） (2024-02-06T19:18:04Z)
• MILO: Model-Agnostic Subset Selection Framework for Efficient Model Training and Tuning [68.12870241637636]
  モデル学習からサブセット選択を分離するモデルに依存しないサブセット選択フレームワークMILOを提案する。 実験結果から、MILOはモデルを3ドル(約3,300円)でトレーニングし、ハイパーパラメータを20ドル(約2,300円)でチューニングできます。
  論文  参考訳（メタデータ） (2023-01-30T20:59:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。