論文の概要: Robust LLM Data Selection via Content-Invariant Gradient Attribution

• arxiv url: http://arxiv.org/abs/2610.36755v1
• Date: Tue, 27 Oct 2026 07:12:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.533025
• Title: Robust LLM Data Selection via Content-Invariant Gradient Attribution
• Title（参考訳）: コンテンツ不変なグラディエント属性によるロバストLCMデータ選択
• Abstract要約: 本稿では、命令データ選択のための堅牢なフレームワークであるコンテンツ不変勾配属性(CIGA)を提案する。 CIGAは、意味論的に保存される表面形態の摂動の下で、帰属と安定に影響を及ぼす層を特定する。 実験により、CIGAは下流の能力を保ち、平均性能を改善しながら、表面の摂動下でより安定したランキングを生成することが示された。
• 参考スコア（独自算出の注目度）: 53.76506681966521
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Gradient-based data attribution has become an important tool for high-quality data selection in the instruction fine-tuning of large language models (LLMs), as it estimates the contribution of training examples through their influence on model optimization. However, we find that existing global gradient attribution methods suffer from surface-form bias: minor changes to semantically irrelevant details, such as wording or formatting, can produce highly inconsistent attribution scores even when the underlying content remains unchanged. To address this issue, we propose Content-Invariant Gradient Attribution (CIGA), a robust framework for instruction data selection. CIGA first identifies layers whose gradients are both influential for attribution and stable under semantics-preserving surface-form perturbations, thereby reducing formatting noise in gradient features. It then dynamically fuses these attribution signals with semantic representations of the input, combining optimization-level influence with content-level information. Extensive experiments across multiple benchmarks show that CIGA produces more stable rankings under surface-form perturbations while preserving downstream capabilities and improving average performance. CIGA also reduces attribution cost, offering a robust and efficient approach to data selection for LLM instruction tuning.
• Abstract（参考訳）: 大規模言語モデル (LLM) の命令微調整において, 学習例の寄与をモデル最適化の影響で推定する上で, 勾配に基づくデータ属性は, 高品質なデータ選択のための重要なツールとなっている。 しかし,既存のグローバルなグラデーション属性法は表面的偏見に悩まされていることがわかった。文言やフォーマッティングなど意味的に無関係な細部への微妙な変化は,内容が変化していない場合でも,高い一貫性のない属性スコアを生成することができる。 この問題に対処するために,命令データ選択のための堅牢なフレームワークであるCIGA(Content-Invariant Gradient Attribution)を提案する。 CIGAは、まず、帰属に影響を及ぼす層と、セマンティックスを保存する表面形状の摂動の下で安定な層を識別し、勾配特徴のフォーマッティングノイズを低減させる。 次に、これらの属性信号と入力の意味表現を動的に融合させ、最適化レベルの影響とコンテンツレベルの情報を組み合わせる。 複数のベンチマークにわたる大規模な実験により、CIGAは下流の能力を保ち、平均性能を向上しながら、表面的な摂動の下でより安定したランキングを生成することが示された。 CIGAは帰属コストを低減し、LLM命令チューニングのための堅牢で効率的なデータ選択のアプローチを提供する。

関連論文リスト

• Metadata-Free Meta-Reweighted Direct Preference Optimization under Noisy Preference Labels [4.826561433595647]
  両レベル最適化フレームワークを提案し、ある仮定の下では、クリーンデータの下でDPO最適化を回復可能であることを証明した。 高品質なメタデータを得るのが難しいことを考慮し,タスクに依存しないメタ知識駆動手法を提案する。 TL;DR要約とHH単ターン対話実験により,提案手法は異なる雑音速度下で複数のDPOベースライン上でのトレーニング性能を向上させることを示した。
  論文  参考訳（メタデータ） (2026-07-09T09:20:25Z)
• From Unfamiliar to Familiar: Detecting Pre-training Data via Gradient Deviations in Large Language Models [24.38939297043815]
  既存の手法は主に微調整前後の確率に基づく統計的特徴や信号に焦点を当てている。 対象サンプルの勾配偏差スコアを探索することにより,事前学習データを識別するGDSを提案する。 GDSは、強いベースライン上でのクロスデータセット転送性を大幅に改善し、最先端の性能を実現している。
  論文  参考訳（メタデータ） (2026-03-05T05:21:51Z)
• Grad-ELLM: Gradient-based Explanations for Decoder-only LLMs [52.15785423211181]
  Grad-ELLMは、デコーダのみをベースとした大規模言語モデルのための勾配に基づく属性法である。 我々は、より公平な比較を提供する2つの忠実度指標$-Soft-NCと$-Soft-NSを導入する。 実験の結果,Grad-ELLMは他の属性法よりも優れた忠実性が得られることがわかった。
  論文  参考訳（メタデータ） (2026-01-06T15:22:39Z)
• Reward-Augmented Data Enhances Direct Preference Alignment of LLMs [63.32585910975191]
  報奨条件付き大言語モデル(LLM)を導入し、データセット内の応答品質のスペクトル全体から学習する。 当社のアプローチは,DPOをかなりのマージンで継続的に向上させることを示す。 本手法は,嗜好データの有用性を最大化するだけでなく,未学習の問題も軽減し,データ拡張を超えてその広範な効果を実証する。
  論文  参考訳（メタデータ） (2024-10-10T16:01:51Z)
• A Self-Refinement Strategy for Noise Reduction in Grammatical Error Correction [54.569707226277735]
  既存の文法的誤り訂正(GEC)のアプローチは、手動で作成したGECデータセットによる教師あり学習に依存している。 誤りが不適切に編集されたり、修正されなかったりする「ノイズ」は無視できないほどある。 本稿では,既存のモデルの予測整合性を利用して,これらのデータセットをデノマイズする自己補充手法を提案する。
  論文  参考訳（メタデータ） (2020-10-07T04:45:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。