論文の概要: ZOIF: Zeroth-Order Influence Function Estimation for LLM Data Selection Using Only Forward Passes

• arxiv url: http://arxiv.org/abs/2610.15336v1
• Date: Sun, 11 Oct 2026 04:25:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.189742
• Title: ZOIF: Zeroth-Order Influence Function Estimation for LLM Data Selection Using Only Forward Passes
• Title（参考訳）: ZOIF:前向きパスのみを用いたLLMデータ選択のゼロ階影響関数推定
• Abstract要約: フォワードパスを介して完全に動作する影響推定のためのゼロオーダーフレームワークであるZOIFを提案する。 ZOIFは影響を3つのBPフリーステージに分解する。 実験により、ZOIFは、下流のユーティリティーと競合するデータサブセットを選択し、場合によっては評価されたベースラインを上回ります。
• 参考スコア（独自算出の注目度）: 19.646772444336168
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Influence functions enable principled data selection for large language models (e.g., identifying influential training samples for model editing, debugging, or efficient fine-tuning). However, scaling IFs to LLMs is hindered by the intractability of billion-scale Hessian matrices and the prohibitive memory overhead of backpropagation (BP). While many classical IF approximations reduce Hessian complexity, they still rely on BP for gradient computation, requiring massive storage for intermediate activations that impedes practical data selection at scale. To address this, we propose ZOIF, a zeroth-order framework for influence estimation that operates entirely via forward passes, enabling memory-efficient data selection under resource constraints. ZOIF decomposes influence estimation into three BP-free stages: (1) approximating the average proxy gradient via zeroth-order estimation; (2) reformulating and solving the inverse Hessian-vector product as an auxiliary zeroth-order optimization to bypass explicit inversion; and (3) deriving per-sample influence scores via a forward finite difference along the previously computed parameter update direction. Experiments show that ZOIF selects data subsets with downstream utility competitive with, and in some cases exceeding, the evaluated baselines, yet at substantially lower peak memory cost and with comparable overall computation time.
• Abstract（参考訳）: 影響関数は、大きな言語モデル(例えば、モデル編集、デバッグ、効率的な微調整のための影響のあるトレーニングサンプルを特定する)の原則付きデータ選択を可能にする。 しかし、IFのLSMへのスケーリングは、数十億のヘッセン行列の抽出可能性と、バックプロパゲーション(BP)の禁止的なメモリオーバーヘッドによって妨げられている。 多くの古典的なIF近似はヘッセンの複雑性を減少させるが、それでもBPを勾配計算に頼り、大規模なデータ選択を阻害する中間活性化に大量の記憶を必要とする。 そこで本稿では, リソース制約下でのメモリ効率の高いデータ選択を実現するため, フォワードパスを介して完全に動作する影響推定のためのゼロオーダーフレームワークであるZOIFを提案する。 ZOIFは影響評価を3つのBPフリーステージに分解する: 1) 平均プロキシ勾配をゼロ次推定により近似する; 2) 逆ヘッセンベクトル積をゼロ次最適化として修正し、明示的反転をバイパスする; (3) 予め計算されたパラメータ更新方向に沿って前方有限差によるサンプルごとの影響スコアを導出する。 実験により、ZOIFは、ダウンストリームユーティリティーと競合するデータサブセットを選択し、場合によっては、評価されたベースラインをはるかに低いピークメモリコストと同等の計算時間で選択することを示した。

関連論文リスト

• StructZO: Structured Zeroth-Order Optimization for Memory-Efficient LLM Fine-Tuning [51.80103056601843]
  StructZOは、メモリ効率の良い微調整のための構造化ゼロ階最適化フレームワークである。 StructZOはZOベースラインを平均8.7%、個別タスクで最大26.9%改善している。 これらの結果から,ZO と FO 最適化のギャップは,構造化およびスペクトル制御されたZO 更新によって著しく狭まることが示唆された。
  論文  参考訳（メタデータ） (2026-10-12T09:16:30Z)
• ZO-Act: Efficient Zeroth-Order Fine-Tuning via One-Shot Activation-Informed Low-Rank Subspaces [8.08601759467653]
  Zeroth-order (ZO) 最適化により、バックプロパゲーションが利用できない場合やメモリ制限の場合に、大きな言語モデルを微調整できる。 本稿では, アクティベーションインフォームドZOファインチューニング手法であるZO-Actを提案し, 摂動を固定された低ランク部分空間に制限する。 我々は、ZO-Actを制限係数空間上のゼロ階最適化として解析し、低次元係数の摂動がZO推定器の分散依存収束項と有限差分誤差の両方を減少させることを示す。
  論文  参考訳（メタデータ） (2026-07-01T16:12:50Z)
• BLADE: Scalable Bi-level Adaptive Data Selection for LLM Training [34.64488220249771]
  データ選択のためのヘシアンフリーフレームワークBLADE(Bi-Level Adaptive Data sElection)を提案する。 BLADEは、インフルエンスベースの手法に基づく二段階最適化問題を、ペナル化された単一レベル目的として再定義する。 効率的なオンラインバッチ選択のために、BLADEをメモリレスランダム化ブロックコーディネートFrank-Wolfeアルゴリズムとしてインスタンス化する。
  論文  参考訳（メタデータ） (2026-06-17T03:35:04Z)
• Universally Empowering Zeroth-Order Optimization via Adaptive Layer-wise Sampling [43.822941944402544]
  ゼロ階最適化は、微調整された大規模言語モデルのための有望なメモリ効率のパラダイムを提供する。 しかし,壁面収差の緩やかな収束と高い推定分散により,その実用化は厳しく制約されている。 本稿では,適応層型ZO最適化フレームワークであるAdaLeZOを提案する。
  論文  参考訳（メタデータ） (2026-04-20T13:37:31Z)
• Influence-Preserving Proxies for Gradient-Based Data Selection in LLM Fine-tuning [51.87858735871145]
  対象モデルから直接影響保存プロキシを導出するフレームワークであるIproxを紹介する。 Iproxは、既製のプロキシやベースラインメソッドよりも一貫して優れています。
  論文  参考訳（メタデータ） (2026-02-19T20:57:30Z)
• Zero-Order Optimization for LLM Fine-Tuning via Learnable Direction Sampling [40.94400211806987]
  摂動方向のサンプリング分布を学習可能なポリシとして扱う政策駆動型ZOフレームワークを提案する。 学習したサンプリングは、品質勾配情報を改善し、$d$の収束境界への明示的な依存を緩和することを示す。 以上の結果から,適応方向サンプリングはZOの微調整を大規模に実現する上で有望な方法であることが示唆された。
  論文  参考訳（メタデータ） (2026-02-14T08:01:41Z)
• ActiveDPO: Active Direct Preference Optimization for Sample-Efficient Alignment [94.36403843133616]
  人間の好みを使って大きな言語モデル(LLM)を整列させると、さまざまな下流タスクのパフォーマンスが大幅に向上する。 既存の方法には強い理論的な基礎が欠けているか、制限的な報酬関数の仮定に依存している。 非線型報酬関数に対して理論的に基底化されたデータ選択基準を用いるアルゴリズムであるActiveDPOを提案する。
  論文  参考訳（メタデータ） (2025-05-25T17:42:52Z)
• Zeroth-Order Fine-Tuning of LLMs in Random Subspaces [63.10833446782114]
  言語モデルのサイズが大きくなるにつれて、バックプロパゲーションに対するメモリ要求が増加する。 Zeroth-order (ZO) 最適化手法はメモリ効率の良い代替手段を提供する。 本稿では,高次元摂動によって生じる課題に対処するために,部分空間ゼロ次最適化を提案する。
  論文  参考訳（メタデータ） (2024-10-11T17:01:43Z)
• Enhancing Zeroth-order Fine-tuning for Language Models with Low-rank Structures [21.18741772731095]
  ゼロ階数(ZO)アルゴリズムは、関数値の有限差を用いて勾配を近似することで、有望な代替手段を提供する。 既存のZO法は、LLM微調整で一般的な低ランク勾配構造を捉えるのに苦労し、準最適性能をもたらす。 本稿では,LLMにおけるこの構造を効果的に捕捉する低ランクZOアルゴリズム(LOZO)を提案する。
  論文  参考訳（メタデータ） (2024-10-10T08:10:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。