論文の概要: GRZO: Group-Relative Zeroth-Order Optimization for Large Language Model Fine-Tuning

• arxiv url: http://arxiv.org/abs/2606.02857v1
• Date: Mon, 01 Jun 2026 20:19:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-03 22:00:04.5864
• Title: GRZO: Group-Relative Zeroth-Order Optimization for Large Language Model Fine-Tuning
• Title（参考訳）: GRZO:大規模言語モデルファインチューニングのためのグループ相対ゼロ階最適化
• Authors: Liyan Tan, Yequan Zhao, Yifan Yang, Ruijie Zhang, Xinling Yu, Zheng Zhang,
• Abstract要約: GRZOは、微調整された大規模言語モデルのバックプロパゲーションに代わるメモリ効率のよい代替品である。 相対零次推論はミニバッチの例ごとに一独立な摂動を引き出す。
• 参考スコア（独自算出の注目度）: 9.353330804829493
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Zeroth-order (ZO) optimization is a memory-efficient alternative to backpropagation for fine-tuning large language models, but its deployment is limited by the high variance of gradient estimation. We propose GRZO, a Group-Relative Zeroth-Order optimizer that draws one pseudo-independent perturbation per mini-batch example and aggregates the per-example losses through group-relative normalization, raising the effective gradient-direction count from one to the batch size at no additional forward cost while preserving inference-level memory. We prove that GRZO is directionally unbiased with variance shrinking proportionally to the batch size, yielding a tighter nonconvex convergence bound than MeZO. Across RoBERTa-large, Llama3-8B, and OPT-13B over multiple tasks, GRZO improves average accuracy on Llama3-8B by $+3.0$ over MeZO at $23\%$ lower peak GPU memory; as a drop-in replacement for the MeZO core, it lifts sparse, low-rank, and quantized ZO variants by $+6.0$ on average.
• Abstract（参考訳）: Zeroth-order (ZO) 最適化は、微調整された大規模言語モデルのバックプロパゲーションに代わるメモリ効率のよい方法であるが、その展開は勾配推定の高分散によって制限される。 我々は,小バッチ毎に1つの擬似非独立摂動を描画し,グループ相対正規化による例ごとの損失を集約するグループ相対ゼロ階最適化器GRZOを提案する。 GRZOは, バッチサイズに比例して分散縮退し, MeZOよりも密接な非凸収束性が得られることを証明した。 複数のタスクにわたるRoBERTa-large, Llama3-8B, OPT-13B全体で、GRZOはLlama3-8Bの平均精度を$+3.0$ over MeZOで2,3\%$ローピークGPUメモリで改善し、MeZOコアのドロップイン交換として、スパース、ローランク、量子化されたZOの変種を平均$+6.0$で持ち上げる。

関連論文リスト

• Robust and Efficient Zeroth-Order LLM Fine-Tuning via Adaptive Bayesian Subspace Optimizer [4.6561758107970395]
  ゼロオーダー (ZO) 最適化による微調整大型言語モデル (LLM) は,関数評価による勾配の近似によりメモリ削減を行う。 適応型textbfBayesian textbfSubspace textbfZeroth-Order textbfOptimizer について紹介する。
  論文  参考訳（メタデータ） (2026-01-04T09:35:11Z)
• ConMeZO: Adaptive Descent-Direction Sampling for Gradient-Free Finetuning of Large Language Models [15.938742690168914]
  ゼロオーダーまたはデリバティブフリー最適化(MeZO)は、大規模言語モデルを微調整するための魅力的な戦略である。 本稿では,新しいゼロ階パラメータ収束戦略であるConMeZOを提案する。 我々は,ConMeZOがMeZOと同じ最悪の収束率を達成することを証明した。
  論文  参考訳（メタデータ） (2025-11-04T17:35:52Z)
• VAMO: Efficient Zeroth-Order Variance Reduction for SGD with Faster Convergence [6.574641780732972]
  大規模非問題はディープラーニングでは一般的である。 ファーストオーダー(FO)は今日のベースラインとして機能する。 ZOアルゴリズムは計算量とメモリコストを減らす。 VAMOは、より少ない動的メモリ要求でこれらのゲインを達成する。
  論文  参考訳（メタデータ） (2025-05-20T05:31:15Z)
• TeZO: Empowering the Low-Rankness on the Temporal Dimension in the Zeroth-Order Optimization for Fine-tuning LLMs [58.19080159470868]
  モデルと時間次元の両方にわたって低ランク度をキャプチャする新しい低ランクZO推定器TeZOを提案する。 具体的には、時間次元に沿ったZO摂動を3次元テンソルとして表現し、Canonical Polyadic Decomposition (CPD)を用いて各低ランク2次元行列を抽出する。
  論文  参考訳（メタデータ） (2025-01-31T11:34:03Z)
• Zeroth-Order Fine-Tuning of LLMs in Random Subspaces [63.10833446782114]
  言語モデルのサイズが大きくなるにつれて、バックプロパゲーションに対するメモリ要求が増加する。 Zeroth-order (ZO) 最適化手法はメモリ効率の良い代替手段を提供する。 本稿では,高次元摂動によって生じる課題に対処するために,部分空間ゼロ次最適化を提案する。
  論文  参考訳（メタデータ） (2024-10-11T17:01:43Z)
• Fine-Tuning Language Models with Just Forward Passes [92.04219196752007]
  微調整言語モデル(LM)は、様々な下流タスクで成功したが、LMのサイズが大きくなるにつれて、バックプロパゲーションは大量のメモリを必要とする。 本稿では,メモリ効率の高いゼロソーダ(MeZO)を提案する。
  論文  参考訳（メタデータ） (2023-05-27T02:28:10Z)
• Balancing Rates and Variance via Adaptive Batch-Size for Stochastic Optimization Problems [120.21685755278509]
  本研究は,ステップサイズの減衰が正確な収束に必要であるという事実と,一定のステップサイズがエラーまでの時間でより速く学習するという事実のバランスをとることを目的とする。 ステップサイズのミニバッチを最初から修正するのではなく,パラメータを適応的に進化させることを提案する。
  論文  参考訳（メタデータ） (2020-07-02T16:02:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。