論文の概要: Sample-Adaptive Zeroth-Order Post-Training

• arxiv url: http://arxiv.org/abs/2610.12566v1
• Date: Thu, 08 Oct 2026 18:00:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.227401
• Title: Sample-Adaptive Zeroth-Order Post-Training
• Title（参考訳）: サンプル適応型ゼロ次ポストトライニング
• Abstract要約: Zeroth-order (ZO) 最適化は、微調整された大きな言語モデルのためのバックプロパゲーションに代わるメモリ効率の代替を提供する。 本稿では,サンプル適応ゼロ階最適化(SAZO)を提案する。
• 参考スコア（独自算出の注目度）: 9.46407827195537
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Zeroth-order (ZO) optimization offers a memory-efficient alternative to backpropagation for fine-tuning large language models. However, existing ZO methods typically sample training examples uniformly, overlooking their evolving importance and leaving avoidable estimation variance. To address this limitation, we propose Sample-Adaptive Zeroth-Order Optimization (SAZO), which learns sample importance online and adaptively allocates queries to accelerate convergence. SAZO extracts gradient-norm information from existing directional differences to estimate sample importance without access to true gradients. Furthermore, to track evolving importance from sparse minibatch feedback, SAZO maintains per-example exponential moving averages that aggregate observations across updates. The method requires no additional model evaluations and only $O(N)$ additional scalar state compared with MeZO. We prove that SAZO asymptotically matches the leading convergence term of the minimum-variance sampling oracle, and achieves a strictly faster convergence rate than standard methods. Extensive experiments across four model families demonstrate improved average downstream performance and up to $6\times$ faster convergence to the same training loss in terms of query count.
• Abstract（参考訳）: Zeroth-order (ZO) 最適化は、微調整された大きな言語モデルのためのバックプロパゲーションに代わるメモリ効率の代替を提供する。 しかし、既存のZOメソッドは一般的に、その進化する重要性を見落とし、回避可能な推定分散を残して、一様にサンプルトレーニング例をサンプリングする。 この制限に対処するため,サンプル適応ゼロ階最適化 (SAZO) を提案する。 SAZOは、既存の方向差から勾配ノルム情報を抽出し、真の勾配にアクセスせずにサンプル重要度を推定する。 さらに、スパース・ミニバッチフィードバックから進化する重要性を追跡するために、SAZOは、更新全体にわたって観測を集約する指数的移動平均を指数的に維持する。 追加のモデル評価は不要で、MeZOと比較してO(N)$のスカラー状態のみである。 我々は,SAZOが最小分散サンプリングオラクルの先行収束項と漸近的に一致し,標準手法よりも厳密な収束率を達成することを証明した。 4つのモデルファミリにわたる大規模な実験では、平均ダウンストリームのパフォーマンスが向上し、クエリカウントの点で同じトレーニング損失に対して最大6\times$高速収束が示されている。

関連論文リスト

• Curvature-Aware Zeroth-Order Optimization for Memory-Efficient Test-Time Adaptation [15.216413521560705]
  テスト時間適応(TTA)は、未ラベルのテストデータに適応することにより、事前訓練されたモデルのクロスドメイン性能を向上させることを目的としている。 ZOメソッドはフォワード計算のみに依存しており、デバイス上のデプロイメントの複雑さとメモリオーバーヘッドを大幅に削減することができる。 本稿では,ZO最適化に基づくTTAの性能を大幅に向上させる改良型ZO法を提案する。
  論文  参考訳（メタデータ） (2026-08-12T17:17:40Z)
• Instance-optimal stochastic convex optimization: Can we improve upon sample-average and robust stochastic approximation? [19.235225166737354]
  本研究では,加法雑音と乗法雑音の両方を導入するオラクルの下で,スムーズかつ強凸な集団損失関数の制約のない最小化について検討する。 その結果, VISOR の加速変種はインスタンス最適であり, 対数的因子の最大化を達成できる可能性が示唆された。
  論文  参考訳（メタデータ） (2026-03-26T17:12:01Z)
• Zero-Order Optimization for LLM Fine-Tuning via Learnable Direction Sampling [40.94400211806987]
  摂動方向のサンプリング分布を学習可能なポリシとして扱う政策駆動型ZOフレームワークを提案する。 学習したサンプリングは、品質勾配情報を改善し、$d$の収束境界への明示的な依存を緩和することを示す。 以上の結果から,適応方向サンプリングはZOの微調整を大規模に実現する上で有望な方法であることが示唆された。
  論文  参考訳（メタデータ） (2026-02-14T08:01:41Z)
• Closing the Approximation Gap of Partial AUC Optimization: A Tale of Two Formulations [121.39938773554523]
  ROC曲線の下の領域(AUC)は、クラス不均衡と決定制約の両方を持つ実世界のシナリオにおける重要な評価指標である。 PAUC最適化の近似ギャップを埋めるために,2つの簡単なインスタンス単位のミニマックス修正を提案する。 得られたアルゴリズムは、サンプルサイズと典型的な一方方向と双方向のPAUCに対して$O(-2/3)$の収束率の線形パーイテレーション計算複雑性を享受する。
  論文  参考訳（メタデータ） (2025-12-01T02:52:33Z)
• Zeroth-Order Fine-Tuning of LLMs in Random Subspaces [63.10833446782114]
  言語モデルのサイズが大きくなるにつれて、バックプロパゲーションに対するメモリ要求が増加する。 Zeroth-order (ZO) 最適化手法はメモリ効率の良い代替手段を提供する。 本稿では,高次元摂動によって生じる課題に対処するために,部分空間ゼロ次最適化を提案する。
  論文  参考訳（メタデータ） (2024-10-11T17:01:43Z)
• Double Variance Reduction: A Smoothing Trick for Composite Optimization Problems without First-Order Gradient [40.22217106270146]
  ばらつき低減技術はサンプリングのばらつきを低減し、一階法(FO)とゼロ階法(ZO)の収束率を向上するように設計されている。 複合最適化問題において、ZO法は、ランダム推定から導かれる座標ワイド分散と呼ばれる追加の分散に遭遇する。 本稿では,ZPDVR法とZPDVR法を提案する。
  論文  参考訳（メタデータ） (2024-05-28T02:27:53Z)
• Asymptotically Unbiased Instance-wise Regularized Partial AUC Optimization: Theory and Algorithm [101.44676036551537]
  One-way partial AUC (OPAUC) と Two-way partial AUC (TPAUC) はバイナリ分類器の平均性能を測定する。 既存の手法のほとんどはPAUCをほぼ最適化するしかなく、制御不能なバイアスにつながる。 本稿では,分散ロバスト最適化AUCによるPAUC問題の簡易化について述べる。
  論文  参考訳（メタデータ） (2022-10-08T08:26:22Z)
• Adaptive Sketches for Robust Regression with Importance Sampling [64.75899469557272]
  我々は、勾配降下(SGD)による頑健な回帰を解くためのデータ構造を導入する。 我々のアルゴリズムは、サブ線形空間を使用し、データに1回パスするだけで、SGDの$T$ステップを重要サンプリングで効果的に実行します。
  論文  参考訳（メタデータ） (2022-07-16T03:09:30Z)
• Minibatch vs Local SGD with Shuffling: Tight Convergence Bounds and Beyond [63.59034509960994]
  シャッフルに基づく変種(ミニバッチと局所ランダムリシャッフル)について検討する。 ポリアック・ロジャシエヴィチ条件を満たす滑らかな函数に対して、これらのシャッフル型不変量(英語版)(shuffling-based variants)がそれらの置換式よりも早く収束することを示す収束境界を得る。 我々は, 同期シャッフル法と呼ばれるアルゴリズムの修正を提案し, ほぼ均一な条件下では, 下界よりも収束速度が速くなった。
  論文  参考訳（メタデータ） (2021-10-20T02:25:25Z)
• Minimal Variance Sampling with Provable Guarantees for Fast Training of Graph Neural Networks [22.618779809748435]
  既存のサンプリング手法は主にグラフ構造情報に基づいており、最適化の動的性を無視する。 最小分散のノードを適応的にサンプリングする(近似)勾配情報を利用する分離分散低減戦略を提案する。 提案手法は,小バッチサイズが小さい場合でも,より高速な収束率とより優れた一般化を必要とすることを理論的,実証的に示す。
  論文  参考訳（メタデータ） (2020-06-24T16:49:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。