Fugu-MT 論文翻訳(概要): Trust the Direction, Search the Step: Zero-and-First-Order Methods for LLM Fine-Tuning

論文の概要: Trust the Direction, Search the Step: Zero-and-First-Order Methods for LLM Fine-Tuning

arxiv url: http://arxiv.org/abs/2610.02190v1
Date: Thu, 01 Oct 2026 17:59:28 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-03 01:19:24.368821
Title: Trust the Direction, Search the Step: Zero-and-First-Order Methods for LLM Fine-Tuning
Title（参考訳）: 方向を信頼し、ステップを探索する: LLMファインチューニングのためのゼロ・ファーストオーダー法
Abstract要約: ステップサイズから方向選択を分離する軽量フレームワークを提案する。 ZFOは信頼された一階述語を用いて方向を決定し、この一次元部分空間に沿ってのみゼロ階述語評価を行う。我々は,共有サンプル評価が信頼できる有限差曲率推定を生成することを示す理論的保証を提供する。
参考スコア（独自算出の注目度）: 7.410212013074261
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Step-size selection remains a central challenge in large-scale neural network optimization; conservative steps slow convergence, while aggressive steps can destabilize it. We combine \textbf{Z}ero-and-\textbf{F}irst-\textbf{O}rder optimization~(ZFO) and propose a lightweight framework that decouples direction selection from step-size. ZFO uses a trusted first-order optimizer to determine the direction and performs zeroth-order evaluations only along this one-dimensional subspace to choose how far to move. Using the current {gradient information} and two additional objective function evaluations, ZFO instances construct a local model of the objective function along the proposed direction and select a curvature-aware step within a bounded search interval. This yields an adaptive step-selection mechanism that costs less than a full line search. We provide theoretical guarantees to show that shared-sample evaluations produce reliable finite-difference curvature estimates, that the induced local model selects a near-optimal step along the search interval, and that ZFO converges to a neighborhood of a stationary point. Across the evaluated settings, language models and datasets, ZFO frequently improves optimization and final performance relative to fixed-step first-order baselines, with the magnitude and preferred local model depending on the objective. Our code is publicly available at: https://github.com/nizswan/Zeroth-First-Order-Framework.
Abstract（参考訳）: 大規模なニューラルネットワーク最適化において、ステップサイズの選択は依然として中心的な課題であり、保守的なステップは収束を遅くし、攻撃的なステップはそれを不安定にすることができる。本稿では, ステップサイズから方向選択を分離する軽量なフレームワークの提案と, \textbf{Z}ero-and-\textbf{F}irst-\textbf{O}rder Optimization~(ZFO)を組み合わせる。 ZFOは信頼された1次オプティマイザを使用して方向を決定し、この1次元部分空間に沿ってのみゼロ階評価を行い、移動距離を選択する。現状の次次情報と2つの追加目的関数評価を用いて、ZFOインスタンスは提案した方向に沿って目的関数の局所モデルを構築し、有界探索区間内で曲率対応ステップを選択する。これにより、全行検索よりも安い適応的なステップ選択機構が得られる。我々は,共有サンプル評価が信頼性のある有限差分曲率推定値を生成すること,帰納的局所モデルが探索区間に沿って最適に近いステップを選択すること,ZFOが定常点の近傍に収束すること,を理論的に保証する。評価された設定、言語モデル、データセット全体にわたって、ZFOは、目標に応じて大きさと好みのローカルモデルによって、固定ステップの1次ベースラインに対する最適化と最終的なパフォーマンスを頻繁に改善する。私たちのコードは、https://github.com/nizswan/Zeroth-First-Order-Framework.comで公開されています。

関連論文リスト

Adaptively Incorporating Directional Hints into Zeroth-Order Optimization [49.940317286021696]
本研究では,非関数の次数ゼロの最適化を実現するアルゴリズムを開発した。非制御タスクにおける持続的な進捗を示す手法を検証した。
論文参考訳（メタデータ） (2026-09-08T05:42:02Z)
Two-Stage Optimizer-Aware Online Data Selection for Large Language Models [49.576993784867035]
我々は,大規模言語モデルの微調整において,勾配に基づくオンラインデータ選択と重み付けのための原則付きフレームワークを提案する。私たちのキーとなる考え方は、オンライン選択を静的なサンプルランキングではなく、次のターゲット指向のアップデートを州の下で形作ることです。実験の結果,本手法は既存のオンラインデータ選択ベースラインに対するコンバージェンスとダウンストリームのパフォーマンスを,同じデータ予算下で一貫して改善することが示された。
論文参考訳（メタデータ） (2026-03-08T21:46:16Z)
Hi-ZFO: Hierarchical Zeroth- and First-Order LLM Fine-Tuning via Importance-Guided Tensor Selection [4.808936079900314]
FO勾配をZO推定と相乗化するためにtextbfHi-ZFO (textbfHierarchical textbfZeroth- and textbfFirst-textbfOrder optimization) を提案する。また,Hi-ZFOはトレーニング時間を大幅に短縮しつつ,優れた性能を実現していることを示す。
論文参考訳（メタデータ） (2026-01-09T03:20:54Z)
Local Entropy Search over Descent Sequences for Bayesian Optimization [48.7994415668802]
実用的な方法は、勾配降下のような局所最適化手法を用いて初期設計の近傍を反復的に洗練することである。降下列で到達可能な解を明示的に対象とするベイズ最適化パラダイムである局所エントロピー探索(LES)を提案する。
論文参考訳（メタデータ） (2025-11-24T15:52:17Z)
Online Decision-Focused Learning [74.3205104323777]
意思決定中心学習(DFL)は、意思決定タスクで予測出力が使用されるモデルのトレーニングパラダイムとして、ますます人気が高まっている。本稿では,目的関数を規則化し,その相違を解消し,非最適関数を克服する方法を検討する。また、クナップサック実験におけるアルゴリズムの有効性を示し、2つの標準ベンチマークを上回りました。
論文参考訳（メタデータ） (2025-05-19T10:40:30Z)
Visualising Policy-Reward Interplay to Inform Zeroth-Order Preference Optimisation of Large Language Models [0.36326779753373206]
Zeroth-Order (ZO) 最適化では、勾配の代わりに関数評価を使用し、メモリ使用量を削減しているが、高次元モデルでは緩やかな収束に悩まされている。 ZOPrOは、大規模言語モデルにおける優先度最適化のために設計された新しいZOアルゴリズムである。本手法は,一階法に匹敵する収束時間を実現しつつ,報酬信号の連続的な向上を実証する。
論文参考訳（メタデータ） (2025-03-05T12:49:48Z)
Information-Theoretic Trust Regions for Stochastic Gradient-Based Optimization [17.79206971486723]
arTuROは適応モーメントベース最適化の高速収束とSGDの機能を組み合わせたものであることを示す。我々は、勾配からヘッセンの対角要素を近似し、1次情報のみを用いて予測されたヘッセンのモデルを構築する。 arTuROは適応モーメントベース最適化の高速収束とSGDの機能を組み合わせたものであることを示す。
論文参考訳（メタデータ） (2023-10-31T16:08:38Z)
Efficient first-order predictor-corrector multiple objective optimization for fair misinformation detection [5.139559672771439]
多重目的最適化(MOO)は、複数の競合する目的を同時に最適化することを目的としており、機械学習において重要な応用を見出した。本稿では,線形にしかスケールしないガウスニュートン近似を提案し,イテレーション毎に一階内積しか必要としない。このイノベーションは、大規模ネットワークで予測器のコレクタを可能にする。
論文参考訳（メタデータ） (2022-09-15T12:32:15Z)
STORM+: Fully Adaptive SGD with Momentum for Nonconvex Optimization [74.1615979057429]
本研究では,スムーズな損失関数に対する期待値である非バッチ最適化問題について検討する。我々の研究は、学習率と運動量パラメータを適応的に設定する新しいアプローチとともに、STORMアルゴリズムの上に構築されている。
論文参考訳（メタデータ） (2021-11-01T15:43:36Z)
Robust 6D Object Pose Estimation by Learning RGB-D Features [59.580366107770764]
本稿では、この局所最適問題を解くために、回転回帰のための離散連続的な新しい定式化を提案する。我々はSO(3)の回転アンカーを均一にサンプリングし、各アンカーから目標への制約付き偏差を予測し、最適な予測を選択するための不確実性スコアを出力する。 LINEMOD と YCB-Video の2つのベンチマーク実験により,提案手法が最先端の手法より優れていることが示された。
論文参考訳（メタデータ） (2020-02-29T06:24:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。