論文の概要: How Low Can You Go: Fine-Tuning LLMs with Bayesian Optimization (LlMBO)

• arxiv url: http://arxiv.org/abs/2610.18504v1
• Date: Tue, 13 Oct 2026 14:58:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 21:02:46.176606
• Title: How Low Can You Go: Fine-Tuning LLMs with Bayesian Optimization (LlMBO)
• Title（参考訳）: ベイズ最適化による微調整LDM(LlMBO)
• Abstract要約: LlMBOはサンプリング効率が高く、勾配のないメモリライトで、同期なしでデバイス間で並列化される。 本稿では,LlMBOとGRPOを比較した数値実験について述べる。
• 参考スコア（独自算出の注目度）: 2.652124009253676
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recently, Morris et al. introduced TinyLoRA, a strategy for LLM fine-tuning which introduces arbitrarily few parameters, and demonstrated accuracy improvements using less than $10$ parameters rather than the ${\gtrsim 10,000}$ typically demanded by LoRA-based methods. However, that study continued to use gradient-based local search methods of the kind deployed for training multi-billion parameter LLMs in the first place. This article is predicated on the observation that, in the low dimensional setting, global optimization methods become tractable, unlocking Large language Model Bayesian Optimization (LlMBO). LlMBO is sample-efficient, gradient-free, memory-light, parallelizes across devices without synchronization, and, unlike policy-gradient methods, can optimize greedy-decoding accuracy directly. We describe numerical experiments comparing LlMBO against GRPO on fine-tuning tasks for a variety of models on a math benchmark suite which show that LlMBO can be a suitable alternative in this regime, matching or exceeding GRPO's fine tuning gains, while using a fraction of the compute and memory.
• Abstract（参考訳）: 近年、モリスらが開発したTinyLoRAは、任意に少数のパラメータを導入し、LoRAベースの手法で要求される${\gtrsim 10,000}$よりも10ドル未満のパラメータで精度の向上を実証する。 しかし、この研究は最初はマルチビリオンパラメータLSMを訓練するために配置された種類の勾配に基づく局所探索手法を引き続き用いた。 本稿では,低次元環境では,大言語モデルベイズ最適化(LlMBO)を解き放つことにより,大域的最適化手法がトラクタブルになることを前提とした。 LlMBOはサンプリング効率が高く、勾配のないメモリライトで、同期なしでデバイス間で並列化される。 LlMBOとGRPOを比較した数値実験を行い、計算とメモリのごく一部を使用しながら、LlMBOがGRPOの微調整利得に適合または超過することを示す。

関連論文リスト

• Amortized Bayesian Meta-Learning for Low-Rank Adaptation of Large Language Models [7.075648770762989]
  低ランク適応(LoRA)を用いた微調整型大規模言語モデルは、特定のデータセットから情報を組み込むためのコスト効率のよい方法である。 微調整 LLM がいかに一般化するか、すなわち、目に見えないデータセット上でどれだけうまく機能するかは、しばしば不明である。 我々は,大規模モデルへの一般化とスケールを改善するために,LoRA (ABMLL) のためのアモータライズベイズメタラーニングを提案する。
  論文  参考訳（メタデータ） (2025-08-19T21:57:59Z)
• Leveraging Coordinate Momentum in SignSGD and Muon: Memory-Optimized Zero-Order [39.25335214877435]
  ダウンストリームタスクに事前訓練されたモデルを適用するには、微調整大型言語モデル(LLM)が不可欠である。 従来の一階述語アルゴリズムは、モデルサイズであまりスケールしない、禁止的なメモリと計算コストを発生させる。 メモリと計算効率の代替としてゼロオーダー(ZO)最適化法を提案する。
  論文  参考訳（メタデータ） (2025-06-04T20:27:17Z)
• Zeroth-Order Fine-Tuning of LLMs in Random Subspaces [63.10833446782114]
  言語モデルのサイズが大きくなるにつれて、バックプロパゲーションに対するメモリ要求が増加する。 Zeroth-order (ZO) 最適化手法はメモリ効率の良い代替手段を提供する。 本稿では,高次元摂動によって生じる課題に対処するために,部分空間ゼロ次最適化を提案する。
  論文  参考訳（メタデータ） (2024-10-11T17:01:43Z)
• Bypass Back-propagation: Optimization-based Structural Pruning for Large Language Models via Policy Gradient [57.9629676017527]
  本研究では,プルーンドモデルの損失を最適化することにより,確率空間におけるプルーニングマスクを直接学習する最適化に基づく構造的プルーニングを提案する。 我々は、基底となるベルヌーイ分布をサンプルのバイナリ・プルーニングマスクに学習することでこれを実現する。 LLaMA, LLaMA-2, LLaMA-3, Vicuna, Mistral モデルによる実験により, 本手法の有効性と有効性を示すことができた。
  論文  参考訳（メタデータ） (2024-06-15T09:31:03Z)
• Scaling Sparse Fine-Tuning to Large Language Models [67.59697720719672]
  大きな言語モデル(LLM)は、パラメータの数が多いため、完全な微調整が難しい。 本研究では,パラメータの配列とパラメータのデルタを事前学習した値に対して保持する新しいスパース微調整法SpIELを提案する。 提案手法は,LoRAのようなパラメータ効率の高い微調整法よりも性能が優れ,実行時間も同等であることを示す。
  論文  参考訳（メタデータ） (2024-01-29T18:43:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。