Fugu-MT 論文翻訳(概要): Speculative Decoding Scaling Laws (SDSL): Throughput Optimization Made Simple

論文の概要: Speculative Decoding Scaling Laws (SDSL): Throughput Optimization Made Simple

arxiv url: http://arxiv.org/abs/2603.11053v1
Date: Wed, 25 Feb 2026 16:28:59 GMT
ステータス: 翻訳完了
システム内更新日: 2026-03-15 16:38:22.598217
Title: Speculative Decoding Scaling Laws (SDSL): Throughput Optimization Made Simple
Title（参考訳）: 投機的デコードスケーリング法(SDSL) - スループット最適化をシンプルに
Authors: Amirhossein Bozorgkhoo, Igor Molybog,
Abstract要約: 投機的復号化(英: Speculative decoding)とは、複数の言語モデルを用いて推論を高速化する手法である。これまでの作業では、推論パイプラインのスループットを最適化するために、経験的なメンタルアプローチを使用していました。
参考スコア（独自算出の注目度）: 1.3669571918482655
License: http://creativecommons.org/publicdomain/zero/1.0/
Abstract: Speculative decoding is a technique that uses multiple language models to accelerate infer- ence. Previous works have used an experi- mental approach to optimize the throughput of the inference pipeline, which involves LLM training and can be costly. This study of spec- ulative decoding proposes a theory that ana- lytically connects the key hyperparameters of pre-trained LLMs to the throughput efficiency of a downstream SD-based inference system. The theory allows the prediction of throughput- optimal hyperparameters for the components of an inference system before their pre-training.
Abstract（参考訳）: 投機的復号化(英: Speculative decoding)とは、複数の言語モデルを用いて推論を高速化する手法である。これまでの研究では、LLMトレーニングを伴う推論パイプラインのスループットを最適化するために、実験的なメンタルアプローチを使用していた。本研究は、ana-が事前学習されたLSMの鍵ハイパーパラメータを下流SDベースの推論システムのスループット効率に解析的に接続する理論を提唱する。この理論は、事前学習前の推論システムのコンポーネントに対するスループット最適ハイパーパラメータの予測を可能にする。

関連論文リスト

SLO-Aware Compute Resource Allocation for Prefill-Decode Disaggregated LLM Inference [4.955827313214081]
Prefill-Decode (P/D) のデアグリゲーションは,Large Language Model (LLM) 推論の最適化戦略として広く採用されている。現在、最適なP/Dハードウェアリソース数を決定するための確立された方法論は存在しない。理論的モデリングと経験的ベンチマークを組み合わせたハイブリッドアプローチを提案する。
論文参考訳（メタデータ） (2026-03-05T01:41:09Z)
PVLS: A Learning-based Parameter Prediction Technique for Variational Quantum Linear Solvers [0.0]
本稿では、グラフニューラルネットワーク(GNN)を用いてVQLS回路の高品質な初期パラメータを生成する学習ベースのパラメータ予測フレームワークPVLSを紹介する。 16から1024までの行列サイズの実験では、PVLSは最適化の2.6倍のスピードアップを提供し、より少ないイテレーションを必要とすることが示されている。
論文参考訳（メタデータ） (2025-12-04T15:37:32Z)
Implicit Reward as the Bridge: A Unified View of SFT and DPO Connections [65.36449542323277]
本稿では,Large Language Model (LLM) 後の学習において,SFT(Supervised Fine-Tuning) と優先学習を統合した理論フレームワークを提案する。そこで本研究では,学習率の簡易かつ効果的な削減手法を提案する。
論文参考訳（メタデータ） (2025-06-15T05:42:29Z)
Optimization-Inspired Few-Shot Adaptation for Large Language Models [25.439708260502556]
LLM(Large Language Models)は、現実世界のアプリケーションで顕著な性能を示している。 LLMを微調整によって新しいタスクに適応させるには、数ショットのシナリオでは実行不可能な、実質的なトレーニングデータと計算資源が必要となることが多い。既存のアプローチ、例えば、コンテキスト内学習や。 PEFT(Efficient Fine-Tuning)は、重要な制限に直面している。
論文参考訳（メタデータ） (2025-05-25T11:54:23Z)
Optuna vs Code Llama: Are LLMs a New Paradigm for Hyperparameter Tuning? [45.58422897857411]
この研究は、LoRAを用いてパラメータ効率の良いCode Llamaを微調整することで、ハイパーパラメータ最適化のための大規模言語モデル(LLM)の使用について検討する。提案手法は,計算オーバーヘッドを大幅に削減しつつ,競合的あるいは優れたRoot Mean Square Error(RMSE)を実現する。その結果,LLMに基づく最適化によって,木構造型パーゼンエミュレータ (TPE) のようなベイズ的手法が確立されただけでなく,知覚品質と低レイテンシ処理を必要とする実世界のアプリケーションへのチューニングが高速化された。
論文参考訳（メタデータ） (2025-04-08T13:15:47Z)
Scaffolded Language Models with Language Supervision for Mixed-Autonomy: A Survey [52.00674453604779]
本調査は,戦後のLM周辺における新規構造物の設計と最適化に関する文献を整理した。本稿では,この階層構造を足場型LMと呼び,ツールを用いた多段階プロセスに統合されたLMに焦点を当てる。
論文参考訳（メタデータ） (2024-10-21T18:06:25Z)
A Meta-Learning Based Precoder Optimization Framework for Rate-Splitting Multiple Access [53.191806757701215]
本稿では,トランスミッタ(CSIT)における部分チャネル状態情報を持つRSMAプリコーダを直接最適化するために,メタラーニングに基づく事前コーダ最適化フレームワークを提案する。コンパクトニューラルネットワークのオーバーフィッティングを利用して、ASR(Average Sum-Rate)表現を最大化することにより、実行時間を最小化しながら、他のトレーニングデータの必要性を効果的に回避する。数値的な結果から,メタラーニングに基づく解は,中規模シナリオにおける従来のプリコーダ最適化に類似したASR性能を実現し,大規模シナリオにおける準最適低複雑性プリコーダアルゴリズムよりも大幅に優れていた。
論文参考訳（メタデータ） (2023-07-17T20:31:41Z)
Predictive Pipelined Decoding: A Compute-Latency Trade-off for Exact LLM Decoding [12.49711203027534]
予測パイプラインデコーディング(英: Predictive Pipelined Decoding、PPD)とは、大規模言語モデル(LLM)におけるグレディデコーディングを高速化する手法である。従来の戦略とは異なり、PDDはその後のトークン復号の開始を並列化するために追加の計算資源を使用する。我々は計算とレイテンシのトレードオフを分析するための理論的フレームワークを開発した。
論文参考訳（メタデータ） (2023-07-12T04:28:41Z)
Towards Learning Universal Hyperparameter Optimizers with Transformers [57.35920571605559]
我々は,テキストベースのトランスフォーマーHPOフレームワークであるOptFormerを紹介した。実験の結果,OptFormerは少なくとも7種類のHPOアルゴリズムを模倣できることがわかった。
論文参考訳（メタデータ） (2022-05-26T12:51:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。