論文の概要: Recipes for Steering and Scaling LLMs via Sampling

• arxiv url: http://arxiv.org/abs/2608.26120v1
• Date: Fri, 19 Jun 2026 07:29:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.351237
• Title: Recipes for Steering and Scaling LLMs via Sampling
• Title（参考訳）: サンプリングによるLCMのステアリングとスケーリング
• Abstract要約: 大規模言語モデル(LLM)は確率的モデルであり、通常は自己回帰的分解によって定義される。 本稿では, 自己回帰型LPMをサンプリングで操り, スケーリングするためのフレキシブルで理論的に基礎的なフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 39.9096509342211
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) are probabilistic models, typically defined by an autoregressive factorization. While recent work has begun to study richer target distributions beyond the base model, the sampling strategies remain highly inefficient. In this paper, we present a flexible and theoretically grounded framework for steering and scaling autoregressive LLMs with sampling. Within this framework, we describe two algorithms -- one based on Sequential Monte Carlo (SMC) and one based on Replica Exchange (RE) -- that steer generation toward powering, product or tilting of the base model distribution. We illustrate this framework through scaling the generation quality of LLMs without external supervision or reward models. Experimental results demonstrate our methods scale more favorably than Best-of-N and standard MCMC baselines. Overall, this paper offers a systematic recipe for probabilistic inference with LLMs via sampling.
• Abstract（参考訳）: 大規模言語モデル(LLM)は確率的モデルであり、通常は自己回帰的分解によって定義される。 最近の研究は、ベースモデルを超えてよりリッチなターゲット分布の研究を始めているが、サンプリング戦略は非常に非効率なままである。 本稿では,自己回帰型LPMのサンプリングによる操舵およびスケーリングのための柔軟で理論的に基礎的なフレームワークを提案する。 本フレームワークでは,SMC(Sequential Monte Carlo)とRE(Replica Exchange)に基づく2つのアルゴリズムについて述べる。 我々は、外部の監督や報酬モデルなしでLLMの生成品質をスケールすることで、この枠組みを説明する。 実験により,本手法はBest-of-Nおよび標準MCMCベースラインよりも良好にスケール可能であることが示された。 全体として,本論文は,LLMを用いた確率的推論の体系的レシピを提供する。

関連論文リスト

• Scalable Power Sampling: Unlocking Efficient, Training-Free Reasoning for LLMs via Distribution Sharpening [14.647624238539777]
  本稿では,ベースモデルの自己回帰的生成分布を高速化する,学習不要かつ検証不要なアルゴリズムを提案する。 提案手法は,外部の報酬に頼らずに1ショットのGRPOに適合または超過し,推論遅延を10倍以上削減する。
  論文  参考訳（メタデータ） (2026-01-29T12:01:53Z)
• A Systematic Study of Model Merging Techniques in Large Language Models [43.5967188676583]
  モデルマージは、複数の微調整されたチェックポイントを、追加のトレーニングなしで単一のモデルに結合する。 本稿では,6つの最先端マージ手法の大規模かつ体系的な評価を行う。 その結果、最古かつ最も単純なタスク算術法は、LCMの性能向上を確実に得る唯一の方法であることがわかった。
  論文  参考訳（メタデータ） (2025-11-26T14:28:11Z)
• Language Ranker: A Lightweight Ranking framework for LLM Decoding [70.01564145836129]
  本稿では,レコメンデーションパイプラインのランク付け段階に類似した復号過程を概念化する。 この知見に触発されて、我々はLanguage Rankerを提案する。 実験の結果、Language Rankerは大規模報酬モデルに匹敵するパフォーマンスを達成する一方で、0.5Mの追加パラメータしか必要としないことがわかった。
  論文  参考訳（メタデータ） (2025-10-23T17:56:46Z)
• Reasoning with Sampling: Your Base Model is Smarter Than You Think [52.639108524651846]
  本稿では,基本モデル自身の可能性を利用した単純な反復サンプリングアルゴリズムを提案する。 我々のアルゴリズムは、ほぼ一致し、RLのアルゴリズムよりも優れているという推論において、大幅に向上することを示した。 我々の方法は、トレーニング、キュレートされたデータセット、検証器を必要としない。
  論文  参考訳（メタデータ） (2025-10-16T17:18:11Z)
• Leveraging Importance Sampling to Detach Alignment Modules from Large Language Models [48.15777554876988]
  伝統的なアライメント手法では、しばしば大きな事前訓練されたモデルを再訓練する必要がある。 本稿では,アライメント処理を重要サンプリングの一種として形式化する新しいtextitResidual Alignment Model (textitRAM) を提案する。 本稿では,トークンレベルの復号化を反復的に行う再サンプリングアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2025-05-26T08:53:02Z)
• Large Language Model-Enhanced Multi-Armed Bandits [43.34246396804588]
  大規模言語モデル(LLM)は、マルチアーム・バンディット(MAB)のようなシーケンシャルな意思決定タスクを解決するために採用されている。 古典的MABとLLMの強みを組み合わせた代替手法を提案する。 実世界のテキストデータセットを用いて設計したMABタスクと実験の両方を用いて経験的評価を行う。
  論文  参考訳（メタデータ） (2025-02-03T07:19:05Z)
• On Learning to Summarize with Large Language Models as References [101.79795027550959]
  大型言語モデル (LLM) は、一般的な要約データセットにおける元の参照要約よりも人間のアノテーションに好まれる。 より小さなテキスト要約モデルに対するLLM-as-reference学習設定について検討し,その性能が大幅に向上するかどうかを検討する。
  論文  参考訳（メタデータ） (2023-05-23T16:56:04Z)
• Low-variance estimation in the Plackett-Luce model via quasi-Monte Carlo sampling [58.14878401145309]
  PLモデルにおいて,より標本効率の高い予測値を生成するための新しい手法を開発した。 Amazon MusicのリアルなレコメンデーションデータとYahooの学習からランクへの挑戦を理論的にも実証的にも使用しています。
  論文  参考訳（メタデータ） (2022-05-12T11:15:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。