論文の概要: BayesPO: Bayesian Prompt Optimization via Parallel-Tempered Gradient-Guided Discrete MCMC

• arxiv url: http://arxiv.org/abs/2607.16001v1
• Date: Fri, 17 Jul 2026 14:39:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-20 17:56:52.874171
• Title: BayesPO: Bayesian Prompt Optimization via Parallel-Tempered Gradient-Guided Discrete MCMC
• Title（参考訳）: BayesPO:Parallel-Tempered Gradient-Guided Discrete MCMCによるベイズプロンプト最適化
• Abstract要約: BayesPOはマルコフ連鎖モンテカルロとインスタンス化され、平行なテンパリングを統合して、粗いエネルギー景観のグローバルな探索を行う。 Qwen2.5モデルを用いた実験では、サンプルは診断タスクにおいて意味的に意味のあるプロンプトを発見する。 24の命令推論サブタスクを最適化したAPEは、平均精度を60.04%から63.23%に向上させる。
• 参考スコア（独自算出の注目度）: 10.650418686153921
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Prompt optimization adapts large language models (LLMs) without updating model parameters, but many automatic prompt optimizers remain heuristic search procedures over candidate instructions. This paper studies prompt optimization as Bayesian posterior sampling over discrete prompt tokens. We define a posterior distribution by combining a task likelihood term, which rewards prompts that explain input-output examples, with a language-model prior, which favors fluent instructions. This converts prompt optimization into an energy-based posterior sampling problem, for which gradients can be used to guide discrete Markov chain Monte Carlo (MCMC) proposals over vocabulary tokens. We refer to our framework as BayesPO, short for Bayesian Prompt Optimization. In this paper, BayesPO is instantiated with Markov chain Monte Carlo: it uses a Metropolis-Hastings corrected Gibbs-with-Langevin (GwL) proposal and integrates parallel tempering for global exploration of rugged LLM-induced energy landscapes. The concrete sampler further adapts the GwL sampler to the practical constraints of non-weight-tied LLM embeddings. Experiments with Qwen2.5 models show that the sampler discovers semantically meaningful prompts on diagnostic tasks, that parallel tempering helps escape a local optimum in a poetry completion task, and that post-optimizing APE prompts on 24 instruction-induction subtasks improves average accuracy from 60.04% to 63.23%. The study also reveals two main limitations: energy minimization may overfit small optimization sets, and the current sampler remains computationally expensive. These findings position Bayesian prompt sampling as a principled post-optimization tool and point to a promising direction for probabilistic prompt optimization.
• Abstract（参考訳）: Prompt Optimizationは、モデルパラメータを更新せずに大きな言語モデル(LLM)に適応するが、多くの自動プロンプトオプティマイザは、候補命令よりもヒューリスティックな探索手順を保っている。 本稿では,個別のプロンプトトークン上でのベイズ後方サンプリングの最適化について述べる。 我々は、入力出力の例を説明する代償となるタスク確率項と、流速な指示を好む言語モデルとを組み合わせることで、後続分布を定義する。 これにより、即時最適化をエネルギーベースの後続サンプリング問題に変換し、そこでは微分マルコフ連鎖モンテカルロ(MCMC)の提案を語彙トークンに導出するのに勾配を用いることができる。 我々はベイズPO(BayesPO)と呼び、ベイズプロンプト最適化(Bayesian Prompt Optimization)の略である。 提案手法はGibs-with-Langevin(GwL)を補正したメトロポリス・ハスティングス(Metropolis-Hastings)を用いており,LLMにより引き起こされるエネルギー景観のグローバルな探索に並列テンパリングを統合する。 コンクリート試料装置は、さらにGwL試料装置を非重み付きLLM埋め込みの実用的制約に適応させる。 Qwen2.5モデルを用いた実験では、サンプルが診断タスクにおいて意味論的に意味のあるプロンプトを発見し、並列テンパリングが詩の完成タスクにおいて局所的最適を逃れるのに役立つこと、24の命令推論サブタスクに対する後最適化PEプロンプトが平均精度を60.04%から63.23%に向上すること、などが示されている。 エネルギーの最小化は小さな最適化セットをオーバーフィットさせる可能性があり、現在のサンプリング器は計算に費用がかかる。 これらの知見はベイジアン・プロンプトサンプリングを基本最適化ツールとして位置づけ、確率的プロンプト最適化のための有望な方向を示すものである。

関連論文リスト

• Embedding by Elicitation: Dynamic Representations for Bayesian Optimization of System Prompts [22.060204303535187]
  システムプロンプトは、現代のAIシステムにおいて中心的な制御メカニズムであり、会話、タスク、ユーザ集団間での振る舞いを形作る。 本研究では,この集合フィードバック設定を,個別の可変長テキストに対するサンプル制約付きブラックボックス最適化として検討する。 本稿では,ベイズ最適化フレームワークReElicitを紹介する。
  論文  参考訳（メタデータ） (2026-05-18T20:28:17Z)
• GFlowPO: Generative Flow Network as a Language Model Prompt Optimizer [51.31263673158136]
  GFlowPOは、メタプロンプト参照-LMにより正規化される潜在プロンプトに対する後部推論問題としてプロンプトをキャストする。 GFlowPOは、最近の離散的なプロンプト最適化ベースラインを一貫して上回っている。
  論文  参考訳（メタデータ） (2026-02-03T10:30:03Z)
• Prompt Optimization Via Diffusion Language Models [73.9599434962714]
  本稿では,迅速な最適化のための拡散型フレームワークを提案する。 本手法は,下流言語モデルへのアクセスや変更を必要とせずに,フレキシブルかつスパンレベルのプロンプト更新を可能にする。 適度な拡散ステップ数によって、精製品質と安定性のバランスが良くなることを示す。
  論文  参考訳（メタデータ） (2026-01-30T00:00:54Z)
• LLM Based Bayesian Optimization for Prompt Search [6.764478031814792]
  本稿では,大規模言語モデルを用いたテキスト分類を高速化するアルゴリズムを提案する。 本稿では,BO-LLMアルゴリズムを2つのデータセットで評価し,その利点について述べる。
  論文  参考訳（メタデータ） (2025-10-05T22:32:50Z)
• Can Prompt Difficulty be Online Predicted for Accelerating RL Finetuning of Reasoning Models? [65.18157595903124]
  本研究では任意のプロンプトの反復的近似評価について検討する。 Model Predictive Prompt Selection (MoPPS)はベイズにおけるリスク予測フレームワークである。 MoPPSは迅速な困難を確実に予測し、ロールアウトを大幅に削減したトレーニングを加速する。
  論文  参考訳（メタデータ） (2025-07-07T03:20:52Z)
• In-context Demonstration Matters: On Prompt Optimization for Pseudo-Supervision Refinement [71.60563181678323]
  大規模言語モデル(LLM)は様々なタスクで大きな成功を収めており、生成品質をさらに向上させるためには微調整が必要である場合もある。 これらの課題に対処する直接的な解決策は、教師なしの下流タスクから高信頼のデータを生成することである。 本稿では,プロンプトと全体的な擬似スーパービジョンを両立させる新しい手法,擬似教師付きデモアライメント・アライメント・アライメント・プロンプト・最適化(PAPO)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-04T03:39:28Z)
• Bypass Back-propagation: Optimization-based Structural Pruning for Large Language Models via Policy Gradient [57.9629676017527]
  本研究では,プルーンドモデルの損失を最適化することにより,確率空間におけるプルーニングマスクを直接学習する最適化に基づく構造的プルーニングを提案する。 我々は、基底となるベルヌーイ分布をサンプルのバイナリ・プルーニングマスクに学習することでこれを実現する。 LLaMA, LLaMA-2, LLaMA-3, Vicuna, Mistral モデルによる実験により, 本手法の有効性と有効性を示すことができた。
  論文  参考訳（メタデータ） (2024-06-15T09:31:03Z)
• A Block Metropolis-Hastings Sampler for Controllable Energy-based Text Generation [78.81021361497311]
  我々は,大規模言語モデルの反復的プロンプトを通じて,各ステップにおけるシーケンス全体の書き直しを提案する新しいメトロポリス・ハスティングス(MH)サンプリング器を開発した。 対象分布からより効率的かつ正確なサンプリングが可能となり, (b) 事前に固定するのではなく, サンプリング手順により生成長を決定することが可能となった。
  論文  参考訳（メタデータ） (2023-12-07T18:30:15Z)
• A Bayesian approach for prompt optimization in pre-trained language models [1.980639720136382]
  本稿では,大規模言語モデル (LLM) へのアクセスを伴ってテキスト入力に追加される離散トークンを直接検索するハードプロンプトチューニング (HPT) に焦点を当てる。 本稿では,pyTorch上に構築されたベイズ最適化研究のためのライブラリであるBoTorchを使用する。
  論文  参考訳（メタデータ） (2023-12-01T10:10:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。