論文の概要: BOReFT: Manifold Steering of Language Models for Black-box Optimization

• arxiv url: http://arxiv.org/abs/2609.33722v1
• Date: Sun, 27 Sep 2026 16:25:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-04 17:18:09.731122
• Title: BOReFT: Manifold Steering of Language Models for Black-box Optimization
• Title（参考訳）: BOReFT:ブラックボックス最適化のための言語モデルのマニフォールドステアリング
• Abstract要約: 本稿では,凍結言語モデルにおける隠れ状態介入のコンパクトで低次元空間を学習するBOReFTを紹介する。 学習領域は意味領域にまたがり,検索を支援するスムーズ性を示す。
• 参考スコア（独自算出の注目度）: 43.34655869591296
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language models are increasingly used as proposal models for black-box search, from program optimization to molecular design. Existing approaches typically improve proposals through iterative prompting or parameter updates, offering limited control over how completely and efficiently the model's search space is explored. Continuous optimization methods, such as Bayesian optimization, provide a principled way to search but require a suitable domain to operate over. To address this, we introduce BOReFT, which learns a compact, low-dimensional space of hidden-state interventions in a frozen language model, and uses this space as the search domain for Bayesian optimization with an external scoring function. Empirically, we find that the learned domain spans semantic regions and exhibits smoothness properties that support search. Theoretically, we show that semantic coverage and interpolation control the best score available in the learned space, and that decoding from this space yields a standard stochastic-bandit observation model for adaptive search. We evaluate BOReFT on the interpretable word search task "Semantle" and on three more real-world discovery tasks in de novo molecule property optimization. Compared to strong LLM baselines, BOReFT finds in Semantle a higher number of hidden targets and, on two out of three molecular objectives, achieves higher property scores. Consequently, our method provides a principled new bridge between discrete proposal spaces of LLM-based search and continuous black-box optimization.
• Abstract（参考訳）: 言語モデルは、プログラム最適化から分子設計に至るまで、ブラックボックス検索の提案モデルとしてますます使われている。 既存のアプローチは通常、反復的なプロンプトやパラメータの更新を通じて提案を改善する。 ベイズ最適化のような連続最適化手法は、探索の原則的な方法を提供するが、操作するには適切なドメインが必要である。 そこで本研究では,凍結言語モデルにおける隠れ状態介入のコンパクトな低次元空間を学習し,ベイズ最適化の探索領域として外部スコアリング関数を用いたBOReFTを提案する。 経験的に、学習領域は意味領域にまたがり、探索をサポートする滑らかな性質を示す。 理論的には、セマンティックカバレッジと補間が学習空間で利用できる最良のスコアを制御し、この空間からの復号化によって適応探索のための標準的な確率帯域観測モデルが得られることを示す。 BOReFTは、解釈可能な単語検索タスク「Semantle」と、de novo分子特性最適化における3つのより現実的な発見タスクに基づいて評価する。 強いLDMベースラインと比較して、BOReFTはセマントルにおいて隠れた標的の数が増加し、3つの分子目標のうち2つが高い特性スコアを得る。 そこで本手法は,LLMに基づく探索と連続ブラックボックス最適化の離散的な提案空間間の基本的新しいブリッジを提供する。

関連論文リスト

• DynaAct: Large Language Model Reasoning with Dynamic Action Spaces [58.298135359318024]
  コンパクトなアクション空間を自動構築する新しいフレームワークtextscDynaActを提案する。 当社のアプローチは,大幅な遅延を発生させることなく,効率的な推論を維持しながら,全体的なパフォーマンスを著しく向上させる。
  論文  参考訳（メタデータ） (2025-11-11T09:47:13Z)
• Language-Based Bayesian Optimization Research Assistant (BORA) [0.0]
  ドメイン知識のコンテキスト化は、実りある領域の探索をガイドする強力なアプローチである。 本稿では,検索最適化における言語モデル (LLM) の利用を提案する。
  論文  参考訳（メタデータ） (2025-01-27T17:20:04Z)
• HERO: Hint-Based Efficient and Reliable Query Optimizer [0.0]
  本稿では,より優れた実行計画を実現するためのクエリヒントを提供する,学習クエリ最適化のための新しいモデルを提案する。 このモデルは、学習したヒントベースのクエリ最適化において、信頼できるヒントレコメンデーション、効率的なヒント探索、高速推論という3つの課題に対処する。 私たちのモデルは解釈可能でデバッグが容易です。
  論文  参考訳（メタデータ） (2024-12-03T10:58:34Z)
• Discovering Preference Optimization Algorithms with and for Large Language Models [50.843710797024805]
  オフライン優先最適化は、LLM(Large Language Model)出力の品質を向上・制御するための重要な手法である。 我々は、人間の介入なしに、新しい最先端の選好最適化アルゴリズムを自動で発見する客観的発見を行う。 実験は、ロジスティックと指数的損失を適応的にブレンドする新しいアルゴリズムであるDiscoPOPの最先端性能を示す。
  論文  参考訳（メタデータ） (2024-06-12T16:58:41Z)
• Efficient Non-Parametric Optimizer Search for Diverse Tasks [93.64739408827604]
  興味のあるタスクを直接検索できる,スケーラブルで汎用的なフレームワークを初めて提示する。 基礎となる数学表現の自然木構造に着想を得て、空間を超木に再配置する。 我々は,モンテカルロ法を木探索に適用し,レジェクションサンプリングと等価形状検出を備える。
  論文  参考訳（メタデータ） (2022-09-27T17:51:31Z)
• Combining Latent Space and Structured Kernels for Bayesian Optimization over Combinatorial Spaces [27.989924313988016]
  我々は、高価なブラックボックス関数評価を用いて、空間(シーケンス、ツリー、グラフなど)を最適化する問題を考察する。 空間に対する最近のBOアプローチは、構造体の潜在表現を学習することで連続空間上のBOへの還元である。 本稿では,この欠点を克服するための原則的アプローチであるLADDERを提案する。
  論文  参考訳（メタデータ） (2021-11-01T18:26:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。