論文の概要: Dynamic Bayesian Optimization Framework for Instruction Tuning in Partial Differential Equation Discovery

• arxiv url: http://arxiv.org/abs/2601.00088v1
• Date: Wed, 31 Dec 2025 19:45:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-05 15:04:33.251666
• Title: Dynamic Bayesian Optimization Framework for Instruction Tuning in Partial Differential Equation Discovery
• Title（参考訳）: 部分微分方程式探索における命令調整のための動的ベイズ最適化フレームワーク
• Authors: Junqi Qu, Yan Zhang, Shangqian Gao, Shibo Li,
• Abstract要約: 大規模言語モデル (LLM) は方程式の発見を約束するが、その出力は表現の速さに非常に敏感である。 本稿では, 逐次決定問題として, エンジニアリングを促そうとするNeuroSymBOを提案する。
• 参考スコア（独自算出の注目度）: 24.45204014205045
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) show promise for equation discovery, yet their outputs are highly sensitive to prompt phrasing, a phenomenon we term instruction brittleness. Static prompts cannot adapt to the evolving state of a multi-step generation process, causing models to plateau at suboptimal solutions. To address this, we propose NeuroSymBO, which reframes prompt engineering as a sequential decision problem. Our method maintains a discrete library of reasoning strategies and uses Bayesian Optimization to select the optimal instruction at each step based on numerical feedback. Experiments on PDE discovery benchmarks show that adaptive instruction selection significantly outperforms fixed prompts, achieving higher recovery rates with more parsimonious solutions.
• Abstract（参考訳）: 大規模言語モデル (LLM) は方程式の発見を約束するが、その出力は、命令の脆さという現象であるフレーズの表現に非常に敏感である。 静的なプロンプトは多段階生成プロセスの進化状態に適応できず、最適解においてモデルがプラトーとなる。 そこで我々はNeuroSymBOを提案する。 提案手法は推論戦略の個別ライブラリを保持し,ベイズ最適化を用いて各ステップで数値フィードバックに基づいて最適な命令を選択する。 PDE発見ベンチマークの実験により、適応的な命令選択は固定されたプロンプトよりも大幅に優れており、よりパーシモースなソリューションで高いリカバリ率を達成することが示されている。

関連論文リスト

• HERO: Hint-Based Efficient and Reliable Query Optimizer [0.0]
  本稿では,より優れた実行計画を実現するためのクエリヒントを提供する,学習クエリ最適化のための新しいモデルを提案する。 このモデルは、学習したヒントベースのクエリ最適化において、信頼できるヒントレコメンデーション、効率的なヒント探索、高速推論という3つの課題に対処する。 私たちのモデルは解釈可能でデバッグが容易です。
  論文  参考訳（メタデータ） (2024-12-03T10:58:34Z)
• Learning Multiple Initial Solutions to Optimization Problems [52.9380464408756]
  厳密なランタイム制約の下で、同様の最適化問題を順次解決することは、多くのアプリケーションにとって不可欠である。 本稿では,問題インスタンスを定義するパラメータが与えられた初期解を多種多様に予測する学習を提案する。 提案手法は,すべての評価設定において有意かつ一貫した改善を実現し,必要な初期解の数に応じて効率よくスケールできることを実証した。
  論文  参考訳（メタデータ） (2024-11-04T15:17:19Z)
• Analyzing and Enhancing the Backward-Pass Convergence of Unrolled Optimization [50.38518771642365]
  ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。 この設定における中心的な課題は最適化問題の解によるバックプロパゲーションであり、しばしば閉形式を欠いている。 本稿では, 非線形最適化の後方通過に関する理論的知見を提供し, 特定の反復法による線形システムの解と等価であることを示す。 Folded Optimizationと呼ばれるシステムが提案され、非ローリングなソルバ実装からより効率的なバックプロパゲーションルールを構築する。
  論文  参考訳（メタデータ） (2023-12-28T23:15:18Z)
• Robust expected improvement for Bayesian optimization [1.8130068086063336]
  本稿では,BO/GPフレームワークに敵対的手法を組み込む,堅牢な予測改善(REI)と呼ばれる代理モデルとアクティブラーニング手法を提案する。 ベンチマーク・シンセティック・エクササイズと、様々な複雑さの実際の問題について、いくつかの競合相手と比較し、比較する。
  論文  参考訳（メタデータ） (2023-02-16T22:34:28Z)
• Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
  ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。 1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。 本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
  論文  参考訳（メタデータ） (2023-01-28T01:50:42Z)
• An Empirical Evaluation of Zeroth-Order Optimization Methods on AI-driven Molecule Optimization [78.36413169647408]
  分子目的を最適化するための様々なZO最適化手法の有効性について検討する。 ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。 本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
  論文  参考訳（メタデータ） (2022-10-27T01:58:10Z)
• Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
  統計的決定論の研究からシャノンエントロピーの一般化を考える。 まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。 次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
  論文  参考訳（メタデータ） (2022-10-04T04:43:58Z)
• Flexible Differentiable Optimization via Model Transformations [1.081463830315253]
  目的および/または制約に存在する任意のパラメータに関して、最適化問題の解を通じて区別するJuliaライブラリであるDiffOptを紹介する。
  論文  参考訳（メタデータ） (2022-06-10T09:59:13Z)
• Learning with Differentiable Perturbed Optimizers [54.351317101356614]
  本稿では,操作を微分可能で局所的に一定ではない操作に変換する手法を提案する。 提案手法は摂動に依拠し,既存の解法とともに容易に利用することができる。 本稿では,この枠組みが,構造化予測において発達した損失の族とどのように結びつくかを示し,学習課題におけるそれらの使用に関する理論的保証を与える。
  論文  参考訳（メタデータ） (2020-02-20T11:11:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。