論文の概要: Online Surrogate Repair: Decoupling High-Fidelity Feedback from Search Length in Closed-Loop Discovery
- arxiv url: http://arxiv.org/abs/2609.07655v1
- Date: Mon, 07 Sep 2026 15:42:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.459644
- Title: Online Surrogate Repair: Decoupling High-Fidelity Feedback from Search Length in Closed-Loop Discovery
- Title(参考訳): オンラインサロゲート修復: クローズドループ発見における検索長からの高忠実度フィードバックの分離
- Abstract要約: 本稿では,より長いエージェントサーチを通してサロゲートを更新するために,スパース高忠実度評価を用いた閉ループアルゴリズムであるEmphonline surrogate repair (OSR)を提案する。
取得ルールは、エージェントの累積提案からどのデザインが高忠実度評価を受けるかを選択し、その結果のラベルがその後のエピソードで使用されるサロゲートを更新する。
- 参考スコア(独自算出の注目度): 24.4458458394035
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Closed-loop AI scientists can generate candidate designs at low marginal computational cost, whereas reliable feedback may require wet-lab synthesis, characterization, or high-fidelity computation. Addressing this imbalance through custom laboratory automation remains infrastructure-intensive and costly, while replacing new experiments with a fixed surrogate leaves persistent model errors that can be amplified by optimization. We propose \emph{online surrogate repair} (OSR), a closed-loop algorithm that uses sparse high-fidelity evaluations to update the surrogate throughout a longer agent search conducted primarily with inexpensive surrogate feedback. An acquisition rule selects which designs from the agent's accumulated proposals receive high-fidelity evaluation, and the resulting labels update the surrogate used in subsequent episodes. Across controlled synthetic environments, we demonstrate that improving global surrogate fit does not necessarily reduce maximum regret, whereas Q90-UCB and expected improvement (EI) substantially reduce regret by directing evaluations toward regions that determine the optimizer's decisions. On MADE, controls receiving high-fidelity feedback after every episode require $6.36$--$7.23\times$ more oracle queries to match Online EI under two LLM orchestrators and $10.27\times$ more under the non-LLM Chemeleon+MLIP workflow. Online surrogate repair introduces a novel third feedback regime between fixed-surrogate operation and high-fidelity feedback after every episode, separating the frequency of high-fidelity evaluation from the duration of the agent's search.
- Abstract(参考訳): クローズループAI科学者は、低い限界計算コストで候補設計を生成することができるが、信頼性の高いフィードバックには、ウェットラブ合成、キャラクタリゼーション、高忠実度計算が必要である。
カスタムラボの自動化によるこの不均衡に対処することは、インフラストラクチャ集約的でコストがかかる一方で、新しい実験を固定されたサロゲートに置き換えることは、最適化によって増幅できる永続的なモデルエラーを残します。
本稿では,低密度な高忠実度評価を用いて,低速なサロゲートフィードバックを主目的とするより長いエージェント探索を通してサロゲートを更新する閉ループアルゴリズムである \emph{online surrogate repair} (OSR) を提案する。
取得ルールは、エージェントの累積提案からどのデザインが高忠実度評価を受けるかを選択し、その結果のラベルがその後のエピソードで使用されるサロゲートを更新する。
制御された合成環境全体では,グローバルサロゲート適合性の向上は必ずしも最大後悔を減少させるわけではないが,Q90-UCBと期待改善(EI)は最適化者の判断を決定する領域に評価を向けることで後悔を著しく減少させることを示した。
MADEでは、1回に6.36$--7.23\times$2 LLMオーケストレータでオンラインEIにマッチするより多くのオラクルクエリと10.27\times$非LLM Chemeleon+MLIPワークフローで高忠実なフィードバックを受け取る。
オンラインサロゲート修復では,各エピソード後の固定サロゲート操作と高忠実度フィードバックの間に新たな第3のフィードバック機構を導入し,エージェントの検索時間から高忠実度評価の頻度を分離する。
関連論文リスト
- CAFE: Self-Improving Search Agents Need Co-Evolving Feedback [64.5257526832476]
アウトカム管理された検索エージェントは、いつ、どのように証拠を回収するかを学習するが、端末の報酬は中間エラーのローカライズも、それらのエラーが複雑になる前に継続する軌道のリダイレクトもしない。
学習した軌道内での介入として修正的フィードバックを扱うことは、エージェントがいつフィードバックを要求し使用するかを決めなければならないのに対し、批評家は、エージェントが改善するにつれて障害パターンが変化する結果構築されたロールアウトから有用な修正を推測しなければならない。
論文 参考訳(メタデータ) (2026-08-25T16:39:00Z) - LLM-as-a-Verifier: A General-Purpose Verification Framework [74.40111651545979]
本稿では,汎用検証フレームワーク LLM-as-a-Verifier を紹介する。
追加のトレーニングを必要とせずに、エージェントタスクに対してきめ細かいフィードバックを提供する。
いくつかのベンチマークで最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2026-07-06T17:59:35Z) - Closing the Reflection Gap: A Free Calibration Bonus for Agentic RL [12.234169944475537]
RefGRPOは、標準的なRLアルゴリズムを2つの重要な要素で強化する、シンプルだが効果的な修正である。
エージェント自身の反射と実際の結果とを対比して計算した自由キャリブレーションボーナス。
結果の反射は、エージェントを環境フィードバックに基づく独自の検証器に変える。
論文 参考訳(メタデータ) (2026-06-12T07:47:15Z) - Reinforced Agent: Inference-Time Feedback for Tool-Calling Agents [6.158612515104146]
エージェントフィードバックとレビュアーフィードバックのトレードオフを測定するために、ヘルプフルネス・ハームフルネスメトリクスを導入します。
我々はBFCLとTau2-Bench(マルチターンステートフルシナリオ)に対するアプローチを評価し、無関係検出では+5.5%、マルチターンタスクでは+7.1%を達成した。
GPT-4oでは,評価モデルo3-miniが3:1の利益率と2.1:1の利益率を達成した。
論文 参考訳(メタデータ) (2026-04-29T22:09:47Z) - Frontier-Eng: Benchmarking Self-Evolving Agents on Real-World Engineering Tasks with Generative Optimization [16.92885982726064]
生成最適化のための人間検証ベンチマークであるFrontier-Engを紹介する。
以前のスイートとは異なり、Frontier-Engタスクは工業用シミュレータと検証器に基礎を置いている。
代表的な検索フレームワークを用いて,8つのフロンティア言語モデルを評価する。
論文 参考訳(メタデータ) (2026-04-14T05:02:06Z) - Optimization-Embedded Active Multi-Fidelity Surrogate Learning for Multi-Condition Airfoil Shape Optimization [0.0]
多条件翼形状最適化のための能動多面体代理モデルを開発した。
このフレームワークは、不確実性トリガーサンプリングと同期エリート性規則と、低忠実性インフォームドガウスプロセス回帰転送モデルとを結合する。
最適化された設計により、クルーズ効率は41.05%向上し、離陸リフトは最高の第1世代と比較して20.75%向上した。
論文 参考訳(メタデータ) (2026-03-17T18:43:11Z) - RetroAgent: From Solving to Evolving via Retrospective Dual Intrinsic Feedback [54.39884046754265]
RetroAgentは、エージェントが複雑なインタラクティブ環境をマスターできるオンラインRLフレームワークである。
実験の結果,RetroAgentはSOTA(State-of-the-art)の性能を達成できた。
論文 参考訳(メタデータ) (2026-03-09T16:23:33Z) - OPV: Outcome-based Process Verifier for Efficient Long Chain-of-Thought Verification [91.15649744496834]
本稿では、長い思考の連鎖から要約された結果の合理化過程を検証する、アウトカムベースプロセス検証(OPV)を提案する。
OPV は 76.3 と比較して F1 スコアが 83.1 の Qwen3-Max-Preview など,はるかに大きなオープンソースモデルよりも優れています。
論文 参考訳(メタデータ) (2025-12-11T15:47:38Z) - Long-horizon Reasoning Agent for Olympiad-Level Mathematical Problem Solving [65.02106674311908]
本稿では,マルチラウンド階層的推論を行う長期水平数学エージェントであるIntern-S1-MOを紹介する。
コンパクトメモリをレムマの形で維持することにより、Intern-S1-MOはレムマリッチ推論空間をより自由に探索することができる。
実験の結果、インターンS1-MOはIMO2025の非幾何学的問題で35点中26点を得ることができ、銀メダリストのパフォーマンスに匹敵することがわかった。
論文 参考訳(メタデータ) (2025-12-11T15:26:28Z) - A Survey of LLM-based Automated Program Repair: Taxonomies, Design Paradigms, and Applications [12.409034344742768]
大規模言語モデル (LLM) は自動プログラム修復 (APR) を再構築している
我々は2022年1月から2025年6月までに発行された63 LLMベースのAPRシステムを4つのパラダイムに分類した。
微調整は高いトレーニングコストで強力なタスクアライメントを提供する。迅速なデプロイメントを可能にするが、迅速な設計とコンテキストウィンドウによって制限される。
我々は,軽量な人的フィードバック,リポジトリ対応検索,コード解析,コスト対応計画を組み合わせることで,信頼性と効率的なLDMベースのAPRを向上する研究の方向性を概説する。
論文 参考訳(メタデータ) (2025-06-30T11:46:01Z) - Supervised Optimism Correction: Be Confident When LLMs Are Sure [91.7459076316849]
教師付き微調整とオフライン強化学習の間には,新たな理論的関係が確立されている。
広く使われているビームサーチ法は、許容できない過度な最適化に悩まされていることを示す。
本稿では,トークンレベル$Q$-value推定のための簡易かつ効果的な補助的損失を導入したSupervised Optimism Correctionを提案する。
論文 参考訳(メタデータ) (2025-04-10T07:50:03Z) - On the Role of Feedback in Test-Time Scaling of Agentic AI Workflows [71.92083784393418]
エージェントAI(自律的な計画と行動を行うシステム)は広く普及しているが、複雑なタスクにおけるタスクの成功率は低いままである。
推論時のアライメントは、サンプリング、評価、フィードバックの3つのコンポーネントに依存します。
本稿では,様々な形態の批判から抽出されたフィードバックを繰り返し挿入するIterative Agent Decoding(IAD)を紹介する。
論文 参考訳(メタデータ) (2025-04-02T17:40:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。