論文の概要: Closed-Loop Generative Selection: Convergence, Memory, and Noisy Oracles
- arxiv url: http://arxiv.org/abs/2607.22211v1
- Date: Fri, 24 Jul 2026 11:29:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 20:58:57.118012
- Title: Closed-Loop Generative Selection: Convergence, Memory, and Noisy Oracles
- Title(参考訳): クローズドループ生成選択:収束性、メモリ、ノイズの多いOracle
- Abstract要約: クローズドループ生成選択は、計算薬物発見のワークホースである。
広く使われているにもかかわらず、この方法は厳密な収束理論を欠いている。
我々は,このアルゴリズムの自己完結した収束理論と予測実行時間を開発する。
- 参考スコア(独自算出の注目度): 1.0312968200748116
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Closed-loop generative selection has become a workhorse of computational drug discovery: a learned generative model proposes candidate molecules, a fitness oracle scores them, the best are kept, and the model is retrained on this elite set before the next round. Despite its wide use, the method has lacked a rigorous convergence theory, largely because retraining the model each round breaks the Markov property on which classical evolutionary-algorithm analysis relies. We develop a self-contained theory of convergence and expected running time for this class of algorithms. By recovering a Markov structure on an enlarged state space, we show that elitism makes the search absorbing, and we prove almost-sure convergence together with a runtime bound that decomposes the search into the time spent escaping each fitness level. We then analyse the role of the model's memory---how much of the past it is trained on. When learning improves steadily with more data, deeper memory never hurts; when it does not, an exit-time analysis pinpoints the optimal memory depth and shows that excess memory can actually slow convergence. The theory extends to multi-objective search and to noisy oracles: we quantify how many repeated evaluations certify progress under light-tailed noise, and how robust estimators restore guarantees under heavy tails. Recast in terms of oracle evaluations - the true bottleneck in drug design - the analysis yields a concrete, evaluation-minimal strategy. Areproducible study confirms the predictions, including the surprising cost of excess memory. We close with three open problems.
- Abstract(参考訳): 学習された生成モデルは、候補分子を提案し、適合オラクルはそれらをスコアし、最良のものは保持し、モデルは次のラウンドの前にこのエリートセットで再訓練される。
広範に使われているにもかかわらず、この手法には厳密な収束理論が欠如しており、これは主に、各ラウンドのモデルの再訓練が、古典的な進化論的アルゴリズム分析が依存するマルコフの性質を破るからである。
我々は,このアルゴリズムの自己完結した収束理論と予測実行時間を開発する。
拡張された状態空間上でマルコフ構造を復元することにより、エリート主義が探索を吸収し、各適合度レベルから逃れる時間に探索を分解するランタイム境界とともにほぼ確実に収束することを示す。
次に、モデルのメモリの役割を分析します。
学習がより多くのデータで着実に改善されると、深いメモリが傷つくことはない。そうでなければ、終了時の分析が最適なメモリ深度を示し、過剰なメモリが実際に収束を遅くする可能性があることを示す。
この理論は多目的探索やノイズオラクルにまで拡張され、光尾雑音下での進行を再現する繰り返し評価の回数と、頑健な推定器が重尾音下での保証をいかに回復するかを定量化する。
薬品設計における真のボトルネックであるオラクル評価の観点で見直すと、分析は具体的かつ最小限の戦略をもたらす。
再現可能な研究は、過剰なメモリの驚くべきコストを含む予測を確認します。
私たちは3つのオープンな問題に近づいた。
関連論文リスト
- Weighted Empirical Risk Minimization for Machine Learning under Long-Range Dependence: Exact Pathwise Rates and Learning-Error Geometry [0.0]
我々は、長距離依存データに対して、定期的に重み付けされた経験的リスクによって訓練された滑らかなパラメトリックモデルに対して、正確な概日理論を開発する。
トレーニング観測は、定常ガウス列の固定有限ウィンドウから生成される。
許容電力指数に対する大域的最適化は、全ての指数が正であることを示す。
論文 参考訳(メタデータ) (2026-09-09T19:16:17Z) - Belief Memory: Agent Memory Under Partial Observability [56.41506249481312]
本稿では,メモリパラダイムを観測毎に1つの結論にシフトし,その確率で複数の結論を導出するBeliefMemを提案する。
BeliefMemは決定論的パラダイムが破棄されるという不確実性を保ち、エージェントが高い信頼を持って行動することを可能にする。
LoCoMoとALFWorldベンチマークの実証的な評価は、限られたデータであっても、BeliefMemが最高の平均パフォーマンスを達成することを示している。
論文 参考訳(メタデータ) (2026-05-07T02:03:13Z) - Optimal Foraging in Memory Retrieval: Evaluating Random Walks and Metropolis-Hastings Sampling in Modern Semantic Spaces [0.0]
現代の埋め込みは、観察された人間の行動にマッチするアルゴリズムを表現できるかどうかを考察する。
これらの埋め込み空間上のランダムウォークは、最適な採餌とMVTと整合した結果をもたらす。
驚くべきことに、新しいクラスタの戦略的受容と拒絶をモデル化する適応アルゴリズムであるMetropolis-Hastingsサンプルを導入しても、人間の行動と一致しない。
論文 参考訳(メタデータ) (2025-11-16T20:08:29Z) - Beyond Memorization: Extending Reasoning Depth with Recurrence, Memory and Test-Time Compute Scaling [60.63703438729223]
異なるアーキテクチャとトレーニング手法がモデル多段階推論能力にどのように影響するかを示す。
我々は,逐次計算においてモデル深度の増加が重要な役割を担っていることを確認した。
論文 参考訳(メタデータ) (2025-08-22T18:57:08Z) - Maximally-Informative Retrieval for State Space Model Generation [59.954191072042526]
テスト時に特定のクエリに対するモデル不確実性を最小化するために、Retrieval In-Context Optimization (RICO)を導入する。
文書検索に外部に依存した従来の検索強化生成(RAG)とは異なり,本手法はモデルから直接のフィードバックを利用する。
モデル勾配を用いた標準のトップ$kの検索は、最適化手順を近似し、残余損失への接続を提供することを示す。
論文 参考訳(メタデータ) (2025-06-13T18:08:54Z) - Beyond Progress Measures: Theoretical Insights into the Mechanism of Grokking [50.465604300990904]
グロキング(Grokking)とは、オーバーフィッティングの拡張後のテスト精度の急激な改善を指す。
本研究では、素数演算のタスクにおいて、Transformerの基盤となるグルーキング機構について検討する。
論文 参考訳(メタデータ) (2025-04-04T04:42:38Z) - Hessian-Free Online Certified Unlearning [8.875278412741695]
ほぼ瞬時にデータを除去するオンライン・アンラーニングアルゴリズムを開発した。
提案手法は,非学習および一般化保証の観点から,最先端の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2024-04-02T07:54:18Z) - Large-scale Fully-Unsupervised Re-Identification [78.47108158030213]
大規模未ラベルデータから学ぶための2つの戦略を提案する。
第1の戦略は、近傍関係に違反することなく、それぞれのデータセットサイズを減らすために、局所的な近傍サンプリングを行う。
第2の戦略は、低時間上限の複雑さを持ち、メモリの複雑さを O(n2) から O(kn) に k n で還元する新しい再帰的手法を利用する。
論文 参考訳(メタデータ) (2023-07-26T16:19:19Z) - Efficient Reconstruction of Stochastic Pedigrees: Some Steps From Theory
to Practice [5.749044590090683]
モデルに基づいて生成したシミュレーションデータに対してREC-GENの性能について検討した。
祖先再構成と呼ばれるアルゴリズムの主なステップは、交配を伴わないが、ランダムな交配個体群ではうまく機能しない理想化された環境で正確に機能することが示される。
論文 参考訳(メタデータ) (2022-04-10T01:08:39Z) - Correlation Clustering Reconstruction in Semi-Adversarial Models [70.11015369368272]
相関クラスタリングは多くのアプリケーションにおいて重要なクラスタリング問題である。
本研究では,ランダムノイズや対向的な修正によって崩壊した潜伏クラスタリングを再構築しようとする,この問題の再構築版について検討する。
論文 参考訳(メタデータ) (2021-08-10T14:46:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。