論文の概要: ConRetroBert: EMA Stabilized Dual Encoders for Template-Based Single-Step Retrosynthesis
- arxiv url: http://arxiv.org/abs/2605.12736v1
- Date: Tue, 12 May 2026 20:40:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 23:30:27.681982
- Title: ConRetroBert: EMA Stabilized Dual Encoders for Template-Based Single-Step Retrosynthesis
- Title(参考訳): ConRetroBert: テンプレートベースの単一ステップ再合成のためのEMA安定化デュアルエンコーダ
- Authors: Mohammad Jahid Ibna Basher, Ali Khodabandeh Yalabadi, Ivan Garibay, Ozlem Ozmen Garibay,
- Abstract要約: 単一段階の逆合成は、明示的な反応テンプレートを選択して適用することによって反応物を予測する。
ConRetroBertは、テンプレートベースのレトロシンセシスを高密度な製品テンプレート検索として再編成するデュアルエンコーダフレームワークである。
- 参考スコア(独自算出の注目度): 2.152036255395242
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Template based single step retrosynthesis predicts reactants by selecting and applying an explicit reaction template, making each prediction traceable to a chemical transformation rule. This is useful for synthesis planning, but template based methods are often viewed as less competitive than template free models because template prediction is commonly formulated as global classification over a long tailed rule library. We argue that this weakness is not inherent to templates, but to the learning formulation. We present ConRetroBert, a dual encoder framework that reframes template based retrosynthesis as dense product template retrieval followed by candidate set listwise ranking. Stage 1 uses contrastive pretraining to learn a shared embedding space between products and reaction templates. Stage 2 refines template ranking over mined hard negative candidate sets with a multi positive listwise objective. To enable template side adaptation without destabilizing hard negative mining, ConRetroBert uses a slow moving exponential moving average template encoder for retrieval bank construction while updating the live template encoder through the ranking loss. On the local USPTO-50k benchmark, Stage 2 candidate set ranking improves top-1 reaction accuracy from 50.5% to 61.3%, while EMA stabilized template adaptation further improves it to 62.4%. Fine tuning from a leakage controlled USPTO-Full checkpoint reaches 75.4% top-1 accuracy on USPTO-50k. We also show that retrieval based template prediction is strong in the long tail of rare templates, and that many correct reactant predictions arise from alternative explicit templates rather than only the recorded positive label. Code and data are available at https://github.com/JahidBasher/ConRetroBert.
- Abstract(参考訳): テンプレートベースの単一ステップの逆合成は、明示的な反応テンプレートを選択して適用することで反応を予測し、それぞれの予測を化学変換規則にトレースできるようにする。
これは合成計画に有用であるが、テンプレートベースの手法はテンプレートフリーモデルよりも競争力の低いと見なされることが多い。
この弱点はテンプレートに固有のものではなく、学習の定式化に固有のものだ、と私たちは主張する。
ConRetroBertは、テンプレートベースのレトロシンセシスを高密度な製品テンプレート検索として再編成し、次に候補セットリストのランク付けを行うデュアルエンコーダフレームワークである。
ステージ1では、対照的な事前トレーニングを使用して、製品と反応テンプレート間の共有埋め込み空間を学習する。
ステージ2は、マルチポジティヴなリストワイドの目的によって、マイニングされたハードネガティブな候補セットよりも上位のテンプレートを洗練する。
強い負のマイニングを安定化させることなくテンプレート側の適応を可能にするため、ConRetroBertは、移動速度の遅い移動平均テンプレートエンコーダを用いて、ランキング損失を通じてライブテンプレートエンコーダを更新する。
USPTO-50kベンチマークでは、ステージ2の候補セットはトップ1反応の精度を50.5%から61.3%に改善し、EMA安定化テンプレート適応は62.4%に改善した。
漏れ制御されたUSPTO-Fullチェックポイントからの微調整はUSPTO-50kで75.4%の精度に達した。
また, 検索に基づくテンプレート予測は, レアテンプレートの長い尾に強く, 記録された正のラベルだけでなく, 代替の明示的なテンプレートから正しい反応予測が生まれることも示唆した。
コードとデータはhttps://github.com/JahidBasher/ConRetroBert.comで公開されている。
関連論文リスト
- Decoupling Template Bias in CLIP: Harnessing Empty Prompts for Enhanced Few-Shot Learning [28.14553408545859]
Contrastive Language- Image Pre-Training (CLIP) モデルは、視覚的およびテキスト的表現を整列することで、数ショット学習において優れている。
本研究は,テキストテンプレートと画像サンプルの類似性として定義されたテンプレートサンプル類似性(TSS)がバイアスをもたらすことを示す。
このバイアスにより、モデルは真のサンプルとカテゴリのアライメントではなく、テンプレートの近接に依存するようになる。
本稿では,空のプロンプト,テキスト入力を用いた「空さ」の概念をカテゴリ情報なしで伝達するフレームワークを提案する。
論文 参考訳(メタデータ) (2025-12-09T13:51:05Z) - Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。
本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。
我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
論文 参考訳(メタデータ) (2025-05-21T07:16:44Z) - A Template Is All You Meme [76.03172165923058]
5,200以上のmemeテンプレート、それらに関する情報、および54,000のテンプレートインスタンスの例で構成された知識ベースを作成します。
ミームテンプレートのセマンティック信号を調べるために,データセット中のミームと知識ベースに含まれるベーステンプレートを距離ベースで検索することでマッチングできることを示す。
メメテンプレートの検証により,検討対象のデータセット毎の最先端性能が得られ,テンプレート性に基づく解析方法が確立された。
論文 参考訳(メタデータ) (2023-11-11T19:38:14Z) - Retrosynthesis Prediction with Local Template Retrieval [112.23386062396622]
特定の標的分子の反応を予測する再合成は、薬物発見に必須の課題である。
本稿では,局所的な反応テンプレート検索手法であるRetroKNNを紹介する。
我々は、広く使われている2つのベンチマーク、USPTO-50KとUSPTO-MITで包括的な実験を行う。
論文 参考訳(メタデータ) (2023-06-07T03:38:03Z) - SemiRetro: Semi-template framework boosts deep retrosynthesis prediction [38.42917984016527]
テンプレートベース (TB) およびテンプレートフリー (TF) 分子グラフ学習法は, 再合成に有望な結果を示した。
フルテンプレートをいくつかの半テンプレートに分割し、2段階のTFフレームワークに組み込むことを提案する。
実験の結果,SemiRetroは既存のTB法とTF法の両方で有意に優れていた。
論文 参考訳(メタデータ) (2022-02-12T00:38:11Z) - RetroComposer: Discovering Novel Reactions by Composing Templates for
Retrosynthesis Prediction [63.14937611038264]
本稿では,テンプレート以外の新しいテンプレートを構築可能な,革新的な再合成予測フレームワークを提案する。
実験結果から,USPTO-50Kデータセットにおいて,328個のテスト反応のためのテンプレートを新たに作成できることが示唆された。
論文 参考訳(メタデータ) (2021-12-20T05:57:07Z) - Template-free Prompt Tuning for Few-shot NER [46.59447116255979]
テンプレートを使わずにNERタスクをLM問題として再構成するよりエレガントな手法を提案する。
具体的には,事前学習モデルの単語予測パラダイムを維持しながらテンプレート構築プロセスを捨てる。
実験により, バート・タガー法およびテンプレートベース法に対して, 数ショット設定で提案手法の有効性を実証した。
論文 参考訳(メタデータ) (2021-09-28T07:19:24Z) - RetCL: A Selection-based Approach for Retrosynthesis via Contrastive
Learning [107.64562550844146]
レトロシンセシスは深層学習の新たな研究分野である。
本稿では, 市販分子の候補群から, 反応物質の選択問題へとレトロシンセシスを再構成する新しいアプローチを提案する。
スコア機能を学ぶために、ハードネガティブマイニングを備えた新しいコントラストトレーニングスキームも提案します。
論文 参考訳(メタデータ) (2021-05-03T12:47:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。