論文の概要: M-JEPA: Predictive Self-Supervised Learning for Molecular Graphs with Scaffold-Shift Evaluation on Tox21
- arxiv url: http://arxiv.org/abs/2610.25163v1
- Date: Sun, 18 Oct 2026 10:39:31 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:04:15.891224
- Title: M-JEPA: Predictive Self-Supervised Learning for Molecular Graphs with Scaffold-Shift Evaluation on Tox21
- Title(参考訳): M-JEPA:Tox21のスキャフォールドシフト評価による分子グラフの予測自己教師付き学習
- Abstract要約: 自己教師付き分子表現学習は、ラベルに制限された小さな特性予測タスクの伝達を改善するために、ますます使われている。
化学コヒーレントな結合部分グラフをマスキングすることにより分子グラフに結合埋め込み予測アーキテクチャ(JEPA)を適用する。
マッチングされた計算では、M-JEPAは計算マッチングされたInfoNCEベースラインよりもかなり低いESOLプロキシRMSEを達成する。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: Self-supervised molecular representation learning is increasingly used to improve transfer on small, label-limited property prediction tasks, yet commonly used contrastive objectives can be sensitive to view construction and are often evaluated with protocols that report only discrimination. We adapt Joint Embedding Predictive Architectures (JEPAs) to molecular graphs by masking chemically coherent connected subgraphs and training a context encoder to regress the masked target embedding produced by an exponential-moving-average (EMA) teacher. To evaluate predictive self-supervision under realistic distribution shift, we introduce a leakage-resistant, compute-matched three-phase protocol: (i) an 80-run objective screening on ESOL with fixed compute budgets, (ii) JEPA-only refinement of masking and augmentation choices, and (iii) per-assay Tox21 evaluation under Bemis-Murcko scaffold splits with joint discrimination-reliability analysis and attribution diagnostics. Under matched compute, M-JEPA achieves substantially lower ESOL proxy RMSE than a compute-matched InfoNCE baseline (mean RMSE 2.12 vs 3.75; mean paired dRMSE 1.61; 95% bootstrap CI [1.52, 1.72]; Wilcoxon p=2.4e-4) and typically completes runs faster (~15-25 min vs ~35-45 min on a single GPU under identical hardware), albeit with higher runtime variance. On Tox21, improvements in ROC-AUC/PR-AUC are assay-dependent and do not uniformly imply better calibration; reliability diagrams and Brier/ECE metrics reveal endpoints where fine-tuning improves ranking but leaves probabilities miscalibrated.
- Abstract(参考訳): 自己制御型分子表現学習は、ラベルに制限された小さな特性予測タスクの伝達を改善するために使われることが多いが、一般的に使用される対照的な目的は、構造を見るのに敏感であり、しばしば差別のみを報告するプロトコルで評価される。
化学コヒーレントな部分グラフをマスキングし、コンテキストエンコーダをトレーニングし、指数移動平均(EMA)教師が生成するマスクされたターゲット埋め込みを復元することにより、分子グラフにJEPA(Joint Embedding Predictive Architectures)を適用する。
現実的な分布シフト下での予測的自己超越性を評価するために, リーク耐性, 計算整合型3相プロトコルを導入する。
i) 計算予算が固定されたESOL上で80ランの客観的スクリーニング。
(二)JEPAのみ-マスキング及び拡張選択の洗練及び
3)Bemis-Murcko足場におけるTox21の評価は,共同識別信頼性分析と帰属診断で分割される。
M-JEPAは、コンピュータマッチングされたInfoNCEベースライン(平均値 RMSE 2.12 vs 3.75; 平均値 dRMSE 1.61; 95% ブートストラップ CI [1.52, 1.72]; Wilcoxon p=2.4e-4)よりもかなり低いESOLプロキシRMSEを実現し、通常、実行速度は速く(同一のハードウェアで1つのGPU上では15-25 min対 ~35-45 min)、実行速度は高い。
Tox21では、ROC-AUC/PR-AUCの改善はアッセイに依存しており、均一にキャリブレーションを改善していない。
関連論文リスト
- MM-LeJEPA: Correlated Gaussian Regularization for Multimodal Joint-Embedding Predictive Architectures [50.784615468964176]
LeJEPAは、そのタスク仮定の下で、フィッシャー情報基準を最小化することで、等方的ガウス埋め込みターゲットを導出する。
我々は,LJEPAのタスク仮定をマルチモーダル学習に拡張することでMM-LeJEPAを導入する。
論文 参考訳(メタデータ) (2026-10-17T13:20:43Z) - CoMPASS: Collaborative Molecular Property Prediction via Adaptive Small-Large Model Synergy [8.012730274764019]
正確な分子特性予測には、統計的信頼性と化学的推論の両方が必要である。
CoMPASSは、小型モデルコラボレーションのための検索校正フレームワークである。
その結果, 生成的推論は, 根拠的, 制御された補正によって, 校正予測を増強すべきであることが示唆された。
論文 参考訳(メタデータ) (2026-08-31T12:14:01Z) - Do Time-Series Foundation Models Pay Off for Industrial Monitoring? A Cost-Aware Empirical Study [1.8419890068150178]
時系列基礎モデル(TSFM)は再利用可能な表現とゼロショット予測を約束する。
本研究は,3つの設定にまたがってプロトコルを考慮した経験的評価を示す。
論文 参考訳(メタデータ) (2026-08-24T08:30:06Z) - PCQA-R1: Advancing Generalized 3D Point Cloud Quality Assessment with Reinforcement Learning [51.75061005702151]
ノンリファレンスポイントクラウド品質アセスメント(PCQA)は近年活発なトピックであり、ポイントクラウドの視覚的エクスペリエンスの測定と最適化に使用されている。
本稿では,3次元点雲質評価のための最初の強化学習LMMであるPCQA-R1について述べる。
論文 参考訳(メタデータ) (2026-08-19T07:21:58Z) - MEGA-CL: A Molecular Foundation Model for Generalizable ADMET Prediction through Graph External Attention and Contrastive Learning [10.241657485434509]
MEGA-CLは、普遍的な分子ADMET予測のための基礎グラフニューラルネットワークフレームワークである。
13のベンチマークデータセットと21のダウンストリームADMETタスクに対して、MEGA-CLは一貫して最先端のベースラインモデルを上回っている。
論文 参考訳(メタデータ) (2026-07-27T11:58:56Z) - Structure-Aware Prediction of PROTAC-Mediated Protein Degradability via Graph Neural Networks [0.0]
本稿では,タンパク質構造とE3リガーゼの同一性のみからproTACを介する分解性を予測するグラフニューラルネットワークであるDegradoMapを提案する。
このモデルは、タンパク質ごとの正規化を伴うリジン重み付きグラフプールを通じて、生物物理学上の先行情報を符号化する。
CRBN->VHL E3-unseenTransferでは0.646+-0.124AUROC、0.811AUROCを達成している。
論文 参考訳(メタデータ) (2026-06-01T09:39:22Z) - Rethinking Molecular OOD Generalization via Target-Aware Source Selection [10.102858221967791]
SCOPE-BENCHは、明示的な物理化学的記述空間におけるクラスタレベルのパーティショニングに基づいて構築されたベンチマークである。
POMAは、知識伝達を検索-合成-適応パイプラインとして定式化するフレームワークである。
SCOPE-BENCHにおける最先端の3D分子モデルの予測誤差は平均5.9倍である。
論文 参考訳(メタデータ) (2026-05-13T16:09:46Z) - GAMBIT: A Three-Mode Benchmark for Adversarial Robustness in Multi-Agent LLM Collectives [48.545980031973556]
GAMBITは、インポスタ検出器を評価するための3つの評価モードと2つの独立したスコアを持つベンチマークである。
ベンチマークには、240の共進化型インポスタ戦略にまたがる27,804のラベル付きインスタンスのデータセットが付属している。
論文 参考訳(メタデータ) (2026-05-09T16:07:23Z) - Model Inversion Attacks Through Target-Specific Conditional Diffusion Models [54.69008212790426]
モデル反転攻撃(MIA)は、ターゲット分類器のトレーニングセットからプライベートイメージを再構築することを目的としており、それによってAIアプリケーションにおけるプライバシー上の懸念が高まる。
従来のGANベースのMIAは、GANの固有の欠陥と潜伏空間における最適化の偏りにより、劣った遺伝子的忠実度に悩まされる傾向にある。
これらの問題を緩和するために拡散モデル反転(Diff-MI)攻撃を提案する。
論文 参考訳(メタデータ) (2024-07-16T06:38:49Z) - Semi-supervised Contrastive Learning with Similarity Co-calibration [72.38187308270135]
SsCL(Semi-supervised Contrastive Learning)と呼ばれる新しいトレーニング戦略を提案する。
ssclは、自己教師付き学習におけるよく知られたコントラスト損失と、半教師付き学習におけるクロスエントロピー損失を組み合わせる。
SsCLはより差別的な表現を生じさせ,ショット学習に有益であることを示す。
論文 参考訳(メタデータ) (2021-05-16T09:13:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。