論文の概要: Atom-JEPA: Joint-Embedding Predictive Architecture for 3D Atomistic Systems

• arxiv url: http://arxiv.org/abs/2610.08400v1
• Date: Tue, 06 Oct 2026 14:13:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:30.02264
• Title: Atom-JEPA: Joint-Embedding Predictive Architecture for 3D Atomistic Systems
• Title（参考訳）: Atom-JEPA: 3次元原子論システムのための統合埋め込み予測アーキテクチャ
• Abstract要約: 本稿では,原子系モデリングのための自己教師型事前学習フレームワークAtom-JEPAを紹介する。 Atom-JEPAは、相補的な原子レベルとサブ構造レベルの目的を通じて、ラベルのない3D構造から潜在表現を学習する。 Atom-JEPAは、分子ADMETおよび量子化学特性予測タスクにおける最先端のパフォーマンスを達成する。
• 参考スコア（独自算出の注目度）: 5.244112601754037
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large-scale self-supervised pretraining has reshaped modern machine learning, substantially advancing the ability of language and vision models to generalize across downstream tasks. While deep learning has driven considerable progress in modeling atomistic systems in recent years, self-supervised pretraining in this domain has not yet achieved comparable downstream generalization. To address this, we introduce Atom-JEPA, a self-supervised pretraining framework that learns latent representations from unlabeled 3D structures through complementary atom-level and substructure-level objectives inspired by joint-embedding predictive architectures. We pretrain Atom-JEPA on large-scale molecular and crystalline datasets and evaluate its transfer performance by fine-tuning on a diverse set of downstream property prediction tasks. Atom-JEPA achieves state-of-the-art performance on molecular ADMET and quantum-chemical property prediction tasks, and is highly competitive in predicting the physical properties of crystalline materials. These results demonstrate the potential of latent-space predictive pretraining to support broad downstream generalization from structural data alone. Code and pretrained model checkpoints are publicly available at https://github.com/khelverskovp/atom-jepa
• Abstract（参考訳）: 大規模な自己教師型事前学習は、最新の機械学習を形作り、下流のタスクをまたいだ言語とビジョンモデルの一般化能力を大幅に向上させた。 近年、深層学習は原子系のモデリングに大きな進歩をもたらしたが、この領域での自己教師付き事前学習は、下流の一般化に匹敵するものはいまだにない。 この問題を解決するために、我々はAtom-JEPAという自己教師型事前学習フレームワークを導入しました。これは、共同埋め込み予測アーキテクチャにインスパイアされた相補的な原子レベルおよびサブ構造レベルの目的を通して、ラベルのない3D構造から潜在表現を学習します。 我々は、大規模な分子および結晶のデータセット上でAtom-JEPAを事前訓練し、様々な下流特性予測タスクを微調整して転送性能を評価する。 Atom-JEPAは、分子ADMETおよび量子化学特性予測タスクにおける最先端のパフォーマンスを達成し、結晶材料の物性を予測する上で非常に競争力がある。 これらの結果は、構造データのみから幅広い下流の一般化を支援するために、潜在空間予測事前学習の可能性を実証している。 コードと事前訓練されたモデルチェックポイントはhttps://github.com/khelverskovp/atom-jepaで公開されている。

関連論文リスト

• APO: Unsupervised Atomic Policy Optimization for 3D Structure Prediction of Atomic Systems [64.56252173115246]
  そこで本研究では, 基幹構造を不要とした非教師なしアライメントフレームワーク(Atomic Policy Optimization)を提案する。 APOは、新しい二重回帰機構を利用して、3次元原子環境にグループ相対的なポリシー最適化を適用する。 この結果から,本質的な物理的整合性は,ノイズや教師付き座標マッチングよりも優れたアライメントのガイドとなる可能性が示唆された。
  論文  参考訳（メタデータ） (2026-07-30T17:21:58Z)
• Zatom-1: A Multimodal Flow Foundation Model for 3D Molecules and Materials [51.342983349686556]
  汎用的な3Dケミカルモデリングは分子や材料を含み、生成能力と予測能力の両方を必要とする。 Zatom-1は、3D分子や材料の生成的および予測的学習を統一する、エンド・ツー・エンドの完全なオープンソース基盤モデルである。
  論文  参考訳（メタデータ） (2026-02-24T20:52:39Z)
• AtomBench: A Benchmark for Generative Atomic Structure Models using GPT, Diffusion, and Flow Architectures [0.11293608297930847]
  本稿では,AtomGPT,拡散結晶変分オートエンコーダ,フローMMの3つの代表的な生成モデルのベンチマークを示す。 これらのモデルは、JARVIS Supercon 3DとDS A/Bの2つの公開超伝導データセットのサブセットから結晶構造を再構築するために訓練された。 計算されたKLDとMAEのスコアでは、CDVAEが最も好意的に機能し、次にAtomGPT、次にFlowMMが続く。
  論文  参考訳（メタデータ） (2025-10-17T19:07:37Z)
• Pre-training Graph Neural Networks with Structural Fingerprints for Materials Discovery [1.187456026346823]
  本稿では,安価に計算された構造指紋を標的とする,新しい事前学習目標を提案する。 実験により,本手法はGNNの事前学習のための一般的な戦略として機能し,原子データに対する大規模基盤モデルへの適用が期待できる。
  論文  参考訳（メタデータ） (2025-03-03T06:50:23Z)
• CrysAtom: Distributed Representation of Atoms for Crystal Property Prediction [0.0]
  物質科学の文献では、結晶性物質がトポロジカルな構造を示すことはよく知られている。 本稿では,原子の密度ベクトル表現を生成するために,無相関結晶データを用いた教師なしフレームワーク,CrysAtomを提案する。
  論文  参考訳（メタデータ） (2024-09-07T06:58:55Z)
• Geometric Deep Learning for Structure-Based Drug Design: A Survey [83.87489798671155]
  構造に基づく薬物設計(SBDD)は、タンパク質の3次元幾何学を利用して、潜在的な薬物候補を特定する。 近年の幾何学的深層学習の進歩は、3次元幾何学的データを効果的に統合・処理し、この分野を前進させてきた。
  論文  参考訳（メタデータ） (2023-06-20T14:21:58Z)
• Pre-training via Denoising for Molecular Property Prediction [53.409242538744444]
  本稿では,3次元分子構造の大規模データセットを平衡に利用した事前学習手法について述べる。 近年のノイズレギュラー化の進展に触発されて, 事前学習の目的は, 雑音の除去に基づくものである。
  論文  参考訳（メタデータ） (2022-05-31T22:28:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。