論文の概要: Beyond Atoms: Enhancing Molecular Pretrained Representations with 3D Space Modeling
- arxiv url: http://arxiv.org/abs/2503.10489v2
- Date: Tue, 18 Mar 2025 11:38:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-19 10:31:29.495046
- Title: Beyond Atoms: Enhancing Molecular Pretrained Representations with 3D Space Modeling
- Title(参考訳): Beyond Atoms: 3次元空間モデリングによる分子プレトレーニングされた表現の強化
- Authors: Shuqi Lu, Xiaohong Ji, Bohang Zhang, Lin Yao, Siyuan Liu, Zhifeng Gao, Linfeng Zhang, Guolin Ke,
- Abstract要約: 分子事前学習表現(MPR)は、薬物発見や材料設計などの応用において、限られた教師付きデータの課題に対処するための強力なアプローチとして登場した。
分子に分散した3次元空間全体を包含する原理的枠組みを提案する。
このフレームワークは,(1)グリッドベースの空間離散化,(2)グリッドサンプリング/マージ,(3)効率的な3次元位置符号化という3つの重要なコンポーネントを備えた,新しいTransformerベースのアーキテクチャであるSpaceFormerによって実装されている。
- 参考スコア(独自算出の注目度): 23.864586963645753
- License:
- Abstract: Molecular pretrained representations (MPR) has emerged as a powerful approach for addressing the challenge of limited supervised data in applications such as drug discovery and material design. While early MPR methods relied on 1D sequences and 2D graphs, recent advancements have incorporated 3D conformational information to capture rich atomic interactions. However, these prior models treat molecules merely as discrete atom sets, overlooking the space surrounding them. We argue from a physical perspective that only modeling these discrete points is insufficient. We first present a simple yet insightful observation: naively adding randomly sampled virtual points beyond atoms can surprisingly enhance MPR performance. In light of this, we propose a principled framework that incorporates the entire 3D space spanned by molecules. We implement the framework via a novel Transformer-based architecture, dubbed SpaceFormer, with three key components: (1) grid-based space discretization; (2) grid sampling/merging; and (3) efficient 3D positional encoding. Extensive experiments show that SpaceFormer significantly outperforms previous 3D MPR models across various downstream tasks with limited data, validating the benefit of leveraging the additional 3D space beyond atoms in MPR models.
- Abstract(参考訳): 分子事前学習表現(MPR)は、薬物発見や材料設計などの応用において、限られた教師付きデータの課題に対処するための強力なアプローチとして登場した。
初期のMPR法は1Dシークエンスと2Dグラフに依存していたが、近年の進歩により、リッチな原子間相互作用を捉えるために3Dコンフォメーション情報が組み込まれている。
しかしながら、これらの先行モデルは分子を単に離散原子集合として扱うだけで、分子を取り巻く空間を見渡すことができる。
我々は、これらの離散的な点のみをモデル化することは不十分である、という物理的観点から論じる。
まず、原子を超えてランダムにサンプリングされた仮想点を加えると、驚くほどMPRのパフォーマンスが向上する。
そこで本研究では,分子に分散した3次元空間全体を包含する原理的枠組みを提案する。
このフレームワークは,(1)グリッドベースの空間離散化,(2)グリッドサンプリング/マージ,(3)効率的な3次元位置符号化という3つの重要なコンポーネントを備えた,新しいTransformerベースのアーキテクチャであるSpaceFormerによって実装されている。
大規模な実験により、SpaceFormerは、様々な下流タスクにおいて、MPRモデルの原子を超えた追加の3D空間を利用する利点を検証し、従来の3D MPRモデルよりも大幅に優れていたことが示されている。
関連論文リスト
- NExT-Mol: 3D Diffusion Meets 1D Language Modeling for 3D Molecule Generation [72.22099363325145]
NExT-Mol: 3D Diffusion Meets 1D Language Modeling for 3D Molecule Generationを提案する。
NExT-Molは1D分子生成のために広範囲に事前訓練された分子LMを使用し、その後、生成された分子の3Dコンホメータを予測する。
我々は,NExT-Molの性能を向上させるために,LMのモデルサイズをスケールアップし,拡散ニューラルアーキテクチャを改良し,三次元トランスファー学習に1Dを適用した。
論文 参考訳(メタデータ) (2025-02-18T08:40:13Z) - GaussianAnything: Interactive Point Cloud Latent Diffusion for 3D Generation [75.39457097832113]
本稿では,インタラクティブなポイントクラウド構造ラテント空間を備えたスケーラブルで高品質な3D生成を実現する,新しい3D生成フレームワークを提案する。
本フレームワークでは,複数ビューのRGB-D(epth)-N(ormal)レンダリングを入力として使用する変分オートエンコーダを,3次元形状情報を保存する独自のラテント空間設計を用いて構成する。
提案手法であるGaussianAnythingは,複数モード条件付き3D生成をサポートし,ポイントクラウド,キャプション,シングル/マルチビュー画像入力を可能にする。
論文 参考訳(メタデータ) (2024-11-12T18:59:32Z) - 3D-Mol: A Novel Contrastive Learning Framework for Molecular Property Prediction with 3D Information [1.1777304970289215]
3D-Molはより正確な空間構造表現のために設計された新しいアプローチである。
分子を3つの階層グラフに分解し、幾何学的情報をよりよく抽出する。
3D-Molと最先端のベースラインを7つのベンチマークで比較し,優れた性能を示す。
論文 参考訳(メタデータ) (2023-09-28T10:05:37Z) - Automated 3D Pre-Training for Molecular Property Prediction [54.15788181794094]
新たな3D事前学習フレームワーク(3D PGT)を提案する。
3D分子グラフのモデルを事前訓練し、3D構造のない分子グラフに微調整する。
提案した3次元PGTの精度, 効率, 一般化能力を示すために, 2次元分子グラフの大規模実験を行った。
論文 参考訳(メタデータ) (2023-06-13T14:43:13Z) - 3D Molecular Geometry Analysis with 2D Graphs [79.47097907673877]
分子の基底状態3次元ジオメトリは多くの分子解析タスクに必須である。
現代の量子力学的手法は正確な3次元幾何学を計算できるが、計算は禁じられている。
分子グラフから3次元幾何学を予測するための新しいディープラーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2023-05-01T19:00:46Z) - Geometry-Complete Diffusion for 3D Molecule Generation and Optimization [3.8366697175402225]
3次元分子生成のための幾何-完全拡散モデル(GCDM)を導入する。
GCDMは、既存の3次元分子拡散モデルよりも条件および非条件設定間で大きなマージンで優れている。
また、GCDMの幾何学的特徴は、既存の3次元分子の幾何学的および化学組成を一貫して最適化するために再利用可能であることも示している。
論文 参考訳(メタデータ) (2023-02-08T20:01:51Z) - 3D Infomax improves GNNs for Molecular Property Prediction [1.9703625025720701]
本稿では,2次元分子グラフのみに与えられる分子の幾何学をモデル化するための事前学習モデルを提案する。
我々は,3次元事前学習が幅広い特性に対して大きな改善をもたらすことを示す。
論文 参考訳(メタデータ) (2021-10-08T13:30:49Z) - 3D-Transformer: Molecular Representation with Transformer in 3D Space [11.947499562836953]
3Dトランスフォーマー(3D-Transformer)は、3D空間情報を組み込んだ分子表現用トランスフォーマーの変種である。
本実験は, 結晶特性予測タスクとタンパク質-リガンド結合親和性予測タスクにおいて, 最先端モデルに対して有意な改善が認められた。
論文 参考訳(メタデータ) (2021-10-04T05:11:23Z) - Molecule3D: A Benchmark for Predicting 3D Geometries from Molecular
Graphs [79.06686274377009]
我々は、約400万分子の正確な基底状態のジオメトリーを持つデータセットを含むMolecule3Dと呼ばれるベンチマークを開発する。
我々は3次元空間における原子と原子の対距離を予測する2つのベースライン法を実装した。
本手法は予測精度に匹敵する精度を達成できるが,計算コストははるかに小さい。
論文 参考訳(メタデータ) (2021-09-30T22:09:28Z) - Cylindrical and Asymmetrical 3D Convolution Networks for LiDAR-based
Perception [122.53774221136193]
運転時のLiDARに基づく認識のための最先端の手法は、しばしば点雲を2D空間に投影し、2D畳み込みによって処理する。
自然な対策として、3Dボクセル化と3D畳み込みネットワークを利用する方法がある。
本研究では,3次元幾何学的パターンを探索するために,円筒状分割と非対称な3次元畳み込みネットワークを設計する,屋外LiDARセグメンテーションのための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2021-09-12T06:25:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。