論文の概要: Graph Contrastive Learning for Materials

• arxiv url: http://arxiv.org/abs/2211.13408v1
• Date: Thu, 24 Nov 2022 04:15:47 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-28 18:23:06.192973
• Title: Graph Contrastive Learning for Materials
• Title（参考訳）: 材料のためのグラフコントラスト学習
• Authors: Teddy Koker, Keegan Quigley, Will Spaeth, Nathan C. Frey, Lin Li
• Abstract要約: 本稿では,CrystalCLRを紹介した。CrystalCLRは,Crystal Graph Neural Networkを用いた表現のコンストラクティブ学習のためのフレームワークである。 新たな損失関数が加わったことにより,我々のフレームワークは,工学的フィンガープリント手法と競合する表現を学習することができる。 また、モデル微調整により、対照的な事前学習により、物質特性の予測のためのグラフニューラルネットワークの性能が向上することを示した。
• 参考スコア（独自算出の注目度）: 6.667711415870472
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent work has shown the potential of graph neural networks to efficiently predict material properties, enabling high-throughput screening of materials. Training these models, however, often requires large quantities of labelled data, obtained via costly methods such as ab initio calculations or experimental evaluation. By leveraging a series of material-specific transformations, we introduce CrystalCLR, a framework for constrastive learning of representations with crystal graph neural networks. With the addition of a novel loss function, our framework is able to learn representations competitive with engineered fingerprinting methods. We also demonstrate that via model finetuning, contrastive pretraining can improve the performance of graph neural networks for prediction of material properties and significantly outperform traditional ML models that use engineered fingerprints. Lastly, we observe that CrystalCLR produces material representations that form clusters by compound class.
• Abstract（参考訳）: 最近の研究は、物質特性を効率的に予測し、材料の高スループットスクリーニングを可能にするグラフニューラルネットワークの可能性を示している。 しかし、これらのモデルのトレーニングには、ab initio計算や実験的評価のようなコストのかかる方法で得られる大量のラベル付きデータが必要である。 一連の物質固有の変換を活用することで、結晶グラフニューラルネットワークを用いた表現の合成学習フレームワークであるCrystalCLRを導入する。 新たな損失関数の追加により,我々のフレームワークは,工学的な指紋認証手法と競合する表現を学習することができる。 また、モデルの微調整により、コントラストプリトレーニングは、材料特性の予測のためのグラフニューラルネットワークの性能を向上し、工学的指紋を使用する従来のmlモデルを大幅に上回ることを実証する。 最後に,CrystalCLRは複合クラスでクラスタを形成する物質表現を生成する。

関連論文リスト

• Towards Scalable and Versatile Weight Space Learning [51.78426981947659]
  本稿では,重み空間学習におけるSANEアプローチを紹介する。 ニューラルネットワーク重みのサブセットの逐次処理に向けて,超表現の概念を拡張した。
  論文  参考訳（メタデータ） (2024-06-14T13:12:07Z)
• Substitutional Alloying Using Crystal Graph Neural Networks [0.0]
  グラフニューラルネットワーク(GNN)は、結晶によって形成されるグラフの直接学習表現を可能にする。 CGNNを用いてDFTレベルの精度で結晶特性を予測し、原子(ノード/頂点)、結合(エッジ)、大域状態の属性を符号化したグラフを通して予測する。 我々はDFT検証を行い、生成エネルギーと構造特性の予測精度を評価する。
  論文  参考訳（メタデータ） (2023-06-19T08:18:17Z)
• Robust Graph Representation Learning via Predictive Coding [46.22695915912123]
  予測符号化は、当初脳の情報処理をモデル化するために開発されたメッセージパッシングフレームワークである。 本研究では,予測符号化のメッセージパス規則に依存するモデルを構築する。 提案したモデルは,帰納的タスクと帰納的タスクの両方において,標準的なモデルに匹敵する性能を示す。
  論文  参考訳（メタデータ） (2022-12-09T03:58:22Z)
• NCTV: Neural Clamping Toolkit and Visualization for Neural Network Calibration [66.22668336495175]
  ニューラルネットワークのキャリブレーションに対する考慮の欠如は、人間から信頼を得ることはないだろう。 我々はNeural Clamping Toolkitを紹介した。これは開発者が最先端のモデルに依存しないキャリブレーションモデルを採用するのを支援するために設計された最初のオープンソースフレームワークである。
  論文  参考訳（メタデータ） (2022-11-29T15:03:05Z)
• An Adversarial Active Sampling-based Data Augmentation Framework for Manufacturable Chip Design [55.62660894625669]
  リソグラフィーモデリングは、チップ設計マスクが製造可能であることを保証するため、チップ設計において重要な問題である。 機械学習の最近の進歩は、時間を要するリソグラフィーシミュレーションをディープニューラルネットワークに置き換えるための代替ソリューションを提供している。 本稿では,限られたデータのジレンマを解消し,機械学習モデルの性能を向上させるために,データ拡張フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-10-27T20:53:39Z)
• Data-Free Adversarial Knowledge Distillation for Graph Neural Networks [62.71646916191515]
  グラフ構造化データ(DFAD-GNN)を用いたデータフリー逆知識蒸留のための第1のエンドツーエンドフレームワークを提案する。 具体的には、DFAD-GNNは、教師モデルと学生モデルとを2つの識別器とみなし、教師モデルから学生モデルに知識を抽出するために学習グラフを導出するジェネレータという、主に3つの成分からなる生成的対向ネットワークを採用している。 我々のDFAD-GNNは、グラフ分類タスクにおける最先端のデータフリーベースラインを大幅に上回っている。
  論文  参考訳（メタデータ） (2022-05-08T08:19:40Z)
• Crystal Twins: Self-supervised Learning for Crystalline Material Property Prediction [8.048439531116367]
  結晶性物質特性予測のためのSSL法であるCrystal Twins(CT)を紹介する。 我々は、拡張インスタンスのグラフ潜在埋め込みに冗長性低減原理を適用して、グラフニューラルネットワーク(GNN)を事前訓練する。 回帰タスクのGNNを微調整する際の事前学習重みの共有により、7つの課題のある材料特性予測ベンチマークの性能を著しく改善する。
  論文  参考訳（メタデータ） (2022-05-04T05:08:46Z)
• Scalable deeper graph neural networks for high-performance materials property prediction [1.9129213267332026]
  本稿では,グループ分け可能な正規化とスキップ接続が可能な新しいグラフ注意ニューラルネットワークモデルDeeperGATGNNを提案する。 我々の研究は、結晶構造をそれらの性質にマッピングする複雑さに対処するためには、堅牢な性能を達成するために大規模な非常に深いグラフニューラルネットワークが必要であることを示している。
  論文  参考訳（メタデータ） (2021-09-25T05:58:04Z)
• PredRNN: A Recurrent Neural Network for Spatiotemporal Predictive Learning [109.84770951839289]
  歴史的文脈からビジュアルダイナミクスを学習するための新しいリカレントネットワークであるPredRNNを紹介する。 本手法は,3つの標準データセット上で高い競争結果が得られることを示す。
  論文  参考訳（メタデータ） (2021-03-17T08:28:30Z)
• Global Attention based Graph Convolutional Neural Networks for Improved Materials Property Prediction [8.371766047183739]
  我々は,グラフニューラルネットワークに基づく無機材料特性の予測モデルであるGATGNNを開発した。 提案手法は, 従来のモデルの予測よりも優れており, 材料の結晶化に関する知見を提供することができる。
  論文  参考訳（メタデータ） (2020-03-11T07:43:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。