論文の概要: A Universal Deep Learning Framework for Materials X-ray Absorption Spectra
- arxiv url: http://arxiv.org/abs/2409.19552v2
- Date: Wed, 13 Nov 2024 17:12:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-14 19:25:12.520160
- Title: A Universal Deep Learning Framework for Materials X-ray Absorption Spectra
- Title(参考訳): 材料X線吸収スペクトルの普遍的深層学習フレームワーク
- Authors: Shubha R. Kharel, Fanchen Meng, Xiaohui Qu, Matthew R. Carbone, Deyu Lu,
- Abstract要約: X線吸収分光法(XAS)は、吸収する原子の局所的な化学的環境を調べるための強力な特徴付け技術である。
我々は、XAS予測のための一連の伝達学習アプローチを含むフレームワークを提案し、それぞれが精度と効率の向上に寄与する。
提案手法は,XASモデリングのスループットを第1原理シミュレーションに比べて桁違いに向上させ,より広い範囲の要素に対するXAS予測に拡張可能である。
- 参考スコア(独自算出の注目度): 0.6291443816903801
- License:
- Abstract: X-ray absorption spectroscopy (XAS) is a powerful characterization technique for probing the local chemical environment of absorbing atoms. However, analyzing XAS data presents significant challenges, often requiring extensive, computationally intensive simulations, as well as significant domain expertise. These limitations hinder the development of fast, robust XAS analysis pipelines that are essential in high-throughput studies and for autonomous experimentation. We address these challenges with OmniXAS, a framework that contains a suite of transfer learning approaches for XAS prediction, each contributing to improved accuracy and efficiency, as demonstrated on K-edge spectra database covering eight 3d transition metals (Ti-Cu). The OmniXAS framework is built upon three distinct strategies. First, we use M3GNet to derive latent representations of the local chemical environment of absorption sites as input for XAS prediction, achieving up to order-of-magnitude improvements over conventional featurization techniques. Second, we employ a hierarchical transfer learning strategy, training a universal multi-task model across elements before fine-tuning for element-specific predictions. Models based on this cascaded approach after element-wise fine-tuning outperform element-specific models by up to 69%. Third, we implement cross-fidelity transfer learning, adapting a universal model to predict spectra generated by simulation of a different fidelity with a higher computational cost. This approach improves prediction accuracy by up to 11% over models trained on the target fidelity alone. Our approach boosts the throughput of XAS modeling by orders of magnitude versus first-principles simulations and is extendable to XAS prediction for a broader range of elements. This transfer learning framework is generalizable to enhance deep-learning models that target other properties in materials research.
- Abstract(参考訳): X線吸収分光法(XAS)は、吸収する原子の局所的な化学的環境を調べるための強力な特徴付け技術である。
しかしながら、XASデータの解析は大きな課題を示し、しばしば広範囲で計算集約的なシミュレーションと重要なドメインの専門知識を必要とする。
これらの制限は、高速で堅牢なXAS分析パイプラインの開発を妨げる。
これらの課題に,XAS予測のための一連の伝達学習アプローチを含むフレームワークであるOmniXASで対処し,K-edge Spectraデータベース上では8つの3d遷移金属(Ti-Cu)をカバーし,精度と効率の向上に寄与する。
OmniXASフレームワークは3つの異なる戦略に基づいて構築されている。
まず,M3GNetを用いて,吸収部位の局所化学環境の潜在的表現をXAS予測の入力として導出し,従来の工法よりも高次化を達成している。
第二に、我々は階層的な伝達学習戦略を採用し、要素ごとの予測を微調整する前に、要素間で普遍的なマルチタスクモデルを訓練する。
このケースケードアプローチに基づくモデルでは、要素ごとに微調整された要素固有モデルが最大69%向上する。
第3に,異なる忠実度を計算コストの高いシミュレーションにより生成したスペクトルを予測するために,普遍モデルを適用したクロスフィデリティ変換学習を実装した。
このアプローチは、ターゲット忠実度だけで訓練されたモデルよりも、予測精度を最大11%向上させる。
提案手法は,XASモデリングのスループットを第1原理シミュレーションに比べて桁違いに向上させ,より広い範囲の要素に対するXAS予測に拡張可能である。
この伝達学習フレームワークは、材料研究における他の特性をターゲットにしたディープラーニングモデルを強化するために一般化可能である。
関連論文リスト
- MAX: Masked Autoencoder for X-ray Fluorescence in Geological Investigation [7.777211995715721]
本稿では,XRFスペクトル(MAX)にマスク付き自己教師付きオートエンコーダを導入し,基礎モデルの事前学習を行う。
入力スペクトルの高い割合(50%)をマスキングすると、非自明で有意義な自己監督タスクが生じる。
その結果、MAXはデータの3分の1しか必要とせず、量子化精度の点で事前学習なしでモデルより優れていることがわかった。
論文 参考訳(メタデータ) (2024-10-16T07:52:26Z) - OPUS: Occupancy Prediction Using a Sparse Set [64.60854562502523]
学習可能なクエリの集合を用いて、占有された場所とクラスを同時に予測するフレームワークを提案する。
OPUSには、モデルパフォーマンスを高めるための非自明な戦略が組み込まれている。
最も軽量なモデルではOcc3D-nuScenesデータセットの2倍 FPS に優れたRayIoUが得られる一方、最も重いモデルは6.1 RayIoUを上回ります。
論文 参考訳(メタデータ) (2024-09-14T07:44:22Z) - Exploratory Preference Optimization: Harnessing Implicit Q*-Approximation for Sample-Efficient RLHF [82.7679132059169]
人間のフィードバックから強化学習が言語モデルのアライメントのための中心的なツールとして登場した。
我々は、RLHFにおけるオンライン探索のための新しいアルゴリズム、Exploratory Preference Optimization (XPO)を提案する。
XPOは証明可能な最強の保証と有望な経験的パフォーマンスを享受しています。
論文 参考訳(メタデータ) (2024-05-31T17:39:06Z) - Skeleton2vec: A Self-supervised Learning Framework with Contextualized
Target Representations for Skeleton Sequence [56.092059713922744]
予測対象として高レベルな文脈化機能を使用することで,優れた性能が得られることを示す。
具体的には、シンプルで効率的な3D行動表現学習フレームワークであるSkeleton2vecを提案する。
提案するSkeleton2vecは,従来の手法より優れ,最先端の結果が得られる。
論文 参考訳(メタデータ) (2024-01-01T12:08:35Z) - Embedded feature selection in LSTM networks with multi-objective
evolutionary ensemble learning for time series forecasting [49.1574468325115]
本稿では,Long Short-Term Memory Networkに埋め込まれた特徴選択手法を提案する。
本手法はLSTMの重みと偏りを分割的に最適化する。
イタリアとスペイン南東部の大気質時系列データの実験的評価により,従来のLSTMの能力一般化が著しく向上することが確認された。
論文 参考訳(メタデータ) (2023-12-29T08:42:10Z) - Towards quantitative precision for ECG analysis: Leveraging state space
models, self-supervision and patient metadata [2.0777058026628583]
自動心電図解析システムの定量的精度向上を目的とした3つの要素について検討する。
まず、構造化状態空間モデル(SSM)を用いて時系列データの長期依存関係をキャプチャする。
第2に、コントラスト予測符号化を用いた自己教師型学習が、SSMの性能をさらに向上することを示した。
最後に、ECG信号と共に基本的な統計メタデータを入力として組み込む。
論文 参考訳(メタデータ) (2023-08-29T13:25:26Z) - Exploring Supervised Machine Learning for Multi-Phase Identification and
Quantification from Powder X-Ray Diffraction Spectra [1.0660480034605242]
粉体X線回折分析は材料特性評価法の重要な構成要素である。
深層学習は、X線スペクトルから結晶学パラメータと特徴を予測するための主要な焦点となっている。
ここでは,多ラベル結晶相同定のための深層学習の代わりに,従来の教師付き学習アルゴリズムに関心がある。
論文 参考訳(メタデータ) (2022-11-16T00:36:13Z) - Pre-training via Denoising for Molecular Property Prediction [53.409242538744444]
本稿では,3次元分子構造の大規模データセットを平衡に利用した事前学習手法について述べる。
近年のノイズレギュラー化の進展に触発されて, 事前学習の目的は, 雑音の除去に基づくものである。
論文 参考訳(メタデータ) (2022-05-31T22:28:34Z) - Explainable Predictive Modeling for Limited Spectral Data [0.0]
本稿では、高次元および限られたスペクトルデータの予測結果を解釈するために、最近の説明可能なAI技術を適用する。
機器の解像度制限のため、分光データの重要な領域をピンポイントすると、データ収集プロセスを最適化する経路が生成される。
具体的には,MLモデルの評価がリアルタイムの実践に堅牢であることを保証するために,3つの異なるシナリオを設計する。
論文 参考訳(メタデータ) (2022-02-09T15:46:17Z) - Evaluating natural language processing models with generalization
metrics that do not need access to any training or testing data [66.11139091362078]
本稿では,Hugingface から事前学習した大規模トランスフォーマーに対して,一般化指標を用いた最初のモデル選択結果を提案する。
ニッチな状況にもかかわらず、ヘビーテール(HT)の観点から派生したメトリクスは、特にNLPタスクにおいて有用である。
論文 参考訳(メタデータ) (2022-02-06T20:07:35Z) - Interpretable AI-based Large-scale 3D Pathloss Prediction Model for
enabling Emerging Self-Driving Networks [3.710841042000923]
本稿では,新しい鍵予測器を応用した機械学習モデルを提案する。
予測,一般化,計算性能の観点から各種MLアルゴリズムの性能を定量的に評価することにより,光グラディエントブースティングマシン(LightGBM)アルゴリズムが全体として他のアルゴリズムより優れていることを示す。
論文 参考訳(メタデータ) (2022-01-30T19:50:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。