Fugu-MT 論文翻訳(概要): All-in-one foundational models learning across quantum chemical levels

論文の概要: All-in-one foundational models learning across quantum chemical levels

arxiv url: http://arxiv.org/abs/2409.12015v1
Date: Wed, 18 Sep 2024 14:29:14 GMT
ステータス: 処理完了
システム内更新日: 2024-09-19 17:24:06.773675
Title: All-in-one foundational models learning across quantum chemical levels
Title（参考訳）: 量子化学レベルで学習するオールインワン基礎モデル
Authors: Yuxinxin Chen, Pavlo O. Dral,
Abstract要約: マルチモーダル学習に基づくオールインワン(AIO)ANIモデルアーキテクチャを提案する。私たちのオールインワンの学習アプローチは、トランスファーラーニングよりも汎用的で使いやすい代替手段を提供します。 AIO-ANIモデルは、半経験的から密度汎関数理論から結合クラスタまで、様々なQCレベルにわたって学習可能であることを示す。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Machine learning (ML) potentials typically target a single quantum chemical (QC) level while the ML models developed for multi-fidelity learning have not been shown to provide scalable solutions for foundational models. Here we introduce the all-in-one (AIO) ANI model architecture based on multimodal learning which can learn an arbitrary number of QC levels. Our all-in-one learning approach offers a more general and easier-to-use alternative to transfer learning. We use it to train the AIO-ANI-UIP foundational model with the generalization capability comparable to semi-empirical GFN2-xTB and DFT with a double-zeta basis set for organic molecules. We show that the AIO-ANI model can learn across different QC levels ranging from semi-empirical to density functional theory to coupled cluster. We also use AIO models to design the foundational model {\Delta}-AIO-ANI based on {\Delta}-learning with increased accuracy and robustness compared to AIO-ANI-UIP. The code and the foundational models are available at https://github.com/dralgroup/aio-ani; they will be integrated into the universal and updatable AI-enhanced QM (UAIQM) library and made available in the MLatom package so that they can be used online at the XACS cloud computing platform (see https://github.com/dralgroup/mlatom for updates).
Abstract（参考訳）: 機械学習(ML)ポテンシャルは典型的には1つの量子化学(QC)レベルをターゲットにしているが、多要素学習のために開発されたMLモデルは基礎モデルのスケーラブルなソリューションを提供するために示されていない。本稿では,任意のQCレベルを学習可能なマルチモーダル学習に基づくオールインワン(AIO)ANIモデルアーキテクチャを提案する。私たちのオールインワンの学習アプローチは、トランスファーラーニングよりも汎用的で使いやすい代替手段を提供します。我々はAIO-ANI-UIPの基礎モデルを半経験的GFN2-xTBとDFTに匹敵する一般化能力と有機分子の二重ゼータ基底セットで訓練する。 AIO-ANIモデルは、半経験的から密度汎関数理論から結合クラスタまで、様々なQCレベルにわたって学習可能であることを示す。また、AIOモデルを用いて、AIO-AINI-UIPと比較して精度と堅牢性を高めた基礎モデル(Delta}-AIO-AINI)を設計する。コードと基礎モデルはhttps://github.com/dralgroup/aio-aniで利用可能で、汎用的で高機能なAI拡張QM(UAIQM)ライブラリに統合され、MLatomパッケージで利用可能になり、XACSクラウドコンピューティングプラットフォームでオンラインで使用できるようになる(更新はhttps://github.com/dralgroup/mlatomを参照)。

関連論文リスト

Multi-Level Optimal Transport for Universal Cross-Tokenizer Knowledge Distillation on Language Models [81.74999702045339]
マルチレベル最適輸送(MultiLevelOT)は、普遍的なクロストケナイザー知識蒸留のための最適な輸送を促進する新しいアプローチである。本手法は,教師と生徒のロジット分布をトークンレベルとシーケンスレベルの両方で整列する。トークンレベルでは、MultiLevelOTはグローバルとローカルの両方の情報を統合する。
論文参考訳（メタデータ） (2024-12-19T04:51:06Z)
Pulling the Carpet Below the Learner's Feet: Genetic Algorithm To Learn Ensemble Machine Learning Model During Concept Drift [0.8158530638728501]
現実的でダイナミックな環境で機械学習(ML)モデルを使用する場合、ユーザーはしばしばコンセプトドリフト(CD)の課題に対処する必要がある。本稿では,グローバルMLモデルとCD検出器を組み合わせた2段階のアンサンブルMLモデルを提案する。提案手法は,CDアルゴリズムを用いた1つのMLパイプライン,特に未知のCD特性を持つシナリオにおいて,優れた性能を示すことを示す。
論文参考訳（メタデータ） (2024-12-12T07:51:44Z)
xLAM: A Family of Large Action Models to Empower AI Agent Systems [111.5719694445345]
AIエージェントタスク用に設計された大規模なアクションモデルであるxLAMをリリースする。 xLAMは、複数のエージェント能力ベンチマークで例外的なパフォーマンスを提供する。
論文参考訳（メタデータ） (2024-09-05T03:22:22Z)
ESPnet-SPK: full pipeline speaker embedding toolkit with reproducible recipes, self-supervised front-ends, and off-the-shelf models [51.35570730554632]
ESPnet-SPKは、話者埋め込み抽出器を訓練するためのツールキットである。我々は、x-vectorから最近のSKA-TDNNまで、いくつかのモデルを提供している。開発モデルと他のドメインとの橋渡しも目指しています。
論文参考訳（メタデータ） (2024-01-30T18:18:27Z)
Agglomerative Federated Learning: Empowering Larger Model Training via End-Edge-Cloud Collaboration [10.90126132493769]
Agglomerative Federated Learning (FedAgg)は、EECCを利用した新しいFLフレームワークである。 FedAggは最先端の手法を平均4.53%の精度で上回り、収束率を著しく改善している。
論文参考訳（メタデータ） (2023-12-01T06:18:45Z)
Model Share AI: An Integrated Toolkit for Collaborative Machine Learning Model Development, Provenance Tracking, and Deployment in Python [0.0]
モデル共有AI(AIMS)は、コラボレーティブモデル開発、モデル前駆者追跡、モデルデプロイメントを合理化するように設計された、使いやすいMLOpsプラットフォームである。 AIMSは、協調的なプロジェクト空間と、見当たらない評価データに基づいてモデル提出をランク付けする標準化されたモデル評価プロセスを備えている。 AIMSでは、Scikit-Learn、Keras、PyTorch、ONNXで構築されたMLモデルを、ライブREST APIや自動生成されたWebアプリにデプロイすることができる。
論文参考訳（メタデータ） (2023-09-27T15:24:39Z)
The Languini Kitchen: Enabling Language Modelling Research at Different Scales of Compute [66.84421705029624]
本稿では,アクセル時間で測定された等価計算に基づくモデル比較を可能にする実験的プロトコルを提案する。私たちは、既存の学術的ベンチマークを上回り、品質、多様性、文書の長さで上回る、大規模で多様で高品質な書籍データセットを前処理します。この研究は、GPT-2アーキテクチャから派生したフィードフォワードモデルと、10倍のスループットを持つ新しいLSTMの形式でのリカレントモデルという2つのベースラインモデルも提供する。
論文参考訳（メタデータ） (2023-09-20T10:31:17Z)
TaCA: Upgrading Your Visual Foundation Model with Task-agnostic Compatible Adapter [21.41170708560114]
視覚基盤モデルに基づくアプリケーションが増えている。システムのアップグレードを伴う状況では、新しい基盤モデルに適応するために、下流モジュールを再訓練することが不可欠です。パラメータ効率とタスク非依存のアダプタであるTaCAを導入し,異なる基礎モデル間の互換性を実現する。
論文参考訳（メタデータ） (2023-06-22T03:00:24Z)
Neural Attentive Circuits [93.95502541529115]
我々は、NAC(Neural Attentive Circuits)と呼ばれる汎用的でモジュラーなニューラルアーキテクチャを導入する。 NACは、ドメイン知識を使わずに、ニューラルネットワークモジュールのパラメータ化と疎結合を学習する。 NACは推論時に8倍のスピードアップを達成するが、性能は3%以下である。
論文参考訳（メタデータ） (2022-10-14T18:00:07Z)
Smaller World Models for Reinforcement Learning [0.5156484100374059]
ベクトル量子化変分オートエンコーダ(VQ-VAE)に基づく世界モデルのための新しいニューラルネットワークアーキテクチャを提案する。モデルフリーPPOエージェントは、世界モデルからのシミュレーション体験に基づいて純粋に訓練される。我々はSimPLeアルゴリズムに匹敵する性能を示したが、我々のモデルははるかに小さい。
論文参考訳（メタデータ） (2020-10-12T15:02:41Z)
Ensemble Distillation for Robust Model Fusion in Federated Learning [72.61259487233214]
Federated Learning(FL)は、多くのデバイスが機械学習モデルを協調的にトレーニングする機械学習環境である。現在のトレーニングスキームのほとんどでは、サーバモデルのパラメータと更新されたパラメータをクライアント側から平均化することで、中央モデルを洗練します。本研究では,モデル融合のためのアンサンブル蒸留法を提案する。
論文参考訳（メタデータ） (2020-06-12T14:49:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。