論文の概要: Modeling Multi-Step Scientific Processes with Graph Transformer Networks
- arxiv url: http://arxiv.org/abs/2408.05425v1
- Date: Sat, 10 Aug 2024 04:03:51 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-13 19:11:07.025060
- Title: Modeling Multi-Step Scientific Processes with Graph Transformer Networks
- Title（参考訳）: グラフトランスネットワークを用いたマルチステップ科学プロセスのモデリング
- Authors: Amanda A. Volk, Robert W. Epps, Jeffrey G. Ethier, Luke A. Baldwin,
- Abstract要約: 回帰タスクに対する幾何学習の有効性は線形モデルの集合に対してベンチマークされた。
グラフトランスフォーマーネットワークは、プロセスステップとシーケンス依存機能の間の隠れた相互作用を特徴とするシナリオにおいて、すべてのテストされた線形モデルを上回った。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work presents the use of graph learning for the prediction of multi-step experimental outcomes for applications across experimental research, including material science, chemistry, and biology. The viability of geometric learning for regression tasks was benchmarked against a collection of linear models through a combination of simulated and real-world data training studies. First, a selection of five arbitrarily designed multi-step surrogate functions were developed to reflect various features commonly found within experimental processes. A graph transformer network outperformed all tested linear models in scenarios that featured hidden interactions between process steps and sequence dependent features, while retaining equivalent performance in sequence agnostic scenarios. Then, a similar comparison was applied to real-world literature data on algorithm guided colloidal atomic layer deposition. Using the complete reaction sequence as training data, the graph neural network outperformed all linear models in predicting the three spectral properties for most training set sizes. Further implementation of graph neural networks and geometric representation of scientific processes for the prediction of experiment outcomes could lead to algorithm driven navigation of higher dimension parameter spaces and efficient exploration of more dynamic systems.
- Abstract（参考訳）: 本研究は, 物質科学, 化学, 生物学など, 実験分野における多段階実験結果の予測にグラフ学習を用いることを提案する。
回帰作業における幾何学習の実用性は、シミュレーションと実世界のデータトレーニング研究の組み合わせによって線形モデルの集合と比較された。
まず,実験プロセスでよく見られる様々な特徴を反映して,任意に設計された5つの多段階サロゲート関数を選択した。
グラフトランスフォーマーネットワークは、プロセスステップとシーケンス依存機能の間の隠れた相互作用を特徴とし、シーケンスに依存しないシナリオでは同等のパフォーマンスを維持しながら、テスト済みのすべての線形モデルよりも優れていた。
次に,コロイド原子層堆積法における実世界の文献データに対して,同様の比較を行った。
完全な反応シーケンスをトレーニングデータとして使用し、グラフニューラルネットワークは、ほとんどのトレーニングセットサイズの3つのスペクトル特性を予測するために、すべての線形モデルより優れていた。
グラフニューラルネットワークのさらなる実装と実験結果の予測のための幾何学的プロセスの幾何学的表現は、高次元パラメータ空間のアルゴリズム駆動ナビゲーションとよりダイナミックなシステムの効率的な探索につながる可能性がある。
関連論文リスト
- Deep Learning Through A Telescoping Lens: A Simple Model Provides Empirical Insights On Grokking, Gradient Boosting & Beyond [61.18736646013446]
その驚くべき振る舞いをより深く理解するために、トレーニングされたニューラルネットワークの単純かつ正確なモデルの有用性について検討する。
3つのケーススタディで、様々な顕著な現象に関する新しい経験的洞察を導き出すためにどのように適用できるかを説明します。
論文 参考訳（メタデータ） (2024-10-31T22:54:34Z) - Enhancing Multi-Objective Optimization through Machine Learning-Supported Multiphysics Simulation [1.6685829157403116]
本稿では,訓練,自己最適化,自己組織的代理モデルのための方法論的枠組みを提案する。
シュロゲートモデルを比較的少量のデータで訓練し、基礎となるシミュレーションを正確に近似できることを示す。
論文 参考訳（メタデータ） (2023-09-22T20:52:50Z) - Learning Latent Dynamics via Invariant Decomposition and
(Spatio-)Temporal Transformers [0.6767885381740952]
本研究では,高次元経験データから力学系を学習する手法を提案する。
我々は、システムの複数の異なるインスタンスからデータが利用できる設定に焦点を当てる。
我々は、単純な理論的分析と、合成および実世界のデータセットに関する広範な実験を通して行動を研究する。
論文 参考訳（メタデータ） (2023-06-21T07:52:07Z) - Learning the Evolutionary and Multi-scale Graph Structure for
Multivariate Time Series Forecasting [50.901984244738806]
時系列の進化的・マルチスケール相互作用をモデル化する方法を示す。
特に、まず、拡張畳み込みと協調して、スケール固有の相関を捉える階層グラフ構造を提供する。
最終的な予測を得るために上記のコンポーネントを統合するために、統合ニューラルネットワークが提供される。
論文 参考訳（メタデータ） (2022-06-28T08:11:12Z) - Gradient-Based Trajectory Optimization With Learned Dynamics [80.41791191022139]
データからシステムの微分可能なダイナミクスモデルを学習するために、機械学習技術を使用します。
ニューラルネットワークは、大規模な時間的地平線に対して、非常に非線形な振る舞いを正確にモデル化できることが示される。
ハードウェア実験において、学習したモデルがSpotとRadio- controlled (RC)の両方の複雑な力学を表現できることを実証した。
論文 参考訳（メタデータ） (2022-04-09T22:07:34Z) - Differentiable Reasoning over Long Stories -- Assessing Systematic
Generalisation in Neural Models [12.479512369785082]
グラフ構造化データを同時に処理し、エッジ属性を同時に考慮できるグラフベースのモデルである"E-GNN"と、グラフの線形化バージョンを処理できるシーケンスベースのモデルである"L-Graph"である。
その結果、修正されたリカレントニューラルネットワークは、グラフニューラルネットワークよりも優れた体系的な一般化タスク全体にわたって驚くほど正確な結果が得られることがわかった。
論文 参考訳（メタデータ） (2022-03-20T18:34:42Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳（メタデータ） (2022-02-18T22:41:51Z) - Equivariant vector field network for many-body system modeling [65.22203086172019]
Equivariant Vector Field Network (EVFN) は、新しい同変層と関連するスカラー化およびベクトル化層に基づいて構築されている。
シミュレーションされたニュートン力学系の軌跡を全観測データと部分観測データで予測する手法について検討した。
論文 参考訳（メタデータ） (2021-10-26T14:26:25Z) - Physical model simulator-trained neural network for computational 3D
phase imaging of multiple-scattering samples [1.112751058850223]
サンプルコントラストを均質化する新しいモデルベースデータ正規化前処理法を開発した。
上皮扁平上皮細胞およびCaenorhabditis elegans wormsの実験的測定におけるこのフレームワークの能力を示す。
論文 参考訳（メタデータ） (2021-03-29T17:43:56Z) - Deep Learning with Functional Inputs [0.0]
本稿では,機能データをフィードフォワードニューラルネットワークに統合する手法を提案する。
この手法の副産物は、最適化プロセス中に可視化できる動的な機能的重みの集合である。
このモデルは、新しいデータの予測や真の機能的重みの回復など、多くの文脈でうまく機能することが示されている。
論文 参考訳（メタデータ） (2020-06-17T01:23:00Z) - Understanding the Effects of Data Parallelism and Sparsity on Neural
Network Training [126.49572353148262]
ニューラルネットワークトレーニングにおける2つの要因として,データ並列性と疎性について検討する。
有望なメリットにもかかわらず、ニューラルネットワークトレーニングに対する彼らの影響を理解することは、依然として明白である。
論文 参考訳（メタデータ） (2020-03-25T10:49:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。