論文の概要: The Neural Compiler: Program-to-Network Translation for Hybrid Scientific Machine Learning
- arxiv url: http://arxiv.org/abs/2605.22498v1
- Date: Thu, 21 May 2026 13:49:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 16:35:42.283242
- Title: The Neural Compiler: Program-to-Network Translation for Hybrid Scientific Machine Learning
- Title(参考訳): ニューラルコンパイラ:ハイブリッド科学機械学習のためのプログラムからネットワークへの変換
- Authors: Lucas Sheneman,
- Abstract要約: The Neural Compilerは、一階のSchemeのような表現言語で書かれたプログラムを、凍結して微分可能なPyTorchモジュールに変換するシステムである。
ハイブリッドモデルでは、コンパイルされたモジュールは未知のコンポーネントをモデル化しながら、既知の物理を正確にエンコードする。
コンパイルされたモジュールは、単一の方程式に対して手書きのPyTorch実装と数値的に一致し、コンパイルによる精度の低下は示さない。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scientific machine learning often requires combining known physics with unknown parameters or correction terms learned from data. Existing approaches either ignore known structure, encode it as a soft penalty, or require hand-written PyTorch code for each equation. We present The Neural Compiler, a system that translates programs written in a first-order Scheme-like expression language into frozen, differentiable PyTorch modules. These modules match the source program to floating-point precision and provide gradients through autograd. In hybrid models, the compiled module encodes known physics exactly while learned components model the unknown remainder. We evaluate the compiler across six experiment domains: Feynman physics equations, Lotka-Volterra dynamics, a damped pendulum, a one-dimensional heat equation, three-dimensional vector mechanics, and compositional generalization. Compiled modules match hand-coded PyTorch implementations numerically for single equations, showing no accuracy loss from compilation. With only 1 to 4 trainable parameters, compiled models recover physical constants to less than 1 percent error in most cases, while standard PINN baselines with more than 8500 parameters show 7 to 93 percent error. Compiled modules also compose with zero error, while neural approximations can accumulate large errors in deep composition chains. The main value of the compiler is not improved accuracy over hand-coded equations, but systematic composability: it generates correct, differentiable modules from symbolic specifications without rewriting each equation by hand. The system supports 51 primitive operations, including vector and matrix algebra, enabling PDE discretizations and hybrid scientific models. This string-in, module-out interface also provides a natural target for large language models that translate scientific descriptions into executable differentiable modules.
- Abstract(参考訳): 科学機械学習はしばしば、既知の物理学と未知のパラメータやデータから学んだ補正項を組み合わせる必要がある。
既存のアプローチでは、既知の構造を無視したり、それをソフトペナルティとしてエンコードしたり、あるいは各方程式に対して手書きのPyTorchコードを必要とする。
The Neural Compilerは、一階のSchemeのような表現言語で書かれたプログラムを、凍結して微分可能なPyTorchモジュールに変換するシステムである。
これらのモジュールは、ソースプログラムを浮動小数点精度にマッチさせ、オートグレードを通じて勾配を提供する。
ハイブリッドモデルでは、コンパイルされたモジュールは未知のコンポーネントをモデル化しながら、既知の物理を正確にエンコードする。
本研究では, ファインマン方程式, ロトカ・ボルテラ力学, 減衰振子, 1次元熱方程式, 3次元ベクトル力学, 構成一般化の6分野にまたがってコンパイラを評価した。
コンパイルされたモジュールは、単一の方程式に対して手書きのPyTorch実装と数値的に一致し、コンパイルによる精度の低下は示さない。
トレーニング可能なパラメータは1から4つしかなく、コンパイルされたモデルでは、ほとんどの場合、物理定数を1%未満のエラーに回復する。
コンパイルされたモジュールはゼロエラーで構成され、ニューラル近似はディープコンポジションチェーンで大きなエラーを蓄積することができる。
コンパイラの主な価値は、手書きの方程式よりも正確さを改善するのではなく、体系的な構成可能性である。
このシステムはベクトルおよび行列代数を含む51の原始演算をサポートし、PDE離散化とハイブリッド科学モデルを可能にする。
このstring-in, module-outインターフェースは、科学的な記述を実行可能な微分可能なモジュールに変換する、大きな言語モデルに対する自然なターゲットを提供する。
関連論文リスト
- Compositional Neural Operators for Multi-Dimensional Fluid Dynamics [0.0]
偏微分方程式は様々な物理現象を支配しているが、高忠実度数値解は計算に高価であり、機械学習のアプローチは一般化を欠いている。
複雑なPDEをファンデーションブロックのライブラリに分解するフレームワークである2Dシステムのためのコンポジションニューラル演算子(CompNO)を提案する。
実験の結果,初等演算子からの学習は適応性を大幅に向上し,モデル解釈性を高め,新しい物理系に適応する際の事前学習ブロックの再利用を容易にすることがわかった。
論文 参考訳(メタデータ) (2026-05-12T07:48:03Z) - When Attention Beats Fourier: Multi-Scale Transformers for PDE Solving on Irregular Domains [0.0]
msatは複素幾何学問題に対する最先端の一般化を実現する。
textbfMulti-Scale Attention Transformer (msat)は、ソリューション履歴をトークンシーケンスとしてエンコードし、エンドツーエンドにトレーニングする。
論文 参考訳(メタデータ) (2026-05-08T15:23:13Z) - Fast and accurate AI-based pre-decoders for surface codes [0.0]
我々は、低デコードランタイムで局所的並列エラー補正を行う、表面コードのためのスケーラブルなAIベースのプリデコーダを導入する。
このアーキテクチャはバックエンドに依存しず、サーフェスコード用に設計された任意のグローバルデコーディングアルゴリズムで構成される。
非相関なPyMatchingと統合されたパイプラインは、大きなコード距離で1ラウンドあたり$mathcalO(1テキスト)$のエンドツーエンドのデコードランタイムを達成する。
論文 参考訳(メタデータ) (2026-04-14T15:01:05Z) - Algorithms and Scientific Software for Quasi-Monte Carlo, Fast Gaussian Process Regression, and Scientific Machine Learning [0.0]
この論文は、効率的な高次元積分のための準モンテカルロ法(QMC)、組込み不確実性のある高次元領域のためのガウス過程(GP)回帰法、メッシュフリーな解法を用いて偏微分方程式(PDE)をモデル化するための科学機械学習(sciML)の3つの分野における我々の発展を統一する。
論文 参考訳(メタデータ) (2025-11-26T21:11:08Z) - INC: An Indirect Neural Corrector for Auto-Regressive Hybrid PDE Solvers [61.84396402100827]
本稿では,学習した補正を支配方程式に統合する間接ニューラルコレクタ(mathrmINC$)を提案する。
$mathrmINC$は、$t-1 + L$の順番でエラー増幅を減らし、$t$はタイムステップ、$L$はリプシッツ定数である。
大規模なベンチマークで$mathrmINC$をテストし、1Dカオスシステムから3D乱流まで、多くの異なる解法、神経バックボーン、テストケースをカバーした。
論文 参考訳(メタデータ) (2025-11-16T20:14:28Z) - In-Context Language Learning: Architectures and Algorithms [73.93205821154605]
我々は、文脈言語学習(ICLL)において、私たちが用語する新しいモデル問題群(英語版)のレンズを通してICLを研究する。
我々は,通常のICLLタスクにおいて,多種多様なニューラルシーケンスモデルを評価する。
論文 参考訳(メタデータ) (2024-01-23T18:59:21Z) - Guess & Sketch: Language Model Guided Transpilation [59.02147255276078]
学習されたトランスパイレーションは、手作業による書き直しやエンジニアリングの取り組みに代わるものだ。
確率的ニューラルネットワークモデル(LM)は、入力毎に可塑性出力を生成するが、正確性を保証するコストがかかる。
Guess & Sketch は LM の特徴からアライメントと信頼性情報を抽出し、意味的等価性を解決するためにシンボリック・ソルバに渡す。
論文 参考訳(メタデータ) (2023-09-25T15:42:18Z) - Equivariant geometric convolutions for emulation of dynamical systems [6.3003220645859175]
我々は幾何学的畳み込みを用いて、機械学習モデルに座標自由を強制する。
2次元圧縮可能なナビエストークスを模擬した数値実験では,精度が向上し,安定性が向上した。
モデルアーキテクチャに大きな変更を加えることなく座標自由を強制することの容易さは、適切な種類の問題に適用されるCNNベースのメソッドにエキサイティングなレシピを提供する。
論文 参考訳(メタデータ) (2023-05-21T22:44:18Z) - GradInit: Learning to Initialize Neural Networks for Stable and
Efficient Training [59.160154997555956]
ニューラルネットワークを初期化するための自動化およびアーキテクチャ手法であるgradinitを提案する。
各ネットワーク層の分散は、SGDまたはAdamの単一ステップが最小の損失値をもたらすように調整される。
また、学習率のウォームアップを伴わずに、オリジナルのPost-LN Transformerを機械翻訳用にトレーニングすることもできる。
論文 参考訳(メタデータ) (2021-02-16T11:45:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。