論文の概要: Compile Once, Differentiate Everywhere: A Differentiable Meta-Circular Interpreter
- arxiv url: http://arxiv.org/abs/2606.09930v1
- Date: Sun, 07 Jun 2026 15:13:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-10 15:40:58.05849
- Title: Compile Once, Differentiate Everywhere: A Differentiable Meta-Circular Interpreter
- Title（参考訳）: あらゆる場所でコンパイルできるメタサーキュラー・インタプリタ
- Authors: Lucas Sheneman,
- Abstract要約: 本稿では,Schemeの自己ホストサブセットをオートグレードバックエンド用の差別化可能なグラフに変換するコンパイラを提案する。
サブセットは独自の評価器をコンパイルできるため、これは微分可能なメタ循環解釈(DMCI)をもたらす。
DMCIはデータとして提供されるプログラムを実行し、リバースモードオートディフはそれらのプログラムに埋め込まれた連続定数への勾配を伝搬する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The boundary between program execution and gradient-based optimization has long limited the use of code itself as a learnable scientific model. We present a compiler that translates a self-hosting subset of Scheme into differentiable computation graphs for autograd backends. Because the subset can compile its own evaluator, this yields differentiable meta-circular interpretation (DMCI): a compiled Scheme interpreter executes programs supplied as data, while reverse-mode autodiff propagates gradients to continuous constants embedded in those programs. The interpreter is compiled once, so new programs inherit differentiability without recompilation or custom gradient machinery, while retaining closures, recursion, and data structures. We prove that gradients through the compiled interpreter are correct almost everywhere and show that they match direct compilation to numerical precision across 171 recursive and higher-order program-seed pairs. We then use DMCI for program-and-parameter co-search, where a large language model proposes Scheme programs and exact gradients calibrate their continuous parameters through a single frozen interpreter. This enables OpenEvolve-style program search in which an outer loop proposes discrete program structures and DMCI supplies exact gradient-based calibration of each candidate's continuous parameters. On battery capacity-fade data, the search recovers a knee-like degradation structure and improves held-out extrapolation over hand-crafted baselines on the harder early-extrapolation split, matching them on the later split. On a high-dimensional El Nino inverse problem, DMCI optimizes an interpreted Kalman-filter likelihood where gradient-free search fails. These results extend symbolic regression and neurosymbolic search from closed-form expressions to executable, stateful programs, making model-generated code directly optimizable against data.
- Abstract（参考訳）: プログラムの実行と勾配に基づく最適化の境界は、学習可能な科学モデルとしてのコード自体の使用を長い間制限してきた。
本稿では,Schemeの自己ホストサブセットをオートグレードバックエンド用の微分可能な計算グラフに変換するコンパイラを提案する。
コンパイルされたSchemeインタプリタはデータとして供給されたプログラムを実行し、リバースモードのautodiffはそれらのプログラムに埋め込まれた連続定数への勾配を伝搬する。
インタプリタは一度コンパイルされるので、新しいプログラムは、クロージャ、再帰、データ構造を維持しながら、再コンパイルやカスタム勾配の機械を使わずに、微分可能性を継承する。
コンパイルされたインタプリタの勾配がほぼ至る所で正しいことを証明し、171個の再帰的および高次プログラムシードペア間の直接コンパイルと数値的精度に一致することを示す。
プログラムとパラメータのコサーチにDMCIを使用し、大きな言語モデルがスキームプログラムを提案し、厳密な勾配が1つのフリーズインタプリタを通して連続パラメータを校正する。
これにより、外部ループが個別のプログラム構造を提案するOpenEvolveスタイルのプログラム検索が可能になり、DMCIは各候補の連続パラメータの正確な勾配に基づくキャリブレーションを提供する。
バッテリー容量・フェードデータに基づいて、検索は膝状劣化構造を回復し、手作りのベースライン上の持ち出し外挿を、より硬い早期外挿スプリットで改善し、後続のスプリットと一致させる。
高次元エルニーノ逆問題では、DMCIは勾配のない探索が失敗するカルマンフィルタの確率を最適化する。
これらの結果は、クローズドフォーム表現からの記号回帰とニューロシンボリック検索を、実行可能でステートフルなプログラムに拡張し、モデル生成したコードをデータに対して直接最適化する。
関連論文リスト
- Latent Heuristic Search: Continuous Optimization for Automated Algorithm Design [6.870020562464171]
この研究は、競合しない風景をナビゲートする継続的発見フレームワークを提案する。
我々は、潜微分可能サロゲートの連続埋め込みに埋め込み勾配写像アルゴリズムを用いる。
その結果、最適化された実行可能ファイルは、学習されたマッパーを通してソフトプロンプトに投影される。
論文 参考訳（メタデータ） (2026-05-16T20:03:01Z) - HyCOP: Hybrid Composition Operators for Interpretable Learning of PDEs [6.796343285359228]
HyCOPは、単純なモジュールをクエリ条件で構成することで、PDEソリューション演算子を学習する。
モノリシックマップを学ぶのではなく、HyCOPは、レシシックな特徴と状態統計に基づく短いプログラムに関するポリシーを学ぶ。
論文 参考訳（メタデータ） (2026-05-01T17:57:48Z) - Superset Decompilation [7.989066784325648]
decompilationはコンパイルの逆で、モジュラーパスのシーケンスとして構成できる。
我々はこれを、バイナリに関する事実を一元的にリレーショナルストアに導出するフレームワークである、証明誘導スーパーセットデコンパイル(PGSD)として定式化する。
Mandelは、宣言的なリバースエンジニアリングフレームワークとしてPGSDを実装しており、Linux ELFバイナリを35K行のRustとDatalogの粒度の中間表現を通じてC99に引き上げている。
論文 参考訳（メタデータ） (2026-03-30T03:47:19Z) - INC: An Indirect Neural Corrector for Auto-Regressive Hybrid PDE Solvers [61.84396402100827]
本稿では,学習した補正を支配方程式に統合する間接ニューラルコレクタ(mathrmINC$)を提案する。
$mathrmINC$は、$t-1 + L$の順番でエラー増幅を減らし、$t$はタイムステップ、$L$はリプシッツ定数である。
大規模なベンチマークで$mathrmINC$をテストし、1Dカオスシステムから3D乱流まで、多くの異なる解法、神経バックボーン、テストケースをカバーした。
論文 参考訳（メタデータ） (2025-11-16T20:14:28Z) - A Compiler from Array Programs to Vectorized Homomorphic Encryption [1.6216324006136673]
ホモモルフィック暗号 (HE) は、暗号化されたデータに対して安全な計算を行うための実践的な手法である。
本稿では,効率的なベクトル化HEプログラムを生成するViaduct-HEを提案する。
Viaduct-HEは、効率的なHEプログラムに必要な操作と複雑なデータレイアウトの両方を生成することができる。
論文 参考訳（メタデータ） (2023-11-10T16:00:00Z) - Performance Embeddings: A Similarity-based Approach to Automatic
Performance Optimization [71.69092462147292]
パフォーマンス埋め込みは、アプリケーション間でパフォーマンスチューニングの知識伝達を可能にする。
本研究では, 深層ニューラルネットワーク, 密度およびスパース線形代数合成, および数値風速予測ステンシルのケーススタディにおいて, この伝達チューニング手法を実証する。
論文 参考訳（メタデータ） (2023-03-14T15:51:35Z) - Source-to-Source Automatic Differentiation of OpenMP Parallel Loops [0.0]
本稿では,OpenMP並列ワークシェアリングループの前方・後方モードにおける精度向上に向けた取り組みについて述べる。
本稿では,生成した派生コードの正しさを判断する枠組みを提案し,OpenMP拡張から微分モデルへの拡張を正当化する。
生成した導関数プログラムの前方・逆モードの性能は逐次モードよりも優れているが,我々の逆モードは入力プログラムよりもよくスケールする。
論文 参考訳（メタデータ） (2021-11-02T19:40:59Z) - Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via
GDPA Linearization [59.87663954467815]
アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。
本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。
実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
論文 参考訳（メタデータ） (2021-09-10T07:01:15Z) - Efficient Learning of Generative Models via Finite-Difference Score
Matching [111.55998083406134]
有限差分で任意の順序方向微分を効率的に近似する汎用戦略を提案する。
我々の近似は関数評価にのみ関係しており、これは並列で実行でき、勾配計算は行わない。
論文 参考訳（メタデータ） (2020-07-07T10:05:01Z) - Predictive Coding Approximates Backprop along Arbitrary Computation
Graphs [68.8204255655161]
我々は、コア機械学習アーキテクチャを予測的符号化に翻訳する戦略を開発する。
私たちのモデルは、挑戦的な機械学習ベンチマークのバックプロップと同等に機能します。
本手法は,ニューラルネットワークに標準機械学習アルゴリズムを直接実装できる可能性を高める。
論文 参考訳（メタデータ） (2020-06-07T15:35:47Z) - Variance Reduction with Sparse Gradients [82.41780420431205]
SVRGやSpiderBoostのような分散還元法では、大きなバッチ勾配と小さなバッチ勾配が混在している。
我々は、新しい空間演算子:ランダムトップk演算子を導入する。
我々のアルゴリズムは、画像分類、自然言語処理、スパース行列分解など様々なタスクにおいて、一貫してSpiderBoostより優れています。
論文 参考訳（メタデータ） (2020-01-27T08:23:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。