論文の概要: Differentiate the Evaluator, Not the Program: An Efficient Runtime Representation for Neuro-Symbolic Learning

• arxiv url: http://arxiv.org/abs/2607.03574v1
• Date: Fri, 03 Jul 2026 19:29:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:29.651202
• Title: Differentiate the Evaluator, Not the Program: An Efficient Runtime Representation for Neuro-Symbolic Learning
• Title（参考訳）: プログラムではなく評価器を識別する:ニューロシンボリック学習のための効率的な実行時表現
• Authors: Lucas Sheneman,
• Abstract要約: 我々は,各候補を別個のグラフにコンパイルすることなく実行可能プログラムを識別するランタイム表現であるNative Differentiable Virtual Machine(NDVM)を提案する。 NDVMは、シンボル構造と、タグ、シンボル、環境、コントロールはネイティブランタイムデータのままである。 我々はNDVMをバックエンド参照のSchemeと等価なネイティブランタイムとして実現し、約60倍のバッチアモータイズ、ニアリニアマルチコアスケーリング、および2つの独立したフロントエンドを実現した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI systems increasingly propose executable scientific models whose value depends on both their symbolic structure and their fitted continuous parameters. This makes parameter calibration the bottleneck of program-and-parameter co-search: an outer loop can generate thousands of candidate programs, but each needs an inner gradient-based optimization before it can be assessed. Staging each candidate into its own differentiable graph makes individual models fast but sacrifices the program-as-data property that keeps search fluid; interpreter-based approaches preserve programs as runtime data but pay interpreter overhead that dominates the numerical work. We present the Native Differentiable Virtual Machine (NDVM), a runtime representation that differentiates executable programs without compiling each candidate into a separate graph. NDVM separates symbolic structure from differentiable numeric state: tags, symbols, environments, and control remain native runtime data, while numeric payloads live in dense batched buffers with exact reverse-mode gradients recorded along the realized execution trace, so one evaluator walk is amortized across large populations of parameter vectors. A locked cost model of a real differentiable self-hosted Scheme interpreter motivates the design. We realize NDVM as a native runtime with forward and gradient equivalence to the reference backend, about 60x per-lane batch amortization, near-linear multicore scaling, and two independent front ends. In fixed-budget co-search over LLM-proposed programs, NDVM reaches high-quality solutions about 24x sooner in wall-clock time, suggesting runtime differentiation as a practical systems foundation for scientific discovery workflows.
• Abstract（参考訳）: AIシステムは、そのシンボル構造と適合した連続パラメータの両方に依存する価値を持つ実行可能な科学モデルを提案している。 外部ループは数千の候補プログラムを生成することができるが、それぞれが評価される前に内部勾配に基づく最適化が必要である。 インタプリタベースのアプローチは、プログラムを実行時データとして保存するが、数値処理を支配するインタプリタオーバーヘッドを支払う。 我々は,各候補を別個のグラフにコンパイルすることなく実行可能プログラムを識別するランタイム表現であるNative Differentiable Virtual Machine(NDVM)を提案する。 タグ、シンボル、環境、コントロールはネイティブランタイムデータのままであり、一方、数値ペイロードは、実際の実行トレースに沿って記録された正確なリバースモード勾配を持つ高密度なバッチバッファに住んでいる。 真の差別化可能な自己ホスト型スキーマインタプリタのロックコストモデルが設計を動機付けている。 我々はNDVMを,基準バックエンドの前方および勾配に等価なネイティブランタイムとして実現し,約60倍のバッチアモータイズ,ニアリニアマルチコアスケーリング,および2つの独立したフロントエンドを実現した。 LLMが提案するプログラムに関する固定予算共同研究において、NDVMは壁面時間で約24倍早く高品質のソリューションに到達し、科学的な発見ワークフローのための実用的なシステム基盤としてランタイムの分化を示唆している。

関連論文リスト

• Compile Once, Differentiate Everywhere: A Differentiable Meta-Circular Interpreter [0.0]
  本稿では,Schemeの自己ホストサブセットをオートグレードバックエンド用の差別化可能なグラフに変換するコンパイラを提案する。 サブセットは独自の評価器をコンパイルできるため、これは微分可能なメタ循環解釈(DMCI)をもたらす。 DMCIはデータとして提供されるプログラムを実行し、リバースモードオートディフはそれらのプログラムに埋め込まれた連続定数への勾配を伝搬する。
  論文  参考訳（メタデータ） (2026-06-07T15:13:41Z)
• Multivariate Long-term Time Series Forecasting with Fourier Neural Filter [42.60778405812048]
  我々はFNFをバックボーンとして、DBDをアーキテクチャとして導入し、空間時間モデルのための優れた学習能力と最適な学習経路を提供する。 FNFは、局所時間領域とグローバル周波数領域の情報処理を単一のバックボーン内で統合し、空間的モデリングに自然に拡張することを示す。
  論文  参考訳（メタデータ） (2025-06-10T18:40:20Z)
• Tempo: Compiled Dynamic Deep Learning with Symbolic Dependence Graphs [0.2578242050187029]
  グラフベースのコンパイルのプログラム全体の最適化と、熱心な実行のダイナミズムを組み合わせた新しいディープラーニングシステムであるTempoについて述べる。 我々は,Tempo が Llama-3.2-3B 復号化のために JAX 上で 7$times$ の高速化を達成したことを示す。 強化学習アルゴリズムでは、Tempoは54$times$のスピードアップを実現し、16$times$のピークメモリ使用率を下げる。
  論文  参考訳（メタデータ） (2025-01-09T18:05:33Z)
• LLVM Static Analysis for Program Characterization and Memory Reuse Profile Estimation [0.0]
  本稿ではLLVMに基づく確率的静的解析手法を提案する。 プログラムの特徴を正確に予測し、プログラムの再利用距離プロファイルを推定する。 その結果,LLVMベースの動的コード解析ツールであるByflと比較して,アプリケーションの特性を正確に予測できることがわかった。
  論文  参考訳（メタデータ） (2023-11-20T23:05:06Z)
• Performance Embeddings: A Similarity-based Approach to Automatic Performance Optimization [71.69092462147292]
  パフォーマンス埋め込みは、アプリケーション間でパフォーマンスチューニングの知識伝達を可能にする。 本研究では, 深層ニューラルネットワーク, 密度およびスパース線形代数合成, および数値風速予測ステンシルのケーススタディにおいて, この伝達チューニング手法を実証する。
  論文  参考訳（メタデータ） (2023-03-14T15:51:35Z)
• Scaling Structured Inference with Randomization [64.18063627155128]
  本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。 我々の手法は古典的DPベースの推論に広く適用できる。 また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
  論文  参考訳（メタデータ） (2021-12-07T11:26:41Z)
• High-performance symbolic-numerics via multiple dispatch [52.77024349608834]
  Symbolics.jlは拡張可能なシンボルシステムで、動的多重ディスパッチを使用してドメインのニーズに応じて振る舞いを変更する。 実装に依存しないアクションでジェネリックapiを形式化することで、システムに最適化されたデータ構造を遡及的に追加できることを示します。 従来の用語書き換えシンプリファイアと電子グラフベースの用語書き換えシンプリファイアをスワップする機能を実証する。
  論文  参考訳（メタデータ） (2021-05-09T14:22:43Z)
• Exploiting Multiple Timescales in Hierarchical Echo State Networks [0.0]
  エコー状態ネットワーク(ESN)は、線形出力重みのトレーニングのみを必要とする貯水池コンピューティングの強力な形態である。 ここでは,貯水池を2つの小さな貯水池に分割した階層型esnの時間スケールを考察する。
  論文  参考訳（メタデータ） (2021-01-11T22:33:17Z)
• Time-varying Graph Representation Learning via Higher-Order Skip-Gram with Negative Sampling [0.456877715768796]
  我々は,スキップグラム埋め込み手法が行列分解を暗黙的に行うという事実に基づいて構築する。 負のサンプリングを持つ高次スキップグラムは、ノードと時間の役割を乱すことができることを示す。 提案手法を時間分解型対面近接データを用いて実証的に評価し,学習した時間変化グラフ表現が最先端の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2020-06-25T12:04:48Z)
• Connecting the Dots: Multivariate Time Series Forecasting with Graph Neural Networks [91.65637773358347]
  多変量時系列データに特化して設計された汎用グラフニューラルネットワークフレームワークを提案する。 グラフ学習モジュールを用いて,変数間の一方向関係を自動的に抽出する。 提案手法は,4つのベンチマークデータセットのうち3つにおいて,最先端のベースライン手法よりも優れている。
  論文  参考訳（メタデータ） (2020-05-24T04:02:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。