論文の概要: Hardware-Efficient Neuro-Symbolic Networks with the Exp-Minus-Log Operator
- arxiv url: http://arxiv.org/abs/2604.13871v2
- Date: Tue, 21 Apr 2026 20:37:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-23 15:36:10.242963
- Title: Hardware-Efficient Neuro-Symbolic Networks with the Exp-Minus-Log Operator
- Title(参考訳): Exp-Minus-Log演算子を用いたハードウェア効率の良いニューロシンボリックネットワーク
- Authors: Eymen Ipek,
- Abstract要約: シェファー作用素 eml(x, y) = exp(x) - ln(y) は Odwolek (2026) によって示され、すべての標準基本関数を同一ノードのバイナリツリーとして表現するのに十分である。
我々は,従来のDNNアーキテクチャにプリミティブを組み込んで,トランクが分散表現を学習し,頭部が深さ境界のヘビースパースツリーとなるハイブリッド-EMLモデルを構築した。
多層パーセプトロン(MLP)および物理インフォームドニューラルネットワークに対する前方方程式の導出、計算コスト境界の証明、推論およびトレーニング加速度の導出を行う。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep neural networks (DNNs) deliver state-of-the-art accuracy on regression and classification tasks, yet two structural deficits persistently obstruct their deployment in safety-critical, resource-constrained settings: (i) opacity of the learned function, which precludes formal verification, and (ii) reliance on heterogeneous, library-bound activation functions that inflate latency and silicon area on edge hardware. The recently introduced Exp-Minus-Log (EML) Sheffer operator, eml(x, y) = exp(x) - ln(y), was shown by Odrzywolek (2026) to be sufficient - together with the constant 1 - to express every standard elementary function as a binary tree of identical nodes. We propose to embed EML primitives inside conventional DNN architectures, yielding a hybrid DNN-EML model in which the trunk learns distributed representations and the head is a depth-bounded, weight-sparse EML tree whose snapped weights collapse to closed-form symbolic sub-expressions. We derive the forward equations, prove computational-cost bounds, analyse inference and training acceleration relative to multilayer perceptrons (MLPs) and physics-informed neural networks (PINNs), and quantify the trade-offs for FPGA/analog deployment. We argue that the DNN-EML pairing closes a literature gap: prior neuro-symbolic and equation-learner approaches (EQL, KAN, AI-Feynman) work with heterogeneous primitive sets and do not exploit a single hardware-realisable Sheffer element. A balanced assessment shows that EML is unlikely to accelerate training, and on commodity CPU/GPU it is also unlikely to accelerate inference; however, on a custom EML cell (FPGA logic block or analog circuit) the asymptotic latency advantage can reach an order of magnitude with simultaneous gain in interpretability and formal-verification tractability.
- Abstract(参考訳): ディープニューラルネットワーク(DNN)は、レグレッションと分類タスクに最先端の精度を提供するが、2つの構造的欠陥は、安全クリティカルでリソース制約のある環境でのデプロイメントを永続的に妨げている。
一 形式的検証を阻害する学習機能の透明度、及び
(II)エッジハードウェア上での遅延とシリコン領域を増大させる不均一なライブラリ結合活性化関数に依存する。
最近導入されたExp-Minus-Log (EML) Sheffer演算子 eml(x,
y) = exp
(x)-ln
(y) は Odrzywolek (2026) によって示され、定数 1 とともに、すべての標準基本関数を同一ノードのバイナリツリーとして表現するのに十分である。
本稿では,従来の DNN アーキテクチャに EML プリミティブを組み込んで,トランクが分散表現を学習し,頭部が閉形記号部分表現に重みが崩れる深さ境界のヘビースパース EML ツリーであるハイブリッド DNN-EML モデルを提案する。
我々は、前方方程式を導出し、計算コスト境界の証明、多層パーセプトロン(MLP)と物理インフォームドニューラルネットワーク(PINN)に対する推論とトレーニングアクセラレーションを導出し、FPGA/アナログ展開のトレードオフを定量化する。
我々は、DNN-EMLペアリングが文学的なギャップを閉じていると主張する: 先行のニューロシンボリックおよび方程式ラーナーアプローチ(EQL, Kan, AI-Feynman)は、異種原始集合で動作し、1つのハードウェアで解析可能なシェファー要素を利用しない。
バランスの取れた評価では、EMLはトレーニングを加速することは不可能であり、コモディティCPU/GPUでは推論を加速することは不可能である。
関連論文リスト
- TorchLean: Formalizing Neural Networks in Lean [71.68907600404513]
本稿では,学習モデルを一級数学的対象として扱うフレームワークであるTorchLeanを紹介する。
我々はTorchLeanのエンドツーエンドを、証明された堅牢性、PINNの物理インフォームド残差、Lyapunovスタイルのニューラルコントローラ検証で検証する。
論文 参考訳(メタデータ) (2026-02-26T05:11:44Z) - Hyperbolic Busemann Neural Networks [100.27390895360753]
本研究では,ニューラルネットワークの中核となる2つの要素,MLR(Multinomial Logistic Regression)層とFC(Fully Connected)層をブセマン関数を介して双曲空間に持ち上げる。
BMLRはコンパクトパラメータ、対空距離解釈、バッチ効率計算、ユークリッド極限を提供する。
画像分類、ゲノムシークエンス学習、ノード分類、リンク予測の実験は、以前の双曲層よりも有効性と効率が向上したことを示している。
論文 参考訳(メタデータ) (2026-02-21T14:45:40Z) - FEM-Informed Hypergraph Neural Networks for Efficient Elastoplasticity [3.211924713637672]
グラフニューラルネットワーク(GNN)は、スパース演算子や非構造化離散化と自然に一致している。
離散的な物理損失により、ノードに有限要素計算を埋め込み、ガウス点を直接メッセージパッシング層に埋め込む。
我々はFHGNN(FEM-Informed Hypergraph Neural Networks)を提案する。
論文 参考訳(メタデータ) (2026-02-07T05:11:12Z) - LaPON: A Lagrange's-mean-value-theorem-inspired operator network for solving PDEs and its application on NSE [8.014720523981385]
ラグランジュの平均値定理に着想を得た演算子ネットワークであるLaPONを提案する。
損失関数ではなく、ニューラルネットワークアーキテクチャに直接、事前の知識を組み込む。
LaPONは、高忠実度流体力学シミュレーションのためのスケーラブルで信頼性の高いソリューションを提供する。
論文 参考訳(メタデータ) (2025-05-18T10:45:17Z) - Input Specific Neural Networks [0.0]
ニューラルネットワークのブラックボックスは、入力と出力の間の特定の関係をエンコードまたは強制する能力を制限する。
本稿では、入力に関する第1次微分方程式とともに、2つのISNNについて述べる。
本稿では、ISNNを用いて、バイナリゲーティング機構を用いて入力出力間の構造的関係を学習する方法を示す。
論文 参考訳(メタデータ) (2025-03-01T00:57:16Z) - Distributed Representations Enable Robust Multi-Timescale Symbolic Computation in Neuromorphic Hardware [3.961418890143814]
本稿では,ロバストなマルチスケールダイナミックスをアトラクタベースRSNNに組み込むシングルショット重み学習方式について述べる。
対称自己解離重み行列を重畳することにより、有限状態機械をRSNN力学に組み込む。
この研究は、リカレントダイナミクスによる堅牢な記号計算をニューロモルフィックハードウェアに組み込むスケーラブルなアプローチを導入している。
論文 参考訳(メタデータ) (2024-05-02T14:11:50Z) - Efficient and Flexible Neural Network Training through Layer-wise Feedback Propagation [49.44309457870649]
レイヤワイドフィードバックフィードバック(LFP)は、ニューラルネットワークのような予測器のための新しいトレーニング原則である。
LFPはそれぞれの貢献に基づいて個々のニューロンに報酬を分解する。
提案手法は,ネットワークの有用な部分と有害な部分の弱体化を両立させる手法である。
論文 参考訳(メタデータ) (2023-08-23T10:48:28Z) - Bayesian Neural Network Language Modeling for Speech Recognition [59.681758762712754]
長期記憶リカレントニューラルネットワーク(LSTM-RNN)とトランスフォーマーで表される最先端のニューラルネットワーク言語モデル(NNLM)は非常に複雑になりつつある。
本稿では,LSTM-RNN と Transformer LM の基盤となる不確実性を考慮するために,ベイズ学習フレームワークの全体構造を提案する。
論文 参考訳(メタデータ) (2022-08-28T17:50:19Z) - Comparative Analysis of Interval Reachability for Robust Implicit and
Feedforward Neural Networks [64.23331120621118]
我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。
INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。
提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
論文 参考訳(メタデータ) (2022-04-01T03:31:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。