論文の概要: Learning neuro-symbolic convergent term rewriting systems

• arxiv url: http://arxiv.org/abs/2507.19372v1
• Date: Fri, 25 Jul 2025 15:24:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-28 16:16:49.019657
• Title: Learning neuro-symbolic convergent term rewriting systems
• Title（参考訳）: ニューロシンボリック収束項書き換えシステムの学習
• Authors: Flavio Petruzzellis, Alberto Testolin, Alessandro Sperduti,
• Abstract要約: 本稿では,書き換えアルゴリズム自体にインスパイアされたニューロシンボリックアーキテクチャを用いて,収束項書き換えシステムを学ぶための一般的なフレームワークを提案する。 本稿では,ニューラルリライトシステム (NRS) と高速ニューラルリライトシステム (FastNRS) の2つのモジュール実装について述べる。
• 参考スコア（独自算出の注目度）: 47.129504708849446
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Building neural systems that can learn to execute symbolic algorithms is a challenging open problem in artificial intelligence, especially when aiming for strong generalization and out-of-distribution performance. In this work, we introduce a general framework for learning convergent term rewriting systems using a neuro-symbolic architecture inspired by the rewriting algorithm itself. We present two modular implementations of such architecture: the Neural Rewriting System (NRS) and the Fast Neural Rewriting System (FastNRS). As a result of algorithmic-inspired design and key architectural elements, both models can generalize to out-of-distribution instances, with FastNRS offering significant improvements in terms of memory efficiency, training speed, and inference time. We evaluate both architectures on four tasks involving the simplification of mathematical formulas and further demonstrate their versatility in a multi-domain learning scenario, where a single model is trained to solve multiple types of problems simultaneously. The proposed system significantly outperforms two strong neural baselines: the Neural Data Router, a recent transformer variant specifically designed to solve algorithmic problems, and GPT-4o, one of the most powerful general-purpose large-language models. Moreover, our system matches or outperforms the latest o1-preview model from OpenAI that excels in reasoning benchmarks.
• Abstract（参考訳）: シンボリックアルゴリズムの実行を学べるニューラルネットワークの構築は、特に強力な一般化とアウト・オブ・ディストリビューションパフォーマンスを目指す人工知能において、難しいオープンな問題である。 本稿では,書き換えアルゴリズム自体にインスパイアされたニューロシンボリックアーキテクチャを用いて,収束項書き換えシステムを学ぶための一般的なフレームワークを紹介する。 本稿では,ニューラルリライトシステム (NRS) と高速ニューラルリライトシステム (FastNRS) の2つのモジュール実装について述べる。 アルゴリズムにインスパイアされた設計と重要なアーキテクチャ要素の結果、どちらのモデルもアウト・オブ・ディストリビューション・インスタンスに一般化でき、FastNRSはメモリ効率、トレーニング速度、推論時間を大幅に改善した。 数式を単純化する4つのタスクにおいて,両アーキテクチャを評価し,複数種類の問題を同時に解くために単一モデルを訓練するマルチドメイン学習シナリオにおいて,それらの汎用性を示す。 提案システムは,アルゴリズム問題に特化して設計された最近の変圧器であるNeural Data Routerと,最も強力な汎用大規模言語モデルの1つであるGPT-4oの2つの強力なニューラルネットワークベースラインを著しく上回っている。 さらに、我々のシステムは、推論ベンチマークに優れるOpenAIの最新のo1-previewモデルに適合するか、より優れています。

関連論文リスト

• Systematic construction of continuous-time neural networks for linear dynamical systems [0.0]
  本稿では,動的システムのサブクラスをモデル化するためのニューラルネットワーク構築の体系的アプローチについて論じる。 我々は、各ニューロンの出力が1次または2次常微分方程式(ODE)の解として連続的に進化する連続時間ニューラルネットワークの変種を用いる。 データからネットワークアーキテクチャとパラメータを導出する代わりに、所定のLTIシステムから直接スパースアーキテクチャとネットワークパラメータを計算するための勾配のないアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-03-24T16:16:41Z)
• A Neural Rewriting System to Solve Algorithmic Problems [47.129504708849446]
  ネストされた数学的公式を解くための一般的な手順を学習するために設計されたモジュラーアーキテクチャを提案する。 シンボリック人工知能の古典的なフレームワークである書き換えシステムに触発され、アーキテクチャには3つの専門的で対話的なモジュールが含まれます。 我々は、系統的な一般化に特化した最近のモデルであるNeural Data Routerと、先進的なプロンプト戦略で探索された最先端の大規模言語モデル(GPT-4)とを比較した。
  論文  参考訳（メタデータ） (2024-02-27T10:57:07Z)
• Neural Markov Prolog [57.13568543360899]
  本稿では,一階述語論理とニューラルネットワーク設計を橋渡しする手段として,言語Neural Markov Prolog (NMP)を提案する。 NMPは、画像、テキスト、リレーショナルデータベース、その他のターゲットデータ型のアーキテクチャを簡単に生成および提示することができる。
  論文  参考訳（メタデータ） (2023-11-27T21:41:47Z)
• A Recursively Recurrent Neural Network (R2N2) Architecture for Learning Iterative Algorithms [64.3064050603721]
  本研究では,リカレントニューラルネットワーク (R2N2) にランゲ・クッタニューラルネットワークを一般化し,リカレントニューラルネットワークを最適化した反復アルゴリズムの設計を行う。 本稿では, 線形方程式系に対するクリロフ解法, 非線形方程式系に対するニュートン・クリロフ解法, 常微分方程式に対するルンゲ・クッタ解法と類似の繰り返しを計算問題クラスの入力・出力データに対して提案した超構造内における重みパラメータの正規化について述べる。
  論文  参考訳（メタデータ） (2022-11-22T16:30:33Z)
• NAR-Former: Neural Architecture Representation Learning towards Holistic Attributes Prediction [37.357949900603295]
  本稿では,属性の全体的推定に使用できるニューラルネットワーク表現モデルを提案する。 実験の結果,提案するフレームワークは,セルアーキテクチャとディープニューラルネットワーク全体の遅延特性と精度特性を予測できることがわかった。
  論文  参考訳（メタデータ） (2022-11-15T10:15:21Z)
• Gaussian Process Surrogate Models for Neural Networks [6.8304779077042515]
  科学と工学において、モデリング(英: modeling)とは、内部プロセスが不透明な複雑なシステムを理解するために用いられる方法論である。 本稿では,ガウス過程を用いたニューラルネットワークの代理モデルのクラスを構築する。 提案手法は,ニューラルネットワークのスペクトルバイアスに関連する既存の現象を捕捉し,サロゲートモデルを用いて現実的な問題を解決することを実証する。
  論文  参考訳（メタデータ） (2022-08-11T20:17:02Z)
• Improving Coherence and Consistency in Neural Sequence Models with Dual-System, Neuro-Symbolic Reasoning [49.6928533575956]
  我々は、神経系1と論理系2の間を仲介するために神経推論を用いる。 強靭なストーリー生成とグラウンドド・インストラクション・フォローリングの結果、このアプローチは神経系世代におけるコヒーレンスと精度を高めることができることを示した。
  論文  参考訳（メタデータ） (2021-07-06T17:59:49Z)
• Differentiable Neural Architecture Learning for Efficient Neural Network Design [31.23038136038325]
  スケールド・シグモイド関数に基づく新しいemphアーキテクチャのパラメータ化を提案する。 そこで本論文では,候補ニューラルネットワークを評価することなく,ニューラルネットワークを最適化するための汎用的エファイブルニューラルネットワーク学習(DNAL)手法を提案する。
  論文  参考訳（メタデータ） (2021-03-03T02:03:08Z)
• A Semi-Supervised Assessor of Neural Architectures [157.76189339451565]
  我々は、ニューラルネットワークの有意義な表現を見つけるためにオートエンコーダを用いる。 アーキテクチャの性能を予測するために、グラフ畳み込みニューラルネットワークを導入する。
  論文  参考訳（メタデータ） (2020-05-14T09:02:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。