論文の概要: Knowledge, Rules and Their Embeddings: Two Paths towards Neuro-Symbolic JEPA
- arxiv url: http://arxiv.org/abs/2603.13265v1
- Date: Wed, 25 Feb 2026 22:31:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-23 08:17:42.246305
- Title: Knowledge, Rules and Their Embeddings: Two Paths towards Neuro-Symbolic JEPA
- Title(参考訳): 知識・ルール・埋め込み:ニューロシンボリックJEPAへの2つの道
- Authors: Yongchao Huang, Hassan Raza,
- Abstract要約: ルールインフォームド・ジョイントエンベッドディング予測アーキテクチャ(RiJEPA)を中心にした双方向型ニューロシンボリック・フレームワークを提案する。
まず,Energy-Based Constraints (EBC) とマルチモーダルデュアルエンコーダアーキテクチャを用いて,JEPAトレーニングに構造的帰納バイアスを注入する。
第2の方向では、厳密で離散的な記号規則を連続的な微分可能な論理に緩和することにより、従来のルール生成の探索を回避できることを実証する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern self-supervised predictive architectures excel at capturing complex statistical correlations from high-dimensional data but lack mechanisms to internalize verifiable human logic, leaving them susceptible to spurious correlations and shortcut learning. Conversely, traditional rule-based inference systems offer rigorous, interpretable logic but suffer from discrete boundaries and NP-hard combinatorial explosion. To bridge this divide, we propose a bidirectional neuro-symbolic framework centered around Rule-informed Joint-Embedding Predictive Architectures (RiJEPA). In the first direction, we inject structured inductive biases into JEPA training via Energy-Based Constraints (EBC) and a multi-modal dual-encoder architecture. This fundamentally reshapes the representation manifold, replacing arbitrary statistical correlations with geometrically sound logical basins. In the second direction, we demonstrate that by relaxing rigid, discrete symbolic rules into a continuous, differentiable logic, we can bypass traditional combinatorial search for new rule generation. By leveraging gradient-guided Langevin diffusion within the rule energy landscape, we introduce novel paradigms for continuous rule discovery, which enable unconditional joint generation, conditional forward and abductive inference, and marginal predictive translation. Empirical evaluations on both synthetic topological simulations and a high-stakes clinical use case confirm the efficacy of our approach. Ultimately, this framework establishes a powerful foundation for robust, generative, and interpretable neuro-symbolic representation learning.
- Abstract(参考訳): 現代の自己監督型予測アーキテクチャは、高次元データから複雑な統計的相関を捉えるのに優れているが、検証可能な人間の論理を内部化するためのメカニズムが欠如しており、素早い相関やショートカット学習の影響を受けやすい。
逆に、伝統的な規則に基づく推論システムは厳密で解釈可能な論理を提供するが、独立した境界とNP-ハード組合せの爆発に悩まされている。
この分割を橋渡しするために,ルールインフォームド・ジョイント・エンベッドディング予測アーキテクチャ(RiJEPA)を中心とした双方向型ニューロシンボリック・フレームワークを提案する。
まず,Energy-Based Constraints (EBC) とマルチモーダルデュアルエンコーダアーキテクチャを用いて,JEPAトレーニングに構造的帰納バイアスを注入する。
これは表現多様体を根本的に再定義し、任意の統計的相関を幾何学的に健全な論理的盆地に置き換える。
第2の方向では、厳密で離散的な記号規則を連続的な微分可能な論理に緩和することにより、従来の組合せ探索を回避できることが示される。
規則エネルギーランドスケープ内での勾配誘導ランゲヴィン拡散を利用して、無条件のジョイント生成、条件付き前方および誘導推論、限界予測翻訳を可能にする、連続規則発見のための新しいパラダイムを導入する。
合成トポロジカルシミュレーションと高用量臨床症例の実証評価により,本法の有効性が確認された。
最終的に、この枠組みは、堅牢で生成的で解釈可能なニューロシンボリック表現学習のための強力な基盤を確立する。
関連論文リスト
- On the Rate of Convergence of GD in Non-linear Neural Networks: An Adversarial Robustness Perspective [2.268525139011456]
グラディエント・Descent (GD) の収束ダイナミクスを最小二項分類設定で検討する。
我々は、GDが最適ロバスト性マージンにうまく収束する一方で、この収束は禁断的に遅い速度で起こることを証明した。
我々の理論的保証は、モデルの異なるアクティベーションパターン間でのGD軌道の厳密な解析を通じて導出される。
論文 参考訳(メタデータ) (2026-03-02T17:13:33Z) - KANFIS: A Neuro-Symbolic Framework for Interpretable and Uncertainty-Aware Learning [8.305093373349935]
Adaptive Neuro-Fuzzy Inference System (ANFIS) は、ニューラルネットワークの学習能力とファジィ論理の透明性の理由を組み合わせるために設計された。
本稿では,ファジィ推論と付加関数分解を統一する,コンパクトなニューロシンボリックアーキテクチャを提案する。
論文 参考訳(メタデータ) (2026-02-03T03:02:17Z) - Bidirectional Representations Augmented Autoregressive Biological Sequence Generation:Application in De Novo Peptide Sequencing [51.12821379640881]
自己回帰(AR)モデルは、全体的な双方向表現を提供するが、生成的コヒーレンスとスケーラビリティに関する課題に直面している。
非自己回帰機構からリッチなコンテキスト情報を動的に統合することにより、AR生成を向上するハイブリッドフレームワークを提案する。
新しいクロスデコーダアテンションモジュールにより、ARデコーダは、これらの双方向機能を反復的にクエリし、統合することができる。
論文 参考訳(メタデータ) (2025-10-09T12:52:55Z) - Why Neural Network Can Discover Symbolic Structures with Gradient-based Training: An Algebraic and Geometric Foundation for Neurosymbolic Reasoning [73.18052192964349]
我々は、連続的なニューラルネットワークトレーニングのダイナミックスから、離散的なシンボル構造が自然に現れるかを説明する理論的枠組みを開発する。
ニューラルパラメータを測度空間に上げ、ワッサーシュタイン勾配流としてモデル化することにより、幾何的制約の下では、パラメータ測度 $mu_t$ が2つの同時現象となることを示す。
論文 参考訳(メタデータ) (2025-06-26T22:40:30Z) - Certified Neural Approximations of Nonlinear Dynamics [51.01318247729693]
安全クリティカルな文脈では、神経近似の使用は、基礎となるシステムとの密接性に公式な境界を必要とする。
本稿では,認証された一階述語モデルに基づく新しい,適応的で並列化可能な検証手法を提案する。
論文 参考訳(メタデータ) (2025-05-21T13:22:20Z) - Modeling Arbitrarily Applicable Relational Responding with the Non-Axiomatic Reasoning System: A Machine Psychology Approach [0.0]
非公理推論システム(NARS)を用いた人工知能フレームワークにおけるAARRモデリングのための新しい理論的アプローチを提案する。
NARSの推論規則とメモリ構造から,AARRのキー特性がどのように現れるかを示す。
その結果、AARRは、適切に設計されたAIシステムによって概念的に捕捉可能であることが示唆された。
論文 参考訳(メタデータ) (2025-03-01T20:37:11Z) - A Novel Neural-symbolic System under Statistical Relational Learning [47.30190559449236]
NSF-SRLと呼ばれる統計的関係学習に基づくニューラルシンボリック・フレームワークを提案する。
シンボリック推論の結果は、深層学習モデルによる予測の洗練と修正に利用され、深層学習モデルはシンボリック推論プロセスの効率を高める。
我々は、このアプローチがニューラルシンボリックシステムの新しい標準となり、汎用人工知能の分野における将来の研究を促進すると信じている。
論文 参考訳(メタデータ) (2023-09-16T09:15:37Z) - Relational Reasoning Networks [9.262082274025708]
本稿では,深層建築の潜伏空間における推論を行う新しいエンドツーエンドモデルであるニューロ・シンボリック・ネットワーク(R2N)を提案する。
R2Nは、学習と推論を異種問題に統合する神経象徴的なプラットフォームとして純粋に象徴的またはタスクに適用することができる。
論文 参考訳(メタデータ) (2021-06-01T11:02:22Z) - An Ode to an ODE [78.97367880223254]
我々は、O(d) 群上の行列フローに応じて主フローの時間依存パラメータが進化する ODEtoODE と呼ばれるニューラルODE アルゴリズムの新しいパラダイムを提案する。
この2つの流れのネストされたシステムは、訓練の安定性と有効性を提供し、勾配の消滅・爆発問題を確実に解決する。
論文 参考訳(メタデータ) (2020-06-19T22:05:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。