論文の概要: A Foundation Model for Zero-Shot Logical Rule Induction
- arxiv url: http://arxiv.org/abs/2605.04916v1
- Date: Wed, 06 May 2026 13:45:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-07 18:41:07.849242
- Title: A Foundation Model for Zero-Shot Logical Rule Induction
- Title(参考訳): ゼロショット論理規則誘導のための基礎モデル
- Authors: Yin Jun Phua,
- Abstract要約: ゼロショットルール誘導のための事前訓練モデルであるニューラルルールインデューサ(NRI)を導入する。
NRIはリテラルIDを符号化するのではなく、ドメインに依存しない統計特性を用いてリテラルを表現する。
製品Tノルム緩和はルール実行を差別化可能にし、予測精度だけでエンドツーエンドのトレーニングを可能にする。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Inductive Logic Programming (ILP) learns interpretable logical rules from data. Existing methods are transductive: their learned parameters are bound to specific predicates and require retraining for each new task. We introduce Neural Rule Inducer (NRI), a pretrained model for zero-shot rule induction. Rather than encoding literal identities, NRI represents literals using domain-agnostic statistical properties such as class-conditional rates, entropy, and co-occurrence, which generalize across variable identities and counts without retraining. The model consists of a statistical encoder and a parallel slot-based decoder. Parallel decoding preserves the permutation invariance of logical disjunction; an autoregressive decoder would instead impose an arbitrary clause order. Product T-norm relaxation makes rule execution differentiable, allowing end-to-end training on prediction accuracy alone. We evaluate NRI on rule recovery, robustness to label noise and spurious correlations, and zero-shot transfer to real-world benchmarks, and we believe this work opens up the possibility of foundation models for symbolic reasoning. Code and the reference checkpoint are available at https://github.com/phuayj/neural-rule-inducer.
- Abstract(参考訳): 帰納論理プログラミング(ILP)は、データから解釈可能な論理規則を学ぶ。
既存のメソッドはトランスダクティブで、学習されたパラメータは特定の述語に縛られ、新しいタスクごとに再トレーニングが必要になる。
ゼロショットルール誘導のための事前訓練モデルであるニューラルルールインデューサ(NRI)を導入する。
NRIはリテラルIDを符号化するのではなく、クラス条件、エントロピー、共起といったドメインに依存しない統計特性を用いてリテラルを表現する。
モデルは統計エンコーダと並列スロットベースのデコーダで構成される。
並列復号法は論理解離の置換不変性を保ち、自己回帰復号法は代わりに任意の節順を課す。
製品Tノルム緩和はルール実行を差別化可能にし、予測精度だけでエンドツーエンドのトレーニングを可能にする。
我々は,NRIの規則回復,騒音のラベル付けに対する堅牢性,スプリアス相関,実世界のベンチマークへのゼロショット転送について評価し,この研究が象徴的推論の基礎モデルの可能性を開くと信じている。
コードと参照チェックポイントはhttps://github.com/phuayj/neural-rule-inducer.orgで公開されている。
関連論文リスト
- ANDRE: An Attention-based Neuro-symbolic Differentiable Rule Extractor [6.477319771984887]
帰納論理プログラミングは、データから解釈可能な一階ルールを学ぶことを目的としている。
既存の象徴的なニューロシンボリックアプローチは、ノイズと確率的な設定にスケールするのに苦労する。
本稿では、注意に基づく神経象徴的差別化ルールエクストラクタ(ANDRE)を提案する。
ANDREは、ルールテンプレートと論理演算子を、完全に微分可能で、注意駆動の結合と解離演算子で置き換える。
論文 参考訳(メタデータ) (2026-05-05T18:35:06Z) - Distilling Formal Logic into Neural Spaces: A Kernel Alignment Approach for Signal Temporal Logic [6.419602857618508]
形式仕様の連続的ニューラル表現を学習するためのフレームワークを導入する。
シンボリックロバストネスカーネルをトランスフォーマーエンコーダに蒸留する。
エンコーダは1つのフォワードパスに埋め込みを生成し、計算コストのごく一部でカーネルのロジックを効果的に模倣する。
論文 参考訳(メタデータ) (2026-03-05T14:08:25Z) - CodeCircuit: Toward Inferring LLM-Generated Code Correctness via Attribution Graphs [13.488544043942495]
本研究の目的は、コード生成中に論理的妥当性を予測可能な内部デオード可能な信号が、モデル内のニューラルダイナミクスで符号化されているかどうかを検討することである。
複雑な残留流を分解することにより,音の推論と論理的失敗を区別する構造的シグネチャを同定することを目的とする。
Python、C++、Javaでの分析では、固有の正当性信号が多様な構文で堅牢であることが確認されている。
論文 参考訳(メタデータ) (2026-02-06T03:49:15Z) - Training LLMs with LogicReward for Faithful and Rigorous Reasoning [75.30425553246177]
定理証明器を用いてステップレベルの論理的正しさを強制することでモデルトレーニングを指導する報酬システムであるLogicRewardを提案する。
LogicRewardで構築されたデータに基づいてトレーニングされた8Bモデルは、GPT-4oとo4-miniを11.6%、自然言語推論と論理的推論タスクで2%超えた。
論文 参考訳(メタデータ) (2025-12-20T03:43:02Z) - Learning First-Order Rules with Differentiable Logic Program Semantics [12.360002779872373]
微分型一階規則学習者(DFOL)と呼ばれる微分型帰納的論理プログラミングモデルを導入する。
DFOLは、LPの解釈可能な行列表現を探索することにより、関係事実から正しいLPを見つける。
実験結果から,DFOLは精度が高く,堅牢で,スケーラブルで,安価で微分可能なICPモデルであることが示唆された。
論文 参考訳(メタデータ) (2022-04-28T15:33:43Z) - Neuro-Symbolic Inductive Logic Programming with Logical Neural Networks [65.23508422635862]
我々は最近提案された論理ニューラルネットワーク(LNN)を用いた学習規則を提案する。
他のものと比較して、LNNは古典的なブール論理と強く結びついている。
標準ベンチマークタスクの実験では、LNNルールが極めて解釈可能であることを確認した。
論文 参考訳(メタデータ) (2021-12-06T19:38:30Z) - Sequence Transduction with Graph-based Supervision [96.04967815520193]
ラベルのグラフ表現を受け入れるためにRNN-T損失を一般化するトランスデューサ目的関数を提案する。
CTC型格子を用いたトランスデューサベースのASRは,標準RNN-Tよりも優れた結果が得られることを示す。
論文 参考訳(メタデータ) (2021-11-01T21:51:42Z) - RNNLogic: Learning Logic Rules for Reasoning on Knowledge Graphs [91.71504177786792]
本稿では知識グラフに基づく推論のための論理規則の学習について研究する。
論理規則は、予測に使用されるときに解釈可能な説明を提供するとともに、他のタスクに一般化することができる。
既存の手法は、検索スペースの検索の問題や、スパース報酬による非効率な最適化に悩まされている。
論文 参考訳(メタデータ) (2020-10-08T14:47:02Z) - Pre-training Is (Almost) All You Need: An Application to Commonsense
Reasoning [61.32992639292889]
事前学習されたトランスモデルの微調整は、一般的なNLPタスクを解決するための標準的なアプローチとなっている。
そこで本研究では,可視性ランキングタスクをフルテキスト形式でキャストする新たなスコアリング手法を提案する。
提案手法は, ランダム再起動にまたがって, より安定した学習段階を提供することを示す。
論文 参考訳(メタデータ) (2020-04-29T10:54:40Z) - Logical Natural Language Generation from Open-Domain Tables [107.04385677577862]
本稿では,その事実に関連付けられた自然言語文をモデルで生成するタスクを提案する。
提案した論理的 NLG 問題の研究を容易にするために,幅広い論理的・記号的推論を特徴とする既存の TabFact データセットcitechen 2019tabfact を用いる。
新しいタスクは、シーケンス順序と論理順序のミスマッチのため、既存のモノトニック生成フレームワークに課題をもたらす。
論文 参考訳(メタデータ) (2020-04-22T06:03:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。