論文の概要: Right for the Right Reasons: Avoiding Reasoning Shortcuts via Prototypical Neurosymbolic AI

• arxiv url: http://arxiv.org/abs/2510.25497v1
• Date: Wed, 29 Oct 2025 13:21:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-30 15:50:45.585424
• Title: Right for the Right Reasons: Avoiding Reasoning Shortcuts via Prototypical Neurosymbolic AI
• Title（参考訳）: 右の理由:原型的ニューロシンボリックAIによるショートカットの推論を避ける
• Authors: Luca Andolfi, Eleonora Giunchiglia,
• Abstract要約: ニューロシンボリックAIは、ニューラル認知とシンボリック推論を組み合わせる能力によって人気が高まっている。 本稿では,その根本原因における推論ショートカットに対処し,原型的ニューロシンボリックアーキテクチャを導入する。 本研究は, 安全かつ信頼性の高いニューロシンボリックラーニングのための, 効果的な, アノテーション効率の戦略として, プロトタイプグラウンド化の道を開くものである。
• 参考スコア（独自算出の注目度）: 6.518655316889539
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neurosymbolic AI is growing in popularity thanks to its ability to combine neural perception and symbolic reasoning in end-to-end trainable models. However, recent findings reveal these are prone to shortcut reasoning, i.e., to learning unindented concepts--or neural predicates--which exploit spurious correlations to satisfy the symbolic constraints. In this paper, we address reasoning shortcuts at their root cause and we introduce prototypical neurosymbolic architectures. These models are able to satisfy the symbolic constraints (be right) because they have learnt the correct basic concepts (for the right reasons) and not because of spurious correlations, even in extremely low data regimes. Leveraging the theory of prototypical learning, we demonstrate that we can effectively avoid reasoning shortcuts by training the models to satisfy the background knowledge while taking into account the similarity of the input with respect to the handful of labelled datapoints. We extensively validate our approach on the recently proposed rsbench benchmark suite in a variety of settings and tasks with very scarce supervision: we show significant improvements in learning the right concepts both in synthetic tasks (MNIST-EvenOdd and Kand-Logic) and real-world, high-stake ones (BDD-OIA). Our findings pave the way to prototype grounding as an effective, annotation-efficient strategy for safe and reliable neurosymbolic learning.
• Abstract（参考訳）: ニューロシンボリックAIは、エンドツーエンドのトレーニング可能なモデルにおいて、ニューラル知覚とシンボリック推論を組み合わせる能力によって人気が高まっている。 しかし、近年の研究では、これらは推論をショートカットする傾向があり、すなわち、意味のない概念、すなわち神経述語を学ぶことは、象徴的な制約を満たすために急激な相関を利用する。 本稿では,その根本原因における推論ショートカットに対処し,原型的ニューロシンボリックアーキテクチャを導入する。 これらのモデルは(正しい)記号的制約を満たすことができ、それは(正しい理由から)正しい基本概念を習得したからであり、非常に低いデータ構造であっても、急激な相関のためではない。 原型学習の理論を活用すれば,少数のラベル付きデータポイントに対する入力の類似性を考慮しつつ,背景知識を満足させるためにモデルをトレーニングすることで,ショートカットの推論を効果的に回避できることを示す。 合成タスク(MNIST-EvenOdd と Kand-Logic)と実世界のハイステイクなタスク(BDD-OIA)の両方において、適切な概念を学ぶための大幅な改善が示されています。 本研究は, 安全かつ信頼性の高いニューロシンボリックラーニングのための, 効果的な, アノテーション効率の戦略として, プロトタイプグラウンド化の道を開くものである。

関連論文リスト

• Advanced Weakly-Supervised Formula Exploration for Neuro-Symbolic Mathematical Reasoning [18.937801725778538]
  本稿では,ニューロシンボリック推論システムにおいて,問題入力や最終出力から弱い監督下で中間ラベルを探索する手法を提案する。 数学データセットに関する実験では,複数の側面から提案した提案の有効性を実証した。
  論文  参考訳（メタデータ） (2025-02-02T02:34:36Z)
• Simple and Effective Transfer Learning for Neuro-Symbolic Integration [50.592338727912946]
  この問題の潜在的な解決策はNeuro-Symbolic Integration (NeSy)であり、ニューラルアプローチとシンボリック推論を組み合わせる。 これらの手法のほとんどは、認識をシンボルにマッピングするニューラルネットワークと、下流タスクの出力を予測する論理的論理的推論を利用する。 それらは、緩やかな収束、複雑な知覚タスクの学習困難、局所的なミニマへの収束など、いくつかの問題に悩まされている。 本稿では,これらの問題を改善するための簡易かつ効果的な方法を提案する。
  論文  参考訳（メタデータ） (2024-02-21T15:51:01Z)
• The Role of Foundation Models in Neuro-Symbolic Learning and Reasoning [54.56905063752427]
  Neuro-Symbolic AI(NeSy)は、AIシステムの安全なデプロイを保証することを約束している。 ニューラルネットワークとシンボリックコンポーネントを順次トレーニングする既存のパイプラインは、広範なラベリングを必要とする。 新しいアーキテクチャであるNeSyGPTは、生データから象徴的特徴を抽出する視覚言語基盤モデルを微調整する。
  論文  参考訳（メタデータ） (2024-02-02T20:33:14Z)
• A Novel Neural-symbolic System under Statistical Relational Learning [47.30190559449236]
  NSF-SRLと呼ばれる統計的関係学習に基づくニューラルシンボリック・フレームワークを提案する。 シンボリック推論の結果は、深層学習モデルによる予測の洗練と修正に利用され、深層学習モデルはシンボリック推論プロセスの効率を高める。 我々は、このアプローチがニューラルシンボリックシステムの新しい標準となり、汎用人工知能の分野における将来の研究を促進すると信じている。
  論文  参考訳（メタデータ） (2023-09-16T09:15:37Z)
• Not All Neuro-Symbolic Concepts Are Created Equal: Analysis and Mitigation of Reasoning Shortcuts [24.390922632057627]
  Neuro-Symbolic(NeSy)予測モデルは、与えられた制約に対するコンプライアンスの改善を約束する。 サブシンボリック入力から抽出された高レベルな概念を推論することで、いくつかの先行知識と整合したラベルを推論することができる。 精度は高いが、意図しないセマンティクスで概念を活用すれば、約束された利点を欠くことになる。
  論文  参考訳（メタデータ） (2023-05-31T15:35:48Z)
• Neuro-Symbolic Learning of Answer Set Programs from Raw Data [54.56905063752427]
  Neuro-Symbolic AIは、シンボリックテクニックの解釈可能性と、生データから学ぶ深層学習の能力を組み合わせることを目的としている。 本稿では,ニューラルネットワークを用いて生データから潜在概念を抽出するNSIL(Neuro-Symbolic Inductive Learner)を提案する。 NSILは表現力のある知識を学習し、計算的に複雑な問題を解き、精度とデータ効率の観点から最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2022-05-25T12:41:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。