論文の概要: Augmenting deep neural networks with symbolic knowledge: Towards trustworthy and interpretable AI for education

• arxiv url: http://arxiv.org/abs/2311.00393v1
• Date: Wed, 1 Nov 2023 09:38:56 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-02 14:22:40.889731
• Title: Augmenting deep neural networks with symbolic knowledge: Towards trustworthy and interpretable AI for education
• Title（参考訳）: シンボリック知識によるディープニューラルネットワークの強化--信頼性と解釈可能な教育aiに向けて
• Authors: Danial Hooshyar, Roger Azevedo, Yeongwook Yang
• Abstract要約: この研究は、AIのニューラルシンボリックなファミリーは、名前のついた課題に対処する可能性があると主張している。 ニューラルネットワークのシンボリックAIフレームワークに適応し、NSAIと呼ばれるアプローチを開発し、深層ニューラルネットワークに教育知識を注入し、抽出する。 以上の結果から,NSAIアプローチは,トレーニングデータのみに基づいてトレーニングされた深層ニューラルネットワークと比較して,より汎用性が高いことがわかった。
• 参考スコア（独自算出の注目度）: 3.627954884906034
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Artificial neural networks (ANNs) have shown to be amongst the most important artificial intelligence (AI) techniques in educational applications, providing adaptive educational services. However, their educational potential is limited in practice due to three major challenges: i) difficulty in incorporating symbolic educational knowledge (e.g., causal relationships, and practitioners' knowledge) in their development, ii) learning and reflecting biases, and iii) lack of interpretability. Given the high-risk nature of education, the integration of educational knowledge into ANNs becomes crucial for developing AI applications that adhere to essential educational restrictions, and provide interpretability over the predictions. This research argues that the neural-symbolic family of AI has the potential to address the named challenges. To this end, it adapts a neural-symbolic AI framework and accordingly develops an approach called NSAI, that injects and extracts educational knowledge into and from deep neural networks, for modelling learners computational thinking. Our findings reveal that the NSAI approach has better generalizability compared to deep neural networks trained merely on training data, as well as training data augmented by SMOTE and autoencoder methods. More importantly, unlike the other models, the NSAI approach prioritises robust representations that capture causal relationships between input features and output labels, ensuring safety in learning to avoid spurious correlations and control biases in training data. Furthermore, the NSAI approach enables the extraction of rules from the learned network, facilitating interpretation and reasoning about the path to predictions, as well as refining the initial educational knowledge. These findings imply that neural-symbolic AI can overcome the limitations of ANNs in education, enabling trustworthy and interpretable applications.
• Abstract（参考訳）: 人工知能ネットワーク(ANN)は、教育応用において最も重要な人工知能(AI)技術であり、適応的な教育サービスを提供している。 しかし、その教育能力は3つの大きな課題により制限されている。 一 その発展に象徴的な教育知識(例えば、因果関係及び実践者の知識)を取り入れることの難しさ 二 偏見の学習及び反映、及び 三 解釈可能性の欠如 教育のリスクの高い性質を考えると、ANNへの教育知識の統合は、必須の教育的制約に準拠し、予測に対する解釈可能性を提供するAIアプリケーションの開発に不可欠である。 この研究は、AIのニューラルシンボリックなファミリーは、名前のついた課題に対処する可能性があると主張している。 この目的のために、ニューラルシンボリックaiフレームワークを採用し、学習者の計算思考をモデル化するために、深層ニューラルネットワークに教育知識を注入し、抽出するnsaiと呼ばれるアプローチを開発した。 以上の結果から,NSAIアプローチはトレーニングデータのみに基づいてトレーニングされたディープニューラルネットワークや,SMOTE法やオートエンコーダ法で強化されたトレーニングデータと比較して,より汎用性が高いことがわかった。 さらに重要なことは、他のモデルとは異なり、NSAIアプローチは、入力特徴と出力ラベルの間の因果関係をキャプチャする堅牢な表現を優先し、学習の安全性を確保して、トレーニングデータにおける素早い相関を避け、バイアスを制御する。 さらに、NSAIアプローチにより、学習ネットワークからルールを抽出し、予測への経路の解釈と推論を容易にし、初期の教育知識を洗練することができる。 これらの知見は、ニューラルシンボリックAIが教育におけるANNの限界を克服し、信頼できる、解釈可能な応用を可能にすることを示唆している。

関連論文リスト

• Converging Paradigms: The Synergy of Symbolic and Connectionist AI in LLM-Empowered Autonomous Agents [55.63497537202751]
  コネクショニストと象徴的人工知能(AI)の収束を探求する記事 従来、コネクショナリストAIはニューラルネットワークにフォーカスし、シンボリックAIはシンボリック表現とロジックを強調していた。 大型言語モデル(LLM)の最近の進歩は、人間の言語をシンボルとして扱う際のコネクショナリストアーキテクチャの可能性を強調している。
  論文  参考訳（メタデータ） (2024-07-11T14:00:53Z)
• Enhancing learning in spiking neural networks through neuronal heterogeneity and neuromodulatory signaling [52.06722364186432]
  人工ニューラルネットワーク(ANN)の強化のための生物学的インフォームドフレームワークを提案する。 提案したデュアルフレームアプローチは、多様なスパイキング動作をエミュレートするためのスパイキングニューラルネットワーク(SNN)の可能性を強調している。 提案手法は脳にインスパイアされたコンパートメントモデルとタスク駆動型SNN, バイオインスピレーション, 複雑性を統合している。
  論文  参考訳（メタデータ） (2024-07-05T14:11:28Z)
• A Synergistic Approach In Network Intrusion Detection By Neurosymbolic AI [6.315966022962632]
  本稿では,ニューロシンボリック人工知能(NSAI)をネットワーク侵入検知システム(NIDS)に組み込む可能性について検討する。 NSAIは、ディープラーニングのデータ駆動の強みと、象徴的なAIの論理的推論を組み合わせて、サイバーセキュリティにおける動的な課題に取り組む。 NIDSにNSAIを組み込むことは、複雑なネットワーク脅威の検出と解釈の両方において、潜在的な進歩を示す。
  論文  参考訳（メタデータ） (2024-06-03T02:24:01Z)
• Towards Cognitive AI Systems: a Survey and Prospective on Neuro-Symbolic AI [33.0761784111292]
  ニューロシンボリックAIは、解釈可能性、堅牢性、信頼性を高めるための有望なパラダイムとして登場します。 近年のNSAIシステムは、推論と認知能力を備えた協調的な人間-AIシナリオにおいて大きな可能性を実証している。
  論文  参考訳（メタデータ） (2024-01-02T05:00:54Z)
• A Novel Neural-symbolic System under Statistical Relational Learning [50.747658038910565]
  本稿では,GBPGRと呼ばれる2段階の確率的グラフィカル推論フレームワークを提案する。 GBPGRでは、シンボル推論の結果を用いて、ディープラーニングモデルによる予測を洗練し、修正する。 提案手法は高い性能を示し, 帰納的タスクと帰納的タスクの両方において効果的な一般化を示す。
  論文  参考訳（メタデータ） (2023-09-16T09:15:37Z)
• Brain-Inspired Computational Intelligence via Predictive Coding [89.6335791546526]
  予測符号化(PC)は、マシンインテリジェンスタスクにおいて有望なパフォーマンスを示している。 PCは様々な脳領域で情報処理をモデル化することができ、認知制御やロボティクスで使用することができる。
  論文  参考訳（メタデータ） (2023-08-15T16:37:16Z)
• Knowledge-enhanced Neuro-Symbolic AI for Cybersecurity and Privacy [3.425341633647625]
  ニューロシンボリック人工知能は、ニューラルネットワークと明示的でシンボリックな知識グラフのサブシンボリックな強さを組み合わせる。 この記事では、最も要求の多い2つのドメインであるサイバーセキュリティとプライバシのアプリケーションが、Neuro-Symbolic AIの恩恵を受ける方法について説明する。
  論文  参考訳（メタデータ） (2023-07-25T01:29:34Z)
• Neuro-Symbolic Learning of Answer Set Programs from Raw Data [54.56905063752427]
  Neuro-Symbolic AIは、シンボリックテクニックの解釈可能性と、生データから学ぶ深層学習の能力を組み合わせることを目的としている。 本稿では,ニューラルネットワークを用いて生データから潜在概念を抽出するNSIL(Neuro-Symbolic Inductive Learner)を提案する。 NSILは表現力のある知識を学習し、計算的に複雑な問題を解き、精度とデータ効率の観点から最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2022-05-25T12:41:59Z)
• Neurosymbolic AI: The 3rd Wave [1.14219428942199]
  AIの信頼、安全性、解釈可能性、説明責任に関する懸念は、影響力のある思想家によって提起された。 多くは、知識表現と推論を深層学習に統合する必要性を認識している。 ニューラル・シンボリック・コンピューティングは、推論と説明可能性を備えた堅牢な学習をニューラルネットワークで組み合わせようとする研究の活発な領域である。
  論文  参考訳（メタデータ） (2020-12-10T18:31:38Z)
• Neuro-symbolic Architectures for Context Understanding [59.899606495602406]
  本稿では,データ駆動型アプローチと知識駆動型アプローチの強みを組み合わせたフレームワークとして,ハイブリッドAI手法を提案する。 具体的には、知識ベースを用いて深層ニューラルネットワークの学習過程を導く方法として、ニューロシンボリズムの概念を継承する。
  論文  参考訳（メタデータ） (2020-03-09T15:04:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。