論文の概要: The Role of Foundation Models in Neuro-Symbolic Learning and Reasoning

• arxiv url: http://arxiv.org/abs/2402.01889v1
• Date: Fri, 2 Feb 2024 20:33:14 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-06 23:42:27.556479
• Title: The Role of Foundation Models in Neuro-Symbolic Learning and Reasoning
• Title（参考訳）: ニューロシンボリック学習と推論における基礎モデルの役割
• Authors: Daniel Cunnington, Mark Law, Jorge Lobo, Alessandra Russo
• Abstract要約: Neuro-Symbolic AI(NeSy)は、AIシステムの安全なデプロイを保証することを約束している。 ニューラルネットワークとシンボリックコンポーネントを順次トレーニングする既存のパイプラインは、広範なラベリングを必要とする。 新しいアーキテクチャであるNeSyGPTは、生データから象徴的特徴を抽出する視覚言語基盤モデルを微調整する。
• 参考スコア（独自算出の注目度）: 54.56905063752427
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neuro-Symbolic AI (NeSy) holds promise to ensure the safe deployment of AI systems, as interpretable symbolic techniques provide formal behaviour guarantees. The challenge is how to effectively integrate neural and symbolic computation, to enable learning and reasoning from raw data. Existing pipelines that train the neural and symbolic components sequentially require extensive labelling, whereas end-to-end approaches are limited in terms of scalability, due to the combinatorial explosion in the symbol grounding problem. In this paper, we leverage the implicit knowledge within foundation models to enhance the performance in NeSy tasks, whilst reducing the amount of data labelling and manual engineering. We introduce a new architecture, called NeSyGPT, which fine-tunes a vision-language foundation model to extract symbolic features from raw data, before learning a highly expressive answer set program to solve a downstream task. Our comprehensive evaluation demonstrates that NeSyGPT has superior accuracy over various baselines, and can scale to complex NeSy tasks. Finally, we highlight the effective use of a large language model to generate the programmatic interface between the neural and symbolic components, significantly reducing the amount of manual engineering required.
• Abstract（参考訳）: Neuro-Symbolic AI(NeSy)は、解釈可能なシンボル技術が正式な行動保証を提供するため、AIシステムの安全なデプロイを保証することを約束している。 課題は、ニューラルネットワークとシンボル計算を効果的に統合して、生データから学習と推論を可能にする方法だ。 ニューラルネットワークとシンボリックコンポーネントを順次トレーニングする既存のパイプラインは、広範なラベル付けを必要とするが、エンドツーエンドのアプローチは、シンボルの接地問題における組合せの爆発のため、スケーラビリティの面で制限される。 本稿では,基礎モデルにおける暗黙の知識を活用して,データラベリングやマニュアルエンジニアリングの量を削減しつつ,nesyタスクの性能を向上させる。 我々はNeSyGPTと呼ばれる新しいアーキテクチャを導入する。このアーキテクチャは、下流タスクを解くために高度に表現力のある回答セットプログラムを学ぶ前に、視覚言語基盤モデルを微調整して生データから象徴的な特徴を抽出する。 総合評価の結果,nesygptは様々なベースラインよりも精度が高く,複雑なnesyタスクにスケールできることがわかった。 最後に、ニューラルネットワークとシンボリックコンポーネント間のプログラム的インターフェースを生成するために、大規模な言語モデルが効果的に使用されることを強調する。

関連論文リスト

• Towards Efficient Neuro-Symbolic AI: From Workload Characterization to Hardware Architecture [22.274696991107206]
  ニューロシンボリックAIは、解釈可能性、堅牢性、信頼性を高めるニューラルネットワークとシンボリックアプローチを融合して、有望なパラダイムとして出現する。 最近のニューロシンボリックシステムは、推論と認知能力を備えた協調的な人間-AIシナリオにおいて大きな可能性を示している。 まず, ニューロシンボリックAIアルゴリズムを体系的に分類し, 実行時, メモリ, 計算演算子, 疎結合性, システム特性を実験的に評価し, 解析する。
  論文  参考訳（メタデータ） (2024-09-20T01:32:14Z)
• Simple and Effective Transfer Learning for Neuro-Symbolic Integration [50.592338727912946]
  この問題の潜在的な解決策はNeuro-Symbolic Integration (NeSy)であり、ニューラルアプローチとシンボリック推論を組み合わせる。 これらの手法のほとんどは、認識をシンボルにマッピングするニューラルネットワークと、下流タスクの出力を予測する論理的論理的推論を利用する。 それらは、緩やかな収束、複雑な知覚タスクの学習困難、局所的なミニマへの収束など、いくつかの問題に悩まされている。 本稿では,これらの問題を改善するための簡易かつ効果的な方法を提案する。
  論文  参考訳（メタデータ） (2024-02-21T15:51:01Z)
• NeuralFastLAS: Fast Logic-Based Learning from Raw Data [54.938128496934695]
  シンボリック・ルール学習者は解釈可能な解を生成するが、入力を記号的に符号化する必要がある。 ニューロシンボリックアプローチは、ニューラルネットワークを使用して生データを潜在シンボリック概念にマッピングすることで、この問題を克服する。 我々は,ニューラルネットワークを記号学習者と共同でトレーニングする,スケーラブルで高速なエンドツーエンドアプローチであるNeuralFastLASを紹介する。
  論文  参考訳（メタデータ） (2023-10-08T12:33:42Z)
• Neuro-Symbolic Approaches for Context-Aware Human Activity Recognition [0.7734726150561088]
  本研究では,訓練期間中の人間活動認識モデルにおける知識制約を注入する意味的損失関数に基づく新しいアプローチを提案する。 本研究の結果は,データ駆動モデルの性能向上におけるセマンティックな損失関数の影響を示すものである。
  論文  参考訳（メタデータ） (2023-06-08T09:23:09Z)
• Symbolic Synthesis of Neural Networks [0.0]
  グラフベース合成ニューラルネットワーク(GSSNN)について GSSNNは、トポロジとパラメータがシンボルプログラムの出力によって通知されるニューラルネットワークの一種である。 人口レベルでシンボリック抽象化を開発することで、局所的特徴や離散的特徴を含む少数のデータを用いて、改良された一般化の信頼性の高いパターンを導出できることを実証する。
  論文  参考訳（メタデータ） (2023-03-06T18:13:14Z)
• Persistence-based operators in machine learning [62.997667081978825]
  永続性に基づくニューラルネットワークレイヤのクラスを導入します。 永続化ベースのレイヤにより、ユーザは、データによって尊重される対称性に関する知識を容易に注入でき、学習可能なウェイトを備え、最先端のニューラルネットワークアーキテクチャで構成できる。
  論文  参考訳（メタデータ） (2022-12-28T18:03:41Z)
• Neuro-Symbolic Learning of Answer Set Programs from Raw Data [54.56905063752427]
  Neuro-Symbolic AIは、シンボリックテクニックの解釈可能性と、生データから学ぶ深層学習の能力を組み合わせることを目的としている。 本稿では,ニューラルネットワークを用いて生データから潜在概念を抽出するNSIL(Neuro-Symbolic Inductive Learner)を提案する。 NSILは表現力のある知識を学習し、計算的に複雑な問題を解き、精度とデータ効率の観点から最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2022-05-25T12:41:59Z)
• SLASH: Embracing Probabilistic Circuits into Neural Answer Set Programming [15.814914345000574]
  SLASH(Deep Probabilistic Language:DPPL)を紹介します。 SLASHのコアとなるのは、NPP(Neural-Probabilistic Predicates)と、応答セットプログラミングを通じて統合された論理プログラムである。 我々は,MNIST加算のベンチマークデータとDPPLの欠落データ予測や最先端性能のセット予測といった新しいタスクに基づいてSLASHを評価する。
  論文  参考訳（メタデータ） (2021-10-07T12:35:55Z)
• Closed Loop Neural-Symbolic Learning via Integrating Neural Perception, Grammar Parsing, and Symbolic Reasoning [134.77207192945053]
  従来の手法は強化学習アプローチを用いてニューラルシンボリックモデルを学ぶ。 我々は,脳神経知覚と記号的推論を橋渡しする前に,textbfgrammarモデルをテキストシンボリックとして導入する。 本稿では,トップダウンのヒューマンライクな学習手順を模倣して誤りを伝播する新しいtextbfback-searchアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-06-11T17:42:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。